uncensoredlabs
Se connecterCommencer
Documentation
Référence de l’APISe connecter

Streaming

Recevez les deltas Chat Completions sous forme d’événements envoyés par le serveur au lieu d’attendre la réponse complète.

Activer le streaming

Streaming 
curl -N "https://uncensoredlabs.dev/v1/chat/completions" \
  -H "Authorization: Bearer $UNCENSOREDLABS_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"YOUR_APPROVED_MODEL_ID","messages":[{"role":"user","content":"Hello"}],"max_tokens":256,"stream":true}'

La réponse utilise text/event-stream. Un analyseur SSE doit reconstituer les événements complets sur plusieurs lectures réseau ; un seul bloc réseau ne correspond pas nécessairement à un événement.

Événements du flux

Structure SSE 
data: {"choices":[{"delta":{"content":"Hello"}}]}

data: {"usage":{"prompt_tokens":128,"completion_tokens":6,"total_tokens":134}}

data: [DONE]

Les deltas et les charges utiles d’utilisation sont fournis à titre d’illustration. Ignorez les deltas vides, gérez le marqueur final et signalez les erreurs de protocole ou de connexion au lieu de considérer une réponse partielle comme complète.

Facturation et déconnexions

La passerelle demande l’utilisation finale au fournisseur. Une déconnexion ne prouve pas que le fournisseur n’a effectué aucun travail. Si une utilisation fiable ne peut pas être établie, le crédit réservé reste en attente de rapprochement.