Streaming
Recibe deltas de Chat Completions como eventos enviados por el servidor en lugar de esperar la respuesta completa.
Activar streaming
Streaming
curl -N "https://uncensoredlabs.dev/v1/chat/completions" \
-H "Authorization: Bearer $UNCENSOREDLABS_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"YOUR_APPROVED_MODEL_ID","messages":[{"role":"user","content":"Hello"}],"max_tokens":256,"stream":true}' La respuesta utiliza text/event-stream. Un analizador SSE debe ensamblar eventos completos a partir de las lecturas de red; un único fragmento de red no corresponde necesariamente a un evento.
Eventos del flujo
Estructura de SSE
data: {"choices":[{"delta":{"content":"Hello"}}]}
data: {"usage":{"prompt_tokens":128,"completion_tokens":6,"total_tokens":134}}
data: [DONE] Los datos delta y de uso son ilustrativos. Ignora los deltas vacíos, gestiona el marcador de finalización y muestra los errores de protocolo o conexión en lugar de tratar una respuesta parcial como completa.
Facturación y desconexiones
La pasarela solicita el uso final al proveedor. Una desconexión no demuestra que el proveedor no haya realizado trabajo. Si no se puede determinar un uso fiable, el crédito reservado permanece pendiente de conciliación.