Streaming
Receba deltas de Chat Completions como eventos enviados pelo servidor em vez de esperar pela resposta inteira.
Ativar streaming
Streaming
curl -N "https://uncensoredlabs.dev/v1/chat/completions" \
-H "Authorization: Bearer $UNCENSOREDLABS_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"YOUR_APPROVED_MODEL_ID","messages":[{"role":"user","content":"Hello"}],"max_tokens":256,"stream":true}' A resposta usa text/event-stream. Um analisador SSE deve montar eventos completos a partir das leituras de rede; um único fragmento de rede não corresponde necessariamente a um evento.
Eventos do fluxo
Estrutura de SSE
data: {"choices":[{"delta":{"content":"Hello"}}]}
data: {"usage":{"prompt_tokens":128,"completion_tokens":6,"total_tokens":134}}
data: [DONE] Os dados de delta e uso são ilustrativos. Ignore deltas vazios, trate o marcador de término e apresente erros de protocolo ou conexão em vez de considerar uma resposta parcial como completa.
Cobrança e desconexões
O gateway solicita o uso final ao provedor. Uma desconexão não comprova que o provedor não realizou trabalho. Se não for possível estabelecer um uso confiável, o crédito reservado permanece pendente de conciliação.