ストリーミング

応答全体を待たず、サーバー送信イベントとしてChat Completionsのデルタを受け取ります。

ストリーミングを有効化

ストリーミング

curl -N "https://uncensoredlabs.dev/v1/chat/completions" \
  -H "Authorization: Bearer $UNCENSOREDLABS_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"YOUR_APPROVED_MODEL_ID","messages":[{"role":"user","content":"Hello"}],"max_tokens":256,"stream":true}'

応答は text/event-stream を使用します。SSEパーサーは複数の受信から完全なイベントを組み立てる必要があり、1つの通信チャンクが1イベントとは限りません。

ストリームイベント

SSEの形式

data: {"choices":[{"delta":{"content":"Hello"}}]}

data: {"usage":{"prompt_tokens":128,"completion_tokens":6,"total_tokens":134}}

data: [DONE]

デルタと使用量データは例示です。空のデルタを無視し、終端マーカーを処理して、部分回答を完了扱いせずプロトコルや接続のエラーを表示してください。

請求と切断

ゲートウェイは提供元に最終使用量を要求します。切断は未処理の証拠にはなりません。信頼できる使用量を確認できない場合、確保額は照合待ちのままです。