流式传输
通过服务器发送事件接收 Chat Completions 增量,而无需等待完整响应。
启用流式传输
流式传输
curl -N "https://uncensoredlabs.dev/v1/chat/completions" \
-H "Authorization: Bearer $UNCENSOREDLABS_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"YOUR_APPROVED_MODEL_ID","messages":[{"role":"user","content":"Hello"}],"max_tokens":256,"stream":true}' 响应使用 text/event-stream。SSE 解析器应跨多次网络读取组装完整事件;单个网络块不一定等于一个事件。
流事件
SSE 结构
data: {"choices":[{"delta":{"content":"Hello"}}]}
data: {"usage":{"prompt_tokens":128,"completion_tokens":6,"total_tokens":134}}
data: [DONE] 增量及用量载荷仅为示例。忽略空增量,处理终止标记,并显示协议或连接错误,不要将部分答案视为完整答案。
计费与断开连接
网关向提供商请求最终用量。断开连接不能证明提供商未执行工作。若无法确定可信用量,预留额度将保留以待核对。