大模型应用开发 · 工程实践
流式输出是怎样实现的?SSE 的格式是怎样的?
先自己想一想,再看参考要点
参考要点
- 接口用 SSE:响应类型为 text/event-stream,连接保持打开,每生成一段内容写一条事件
- 事件由若干行“字段: 值”组成、以空行结束,data 是内容、id 是编号、event 是类型,冒号开头的行是注释(常作心跳)
- OpenAI 兼容接口以 data: [DONE] 结束,断线后 EventSource 带着 Last-Event-ID 重连
学习站:先用面试题自评定级,按水平和面试日期排出每天的计划,自评过的题按间隔复习。免费、无需注册,记录只保存在自己的浏览器中。