CS-Notes 学习笔记
大模型应用开发 · 工程实践

流式输出中途断开怎么办?

先自己想一想,再看参考要点

参考要点

  • 还没输出任何内容时直接重试,用户感知不到
  • 已输出部分文字时,把已输出的部分作为 assistant 消息的开头请求续写(如 DeepSeek 的对话前缀续写),不支持就丢弃重新生成并通知前端清空
  • 工具调用的参数只输出了一半时不能执行,丢弃后重新请求
在学习站中自测这道题看这道题所在的一天

学习站:先用面试题自评定级,按水平和面试日期排出每天的计划,自评过的题按间隔复习。免费、无需注册,记录只保存在自己的浏览器中。