怎样检测和缓解幻觉?
先自己想一想,再看参考要点
参考要点
- 检测:有资料时把回答拆成结论逐条检查依据,引文和数字用代码核对(只能确认它们存在,是否支持结论仍要逐条判断)
- RAG 答错时先看正确的资料是否在提示词中,区分检索和生成的问题
- 没有资料时多次采样比较,编造的内容往往每次不同,但始终一致的错误查不出来
- 缓解:用 RAG 提供资料并允许回答不知道,降低温度、要求引用,用程序或另一个模型校验,展示来源、高风险结果人工确认
参考要点
学习站:先用面试题自评定级,按水平和面试日期排出每天的计划,自评过的题按间隔复习。免费、无需注册,记录只保存在自己的浏览器中。