CS-Notes 学习笔记
大模型应用开发 · 大模型基础

什么是大模型的幻觉?为什么会产生?

先自己想一想,再看参考要点

参考要点

  • 幻觉指生成看似合理、但与事实或给定资料不符的内容,分事实性幻觉和忠实性幻觉
  • 根本原因是训练目标是生成通顺的下一个 Token 而不是核对事实,只按答对比例打分的评测又鼓励猜测
  • 此外还有知识缺失、采样出错后顺着错误生成、上下文过长或资料有噪声
在学习站中自测这道题看这道题所在的一天

学习站:先用面试题自评定级,按水平和面试日期排出每天的计划,自评过的题按间隔复习。免费、无需注册,记录只保存在自己的浏览器中。