CS-Notes 学习笔记
Java 后端 · 大模型应用

RAG 的完整流程是什么?它为什么能减少幻觉?

先自己想一想,再看参考要点

参考要点

  • 离线阶段解析文档、切成小段,用 Embedding 模型把每段转为向量存入向量数据库,同时建立关键词索引
  • 在线阶段先改写问题,向量检索和关键词检索同时召回候选,合并后重排,把最相关的几段资料和问题一起放进提示词,生成带引用的回答
  • 能减少幻觉,是因为模型从凭记忆回答变为根据给定的资料回答,每个结论都能按编号核对
  • 但资料没找到或找错时模型仍会编造,所以要用重排分数和相似度阈值判断有没有答案,没有时改写问题再检索、向用户追问,或者如实回答没找到
在学习站中自测这道题看这道题所在的一天

学习站:先用面试题自评定级,按水平和面试日期排出每天的计划,自评过的题按间隔复习。免费、无需注册,记录只保存在自己的浏览器中。