RAG 的完整流程是什么?它为什么能减少幻觉?
先自己想一想,再看参考要点
参考要点
- 离线阶段解析文档、切成小段,用 Embedding 模型把每段转为向量存入向量数据库,同时建立关键词索引
- 在线阶段先改写问题,向量检索和关键词检索同时召回候选,合并后重排,把最相关的几段资料和问题一起放进提示词,生成带引用的回答
- 能减少幻觉,是因为模型从凭记忆回答变为根据给定的资料回答,每个结论都能按编号核对
- 但资料没找到或找错时模型仍会编造,所以要用重排分数和相似度阈值判断有没有答案,没有时改写问题再检索、向用户追问,或者如实回答没找到