CS-Notes 学习笔记
大模型应用开发 · 检索增强生成

文本是怎样变成向量的?为什么用余弦相似度?

先自己想一想,再看参考要点

参考要点

  • 分词后输入 Transformer 编码器,每个 Token 得到一个向量,再池化(取 [CLS] 或平均值,与训练时一致)成固定长度的向量并归一化
  • 对比学习使意思相近的文本向量靠近
  • 余弦相似度看方向是否接近,归一化后等于点积、计算更快,排序与欧氏距离等价
在学习站中自测这道题看这道题所在的一天

学习站:先用面试题自评定级,按水平和面试日期排出每天的计划,自评过的题按间隔复习。免费、无需注册,记录只保存在自己的浏览器中。