temperature 和 top-p 分别控制什么?
先自己想一想,再看参考要点
参考要点
- temperature 把分数除以 T 再 softmax,T < 1 时分布更尖、T > 1 时更平,例如最高概率 0.50 在 T = 0.5 时升到 0.75
- top-p 只在累计概率刚达到 p 的高概率 Token 中采样,候选数随分布变化
- 抽取字段、调用工具用低温度,写作可调高
参考要点
学习站:先用面试题自评定级,按水平和面试日期排出每天的计划,自评过的题按间隔复习。免费、无需注册,记录只保存在自己的浏览器中。