CS-Notes 学习笔记
大模型应用开发 · 大模型基础

temperature 和 top-p 分别控制什么?

先自己想一想,再看参考要点

参考要点

  • temperature 把分数除以 T 再 softmax,T < 1 时分布更尖、T > 1 时更平,例如最高概率 0.50 在 T = 0.5 时升到 0.75
  • top-p 只在累计概率刚达到 p 的高概率 Token 中采样,候选数随分布变化
  • 抽取字段、调用工具用低温度,写作可调高
在学习站中自测这道题看这道题所在的一天

学习站:先用面试题自评定级,按水平和面试日期排出每天的计划,自评过的题按间隔复习。免费、无需注册,记录只保存在自己的浏览器中。