首页 / Top-p(核采样)
📖 Top-p(核采样) 是什么?
Top-p 是给 AI 选词“圈定候选范围”,圈得越小回答越稳。
⚡ 一句话秒懂
Top-p 是给 AI 选词“圈定候选范围”,圈得越小回答越稳。
📖 举个故事
小钱让 AI 写产品标语,发现它总冒出奇怪词。工程师指着一个叫 top_p 的滑块:“现在 p=0.9,AI 只在‘最有把握的 90% 候选词’里挑;你把它调到 0.5,它就只在最稳妥的一小撮词里选,怪话就少了。”小钱一调,标语果然正常了。他感叹:“原来 AI 的天马行空,是可以用‘圈圈’管住的。”
💡 类比理解
暂未补充。
🧩 真实例子
暂未补充。
🛠️ 怎么实际使用
Agent 里按任务定 top_p:提取订单号、解析 JSON 等确定性任务用 top_p=0.1~0.3,文案创作用 0.8~0.9。调参时固定 temperature,只动 top_p,避免两个旋钮互相打架。改完用固定 seed 跑同一批测试用例对比输出稳定性。
📚 进阶原理
Top-p(nucleus sampling)从模型输出分布中选取累计概率刚超过 p 的最小词集合,再在其中按概率采样。p 越小候选越少、输出越保守;p=1 近似全量采样。与 temperature 的区别:temperature 平滑整个分布,top-p 直接裁剪尾部低概率词。工程上二者择一为主,配合 top-k 联合控制。