首页 / 采样(Sampling)
📖 采样(Sampling) 是什么?
采样是 AI“掷骰子”选词的方式,骰子越随机,回答越天马行空。
⚡ 一句话秒懂
采样是 AI“掷骰子”选词的方式,骰子越随机,回答越天马行空。
📖 举个故事
小吴让 AI 写诗,同一句开头写十遍,十遍都不一样。他问工程师:“它是不是在乱编?”工程师打开参数面板:“你看这个‘温度’,调到 0 它就像复读机,每遍几乎一样;调到 1.5,它就‘撒欢’了,什么词都敢用。”小吴把温度调低写代码注释、调高写广告语,发现各有妙用——原来 AI 的“性格”是旋钮控制的。
💡 类比理解
暂未补充。
🧩 真实例子
暂未补充。
🛠️ 怎么实际使用
开发 Agent 时按场景选采样参数:代码生成、数据提取等确定性任务用 temperature=0,文案创意用 temperature=0.7~1.0。测试时固定 seed 可复现结果,便于回归对比。注意 temperature 与 top_p 不要同时大改,一般固定一个调另一个,避免输出失控。
📚 进阶原理
采样决定从概率分布中选下一个 token。temperature 通过 softmax 缩放分布(大于 1 更均匀、小于 1 更尖锐);top_p(nucleus)只从累计概率达 p 的词中选;top_k 固定候选数。temperature=0 时退化为贪心解码(取最高概率)。长文本生成可配合 repetition_penalty 防复读。