TAG

#Top-p

共 1 篇文章

核采样(Top-p)如何平衡生成质量与多样性:从截断到动态候选集

核采样(Nucleus Sampling,即 Top-p)通过动态选择累积概率达到阈值的候选 token 集合,解决了固定截断策略在概率分布变化时失效的问题。本文从神经文本退化现象出发,解释核采样的机制、与 Top-k 及温度参数的相互作用,并结合对话生成与故事创作场景讨论参数设置、低熵分布下的失效模式及工程实现要点。