对比解码：为什么同时运行专家模型与业余模型能提升生成质量？
本文以开放域问答为场景，解释对比解码（Contrastive Decoding）如何通过专家模型与业余模型的 logits 差异抑制退化重复，分析其与温度采样、top-p 的互补性，讨论计算开销、延迟影响及在长文本生成中的适用边界。
#LLM
共 3 篇文章
投机解码中草稿模型的选择：从独立小模型到自推测架构的工程权衡
本文以在线大模型服务为场景，对比投机解码中独立小模型、Medusa/EAGLE 自推测架构与多模型投机三条草稿模型构建路线，分析训练成本、接受率、显存开销与加速比的权衡，并讨论低接受率与长序列下的失效边界及工程调优方法。
直接偏好优化与 RLHF 在大模型对齐中的实现与权衡
系统对比 DPO 与基于 PPO 的 RLHF 在实现复杂度、训练稳定性、计算开销及最终性能上的差异，聚焦 DPO 如何通过隐式奖励建模将对齐简化为分类损失，并从工程角度分析两种方案在在线服务场景中的关键权衡。