为什么大模型会把 9.11 算得比 9.9 大
围绕 2024 年 7 月大模型集体答错「9.11 和 9.9 哪个大」的现象，从分词器对数字的切分、训练数据的语境偏差与概率预测机制切入，解释错误成因、成立边界与改进方向。
#大模型
共 5 篇文章
大模型文本水印：Kirchenbauer 方法的红绿列表偏置与检测可靠性
本文以识别 AI 生成文本为场景，深入解析 Kirchenbauer 水印方法：如何在生成时通过偏置 logits 嵌入信号，如何用统计检验检测，以及硬水印与软水印的差异。同时探讨低熵文本、翻译和改写攻击下的鲁棒性，帮助读者理解水印的适用边界与工程权衡。
LLM-as-Judge 评估偏差：位置偏见与冗长偏好如何影响大模型评判可靠性
在自动评估问答质量时，用大模型当裁判会引入位置偏见和冗长偏好，导致评分随答案顺序或长度变化，扭曲模型对比结果。本文以企业知识库问答评估为场景，剖析这两种偏差的成因，对比交换位置、校准评分等缓解策略，并讨论它们对排行榜和迭代决策的误导风险。
自动规划工具使用：从 ReAct 到 Toolformer 的工程演进
大模型调用外部工具时，如何自动解析 API 文档、生成动作序列并处理错误？本文以企业客服查询系统为贯穿场景，对比 ReAct 的推理-行动交织与 Toolformer 的自监督工具学习，剖析二者在复杂 API 场景下的规划策略、鲁棒工具选择与执行验证方案，并给出工程权衡与常见失败模式。
大模型幻觉自动评估：TruthfulQA 与 HaluEval 的机理、指标与工程权衡
聚焦 TruthfulQA 与 HaluEval 两个代表性基准，解析它们在设计机理、评估指标和生成式模型对抗性评估上的异同。文章以企业知识库问答为贯穿场景，讨论指标效度、跨领域泛化不足等挑战，并探索结合人工评估与自动评估的工程实践，帮助读者理解幻觉评估的适用边界与部署决策。