#不确定性估计

RAG 答案幻觉的自动验证：检索证据一致性与不确定性估计的机制与边界

企业知识库问答中，RAG 答案可能脱离检索证据或凭空编造。本文讨论如何用忠实度检查、语义熵、SelfCheckGPT 采样一致性和隐状态探针自动识别这类幻觉，分析证据缺失、模型过度自信等失效模式，并给出阈值设定、成本与部署边界的工程判断。