上下文位置偏置:为什么长上下文模型在 RAG 中仍会遗漏关键信息
长上下文模型宣称能处理百万级 token,但在长文档问答中仍会遗漏中间位置的关键信息。本文以企业知识库问答为场景,解释 Lost in the Middle 现象的成因,对比重排、检索增强和滑动窗口等缓解策略,并讨论在 RAG 流水线中的工程取舍。
共 1 篇文章
长上下文模型宣称能处理百万级 token,但在长文档问答中仍会遗漏中间位置的关键信息。本文以企业知识库问答为场景,解释 Lost in the Middle 现象的成因,对比重排、检索增强和滑动窗口等缓解策略,并讨论在 RAG 流水线中的工程取舍。