DeepSeek长文档检索“抽风”真相曝光：字节论文揭示相位敏感性缺陷

【区角快讯】当你使用DeepSeek处理长篇文档时，是否遭遇过这种令人费解的怪象？面对同一提问，模型时而精准锁定答案，时而又仿佛“失忆”，无论如何调整提示词都难以触及核心内容。这种不稳定的表现常被误判为网络波动或用户指令不当，但字节跳动Seed团队近期在arXiv预印本平台发布的最新研究，彻底揭开了这一谜题的面纱。

该团队于今年9月底提交的论文指出，此类现象的根源并非随机误差，而是源于分块KV缓存压缩技术引发的“相位敏感性”。研究人员对基础版及后训练版的DeepSeek-V4-Flash、DeepSeek-V4-Pro，以及经过后训练的DeepSeek-V4.1-Flash进行了系统性测试。这些模型依赖分块KV缓存压缩机制，通过固定步幅将连续token窗口压缩为更少的缓存条目，旨在降低长上下文推理时的内存占用与注意力计算开销。

然而，这套看似高效的压缩方案引入了一個全新的位置参数——Token相位，即token相对于压缩窗口边界的具体位置。研究发现，搭载该方案的模型呈现出显著的系统性不对称特征：同一段信息，若处于特定相位，模型能轻松检索；一旦移位至另一相位，读取难度便急剧上升。研究人员将这种检索性能随位置周期性波动的特性定义为“相位敏感性”。

值得注意的是，在使用同类压缩方案的开源大模型中，不同相位间的长上下文检索准确率差距最高可达40个百分点。这意味着，我们日常参考的基准平均分往往掩盖了模型的周期性短板。这就好比一名学生总均分80分，却在某些章节拿满分，另一些章节仅得20分。

从行业视角看，这一发现极具警示意义。AI能否找到文档中的关键信息，不再仅仅取决于问题本身的质量，更受制于目标信息在文本中的物理位置。那些不起眼的排版细节，极有可能让核心数据落入模型的“相位盲区”。对于追求高可靠性的企业级应用而言，单纯依赖平均评测分数已不足以评估模型的真实能力，深入理解底层机制带来的隐性偏差，才是优化落地效果的关键所在。