从今年3月起，智谱GLM-5出现了三类异常：乱码、复读、生僻字。排查初期，智谱对线上异常案例做了本地回放，但未能复现，说明大概率不是模型问题。进一步模拟线上高压环境后，在每万次请求中稳定复现3-5次异常。这种“与内容无关、与压力相关的特征”，将问题指向高负载下的推理状态管理。
三类异常中，复读较易检测，乱码和生僻字则难以用正则或模型判别高效覆盖。分析推理日志后，智谱发现投机采样指标可作为重要参考：
针对乱码/生僻字问题，智谱发现spec_accept_length极低，draft token几乎全被拒绝，表明KV Cache状态存在显著偏差。
针对复读问题，智谱发现spec_accept_rate偏高，损坏的KV Cache使注意力退化，陷入重复循环。
据此，智谱团队建立了在线监控策略。将投机采样从一项单纯的性能优化技术，拓展为质量监控信号。
这一问题的具体修复方案是在Decode触发Abort后通知Prefill侧，仅在RDMA未开始或已完成时才允许回收复用，确保KV写入不跨越显存复用边界。修复后，异常发生率从万分之十几降至万分之三以下。
智谱面临的第二个bug与Coding Agent场景的特性有关。Coding Agent场景输入长、前缀复用率高，HiCache成为关键优化。但KV Cache换入与计算重叠执行时，未保证数据加载完成后再使用。
上述两个问题揭示了一个共同的系统瓶颈：在长上下文的Coding Agent服务场景中，Prefill阶段主导了系统性能。修复状态一致性问题后，核心挑战回归瓶颈本身，也就是如何提升Prefill吞吐、降低KV Cache显存占用。为此，智谱团队设计并实现了KV Cache分层存储方案LayerSplit。
Coding Agent负载具有上下文长、Prefix Cache命中率高的特征，使得Context Parallel（CP，上下文并行）成为Prefill节点的主要并行策略。然而，SGLang开源实现中每张GPU保存全部层的KV Cache，冗余存储导致显存容量成为计算资源利用率的瓶颈。
LayerSplit方案的核心思路是：每张GPU仅持有部分层的KV Cache，从而显著降低单卡显存占用。计算时，持有某一层Cache的CP rank会在Attention计算前将其广播给其他rank。
为进一步减少开销，智谱设计了KV Cache广播与Indexer计算的重叠机制，使二者在时间上相互掩盖。整个流程仅额外引入约为KV Cache体量1/8的Indexer Cache广播，通信成本对性能影响可忽略。
实验结果表明，在Cache命中率90%的条件下，请求长度从40k到120k区间内，系统吞吐量提升幅度在10%至132%之间，且上下文越长收益越显著。
该优化从架构层面缓解了Prefill侧的显存瓶颈，与此前两项BugFix共同构成了一套完整的推理基础设施优化方案，提升了智谱GLM-5在Coding Agent场景下的服务能力。
高并发长上下文场景下，推理基础设施的挑战已不止于吞吐和延迟，输出质量同样不可忽视。智谱此次公开的技术细节，从异常识别方法、两个竞态Bug的定位与修复，到LayerSplit显存优化，构成了一套相对完整的排查与优化链路。
对于同样在大规模部署推理服务的团队而言，这份报告在故障复现、指标选型、架构层面的时序一致性等方面提供了可参考的实践经验。智谱将这些经验公开分享，客观上为社区填补了部分长上下文推理场景下的工程资料空白。
