当证据被撤回,AI该修记忆还是重读文档?
语言模型Agent在推理过程中常会基于外部文档推导出事实性结论,但当这些支撑文档被撤回或替换时,Agent面临一个根本性抉择:是修复内部记忆,还是重新读取当前证据?这篇论文系统性地评估了Agent的"记忆修复"与"重读"两种策略在不同场景下的表现差异。研究发现,大多数现有Agent倾向于依赖已压缩的记忆而非重新检索最新证据,导致在证据变更后产生严重的事实性错误。更关键的是,当文档被部分修改而非完全删除时,Agent的错误率飙升最为显著——因为它们无法判断哪些记忆仍然有效。这项研究直击当前RAG架构和Agent记忆系统的核心脆弱点:在动态知识环境中,记忆的"过期检测"机制几乎空白。对于正在构建企业级Agent的团队来说,这意味你部署的智能助手可能在知识库更新后悄悄给出过时甚至错误的答案,而它自己浑然不觉。
When Evidence Changes: Evaluating Memory Repair and Re-reading in Language-Model Agents
When documents supporting an agent's derived facts are revoked or replaced, should it repair memory or re-read current evidence? We introduce an evide