摘要：SAGE：一种用于自进化智能体的统计接受门控
基于大型语言模型（LLM）的智能体越来越多地通过编辑一份持久化的技能文档来实现自进化，该文档编码了它们的工作流程、工具使用规则和决策逻辑。这一循环包含两个步骤：一个优化器提出候选编辑，一个门控接受或拒绝该编辑。此前的工作主要集中在优化器上，而门控仍然遵循一种朴素的规则，即保留任何能提升聚合验证分数的编辑。我们表明该规则在两个方面存在缺陷。首先，它允许永久性退化，因为一次编辑可能提高平均分，同时破坏技能已经解决的条目。其次，它容易受到优化器诅咒（Optimizer's Curse）的影响，因为在有限且有噪声的验证集上观察到的最佳分数存在向上偏差。为解决上述两个局限，我们提出了一种用于自进化智能体的统计接受门控（SAGE）。与先前工作相比，SAGE 有两项贡献。第一，SAGE 提出了一种逐条目配对比较，在相同的验证条目上评估当前技能和编辑后的技能，从而暴露出聚合分数所掩盖的退化，并以非对称方式对其进行惩罚。第二，SAGE 还采用了一种单侧配对检验，仅当编辑的胜出相对于其损失具有统计可靠性时才提交该编辑，否则弃权。SAGE 是对标准门控的一种保守改进，在边界设置下可精确恢复为基线。它仅提交基线编辑的一个子集，过滤掉那些收益不可靠或通过破坏已解决条目来换取的编辑。在等预算协议下，跨五个基准和四个骨干 LLM，SAGE 在 20 种设置中的 19 种降低了退化率，在剩余 1 种中与基线持平，例如在使用 DeepSeek-V4 时，LiveMath 上从 36.5% 降至 0%，OfficeQA 上从 42.8% 降至 0%。SAGE 还在全部 20 种设置中取得了最高的最终分数，将 LiveMath 从 34.15 提升至 48.78。