← 返回日报
🌐 机器翻译 · DeepSeek · ArXiv

Verification and Self-Improvement in Agentic AI: Foundations and Limits


摘要:智能体 AI 中的验证与自我改进:基础与局限

智能体 AI 系统可以通过更长时间搜索、接受额外支持,或修改其提出与验证输出的方式来改进。性能分数无法区分这些机制。我们通过带有隐藏终端随机性的有界验证来比较这些变化。一个阶段规定了可接受的记录、多项式界、交替验证协议以及终端检查器。其原生可达范围使用默认支持;其闭包前沿允许接口已经接纳的所有支持。在一致逐点概率间隙和任务相对可靠性下,这些是定义良好的语言。我们证明,独立多数放大保持这两种语言,而在随机磁带上的存在性接受可能接纳不正确的输出。精确验证是零随机性情形,并具有放置与完备性结果。随机验证者类满足 $\Sigma_k^{\mathrm{P}}\subseteq\Sigma_k^{\mathrm{RV}}\subseteq\Sigma_{k+1}^{\mathrm{P}}$;严格扩大和深度分离需要显式的复杂性假设,而 $\mathrm{BPP}=\mathrm{P}$ 会产生具有相同前沿的精确伴随类。表示分析将不变接受与在重构下可能发生变化的核心对支持标签区分开来。对于递归自我改进,在共同可靠解释器和固定验证协议下的均匀有界自我修改仍保持在同一个验证类中。单独的条件误差预算控制跨自适应选择候选的虚假选择。一个配额强制的 XOR 合成族将搜索成功的无界比率与可接受语言的变化分离开来;精确审计和概率审计检查由此产生的证据要求。该框架将自我改进主张与正确性、可接受证据、验证资源和选择误差方面的义务联系起来。

📖 阅读原文 →