摘要：智能体知道它们何时成功吗？从内部表征校准智能体置信度
摘要：随着智能体系统在安全关键应用中迅速被采用，衡量与智能体动作相关的置信度至关重要。与传统机器学习系统相比，智能体工作流具有复杂的失败模式，涉及规划、工具调用和动态环境交互。在本文中，我们研究模型的内部表征是否在多轮智能体设置中为最终任务成功提供更强的信号。我们引入了两种互补方法：潜在轨迹动态（LTD），它总结交互轨迹中残差流表征的变化；以及动作表征探针（ARP），它从动作决策时形成的表征预测成功。在三个交互式基准（Bash、SQL、Python）和三个模型系列（Qwen14B、Qwen7B、DeepSeek6.7B）上，我们的方法始终优于表面级生成和基于序列的校准基线，提供了一种零开销的可靠性监控器，既不需要修改提示，也不需要多样本 rollout。