← 返回日报
🌐 机器翻译 · DeepSeek · ArXiv

From Agent Failure Paths to Quantified Residual Risk: A Compositional Framework for Resilient Agentic AI


摘要: 自主智能体(Agentic AI)跨越信任边界的速度,已远超现有风险模型的表征能力。当前方法仅能提供两种片面的视角:要么描述故障机制,却无法生成可迁移的残余风险估计;要么生成风险估计,却将内部故障路径视为黑箱。我们通过提出 CPSAINT 将这两种视角结合起来——这是一个七层完整性分解框架,涵盖物理状态(Physical state)、传感器(Sensors)、数据(Data)、计算(Compute)、执行器(Actuators)、环境(Environment)和时间(Time),并搭配 FRIESA-K——一个将每条故障路径映射为量化风险实例的残余风险函数。FRIESA-K 将阻力项 K 建立在受控吸收马尔可夫模型之上,从而控制有效性源自状态动态,而非被赋予非正式评分。最终成果是一条从机制到量级的简洁流水线,适用于具有韧性的自主与具身智能体(embodied AI)。我们通过一个独立的附加惩罚项来实现治理可观测性,而非将治理作为新变量插入阻力函数中。我们形式化了结构可组合性,将有效故障路径与定义明确的风险实例相连接,并在两个对比场景——硬实时仓库机器人与受治理约束的金融服务智能体——上展示了该框架。在这两种情况下,相同的层语法、变量语义和动态阻力构造均保持不变。因此,我们获得了一个紧凑的核心框架,支持跨领域推理、显式假设以及可组合信任的量化基础形式体系。

📖 阅读原文 →