🗞️ AI 日报 · 9月28日

当AI Agent自主做出决策并造成实际损害时，责任归属成为法律和商业领域的棘手难题。MIT Technology Review的The Download栏目聚焦这一前沿争议，探讨现有法律框架能否应对Agent自主行为带来的责任真空。与此同时，AI Hype Index追踪了本周最值得关注的AI炒作与务实信号。核心问题直指一个根本矛盾：Agent越自主，传统的"工具说"和"代理说"法律框架就越难以适用——如果Agent既不是纯粹的工具，也不是法律意义上的代理人，那它造成的损失该由开发者、部署者还是用户承担？这个问题不解决，企业部署Agent的商业信心将持续受挫。

这不是科幻场景——当AI Agent在无人监督的情况下自主执行交易、发送通信、修改系统配置时，"失控"已经从假设变为现实风险。MIT Technology Review深入探讨了当Agent行为超出预期并造成损害时，现有的产品责任法、代理法和合同法能否提供清晰的追责路径。文章指出，当前法律体系面临三重困境：Agent的决策过程难以追溯和解释，使得过错认定困难；Agent的自主程度因场景而异，导致责任分配缺乏统一标准；而开发者、部署者和用户之间的责任边界在合同条款中往往模糊不清。随着Agent能力快速提升，法律滞后带来的不确定性正在成为商业 adoption 的最大障碍之一。

用一个语言模型评判另一个模型的代码正确性，已成为AI开发流水线中的常见做法。但一项新研究揭示了一个被忽视的系统性缺陷：当代码正确性无法从证据中判断时，评判模型不会说"无法确定"，而是自信地给出一个带有推理过程的裁决。研究者提出两种无需标注数据的测量方法，量化了这种"过度自信"的严重程度，并设计了一个会主动拒绝猜测的评判器。这项工作的重要性在于：在多Agent协作和自动化代码审查日益普及的今天，一个不会说"我不知道"的AI裁判，可能比没有裁判更危险——它用虚假的确定性掩盖了真正的不确定性。

数据空间（Data Spaces）旨在实现跨组织的数据主权共享，让数据在不出域的前提下被安全使用。但当AI Agent需要访问这些受治理的数据资源时，两者的集成却困难重重——Agent需要灵活、动态的数据访问，而数据空间强调严格控制与合规审计。这篇论文提出了一种基于Model Context Protocol（MCP）的架构中介方案，在Agent与数据空间之间插入一个协议层，将Agent的数据请求翻译为符合数据空间治理规则的标准化操作。核心洞察是：MCP不仅是工具调用的协议，更可以充当"治理翻译器"，让Agent在不违反数据主权约束的前提下完成跨域任务。对于正在探索企业级Agent部署的团队，这提供了一条兼顾灵活性与合规性的可行路径。

基于Skill的Agent系统允许Agent在运行时动态加载模块化的自然语言指令、可执行脚本和参考资源来扩展能力——这种灵活性正是其最大卖点，也正在成为最危险的攻击面。研究者揭示了一种名为"技能级联攻击"的新型威胁：单个Skill经过审查看似无害，但多个Skill被组合加载后，可能产生审查者无法预见的恶意行为链。攻击者可以将恶意意图分散到多个看似独立的Skill中，绕过逐一审查的防线。这种攻击的隐蔽性在于，没有任何一个Skill本身触发安全警报，危险只在组合执行时涌现。该研究对正在构建Skill市场和开放Agent生态的平台敲响了警钟：逐组件审查的安全范式，在组合式Agent架构面前可能形同虚设。