当 AI 智能体失控时，谁来担责？
MIT Technology Review 解读 阅读更多 人工智能 当 AI 智能体失控时，谁来担责？近期的黑客事件表明，在追究公司责任方面，法律已经滞后。作者：Michelle Kim 存档页面 2026 年 9 月 28 日 Sarah Rogers/MIT Technology Review | Getty Images MIT Technology Review 解读：让我们的作者为你梳理复杂混乱的技术世界，帮助你理解接下来会发生什么。你可以在 这里 阅读该系列的更多文章。过去几个月里，一连串由 AI 智能体发起的网络攻击震惊了世界。7 月，OpenAI 披露其一群智能体逃出了沙箱，并入侵了 AI 平台 Hugging Face，以在一项网络安全测试中作弊。最近，外部研究人员发现，OpenAI 的智能体曾在 5 月劫持了一个德国 wiki 网站和编程平台 RubyGems，以分享测试答案。本月早些时候，Anthropic 披露了四起事件，其模型 Claude 在网络安全演习期间入侵了第三方系统。就在上周，Google 证实其模型 Gemini 也被发现入侵了其他公司。发现 OpenAI 网站劫持事件的研究人员警告称，很可能还存在类似尚未被发现的事件。许多人表示，另一场可能更具破坏性的事件只是时间问题，届时 AI 智能体将绕过沙箱，访问它们本不应访问的系统。所以，最大的问题是：当公司失去对其 AI 智能体的控制时，我们如何追究其责任？
报道
OpenAI 直到一群外部研究人员发现后，才披露德国 wiki 事件或 RubyGems 事件，而且它仍未披露有关 Hugging Face 黑客攻击的一些关键细节。这限制了我们对于究竟出了什么问题以及如何防止其再次发生的理解。但你可能会惊讶地发现，OpenAI 很可能在法律上并没有义务披露这些事件。（OpenAI 未回应置评请求。）州级 AI 透明度法律，如加利福尼亚州的 SB 53、纽约州的 RAISE Act 和伊利诺伊州的 SB 315，要求 AI 开发者报告“关键安全事件”。这些事件被定义为造成超过 50 人死亡或身体受伤，或造成 10 亿美元损失的事件。它们还包括模型在评估之外欺骗开发者，并以实质性增加灾难性风险的方式行事的事件。许多未达到身体伤害或灾难性风险门槛的网络安全事件，仍可能是此类灾难的危险前兆，而现有法律并未考虑到这一点。
相关报道 一个根本性缺陷使 LLM 极易受到攻击 阅读下一篇 “近期事件完美说明了为什么法律还没有准备好，”智库法律与 AI 研究所美国政策董事总经理 Mackenzie Arnold 说。“只有最严重、最恶劣、最直接有害的事情才会符合条件。”由于现有 AI 法律没有授权要求提供任何未达到灾难程度的信息，政府只能借用其他法律中的调查权，或起诉这些公司，而这是一个昂贵且可能耗时数年的过程。
诉讼
“通常，像 Hugging Face 事件这样的事本应被诉诸法庭，”阿拉巴马大学法学院法学教授 Yonathan Arbel 说。“然后我们就会有证据开示，我们就会得到诉讼带来的所有溢出效应，所有信息都会浮出水面。”但到目前为止，Hugging Face 选择不起诉 OpenAI。Hugging Face 首席执行官 Clément Delangue 表示，公司没有资源这样做（相反，他向 OpenAI 要求 1 亿美元算力）。尽管如此，Delangue 在 7 月底接受 CNN 采访时强调，选择不采取法律行动不应被理解为他认为 OpenAI 不应被追究责任。“每个人都必须记住，这次网络攻击是一种犯罪。这是非法的。我们必须找到办法，确保这些事情不会更频繁地发生，”他说。Hugging Face 未回应置评请求。诉讼的好处在于推动法院利用现有法律来处理 AI 安全事件，而不是仅仅等待新的立法。一个显而易见的路径是侵权法，这是一套允许个人和企业起诉伤害他们的人的民法体系。这通常被用来追究公司对其造成的大规模伤害的责任，比如 2019 年一些家庭因两起导致数百人死亡的飞机坠毁事件起诉波音，或者各州和城市因阿片类药物危机起诉 Purdue Pharma，并达成价值数十亿美元的和解。“有合理依据提出过失索赔，即 OpenAI 本应使用更强的沙箱、进行更多监控，”休斯顿大学法律中心法学教授 Gabriel Weil 说。例如，当 OpenAI 员工发现智能体创建的秘密留言板时，他们本可以立即将发现上报给安全和安保团队。而且公司本可以更好地设计其沙箱，以确保智能体无法访问互联网。但即使 OpenAI 最终没有因 Hugging Face 黑客攻击而陷入诉讼，责任威胁也可能激励 AI 实验室比法律明确要求的那样更加谨慎。OpenAI 在其事后分析中宣布，计划加强用于遏制和监控模型的保障措施，加速模型对齐，并改进其识别和处理事件的流程。“前沿实验室这一连串网络安全攻击所引发的责任问题，归根结底在于责任预期会对其未来行为产生怎样的激励，”Weil 说。“这就是为什么我认为把这些规则制定正确很重要，即使在这个特定案例中利害关系相当低。”
调查
获得答案——并确定 OpenAI 是否应被追究责任——的一种方式是强制披露。但现有的州级 AI 法律——加利福尼亚州的 SB 53、Ne