以下是您要求的英文文章的中文翻译，已按照保留原文结构、技术术语不翻译、代码块保留等要求处理。
Google DeepMind 担心当数百万个智能体开始互动时会发生什么
该公司呼吁更多科学家研究多智能体系统的风险。
执行摘要
Google DeepMind 正在资助研究数百万个不同 AI 智能体在线相互互动时可能存在的潜在危险。据该公司 AGI 安全与对齐研究负责人 Rohin Shah 称，能够在无需人类监督的情况下执行任务、并遵循其他智能体给出的指令的智能体大规模进入市场，会带来全新类别的风险。为了应对这一问题，Google DeepMind——上个月在 Google I/O 大会上将基于智能体的工具作为核心亮点——已与其他几个组织合作，宣布设立 1000 万美元的资助基金，用于研究多智能体系统的行为，并提出防止不安全场景的方法。
与 Google DeepMind 合作的包括：由 Eric 和 Wendy Schmidt 创立的慈善基金会 Schmidt Sciences；英国政府的“登月”机构 ARIA；总部位于英国的非营利研究机构 Cooperative AI 基金会；以及 Google 的慈善部门 Google.org。
我询问了 Shah 和 Schmidt Sciences 可信赖 AI 科学项目负责人 James Fox，他们希望通过这 1000 万美元实现什么目标。这并非小数目，但与 Google DeepMind 自身研究团队所掌握的预算相比，仍相形见绌。Shah 表示，目标是启动科技公司之外的研究：“学术界的优势在于，它可以展望相当遥远的未来，并从事那些在工业实验室中并非优先考虑的工作。”
“主要问题在于，目前还没有真正形成多智能体安全的研究领域，”他补充道，“而我们希望这个领域能够存在。”
担忧在于，随着越来越多的 AI 智能体被部署并开始协同工作，我们可能会达到一个临界点，届时想象中的场景将变为现实。“我们在人类身上也看到了这一点，”Shah 说，“我们的机构能够完成任何个体人类都无法完成的事情。”
Shah 认为，距离智能体以足以使潜在风险成为真正担忧的数量部署到整个经济中，我们还有几个月的时间。他希望在此之前做好准备。
风险业务
我们具体在谈论哪些风险？Shah 和 Fox 所设想的可能性，大多归结为互联网上已经存在的坏事（如诈骗、提示注入——即 AI 智能体被输入恶意指令，从而变成自我引导的恶意软件、以及其他形式的网络攻击）的超级强化版本。Shah 说：“我们观察人类现在做的事情，然后问，智能体版本会是什么样子？”
相关故事：想了解 AI 的当前状态？看看这些图表。继续阅读。
“我们拥有这个数字公共空间，它对社会运作至关重要，你真的需要确保它不会陷入彻底的混乱，”Fox 说。（我问 Shah 他们是否在考虑更悲观一端的极端情况，比如广泛的经济崩溃。“当然不是指到今年年底，”他说。那只有六个月了！他笑了。“好吧，那之后一段时间。”）
Shah 和 Fox 都认为，理解大量多智能体系统相互互动时可能发生什么的唯一方法是运行逼真的模拟。他们希望研究人员将 AI 智能体放入沙盒中，并研究它们的行为。你不能通过孤立地研究单个智能体，甚至小规模智能体群体来预测会发生什么。Fox 说，你不能假设由 LLM 支撑的 AI 智能体总是会理性行事。而复杂性来自于同时发生的大量互动。
一些研究人员，包括 Google DeepMind 的一个团队，认为通用人工智能（如果可能的话）可能并非来自单个超智能模型，而是来自一种智能体群体思维，其中整体的能力大于各部分之和。
缺乏信任
Google DeepMind 并非唯一一家对其正在构建的技术风险发出警告的顶级 AI 公司。几周前，Anthropic 发布了一份基于网络安全中“零信任”方法的 AI 智能体部署指南，该方法从假设计算机系统存在漏洞、智能体是攻击者、且入侵将会发生开始。
总部位于特拉维夫的网络安全公司 Akeyless 的联合创始人兼 CTO Refael Angel 同意，理解基于智能体的系统引入的新风险至关重要。Angel 说，过去每一种安全方法都假设所涉及的机器是由人类编写的软件，在固定路径上执行固定操作：“智能体打破了所有这些假设。它会推理、会即兴发挥，并且可能因为被要求阅读的文档中隐藏的一句话而被劫持。”
Angel 对这笔新资金表示欢迎。“没有任何一个实验室应该独自制定所有人都必须信任的安全标准，”他说。但他警告说，安全研究人员可能会忽视已经存在的无聊问题，而倾向于更离奇的假设性问题。
然而，Fox 指出，几年前还是假设性的风险现在已变得非常真实：“未来的到来比预期的要快。”
*分享：LinkedIn | Facebook | Email*
热门文章：
- 想了解 AI 的当前状态？看看这些图表。 Michelle Kim
- 当下 AI 领域重要的 10 件事 Amy Nordrum
- 一个面向基督徒的美国新手机网络旨在屏蔽色情和性别相关内容 James O Donnell
- Musk 诉 Altman 第一周：Elon Musk 称自己被欺骗，警告 AI 可能杀死我们所有人，并承认 xAI 提炼了 OpenAI 的模型 Michelle Kim
深度探索：人工智能 想了解 AI 的当前状态？看看这些图表。根据...