开放模型有实实在在的好处。它们的好处能超过风险吗？

人工智能

开放模型有实实在在的好处。它们的好处能超过风险吗？

为什么开放与封闭AI之争比看起来更复杂

Sarah Rogers/MIT Technology Review | Getty Images

MIT Technology Review 解读： 让我们的作者为你梳理科学和技术领域复杂而混乱的世界，帮助你理解接下来会发生什么。你可以在[这里](https://www.technologyreview.com/supertopic/mit-technology-review-explains/)阅读该系列的更多文章。

上个月末，Anthropic发布了一份报告，认为模型GLM-5.3构成了重大的网络攻击风险。该报告的核心担忧在于，这款由中国公司Z.ai于8月发布的强大新模型可以被任何人自由下载和修改。

Anthropic的论断只是一场旷日持久的争论中的最新一步——这场争论关乎前沿AI模型应该像GLM-5.3一样开放，还是应该被锁在前沿实验室的大门之后。如今，关于如何处理开放模型的许多争论都在公开进行——而且其结果牵涉大量金钱利益。英伟达CEO黄仁勋——如果人们继续购买自己的硬件来运行开放模型，他将获益良多——热情倡导美国开发更多开放模型；而Anthropic的Dario Amodei——他经营的公司可能会被廉价而强大的模型所削弱——则主张采取更为谨慎的方式。

但在所有这些商业动机之下，关于开放模型的分歧有着实实在在的实质内容。“我认为，你在开放性辩论中的立场很大程度上取决于你在AI辩论中的立场，”德克萨斯大学奥斯汀分校信息学院助理教授David Gray Widder说。那些关注AI安全的人警告说，开放模型很容易被不法分子滥用；而那些更关注AI实际潜力的人则主张，这种力量不应掌握在少数大公司的紧闭大门之后，开放模型可以帮助将其更广泛地传播。

在完全禁止和随意发布之间，有多种处理开放模型的方式。但政府或社会可能采取的任何方法都仍然涉及安全与民主化之间的权衡。决定是支持还是限制开放模型的生产，需要深入理解这些风险和好处。

开放模型有什么好处？

让我们从基础说起。封闭模型，比如驱动ChatGPT和Claude的模型，只能通过网站、应用或API访问。而开放模型则可以直接下载：关于其内部结构的详细信息——编码在一长串被称为模型权重的数字中——是公开可用的。这类模型有时被称为“开放权重模型”，以区别于那些连更多信息（如训练过程的细节）都可获取的模型。

相关报道

[我们终于有了开源AI的定义](https://www.technologyreview.com/2024/10/24/1106141/open-source-ai-definition/)

接下来阅读

目前，封闭模型比开放模型能力更强——截至发稿时，Artificial Analysis LLM排行榜上排名前八的模型都是封闭的，不过开放模型在开发进度上只落后几个月。但人们选择使用开放模型而非封闭模型有几个原因。

由于开放模型可以下载，人们可以在自己的电脑或硬盘上运行它们。如果有专业知识和资源，他们甚至可以重新训练模型以改变其行为。如果你是一名致力于理解和改进AI系统的学术研究者，你在研究中几乎肯定需要使用开放模型。使用封闭模型时，研究者除了发送提示词和观察回复之外做不了太多。但研究者可以观察开放模型的内部运作，以及模型在回答之前思考问题所使用的“思维链”。他们还可以将多个开放模型组合起来构建新系统，压缩它们以提高效率，并针对新应用对其进行微调。

企业也有理由偏好开放模型。根据Mozilla最近的一份报告，即使你依赖外部提供商为你运行这些模型，开放模型的成本通常仍低于封闭模型。而且如果企业想用AI处理敏感数据或专有信息，在自己的硬件上运行本地模型可能是保持运营安全的最佳方式。

但也许开放模型最重要的特质是，它们挑战了前沿实验室对大多数人如何使用AI的严密控制。“（支持开放模型的）最清晰、最大的论据是关于防止权力的大规模集中——它关乎确保这项基础技术是一种公共产品，”托尼·布莱尔全球变化研究所高级政策顾问Elizabeth Seger说。“我认为我们正处在这个关键时刻，谁控制着让AI得以运行的基础设施，这个问题与谁控制互联网上的信息一样重大。”

Seger认为AI的未来会因开放模型所扮演的角色不同而走向不同的方向。在一种可能的未来中，前沿AI系统完全由特定的人、公司或政府控制，随着这些系统变得越来越强大，这些群体对我们世界面貌的控制也越来越大。例如，世界上最先进的黑客模型目前都是美国制造的，因此其他国家能否使用它们来加强自己的网络防御完全取决于美国公司和美国政府。如果这些公司保持领先，我们原则上可能最终走向一个美国能够黑客攻击任何其他国家、但没有任何国家能够黑客攻击美国的世界。前沿开放模型可能会改变这种平衡。“如果每个人都拥有一个忠于他们自己的、安全[且可靠]的AI系统，我认为那将是一个不那么……