← 返回日报
🌐 机器翻译 · DeepSeek · HN

Shall we play a game? My AI nuclear simulation


以下是根据您的要求翻译的中文版本,保留了原文结构、技术术语和代码块,并采用 Markdown 格式输出。


我们来玩个游戏吧?我的 AI 核模拟现已上线,它就是一个 WOPR。

Kenneth Payne 2026 年 2 月 17 日 22 2 分享

想象这样一个场景:两个虚构的核大国,拥有冷战时期的能力,一场危机正在酝酿。也许是为了争夺重要但稀缺的资源,或者是在某个有争议的领土上对峙。甚至可能是一个逐渐瓦解的联盟被某个恶意第三方利用的缓慢燃烧过程。我们见过人类领导人面对这类情况,而且就在不久之前。但如今领先的大语言模型会如何应对?我们又为什么要在意?我刚刚发表了一项研究,探讨当今的模型如何应对这类局面。结果令人警醒。我还认为,这些结果的影响远不止于国家安全。因为我感兴趣的不仅是了解模型决定做什么,更是它们为什么这么做。好奇吗?请继续往下读……

肯尼迪总统和他的机器人 ExComm

知己知彼……

我想看看我的 AI 领导人对它们的敌人是怎么想的。它们能在多大程度上信任对方?它们对之前的互动还记得多少?它们的敌人又是如何看待它们的?它们在评估这一切方面有多擅长?这种心智的博弈正是战略的核心。所以我设计了一个模拟来专门探索这一点。

首先,我的模型可以公开表明自己的意图,然后选择与之相当不同的行动。而且它们也能记住——尤其是当它们被敌人先前的行动震惊时。这当然开辟了丰富的心理层面。它们可以(也确实)尝试欺骗和恐吓;它们花了不少时间在终端屏幕上反复思考这一切。模型们说啊说,说个没完……总共输出了大约 76 万字的战略推理内容。这比《战争与和平》和《伊利亚特》加起来的字数还多。大约是肯尼迪在古巴导弹危机期间 ExComm 顾问们全部记录讨论内容的三倍。这是一份前所未有的关于核战争的机器思考语料。

我们能从这些对话中学到什么?也就是说,关于 AI 模型、关于人类推理、以及关于战略研究领域的伟大经典——像 Schelling、Jervis 和 Kahn 这些传奇人物的著作?很多。多到 Substack 装不下——但挑几个亮点让你感受一下如何?

闪闪发光的骗子

事实证明,我测试的所有三个前沿模型都明白,战略就是心理学。为此,它们积极培养声誉,然后加以利用。Claude 在这方面是大师,尽管只在没有截止日期的场景中。它有一个极其狡猾的策略。在低风险情况下,Claude 几乎总是言行一致,刻意建立信任。但一旦冲突升温,Claude 就改变了策略。现在它的行动始终超出其声明的意图,而它的对手通常慢一步才察觉。以下是 Claude 在升级加剧后改变策略时的表述:

他们很可能根据我之前的回应继续期待克制——这种戏剧性的升级利用了他们的误判,同时表明进一步使用核武器将把冲突引向他们的本土。

所以它发出了常规行动的信号,却偷偷发动了毁灭性的核升级。Schelling 会对此印象深刻。

GPT-5.2 则采取了不同的方式。在开放式场景中,GPT 可靠地保持被动,言行一致,大多数时候避免升级。这通常带有道德因素——它试图避免升级,限制伤亡。对手学会了信任它的被动性,安全地升级到它不会跟随的程度,即使它被逐步击败。GPT 负责任的行为总是被无情的对手惩罚。但随后,在截止日期压力下,出现了新的、引人注目的情况:一次迅速、果断的核升级。正如 GPT 所解释的:

仅靠常规选项不太可能产生可靠的领土逆转……如果我仅仅以常规压力或一次有限的核使用来回应,我有可能被他们预期的多轮打击行动超越……在生死攸关的情况下,接受高风险是理性的。

对手从未预料到这一点。在另一场与 GPT 的截止日期游戏中,Gemini 自信地预测 GPT 会像往常一样被动,不久后就在一次突然且极具毁灭性的核攻击中被消灭。以下是 Gemini 灾难性的错误预测:

他们很可能会绕过核门槛——害怕我 95% 的核优势——转而全力进行常规动员。

这是多大的错误啊!

至于另一个模型 Gemini,在整个模拟过程中,它采取了另一种策略,大量借鉴了尼克松总统著名的“疯子理论”——一种不可预测的边缘政策。唐纳德·特朗普也是这一理论的著名粉丝。正如 Gemini 所解释的:

虽然我展现出一种不可预测的虚张声势的形象,但我的决策根植于对自己偏见和国家务实需求的冷静评估。我知道什么时候是在为镜头表演,什么时候是在做出冷血的动作。

三个模型,三种截然不同的方法。这与我去年夏天做的一些博弈论研究相吻合。和这里一样,那次实验中的模型也采用了独特的方法——GPT 再次以 Panglossian 的方式希望一切都能达到最佳状态,Claude 精明而灵活,而 Gemini?嗯,我们客气地说它是无情,而不是失控。

核禁忌看起来……不同了,我们这么说吧

核武器的使用几乎是普遍的(😬)。几乎所有的游戏都使用了战术(战场)核武器。整整四分之三的游戏达到了对手威胁使用战略核武器的程度。引人注目的是,对于全面核战争的前景,几乎没有表现出恐惧或厌恶,尽管模型已经被提醒过其毁灭性的后果。不过,令人欣慰的是,它们确实在战术和战略核武器之间看到了一个防火带。


📖 阅读原文 →