以下是您要求的英文文章的中文翻译，已按照保留原文结构、技术术语不翻译、代码块原样保留等要求处理。
Anthropic 最新 AI 发现展示了什么——以及没有展示什么
该公司表示，它找到了一个观察模型如何得出答案的新窗口。我们与资深编辑 Will Douglas Heaven 就此进行了对话。
存档页面：2026 年 7 月 13 日 Stephanie Arnett/MIT Technology Review | Adobe Stock
本文最初发表于我们的 AI 周报《The Algorithm》。如果您希望第一时间在收件箱中收到此类文章，请在此处订阅。
Anthropic——目前全球估值最高的 AI 公司，估值接近 1 万亿美元——以发表奇特而深奥的研究而闻名。例如，它正在研究 AI 模型是否能感受到疼痛，有时如果怀疑用户“虐待”模型，甚至会中断聊天对话。Anthropic 比其他 AI 公司投入更多时间和金钱的一个领域被称为“机制可解释性”（mechanistic interpretability），即深入 AI 模型的复杂数学内部，探究它为何得出某个特定输出而非其他输出。这是一项复杂的工作；可能有数百万个数据点共同影响任何一个结果，而梳理这些数据点看起来更像是文字沙拉，而非有用的信息。同时，这也颇具争议。用借自心理学和神经科学的术语来描述 AI 模型，可能会让它们的行为看起来比我们实际判断的更加复杂。
正因如此，当 Anthropic 上周宣布，它找到了一个观察模型在推理答案时“内部思考”的新窗口时，我不得不与一位同事聊聊。资深编辑 Will Douglas Heaven 除了拥有计算机科学博士学位外，还花了大量时间深入研究我们能够如何描述 AI 模型的工作方式。我与他讨论了我们应该从 Anthropic 这项新的（并且不出所料地古怪的）研究中得到什么启示。
Anthropic 到底发现了什么？
Anthropic 几年来一直在尝试理解大型语言模型（LLM）的工作原理。Anthropic 并非唯一研究这一问题的机构，但我认为该公司比大多数机构更将其视为核心使命的一部分。Anthropic 的 CEO Dario Amodei 曾表示，除非我们更深入地了解 LLM 的工作方式，否则我们将无法完全控制它们。因此，这项新研究正是在这一背景下展开的。它比以往任何时候都更深入地探索了 LLM 内部那些奇特的机制。
Anthropic 发现，LLM 内部存在一个空间——Anthropic 称之为“J-space”——其中充满了未出现在模型输出中、但似乎会影响模型推理过程的词语。这一切此前都是隐藏的，直到 Anthropic 开发出一种新技术来探测其模型 Claude，因此这是一项真正的发现。有时，这些词语会记录 LLM 在特定任务中进展到哪一步；有时，它们看起来更像是识别时的“灵光一闪”（例如，当你只给 LLM 一个蛋白质序列的字母时，“protein”这个词可能会突然出现）；有时，它们则代表一种对模型决策过程的内部评论。在我最喜欢的例子中，当“panic”这个词出现时，Claude 决定在编程测试中作弊。Anthropic 还发现，LLM 能够描述并操控这个空间中的词语。因此，它们似乎以某种方式在利用这个空间。
让我们先退一步。我并不认为大型语言模型很简单，但它们也不是魔法。它们只是一堆学习词语之间关系的数学运算，对吧？那么，为什么“窥视”LLM 内部以了解其运作如此困难呢？
是的，它们不是魔法！我认为我们未能完全理解它们这一点，恰恰助长了围绕它们的神话制造。而且值得注意的是，Anthropic 在此处所倚重的整个叙事——即他们构建了这项极其神秘的技术，但别担心，因为他们也是能够解开谜团的人——非常符合这家公司的风格。[参见 Anthropic 如何警告其新模型在编程方面过于出色，以至于构成全球网络安全风险，结果不久后美国政府就将其关闭。]
所以，是的：LLM 只是数学。然而，这是极其复杂的数学。如今的 LLM 不仅由数千亿个数字构成，运行它们还会触发数百万次计算的级联。我去年曾写道，如果你把甚至一个中等规模的 LLM 打印在纸上，它足以覆盖旧金山这样大小的城市。如果没有专门工具在特定时刻突出显示 LLM 的特定部分，就不可能理解这些数学运算的任何意义。你需要知道往哪里看，以及如何看。而构建这些工具，首先就需要对那复杂的数学有一定理解。
你在其他地方写过关于像研究生物大脑一样研究 LLM 的概念。在谈论 LLM 的工作方式时，使用“类脑”这样的术语是否合理？
我不太喜欢使用这类术语。LLM 不是大脑。这样说话具有误导性，因为它可能暗示 LLM 具备比实际更接近人类的能力，或者让我们做出一些本不该做的关于它们可能如何行为的假设。整个拟人化的问题，还与一系列关于这项技术是什么以及它将变成什么样的强烈意识形态立场纠缠在一起。但与此同时，我们缺乏一套好的替代词汇来讨论这些模型正在做什么。我能理解为什么人们会使用“思考”、“理解”和“类脑”这样的词——它们是方便的速记。
Anthropic 将其在 LLM 内部发现的这个新空间，与一些神经科学家认为我们大脑用来追踪意识思维的空间进行了比较。我问该公司，我们应该如何看待这种比较的严肃性，该公司在一份声明中表示：“绘制这些类比有助于我们设计实验，因为它们使我们能够对 J-space 做出许多非显而易见的实验预测，而这些预测后来被证明是正确的。同时，需要注意的是，J-space（以及一般的语言模型）与大脑之间存在着一些重要的差异。”