以下是按照您的要求翻译的中文版本，保留了原文结构、技术术语和代码块，并忽略了无关文本。
Rich Sutton 谈 AI 的创造力与发现
Richard Sutton @RichardSSutton 一个可能具有争议的新视角：在这段视频中，我解释了通过监督学习训练的生成式 AI 在何种意义上无法做出新颖发现。youtu.be/K5LAFEjTlBA 演讲正文：AI 的创造力与发现
女士们先生们，下午好。很遗憾今天无法与大家面对面交流，但我仍很高兴能通过这段录音，与各位分享一些关于人工智能当前与未来状态的高层次思考，特别是 AI 与科学和数学的关系——据我所知，这也是本次会议及 SAIR 基金会的核心关注点。
我想先讲一个老笑话；相信各位都听过。说的是有位研究者的工作被评审，评审意见写道：“这项工作既新颖又好。可惜的是，好的部分不新颖，新颖的部分不好。”关于 AI，我的第一个观点是：这个评价恰好适用于我们今天所知的很大一部分 AI。并非全部，但确实是很大一部分。几乎我们所说的“生成式 AI”——包括大语言模型、图像与视频模型，甚至那些用于学习世界模型的新方法——都包含在内。所有这些 AI 都从大量样本中学习，并产生一个行为与样本相似的“模型”，即生成像人一样的文本，像艺术家或自然一样的图像，以及像我们在互联网上找到的视频。
别误会，生成式 AI 可以非常有用。这一点毋庸置疑。但那个笑话的评价依然适用。这些系统能产生既新颖又好的输出，但无法同时做到。在很多情况下，这根本不是问题。当我们向 AI 索要来自互联网的答案，或要求它总结文档时，我们并不希望它新颖。我们乐于看到答案的“好”来自源材料——来自撰写文档或互联网文章的人。如果 AI 的答案是新颖的，那就意味着它超越了源材料，添加了额外的东西。这就是我们所说的“幻觉”。在大多数情况下，我们不喜欢 AI 编造东西，不喜欢它添加新颖内容。
当然，有一个例外：当我们寻找的不是事实或现实，而是虚构和娱乐时。我们可能会要求给小孩讲一个睡前故事，或者生成一张基于互联网上现有图像但又与之不同且独特的图片。在这些情况下，我们很难知道 AI 到底有多大的创造力，因为我们不知道 AI 的故事、诗歌或图像与源材料有多接近。在实际意义上，我们无法知道这一点，因为互联网太大了，AI 可能借鉴的源材料太多了。当我们要求虚构或新颖内容时，AI 可以给我们，因为它的处理过程部分是随机的。每个决策都可以有多种走向，每次都会走向不同方向，产生不同的轨迹。轨迹可以是随机的——因此是新颖的——也可以基于训练数据——因此是“好的”，因为训练数据来自人或现实，质量很高。因此，轨迹要么新颖，要么好——基于随机性或基于数据——但永远无法同时具备两者。
说实话，我认为生成式 AI 的输出永远无法同时做到又好又新颖，这没关系。对于笑话中的研究者来说，这是毁灭性的批评，但对于大多数事情来说并非如此，对于生成式 AI 来说也不是。生成式 AI 本意是模仿。这就是监督学习的目的。生成式 AI 即使只是模仿，只要它比被模仿的对象更快、更便宜、更小、更可定制或更易复制，就可以非常有用。生成式 AI 无法同时做到新颖和好，这没关系。它仍然是一项变革性技术。但这是一种局限。请记住，我们在这里是要将 AI 用于科学和数学，而在这些领域，笑话中评审的评价是毁灭性的。在这些领域，我们需要真正的创造力和发现。生成式 AI——或者说模仿式 AI——永远无法带我们到达那里。为此，我们需要更多的东西，而事实上，我们在 AI 的其他部分确实拥有更多。
我们有许多 AI 系统能给我们更多。我们有 AlphaGo，它下出了改变世界的第 37 手；有 AlphaZero，它拥有 brilliant 原创的棋风。我们有 GT-Sophy，它在模拟赛车中比任何人类都开得好。我们有 AlphaFold、AlphaProof 和 Claude-Code，它们在科学、数学和编程领域带来了真正的进步。我们有 RL-Lyft，它优化了网约车业务中车辆与乘客的匹配。所有这些系统都发现了既新颖又好的东西。而且，说实话，一些语言模型已经通过增强方式超越了基于监督学习的生成式 AI。所有这些系统都具备一些额外特性，使它们能够实现真正的创造力和真正的发现。认识到这一点很重要——而且这种能力在普通的、常规的生成式 AI 中是不存在的。它不可能仅仅来自监督学习，不可能仅仅来自从样本中学习。
那它是什么呢？其实很简单，是一种常识性的东西。它并不新鲜。我们有很多名字来称呼它，但不幸的是，没有一个名字特别好。我称之为“发现”。基本上，发现就是尝试许多事情，看看哪些有效，然后保留那些效果最好的。自然选择进化就是这样运作的。科学方法也是这样运作的。普通的日常生活和学习也是这样运作的。我们尝试事情，记住什么有效。还有什么比这更显而易见的呢？在行为学案例中，心理学有两个名字来称呼它——“instr...
（注：原文在“instr”处截断，翻译保持原样。）