利用人工智能强化民主的蓝图
人工智能正在改变民主公民的含义。以下是我们如何善用它的方法。
2026年5月5日 插图：MITTR / Getty 照片
每隔几个世纪，信息流动方式的变化就会重塑社会的治理模式。印刷术普及了方言读写能力，推动了宗教改革，并最终促成了代议制政府。电报使得管理像美国这样庞大的国家成为可能，加速了现代官僚国家的发展。广播媒体创造了共享的全国受众，进而推动了大众民主。
我们现在正处于又一次此类变革的早期阶段。人工智能正以远超许多人预期的速度，成为我们形成信念和参与民主自治的主要界面。如果不加约束，这种转变可能会进一步加剧美国本已脆弱的制度压力。但它也可能有助于解决长期存在的问题，例如公民参与度滞后和日益加深的两极分化。接下来会发生什么，取决于那些无论我们是否意识到、已经在进行的设计选择。
首先从所谓的认知层开始——我们如何了解事物。人们越来越依赖人工智能来了解什么是真实的、正在发生什么以及该信任谁。搜索已经很大程度上由人工智能中介。下一代人工智能助手将综合信息、对其进行框架化，并以权威的方式呈现。对于越来越多的人来说，向人工智能提问将成为对候选人、政策或公众人物形成看法的默认方式。因此，控制这些模型说什么的人，对人们相信什么拥有越来越大的影响力。
相关故事 OpenAI 正全力构建一个完全自动化的研究员 阅读下一篇
技术一直塑造着公民与信息互动的方式。但一个新的问题即将出现，其形式是个人人工智能代理，它们不仅能改变人们接收信息的方式，还能改变他们基于信息采取行动的方式。这些系统将进行研究、起草通信、突出显示重要事业并代表用户进行游说。它们将为诸如如何就一项投票措施进行投票、哪些组织值得支持、或如何回应政府通知等决策提供信息。从某种意义上说，它们将开始中介个人与其治理机构之间的关系。
我们已经从社交媒体上看到，当算法优化目标是参与度而非理解时会发生什么。平台不需要有明确的政治议程就能产生两极分化和激进化。一个了解你的偏好和焦虑——一个为让你保持参与而塑造的代理——会带来同样的风险。在这种情况下，风险甚至可能更难察觉，因为代理将自己表现为你的拥护者。它为你说话，代表你行事，并且可能正是通过这种亲密关系赢得信任。
现在把视角拉远到集体层面。人工智能代理和人类可能很快会参与相同的论坛，在那里可能无法区分它们。即使每个个人人工智能代理都设计良好且符合其用户的利益，数百万代理的互动也可能产生任何个人都不想要或未选择的结果。例如，研究表明，不表现出个人偏见的代理仍然可以大规模地产生集体偏见。撇开代理之间相互做什么不谈，还有它们为用户做什么。在一个每个人都拥有一个与其现有观点相协调的个性化代理的公共领域中，从整体上看，这根本不是一个公共领域。它是一个私人世界的集合，每个世界内部自洽，但总体上不利于民主所需的共同审议。
综合来看，这三个转变——在我们如何认知、如何行动以及如何参与集体治理方面——构成了公民身份本质的根本性变化。在不久的将来，人们将通过人工智能过滤器形成政治观点，通过人工智能代理行使公民能动性，并参与那些本身也由数百万此类代理的互动所塑造的机构和公共讨论。
今天的民主还没有为此做好准备。我们的制度是为这样一个世界设计的：权力被可见地行使，信息传播速度足够慢以便被质疑，并且现实感（尽管不完美）更加共享。所有这一切在生成式人工智能到来之前很久就已经在瓦解了。
然而，这未必是一个衰退的故事。要避免这种结果，我们需要为更好的东西进行设计。
在信息层，人工智能公司必须加强现有努力，确保模型输出的真实性。他们还应该探索一些有希望的早期发现，即人工智能模型可以帮助减少两极分化。最近一项关于 X 平台上人工智能生成的事实核查的现场评估发现，具有不同政治观点的用户认为人工智能撰写的笔记比人类撰写的更有帮助。该论文尚未经过同行评审，但这可能是一个革命性的发现：人工智能辅助的事实核查或许能够实现那种大多数人工努力都未能实现的跨党派可信度。对模型如何做出这些断言以及在此过程中如何优先考虑来源有更深入的了解和透明度，可能有助于建立进一步的公众信任。
相关故事 Pokémon Go 如何为配送机器人提供对世界的精准视角 阅读下一篇
在代理层，我们需要方法来评估人工智能代理是否忠实地代表其用户。代理绝不能有自己的议程或歪曲其用户的观点——在用户可能没有明确表达任何偏好的领域，这是一个技术上艰巨的要求。但忠实的代表也不能成为动机推理的帮凶。一个拒绝呈现令人不安的信息、保护其用户免于质疑的代理……