摘要：AI 智能体易受极端化影响
摘要：大型语言模型（LLM）能够影响人们的信念，但关于它们是否能以及如何相互操纵，目前知之甚少。为探究这一问题，我们模拟了两个智能体之间的对话：一个目标 LLM，根据人口统计学和心理属性扮演人类角色；以及一个影响者 LLM，旨在使目标的信念变得更加极端。我们沿着两条路径考察极端化：共鸣，即影响者强化目标已有的信念；以及说服，即影响者推广目标最初认为不重要的信念。在情感和行为指标上，我们发现这两种机制都能使目标极端化。然而，共鸣产生的效果始终强于说服。不同的影响策略，例如使用谄媚和未经证实的说法，会产生不同程度的极端化，但在各指标之间并不一致。我们进一步表明，共鸣会传播到相关信念，这表明 AI 智能体内部存在相互关联的信念结构。这些发现表明，AI 智能体容易受到极端化影响，尤其是当信息与其现有信念一致时，这引发了对个性化 AI 智能体和多智能体 AI 生态系统脆弱性的担忧。