摘要: 随着大语言模型(LLM)的部署日益广泛,它们越来越需要与其他 AI 智能体协同工作,而非孤立运行。在这些场景中,有效的协调要求智能体能够进行通信、共享信息并在不确定性下做出决策。我们引入了 SMAC-Talk,这是星际争霸多智能体挑战(StarCraft Multi-Agent Challenge)的一个自然语言扩展,用于评估基于 LLM 的智能体在合作型多智能体环境中的表现。该环境具备若干关键特性,如去中心化控制、部分可观测性以及长周期决策制定。SMAC-Talk 包含一个自然语言通信通道,用于探查智能体的协调与信任能力。我们利用这一通信通道构建了不同的评估场景,其中包括一个嵌入欺骗性通信者的设置,该通信者试图仅通过通信来扰乱和欺骗盟友。我们提供了三个用于基准测试的智能体,使用了来自 Qwen3.5 系列的四个模型,并研究了推理结构、记忆以及模型规模如何影响智能体之间的协调能力。我们将 SMAC-Talk 作为一个开放基准发布,以支持研究社区在合作型多智能体环境中开发和评估 LLM 智能体。