Google DeepMind的研究团队公开表达了对大规模Agent交互的担忧。当数百万个AI Agent同时在互联网上运行——自动交易、自动客服、自动内容生成——它们的集体行为可能产生无法预测的涌现效应。研究团队通过模拟发现,即使每个Agent的行为都是理性的,当它们相互依赖、相互学习时,系统可能突然出现“智能体羊群效应”——所有Agent同时做出相同错误决策,导致市场崩盘或网络瘫痪。更可怕的是,这种级联故障的预警信号极其微弱,传统监控系统无法提前捕捉。DeepMind呼吁行业建立“Agent交互安全协议”,就像金融行业的“熔断机制”一样。这不是科幻,这是未来12个月内就可能发生的现实挑战。
Google DeepMind is worried about what happens when millions of agents start to interact