← 返回日报
🌐 机器翻译 · DeepSeek · ArXiv

Trustworthy Agent Network: Trust in Agent Networks Must Be Baked In, Not Bolted On


标题:可信代理网络:代理网络中的信任必须内建,而非外挂

摘要: 大型语言模型的快速发展催生了基于LLM的自主代理,这些代理能够进行复杂的推理与执行。随着这些代理从孤立运行转向协作生态系统,我们见证了代理间(Agent-to-Agent, A2A)网络的出现——这是一种异构代理自主协调以解决多步骤任务的范式。尽管这类网络相比仅使用单一代理完成整个任务可能带来更好的任务性能,但它们也引入了系统性漏洞,例如对抗性组合、语义错位以及级联操作故障,而现有的代理对齐技术无法解决这些问题。在这篇愿景论文中,我们认为A2A网络的信任无法通过事后改造现有主要针对单个代理设计的协议来完全保障。相反,信任必须从A2A协调框架的构建之初就被架构其中。我们通过四个设计支柱,提出了一个将信任置于A2A系统中的全面概念框架。

📖 阅读原文 →