← 返回日报
🌐 机器翻译 · DeepSeek · ArXiv

Consensus is Strategically Insufficient: Reasoning-Trace Disagreement as a Knowledge-Representation Signal


摘要: 多智能体系统通常旨在通过投票、共识协议、辩论或容错聚合来减少分歧。我们认为,这一目标对于涉及价值判断的任务而言并不充分,因为此类任务中的分歧可能反映的是真实的规范性不确定性,而非智能体错误。基于先前关于人机协作审核中推理轨迹分歧的研究,我们提出一个知识表征层,在该层中,推理轨迹与智能体决策被抽象为符号化的分歧状态。给定能够生成显式推理轨迹与二元决策的智能体,我们根据推理相似性与结论一致性区分出四种状态:趋同共识趋异共识趋同分歧趋异分歧。这些状态支持可废止的策略性路由规则。我们以内容审核为例对该框架进行实例化,并论证:对于多智能体策略性推理而言,分歧感知路由在亚符号级大语言模型(LLM) deliberation 与符号化知识表征之间架起了一座桥梁。

📖 阅读原文 →