因果世界模型何时有助于模块化 LLM 智能体
摘要：LLM 智能体越来越多地通过模块化系统行动，例如订单、支付、库存和发货服务，其中一个模块中的动作会改变另一个模块中哪些转换是有效的。标准世界模型通常拟合观测轨迹，但这并不是干预时规划所需的量：一条轨迹可能显示支付先于发货，却无法识别是支付授权了发货、库存中介了该效应，还是某个隐藏触发因素同时解释了二者。我们通过 FedCausalCompose 研究这一差距，这是一个面向模块化 LLM 智能体的因果世界模型框架，其中局部动作为跨模块接口提供干预-响应证据。我们首先表明，在未阻断的后门路径下，观测世界模型会产生不可约的干预误差；接口恢复随干预-响应覆盖率的提高而改善；当覆盖率和局部机制误差受控时，一个预言机因果组合可以超越非因果下界。随后我们在诊断性智能体设置中检验由此产生的预测。因果接口在结构化工具环境中帮助最大，因为 API 签名暴露了前置条件和下游效应。相比之下，对话和叙事环境往往忽略原始边列表，除非一个简短的注意力锚点使因果信息与决策相关。这些结果识别出了因果世界模型在 LLM 智能体中的一个具体适用条件：当跨模块接口既具有统计可识别性，又以智能体在行动时能够使用的形式呈现时，因果结构才有帮助。