摘要:大语言模型(LLM)智能体在序列决策中展现出强大能力,但在长周期任务中仍本质上是反应式的。与人类在行动前通过“假设推理”评估潜在计划不同,标准智能体缺乏用于模拟未来结果的内部世界模型。因此,我们提出通过训练单一自回归模型来内化面向未来的规划能力,使其能够同时表述前瞻性的状态推演和基于计划的成功估计——即 Q 值的文本类比。关键的是,我们识别出一个“格式-能力”差距:在训练后阶段仅对智能体进行前瞻轨迹的微调,会导致对前瞻能力的表面模仿,而缺乏真正的预测基础。为弥合这一差距,我们引入了一个三阶段训练范式:(i)世界模型智能体中期训练(WM-AMT),用于将潜在预测能力注入策略;(ii)格式引导的监督微调(FE-SFT),用于结构化这种注入的能力;以及(iii)前瞻条件强化学习(FC-RL),用于优化生成模拟的校准性和实用性。在搜索和数学推理任务上的评估表明,我们的方法始终优于其他训练基线。我们的结果证明,在 LLM 智能体中实现有效的内部世界建模,需要一个“能力优先”的训练流程,以获得有基础且经过校准的前瞻能力。