智能体也会「自欺欺人」,可证伪世界模型才是自我进化的前提
自我进化的LLM智能体通常靠积累经验、反思或技能来提升行动能力,但一个根本问题被长期忽视:智能体对世界的「信念」可能是错的,而且它自己意识不到。这篇论文提出EvoBelief,核心是构建「可证伪的世界模型」——智能体不仅要形成对环境的假设,还要主动设计能验证或推翻这些假设的行动。换句话说,它得学会「知道自己可能错在哪」,并用实验去检验。这比单纯的行为优化更深一层:没有可证伪的信念,自我进化只是在错误认知上越跑越偏。对追求真正自主学习的Agent研究,这可能是从「经验积累」迈向「科学方法」的分水岭。
EvoBelief: Falsifiable World Models for Self-Improving LLM Agents
Self-evolving LLM agents typically improve how they act through accumulated experience, reflection, or skills. Yet even procedurally capable agents ca