面向 LLM 的智能体数据工程：系统设计与受控实证研究
摘要：LLM 数据工程需要通过迭代实验来确定数据选择、奖励和课程如何影响模型学习，这使其成为 AI-for-AI（AI4AI）研究的天然场景。智能体能否利用实验反馈逐步改进策略，由此得到的策略又能否提升目标模型在留出数据上的表现？我们研究了智能体如何在固定训练和评估协议下利用实验反馈来制定数据工程策略。我们的智能体数据工程（Agentic Data Engineering，ADE）框架让智能体能够利用累积发现来推进、修正或组合研究方向。策略通过循环内得分进行选择，并在留出基准上评估。在四项任务——数学与代码数据选择、数学奖励设计以及数学课程学习——中，所选策略在固定训练条件下相较于通用基线取得了绝对提升：在 AIME25 Pass@32 上最高提升 13.34%，在四个留出基准上平均提升 5.85%。循环内得分在连续实验中有所改善，而留出轨迹表明，后期的循环内增益并不总能提升泛化能力。对研究组织方式和反馈获取方式的比较表明，将证据分析与累积发现相结合更为有利。研究轨迹展示了早期发现如何影响策略修正以及跨研究方向的组合。