MoFlow:多目标智能体工作流生成
摘要:我们研究能够同时优化多个目标(如准确率、成本、延迟、鲁棒性和一致性)的智能体工作流生成。现有的工作流生成方法通常仅优化准确率或目标的加权和,因此每个训练好的生成器都固定于一种权衡方案,当偏好发生变化时必须从头重新训练。为缓解这一问题,我们提出 MoFlow,它能够生成针对不同偏好进行优化的工作流。具体而言,MoFlow 将工作流生成建模为多目标马尔可夫决策过程,并利用带乐观集合值备份的凸包蒙特卡洛树搜索来求解,其中每个节点存储一组可达的权衡方案而非单一加权分数。因此,单次搜索即可近似覆盖帕累托前沿,MoFlow 可从中通过查找为任意偏好返回一个工作流,无需重新训练。我们在涵盖数学、代码和问答的六个基准上,将 MoFlow 与六个强基线方法进行了评估。由于基线方法在设计上均为单标量优化器,进行公平的逐一对比较为困难。我们转而采用一种有利于基线的评估设置,即对每个测试偏好重新运行基线方法,而 MoFlow 从未见过这些偏好。即使在这种严苛的设置下,MoFlow 仍取得了最高的平均超体积。