MLEvolve: 面向自动化机器学习算法发现的自进化多智能体框架

Mon, 06 Jul 2026 00:00:00 +0000

MLEvolve: 面向自动化机器学习算法发现的自我进化框架#

尚恒杜¹², 项超闫¹^♣, 金鑫石¹², 宗盛曹¹, 世阳冯¹, 紫宸梁¹, 博远孙¹, 天烁彭¹, 一帆周¹, 欣李¹, 杰周¹², 亮何¹², 波张¹^♣ and 磊白¹^♣ ¹上海人工智能实验室, ²华东师范大学

大型语言模型（LLM）智能体正越来越多地应用于需要长程任务执行的场景，例如科学发现和机器学习工程（MLE），在这些任务中，持续的自我进化成为一种关键能力。然而，现有的MLE智能体存在分支间信息隔离、无记忆搜索以及缺乏层次化控制等问题，这些都阻碍了长程优化。我们提出了MLEvolve，一个基于LLM的自我进化多智能体框架，用于端到端的机器学习算法发现。通过将树搜索扩展到Progressive MCGS，MLEvolve借助基于图的参考边实现了跨分支信息流动，并采用受熵启发的渐进式调度，逐步将搜索从广泛探索转向聚焦利用。为了让智能体能够随着积累的经验而进化，我们引入了回顾记忆（Retrospective Memory），它将冷启动领域知识库与动态全局记忆相结合，用于特定任务经验的检索与复用。为了实现稳定的长程迭代，我们进一步将策略规划与代码生成解耦，并采用自适应编码模式。在MLE-Bench上的评估显示，MLEvolve在多个维度上取得了最先进的性能，包括在12小时预算（标准运行时间的一半）下的平均奖牌率和有效提交率。此外，MLEvolve在数学算法优化任务上也超越了专门的算法发现方法（包括AlphaEvolve），展现了强大的跨领域泛化能力。我们的代码已在 GitHub 公开。

1. 引言#

人工智能（AI）正在重塑科学研究和复杂工程，催生了"AI for Science"（科学智能）[1]这一范式。随着大型语言模型（LLM）的持续进步，基于LLM的智能体系统[2]现在被应用于长程的自主任务，例如科学发现[3, 4]、自动化实验[5]和端到端算法设计[6]。与单轮推理不同，这些场景涉及开放的搜索空间和有限的时间预算，智能体必须持续地生成解决方案、执行代码、评估结果，并根据反馈调整策略。在此过程中，智能体不断进化：从过去的试验中积累经验，自适应地调整探索策略，并根据当前搜索阶段逐步改进实现。这种持续的自我进化能力正成为长程自主智能体的核心。

机器学习工程（MLE）是此类长程自我进化任务最具代表性的场景之一。设计高性能的AI系统仍然严重依赖专家知识和大量的人工迭代[7]。尽管近期AutoML（自动机器学习）[8, 9]的进展在优化诸如数据处理和模型选择等离散阶段取得了显著成果，但这些方法往往无法覆盖从数据准备到模型训练与推理的完整端到端MLE流程。最近，基于LLM的编码智能体已被应用于MLE场景[10, 11, 12, 13, 14]，利用LLM的规划和代码生成能力在开放的搜索空间内进行迭代优化。这些智能体通常采用贪心或进化搜索策略[12, 15]，

蒙特卡洛树搜索 [14, 16] 或多智能体协作 [13] 来探索候选解决方案。尽管取得了这些进展，现有的 MLE 智能体仍面临三个关键挑战，这些挑战阻碍了其在长周期内的自我进化。首先，现有的搜索机制受限于分支间的_信息_孤立，且缺乏自适应探索策略。大多数方法采用线性或树状搜索 [12, 14, 16]，将信息限制在单个分支内，难以在不同搜索轨迹间转移成功策略。此外，这些方法在整个优化过程中通常采用固定的探索策略，导致在有限时间预算下资源分配效率低下。其次，大多数搜索框架是_无记忆的，无法从过去的交互中积累经验 [17, 18]。当前的搜索框架仅传播标量奖励，导致每个规划决策都是孤立做出的，无法复用搜索早期类似尝试中的见解。虽然一些近期方法探索了记忆机制 [17, 18, 19]，但它们需要额外的 LLM 调用或仅提供静态知识，缺乏搜索过程中的自动经验积累。第三，大多数现有方法将规划与代码实现耦合为一次性生成，_缺乏_层次化_控制。一个合理的设计需要区分“修改什么”和“如何实现”，但许多方法 [14, 20] 在每次迭代中重写整个解决方案，导致迭代效率低下且修改不可控。

^图1 | MLEvolve 概览，总结了其核心组件和支持的任务。现有 MLE 智能体饱受分支间孤立、无记忆探索和缺乏层次化控制之苦。MLEvolve 通过渐进式 MCGS、回顾性记忆、以及带有自适应代码生成的层次化规划来解决这些问题，支持长周期迭代优化任务，如端到端 MLE 和数学算法发现。

为弥补这一差距，我们提出了 _MLEvolve（图1），一个基于 LLM 的、用于 MLE 任务的自我进化多智能体框架。MLEvolve 统一了三个核心组件：（1）_渐进式_{蒙特卡洛图搜索}_(MCGS)，通过基于图的跨分支信息流解决树搜索中的孤立和有限复用问题，并引入一种受熵启发的渐进式探索调度，随时间推移自适应地将搜索从广泛探索引导至聚焦利用；（2）_回顾性_记忆，将用于冷启动初始化的精选领域知识库与一个动态全局记忆配对，该全局记忆在搜索过程中自动积累和检索任务特定经验；以及（3）带有自适应代码生成的层次化规划，将策略规划与代码生成分离，并根据当前搜索状态在全量重写、逐步修改和基于差异的编辑模式间进行选择。因此，MLEvolve 实现了对端到端机器学习流水线更稳定、更具自我进化性的探索，为具有挑战性的 MLE 任务提供了更强的解决方案。实验结果表明，MLEvolve 在 12 小时预算（标准运行时的一半）下，在 MLE-Bench 上实现了 65.3% 的平均奖牌率，确立了最先进的性能，并进一步在数学优化任务上超越了包括 AlphaEvolve [6] 在内的专用算法发现方法。

AutoML on Yuunagi Library

MLEvolve: 面向自动化机器学习算法发现的自进化多智能体框架

MLEvolve: 面向自动化机器学习算法发现的自我进化框架#

1. 引言#