Sakana AI 与加州大学伯克利分校推出 MASS 自我改进 AI 框架

Sakana AI 与加州大学伯克利分校的研究人员合作，推出了多智能体自监督（MASS），这是一种旨在让 AI 系统在任务变得过于复杂、无法由人类评估时继续改进的框架。该系统应对了 AI 开发中的一项挑战：随着模型能力超越人类积累的知识，人类专家可能无法再可靠地判断或指导模型输出。MASS 通过同质递归自我改进流程运行，模型既充当自身的优化器，也充当评估器，在内循环和外循环之间交替进行：内循环由虚拟子智能体执行工作流，外循环则通过微调将成功的轨迹提炼回模型权重中。

MASS 框架通过双循环架构运行

该框架在两个循环之间交替运行。在内循环中，模型将自身的副本组织成一个虚拟子智能体团队，由书面工作流进行管理，其中规定了每个子智能体的角色、指令、信息交换契约以及调用顺序。编排器执行工作流，评估器将结果与当前最佳方案进行比较，优化器则提出修订方案。在外循环中，表现最佳的多智能体轨迹通过微调被提炼回共享模型的权重中，随后更新后的模型重新承担这三个角色，循环往复。

在各项基准测试中，性能达到基础模型水平的 1.2 至 1.6 倍

从一个拥有 270 亿参数的开放权重模型开始，经过两个完整循环后，在包括 MLR-Bench、ScienceAgentBench、DSBench 和 AstaBench 在内的研究基准测试中，以每个输出代币的得分衡量的性能达到了基础模型水平的 1.2 至 1.6 倍，且增益得到了未参与训练过程的外部评估者的确认。仅使用任务求解轨迹进行训练，不仅提升了执行器的表现，也提升了工作流优化器和评估器的表现；在多个循环中，模型判断与强大外部评估者之间的一致率从 73% 上升至 93%。

研究发现角色泛化和训练效率方面的提升

研究人员报告了三项主要发现。首先，MASS 能够实现角色泛化，使用任务求解轨迹进行训练可以同时提升执行器、工作流优化器和评估器。其次，多智能体轨迹被证明比单智能体轨迹高效得多，能够作为训练数据。该模型比可比的单智能体方法少使用 31% 的监督代币，便对基础模型取得了 68.3% 的胜率。第三，消融实验表明，递归自我改进的瓶颈可能在于优化器，而非评估器。仅将评估器替换为更强大的外部模型所带来的帮助很小，但同时升级评估器和优化器后，该系统在五次迭代内为全部 12 项测试任务找到了获胜工作流，而完全同质循环只能为 12 项任务中的 11 项找到获胜工作流。

对演化后工作流的分析显示，有效的协调会将特定于任务的信息转移到契约和调用顺序中，而不是放入角色中。作者强调了安全方面的影响：在同质循环中，共同的盲点可能让有缺陷的结果被接受为进展，并通过训练得到强化，因此随着自我改进能力不断提升，独立的验证机制至关重要。

常见问题

什么是 MASS？由谁开发？

MASS（多智能体自监督）是 Sakana AI 与加州大学伯克利分校研究人员合作推出的框架。该系统通过递归自我改进流程，让 AI 模型能够持续改进；在这一流程中，模型既充当自身的优化器，也充当评估器，并在内循环和外循环之间交替运行，以提升复杂任务上的表现。

与基础模型相比，MASS 将性能提升了多少？

从一个拥有 270 亿参数的开放权重模型开始，经过两个完整循环后，在包括 MLR-Bench、ScienceAgentBench、DSBench 和 AstaBench 在内的研究基准测试中，以每个输出代币的得分衡量的性能达到了基础模型水平的 1.2 至 1.6 倍。在多个循环中，模型判断与外部评估者之间的一致率从 73% 上升至 93%。