据 10 月 12 日报道,阿里巴巴 Qwen 团队推出 QwenGyre,这是一个用于超长时域智能体训练的弹性强化学习(RL)框架;其核心思想是在部署和训练之间切换空闲 GPU,并将分支智能体历史转换为有界训练样本。截至报告发布时,QwenGyre 的代码尚未公开,GPU 型号也未公开。
QwenGyre 解决的问题:超长时域任务的长尾效应与分支轨迹开销
据 QwenGyre 论文,研究团队将“超长周期”任务定义为运行时间长达数小时、涉及数百次模型和工具交互的任务(例如根据规格生成完整代码库,如 NL2Repo-Bench 所示)。在这一规模下会出现两个主要问题:第一,在协同部署(Colocate)架构中,训练必须等待执行速度最慢的 GPU 完成任务,此时其他 GPU 处于空闲状态;在 Async 架构中,固定的 GPU 池无法共享彼此的剩余容量。
第二,类似 Claude Code 的工具会压缩上下文、生成子代理并进行重试,一次执行会形成分支树,而非单一轨迹;展开每条路径会复制共享前缀并增加训练成本。QwenGyre 的 ElasticScheduler 和轨迹处理器旨在解决上述两个问题。
ElasticScheduler 机制:GPU 单元在部署与训练之间切换
根据 QwenGyre 论文,ElasticScheduler 的运行机制包括:
GPU 单元切换:调度器追踪部署进度(包括已排队和正在执行的任务);当任务完成后,只要剩余单元能够处理所有正在进行的任务,该单元就会切换到训练模式;核心单元持有权威的模型权重和优化器状态
KV 缓存迁移:KV 缓存块在重新路由期间通过 RDMA 迁移,以减少前缀重新计算
模型同步:卫星单元通过 Mooncake 的传输引擎拉取核心权重,并加入正在进行的批次;流式训练允许单元在数据准备就绪后执行微小的训练步骤
角色切换耗时:从部署切换到训练平均耗时 8.52 秒,从训练切换到部署平均耗时 3.46 秒
在轨迹处理方面,每次执行最多保留 5 条轨迹(排序为 main > main-summary > sub-agent > sub-agent-summary);超时执行的程序仍会根据其保留的工作空间进行评分;共享前缀只计算一次,损失在每次执行中取平均值;训练采用改良版 GSPO,每组进行 16 次迭代,前向-反向训练时间缩短 25.2%。
基准测试结果
根据 QwenGyre 论文的基准测试(所有测试均使用 Claude Code 2.1.220 作为框架,GPU 预算相同):Qwen 3.8 24000亿 在 NL2RepoBench(48 步)上,QwenGyre 耗时 75.42 小时,Async 耗时 134.55 小时,Colocate 耗时 91.47 小时;评估通过率从 52.48% 提高到 58.54%(比 Async 快 1.78 倍,比 Colocate 快 1.21 倍)。
Qwen 3.6 1220亿 的最佳表现出现在 TerminalBench(24 步),比 Colocate 快 1.809 至 1.849 倍。论文明确指出,24000亿模型上的最差情况(Colocate 的 1.21 倍)是因为许多查询接近超时;速度提升取决于每个项目本身的设置,不同框架之间的数据无法直接比较。
与其他 RL 框架比较
根据论文中的框架比较,主要差异如下:veRL(字节跳动,Apache-2.0 许可)、AREA(清华大学交叉信息研究院 + 蚂蚁集团,Apache-2.0 许可)和 FlashAgent(微软,MIT 许可)均已公开代码;QwenGyre 的许可和代码截至报告发布时均尚未公开。
在最大规模方面,QwenGyre 的 24000亿模型目前是其中最大的;论文标题所述的加速效果(比 Colocate 最高快 1.85 倍)与 AREA 的 2.77 倍(对比同步 v0.3)不能直接比较,因为测试条件不同。
常见问题
QwenGyre 已在哪些模型上进行测试,每次部署需要多少 token?
根据 QwenGyre 论文,该框架已在 Qwen 3.6 1220亿(24 至 32 个节点)和 Qwen 3.8 24000亿(192 个节点,4 个单元,每个 48 个节点)上进行测试;每次部署约 70 万个 token。
QwenGyre 在 24000亿模型 NL2RepoBench 测试中的具体速度提升为何?
根据论文基准测试,Qwen 3.8 24000亿 在 NL2RepoBench(48 步)上,QwenGyre 耗时 75.42 小时,比 Async(134.55 小时)快 1.78 倍,比 Colocate(91.47 小时)快 1.21 倍;评估通过率从 52.48% 提高到 58.54%。
QwenGyre 的代码是否已公开?
根据报告说明,QwenGyre 的代码截至论文发布时尚未公开;veRL、AREA 和 FlashAgent 等其他框架均已公开代码。
ElasticScheduler 的 GPU 角色切换需要多长时间?
根据论文,从部署切换到训练模式平均耗时 8.52 秒,从训练切换到部署模式平均耗时 3.46 秒。
免责声明:以上内容(如有图片或视频亦包括在内)均为平台用户上传并发布,本平台仅提供信息存储服务,对本页面内容所引致的错误、不确或遗漏,概不负任何法律责任,相关信息仅供参考。
本站尊重他人的知识产权、名誉权等法律法规所规定的合法权益!如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到qklwk88@163.com,本站相关工作人员将会进行核查处理回复