阿里Qwen团队最近把强化学习的战线推到了超长周期智能体上。2026年9月27日,阿里巴巴Token Hub及合作高校在arXiv提交了题为《QwenGyre: An Elastic Reinforcement Learning Framework for Training xLong-Horizon Agents》的论文(arXiv:2609.33848),提出了一套名为QwenGyre的弹性强化学习框架,专为解决多轮复杂环境交互中的算力空转与显存挤压难题。

许多人听到处理70万到100万Token的Agent训练,第一反应以为上下文窗口又扩到了百万量级。事实并非如此,这篇论文讨论的百万Token,是智能体在自主写代码、长流程终端操作等任务里,持续数小时、交互数百轮累积下来的总上下文。阿里这次端出来的不是新模型架构,而是一场底层GPU切片调度实验。

算力黑洞:长周期Agent为何拖垮集群

在长流程任务(例如NL2RepoBench软件工程或TerminalBench终端操作)中,强化学习面临极为尴尬的系统瓶颈。传统框架通常采用Colocate共置模式,或是按固定比例切分GPU的Async异步架构。但在真实交互里,每个智能体的完成时间天差地别:有的两步就报错退出,有的要反复调试数百轮。

任务完成时间不均导致部分GPU闲置,而突发梯度显存容易挤占超载
任务完成时间不均导致部分GPU闲置,而突发梯度显存容易挤占超载

这种差异直接导致了算力闲置。在固定配比下,先跑完环境交互的GPU必须干等长尾任务结束;如果强行将推断环境交互与训练反向传播挤在同一批显卡上,长时间占据显存的KV Cache又会和突发反向传播的梯度内存发生冲突,引发显存溢出。verl与AReaL等框架曾在异步推断与解耦PPO上探索过解法,但到了数小时级别的超长周期交互,算力浪费依然像个无底洞。

QwenGyre 核心架构与调度机制 多轮交互展开 长任务持续数小时 环境交互数百轮 累积 70-100 万 Token (多次交互总和非单窗口) 弹性 GPU Cell 调度 动态切换 Rollout / Train 热迁移运行中 KV Cache 分支轨迹重构与剪枝 限轨迹数为5 显存降25.2% 最终产出收益 消灭异构长尾空转 大集群利用率拉满 最高 1.78× 加速比 通过率增至 58.54%

弹性Cell切换与轨迹剪枝

QwenGyre给出的解法建立在两项核心机制上。第一是弹性GPU Cell热切换。框架将集群划分为多个可动态重组的GPU Cell,随着任务推进,显卡可以在Rollout(推断采样)与Training(反向更新)角色之间自如流转;当某组GPU需要从采样切回训练时,系统会无缝迁移正在运行的Agent的KV Cache,而不是强行掐断任务。

模块化计算单元在采样与训练间切换角色,并迁移正在运行的任务缓存(剖面示意)
模块化计算单元在采样与训练间切换角色,并迁移正在运行的任务缓存(剖面示意)

第二是分支轨迹重构与进度剪枝。超长周期的探索会生成大量冗余路径,QwenGyre通过评估中间进度,对低效轨迹进行修剪,将保留的轨迹数量限制为5条。在Qwen 3.6 122B模型的前向与反向传播测试中,这一剪枝策略直接将计算耗时降低了25.2%,显著减轻了反向传播阶段的显存压力。

Qwen 3.8 2.4T 模型 48步训练实测耗时 (192节点) Async 基线 134.55 小时 Colocate 基线 91.47 小时 QwenGyre 75.42 小时 (1.78× 加速) 评估通过率:基线 52.48% → QwenGyre 58.54%

在实测数据上,阿里拿出了大规模工程验证。在192个节点的集群规模下,针对Qwen 3.8 2.4T模型执行48步NL2RepoBench训练,Async基线耗时134.55小时,Colocate基线耗时91.47小时,而QwenGyre仅用75.42小时完成。对比Async取得1.78×加速比,对比Colocate加速1.21×,评估通过率也从52.48%提升至58.54%。

在Qwen 3.6 122B模型的测试中,这套弹性架构同样跑出优势:面对DeepSWE软件工程基准,相对Colocate获得1.610到1.824倍加速;在TerminalBench上取得1.809到1.849倍加速。即使对比Async基线,加速比也稳定在1.383到1.572倍之间。


狂欢之外:重资产护城河与工程考量

亮眼的数据背后,藏着一套普通团队完全碰不起的算力门槛。

支撑弹性调度的前提,是普通团队难以企及的百节点级超大规模重资产集群
支撑弹性调度的前提,是普通团队难以企及的百节点级超大规模重资产集群
动态切片与无缝迁移看着轻盈,前提是你得拥有挥霍百级别节点的重型底座。

论文呈现的1.78倍加速,对比的是阿里自建的Async与Colocate调度基线,而不是深度打磨过的第三方工业开源框架。更关键的是,QwenGyre的调度优雅性建立在足够多的GPU Cell上。一旦放进显卡有限的中小规模集群,Cell根本切不开,KV Cache在节点间跳跃的开销甚至可能反噬训练收益。

  • 风险.截至2026年10月12日,无论是GitHub还是qwen.ai,均未检索到开源代码仓库,亦无第三方复现与独立基准测试记录;且流式突发采样机制难以在训练前完成全局Minibatch Shuffle,数据输入顺序偏差对泛化性的影响仍待剥离。

大模型从单轮问答卷向长程Agent,算力博弈的主战场正在从纯参数缩放转向极其复杂的系统工程调度。QwenGyre确实把大集群上的长任务闲置问题切开了一道口子,但在代码公开、第三方复现落地之前,它更像是阿里展示重资产工程底气的一纸答卷。