千问公开Agent训练框架:不加卡,训练效率提升78%

千问公开Agent训练框架:不加卡,训练效率提升78%

AI 资讯 来源:新闻/公众号 发布时间:2026-10-17 08:25:30 预计阅读 4 分钟

GPU不够烧,但AI要啃的任务却越来越长,模型迭代稍慢一步就可能被同行甩下。千问交出答卷QwenGyre:同等GPU预算下,将原本需135小时的48步强化学习训练压缩到75小时,省下近60小时,训练效率提升78%。

千问Agent训练框架公开!不多加一张卡,训练效率提升78%

问题出在超长程任务(xLong-horizon)上。让AI独立完成全自动软件开发,一次rollout需连续交互几百次,上下文动辄累积100万token。这带来两个麻烦:一是Agent交卷时间参差不齐,传统Colocate模式下GPU集群必须等最慢任务完成才能统一切换训练,算力利用率暴跌;Async异步分离模式则导致训练GPU经常断粮、推理GPU过载。二是工作记录不断分叉,成熟黑盒Agent框架会做历史压缩、派生子Agent、失败重试,留下枝繁叶茂的轨迹树,策略优化时全展开会显存爆炸,超时任务判0分又太冤枉。

千问Agent训练框架公开!不多加一张卡,训练效率提升78%

QwenGyre重构系统,设弹性调度器和轨迹处理器。调度上,将GPU集群切成可独立切换角色的计算单元,排第一的Core Cell掌握优化器状态和权威模型权重,其余为Satellite Cells。通过水位线监控机制,未完成任务跌破阈值时,空闲Cell无需等待即可就地转训练。团队发现推理与训练波峰波谷正好错开,便让同一批GPU灵活换班,用训练高峰填平推理低谷。切换采用无损迁移:请求透明重路由、RDMA极速搬运KV-Cache,推理切训练平均8.52秒,训练切回推理仅3.46秒。训练侧采用流式训练,Core Cell不必等大Batch集齐,Satellite Cell可动态插队加入,同一时间点完成参数更新。

千问Agent训练框架公开!不多加一张卡,训练效率提升78%

数据处理上:TITO精确记录每次模型调用的原始token与行为概率,所有分叉路径合并成前缀树,公共前缀只存一份、只算一次损失;对超时未跑通的任务,评估器对已生成代码做局部评估给出过程分,而非直接判0;按角色优先级采样,主Agent主线>主Agent总结>子Agent任务>子Agent总结,每任务默认最多挑5条轨迹;严格打mask,只有模型自己吐出的token算loss,损失在任务内部平均,避免分叉多权重大的偏置。

实战中,团队在Qwen 3.6 122B做消融对比,并将方案推到旗舰模型Qwen 3.8 2.4T,评测NL2RepoBench、DeepSWE、TerminalBench,Agent外壳统一用Claude Code 2.1.220。NL2RepoBench中超61.1%查询耗时4小时以上,最长任务超时率38.2%。完成48步强化学习训练,传统Async方案跑了134.55小时。

标签: AI 资讯 AI

更多推荐阅读

被称“最无聊机器人”的Dyna,靠叠衣服找到机器人Scaling Law

被称“最无聊机器人”的Dyna,靠叠衣服找到机器人Scaling Law

《纽约邮报》曾称Dyna Robotics为“全世界最无聊的机器人”,而公司创始人认为这是“对一家机器人公司最高的赞美”。Dyna-1主攻叠毛巾、叠衣服;新发布的Dyna-2让机器人Taku进入洗衣房,完成放脏衣服、操作洗衣机、取出送烘干机、折叠放架等流程。联合创始人Jason Ma表示,机器人真正开始工作本就应是“无聊”的,真实部署是衡量机器人的“唯一评估”;机器人不能落地,不是因为没有腿或手,...

2026-10-20 09:48:01
前剪映负责人做视频Agent获千万美元融资

前剪映负责人做视频Agent获千万美元融资

视频Agent赛道出现新玩家Pexo,与采用画布工作流的产品不同,Pexo将剪辑和视频整合在产品中,支持用自然语言对话创作视频。公司已获千万美元天使轮融资,此前于2025年10月获得数百万美元投资。创始人廖谦曾任生数科技产品副总裁、Vidu产品负责人,也曾在腾讯、字节跳动任职,从技术研发转向AI产品与商业化,先后从0到1搭建火山引擎智能创作云,并在剪映/CapCut发起海外AI内容平台Pippit...

2026-10-20 09:26:14
DeepSeek搜索卷起来后,前负责人创业做全网捞人

DeepSeek搜索卷起来后,前负责人创业做全网捞人

近日,DeepSeek开放了自研网页搜索接口,披露该引擎每天处理全球数亿次请求,已收录千亿级网页,正将搜索能力开放给更多开发者。 在搜索对象中,人物信息最为特殊,难点在于把零散线索拼到同一个人身上。Simplex AI创始人张博曾任DeepSeek-VL项目负责人,其团队推出的Lev8主要面向GTM,人物搜索是流程起点。用户用自然语言描述目标,系统即寻找符合条件的对象,结合公开资料判断匹配度,生...

2026-10-20 08:09:15
蚂蚁领投!清华系AI创企熵简科技完成C轮融资

蚂蚁领投!清华系AI创企熵简科技完成C轮融资

智东西10月19日消息,北京AI金融创企熵简科技宣布完成C轮融资,由蚂蚁集团领投,东方国信与乔贝资本跟投。融资后,蚂蚁集团将与熵简科技在AI金融智能体研发、AI金融垂域模型训练等领域展开深度合作。 熵简科技成立于2017年,主要依托大数据、云计算、人工智能等技术,打造全资产、全流程的端到端智能资产管理平台。公司名称源自热力学第二定律中度量系统混沌程度的“熵”,“熵简”寓意通过AI降低金融投研的复...

2026-10-20 09:26:26
Anthropic预言奇点已至:2030年美国GDP或飙至44万亿美元

Anthropic预言奇点已至:2030年美国GDP或飙至44万亿美元

在曼谷举行的国际货币基金组织佩尔·雅各布森讲座上,Anthropic联合创始人Jack Clark提出判断称“奇点已经到来”,即技术进步速度已甩开人类理解和跟进的能力。他预测,在奇点驱动下,到2030年美国GDP将升至44万亿美元。按常规推演,该数字为33.5万亿美元,奇点带来15.4%的额外GDP,平均每年约6%的GDP增长;到2030年前后,累积生产率提升与资本积累将把美国年化经济增长率推高至...

2026-10-20 08:36:21
港科大CMU联手开源新模型:KV Cache砍掉99%,单卡吞吐飙6倍

港科大CMU联手开源新模型:KV Cache砍掉99%,单卡吞吐飙6倍

谷歌一篇论文提到KV Cache至少能压缩6倍,曾引发美光等存储芯片巨头股价下跌。几个月后,岩山科技旗下岩芯矩阵联合港科大、CMU等高校发布并开源EdgeRock-4B,对KV Cache的处理更进一步:上下文从4K扩展到256K,KV Cache占用始终固定在72MiB,相比源模型减少99.1%。一张80GB显卡可同时跑512路长推理,输出吞吐达12124 tokens/s,是源模型的6.42倍...

2026-10-20 23:25:26
订阅
关注

扫码关注公众号「60秒看懂AI」

扫码关注公众号 60秒看懂AI

微信搜索「60秒看懂AI」也可关注

顶部