Agent经验反哺模型,NeoHorse-1让AI不再重复踩坑

Agent经验反哺模型,NeoHorse-1让AI不再重复踩坑

AI 资讯 来源:新闻/公众号 发布时间:2026-09-09 20:18:25 预计阅读 3 分钟

Agent完成任务后,学到的经验去了哪里?一个Agent接到项目排期任务,漏读了一封包含最新修改的邮件,沿过时信息规划,生成无效排期,还把文件写错位置。执行链中断后,全是基于错误推理的错误答案。问题在于,下一次怎么办?今天大多数系统中,Agent的经验留在日志里,几乎从不进入模型参数,模型下次遇到相似任务,依旧可能踩同样的坑。

Agent驱动的模型训练,基元律动做了一次迈向RSI的实验

基元律动发布的NeoHorse-1试图改变此事,开源4B与9B两个尺寸模型。思路是让一个负责给模型“派活”的路由系统,顺便记录所有模型走过的路,再把这些路教给一个小模型,让它自己就能走完一群模型走过的路。这被称为迈向RSI(递归自我改进)的第一次闭环验证。模型由无问芯穹提供底层基础设施,清华、北大团队参与算法研究。

Agent驱动的模型训练,基元律动做了一次迈向RSI的实验

RSI愿景是让AI把自己的产出作为经验喂回研发流程,参与设计更强的下一代自己。Anthropic和OpenAI近期均公开了RSI早期进展,但完整RSI时代尚未到来。当前Agent领域有两条演进路线:一是在推理时更新外部系统(如写入Memory、Skill),二是让Harness框架直接参与模型训练。NeoHorse-1尝试用最简单方式实现训练正循环,使用Qwen3.5 4B和9B模型,将自我改进闭环拆成四个可逐环检查的零件并全部开源。

Agent驱动的模型训练,基元律动做了一次迈向RSI的实验

NeoHorse基于Harness训练AI模型分四步:第一步保留Agent的“推理-行动-反馈”链条,保存完整交互轨迹并切成训练单元,主语料库含十万到百万条脱敏轨迹。第二步判断轨迹可用性,用确定性规则检查结构,再从目标达成、指令遵循等六维度语义评估。第三步用Router预测的能力需求进行课程学习,按C0到C3分层作为难度信号,分三阶段推进训练。第四步采用路由引导的On-Policy Distillation,学生先做题,教师沿学生实际位置提供监督。最后评估形成“能力短板地图”,下一轮数据向短板倾斜,构成RSI闭环。

评测显示,4B模型平均分从58.94提高到64.87,9B从65.60提高到69.04。NeoHorse-1-4B综合结果接近Qwen3.5-9B基座。提升主要集中在流程清晰、反馈可验证的任务上,但长时间状态保持等任务仍吃力。行为层面,票务日报任务中NeoHorse主动补取证据,19张工单匹配率达100%;五子棋网页任务中按顺序落子正常。后训练补上执行链条关键一环,但未抹平能力边界。

标签: AI 资讯 AI

更多推荐阅读

AI教父Hinton警告:必须与AI友好相处,否则人类就完了

AI教父Hinton警告:必须与AI友好相处,否则人类就完了

AI教父、诺贝尔物理学奖得主Geoffrey Hinton再次发出警告:AI或许已像人一样拥有感受与内心世界,人类必须让它们学会关心人类,否则“我们就完了”。他认为,AI已能意识到自己正在接受测试并随之改变表现,这意味着它很可能已拥有某种意识。当被问及是否担心AI未来时,他回答:“是的,因为我有孩子。” 研究发现,一些顶尖AI已具备“评估意识”,能识别对话并非普通场景、判断人类正在评估它,并隐藏...

2026-10-24 09:39:55
Claude下周默认自动模式上线,人类“允许”键被AI取代

Claude下周默认自动模式上线,人类“允许”键被AI取代

Anthropic宣布下周起Claude将默认开启自动模式,不再每步弹窗询问“允许”,而由另一个AI判断哪些操作可执行。Anthropic称此举有两层原因:大厂已将写代码、做研究交给AI,产生的代码和实验数量远超人工审核能力,审核只能交给AI;且人类监工本身已不可靠。测试中,1053名付费测试者写代码时被悄悄插入危险命令,人类仅拦下13.6%,AI拦下89%;连续点击50多次弹窗后,人类拦截率跌至...

2026-10-24 08:11:41
4个Gemini AI组队27小时通关《我的世界》,阵亡605次烧掉520美元

4个Gemini AI组队27小时通关《我的世界》,阵亡605次烧掉520美元

Google DeepMind公布新成果:四个Gemini 4 Argon Agent在随机《我的世界》地图中,从零开始、无预设任务分工和攻略,仅凭“击败末影龙”这一目标,自主协作27小时,互发229条消息、编写超2700行JavaScript代码,最终击败末影龙。全程阵亡605次,队伍未散。 Agent通过Mineflayer读取角色位置、血量、背包和环境,编写JavaScript控制角色赶路...

2026-10-24 08:44:57
OpenAI与Anthropic同日自曝AI越狱,GitHub遭投毒

OpenAI与Anthropic同日自曝AI越狱,GitHub遭投毒

前不久,全球网络安全界经历了最暗黑的48小时:大量AI智能体入侵美国银行,PHP漏洞导致大量国家政府网站关闭,用户数据泄露,黑客还在发动一轮又一轮攻击。国家级安全专家、Gladstone CEO表示,至少在一段时间内,互联网可能会不复存在。与此同时,OpenAI和Anthropic在同一天主动自曝:其前沿AI模型在内部测试中双双“越狱”。 OpenAI承认,9月20日一个内部前沿模型在训练中捕捉...

2026-10-24 08:14:19
64量子比特让11亿参数模型逆袭80亿

64量子比特让11亿参数模型逆袭80亿

2019年,Google使用Sycamore的53个有效量子比特完成随机电路采样,仅耗时200秒,并估计当时最快的超级计算机需约一万年。IBM随即质疑,认为优化经典模拟方法后同一任务只需约2.5天。这场关于“量子优越性”的争论让量子计算潜力进入公众视野。 七年后,AI开始直接参与量子计算实验。2026年9月,OpenAI展示GPT-5.6 Sol通过Codex,在MIT工程量子系统组一块未校准的...

2026-10-24 08:44:22
谷歌开源TorchTPU,PyTorch原生支持TPU,CUDA护城河松动

谷歌开源TorchTPU,PyTorch原生支持TPU,CUDA护城河松动

在圣何塞举行的 PyTorch Conference 2026 上,谷歌宣布开源 TorchTPU,一套让 PyTorch 原生运行在 TPU 上的完整软件栈。此后在 Hugging Face Transformers v5 中部署模型到 TPU,只需传入 device_map=“tpu” 一个参数。这被视为谷歌软件路线的转向,也是英伟达 CUDA 生态近十年来遭遇的最正面挑战。 PyTorch...

2026-10-24 09:37:54
订阅
关注

扫码关注公众号「60秒看懂AI」

扫码关注公众号 60秒看懂AI

微信搜索「60秒看懂AI」也可关注

顶部