Hinton首篇RSI论文：AI自我改进会引爆智能爆炸吗

当AI开始参与研发下一代AI，人类可能已站到“智能爆炸”前夜。诺贝尔物理学奖、图灵奖得主Hinton的首篇RSI论文，研究的问题是：如果AI大规模参与造下一代AI，下一代AI再回来加速研发，一轮轮滚下去，会不会跑出智能爆炸曲线？论文名为《What if automating AI R&D triggers an intelligence explosion?》，22位作者包括Hinton、Bengio、Andrew Barto、OpenAI首席科学家Jakub Pachocki等。

核心观点是：一旦AI能完整参与造下一代AI，递归自我改进就可能真正闭环。AI研发自动化越过临界点后，几年才能完成的AI进步可能被压缩到几个月甚至更短；未来AI实验室研发规模理论上可能从几千人跳到数百万研究员；今天一年的AI进步，极端情况下未来可能只需约5周。智能爆炸未必需要AI先变成超级智能，只要AI研发自动化效率足够高，反馈循环就可能先启动。

论文引用Anthropic等内部数据：2025年1月AI生成获批代码仅低个位数比例，2026年5月已超80%；2026年3月Claude在高层监督下可自主完成约1%研发工作，同年8月升至26%，半年翻二十多倍。Anthropic强调Claude尚未在任何被测AI研发工作上达到完全无人监督。截至2026年9月，OpenAI内部AI系统已能经常完成原本人类需数天的研发任务。关键变化是AI能独立处理的任务长度持续增长。完整AI R&D包括提出假设、设计实验、实现、分析、定位失败、调整路线，任何单项自动化只是辅助，真正敏感的是串成长链。AI研发发生在数字环境，代码可直接执行，结果快速返回，指标立即验证，比化学生物制造少很多现实反馈环节。论文称这类路径为software-driven intelligence explosion。

AI研究员可复制，是与人最大的区别。若实验室有1000名顶尖研究员，开发出顶级人类AI研究员水平的Agent后，扩张团队不再受人才培养速度限制，可24小时工作，成千上万实例同时跑，底层模型更新则整支团队同步升级。论文引入“有效研发劳动力”概念，估算若AI达顶级研究员水平、推理成本与今天前沿模型类似，领先AI公司现有算力理论上可支撑至少数百万名顶级人类研究员等价的AI研发劳动力。但100万AI研究员不会自动带来1000倍研发速度，科研存在边际收益递减。论文关键变量是returns to research effort，记作r。引用三个AI研究子领域历史数据，r中心估计约1.2—1.9。假设AI研发全面自动化、研究回报维持、短期无算力数据瓶颈，AI技术进步速度可能约1.5年内提高10倍，即今天一年的进步届时只需约5周。若只维持当前软件效率改进趋势，自动化AI研发劳动力数月到数年可能扩大100倍，且数量与单员能力可同时推进。智能爆炸真正危险处在于：加速来源本身也在被加速。

但论文基调是，当前证据远不足以证明智能爆炸已闭环。