AI圈又造新词RSI，号称人类最后一个AI要来了

要论造词和包装概念，AI 圈要是自认第二，恐怕就没人敢称第一。前阵子 OpenAI 总裁格雷格·布罗克曼表示，GPT-6 Astra 已经摸到了 AGI 的门槛。结果 AGI 还没热议几天，AI 同行们又开始炒作下一个热词 RSI，即 Recursive Self Improvement，递归自我改进。简单理解就是，AI 自己写代码、跑实验、改训练流程，再传给下一代更强的新模型，一圈圈套娃下去，研发速度可能越来越快，最终超过人类理解和控制的速度。

伴随 RSI 出场的，还有语不惊人死不休的安全叙事。OpenAI 首席科学家 Jakub Pachocki 将 AI 描述为人类尚未充分理解的“异星心智”；Anthropic 的 CEO 达里奥·阿莫代伊警告说，更强智能体可能带来大规模网络攻击、失控和文明级风险。而忙着卖卡的黄仁勋则在 All-In 峰会上反驳：凭什么安全和创新只能二选一？同一条产业链上，一边喊踩刹车，一边猛踩油门。RSI 究竟是通往超级智能的入口，还是被精心包装出来的恐慌生意？

RSI 的思想源头可追溯到 1965 年。英国数学家 I.J. Good 提出，如果一台机器能超越人类智力活动，那么设计机器也应在它的能力范围内，它可以设计出比自己更聪明的机器，后者再继续改进下一代，机器智能由此进入不断加速的正反馈循环，Good 称之为“智能爆炸”。今天，AGI 关注 AI 能否完成与人类相当的通用认知工作，RSI 则关心 AI 能否改变产生这些能力的系统，并让下一轮改进更有效。比如会检查自己的答案只算自我修正，能改进研发方法并把有效变化交给后继系统使用，才开始触及递归自我改进。

近期，上海交通大学、清华大学、字节跳动、上海人工智能实验室等机构合作的预印本《The Last AI Built by Humans》，将 RSI 自主性划分为 L1 至 L5 五个层级。L1 执行人类给出的改进方案，L2 自主寻找改进策略，L3 决定需要获取哪些经验，L4 能把部署环境中的反馈转化成持续保留的改动，到了 L5，改进机制本身也成为改进对象。在最激进设想中，AI 还将获得提出目标、修改评估方法和重写底层改进逻辑的能力。一旦走到这一步，人类制造的就不再只是一个模型，而是一套能继续制造模型的系统。

OpenAI 9 月 6 日公布的内部报告显示，已实现“自动化研究实习生”目标，这类系统能在人类指导下编写代码、运行实验、排查故障和分析结果。截至 8 月中旬，每投入一个人类工作日，OpenAI 研究部门智能体运行时长已相当于 3.1 个工作日。Anthropic 则把自动化推进到安全研究，Claude 可自己查文献、提方案、生成训练数据、运行实验和评估结果。最接近“AI 训练下一代 AI”的实验中，能力较弱的 Claude Sonnet 5 帮助早期 Claude Opus 4.8 改善安全表现，约 60 小时内测试 50 多种方案，最终只用约 2400 条训练样本，就把后者既定评测中的对齐成绩推到接近正式版水平。

除了爆改模型，还有一条更现实的 RSI 路子：在模型周边软件系统上打补丁。据 The Information 报道，北大校友翁荔重返 OpenAI 后将带队研究递归自我改进。她在技术博客中讨论的 Harness Engineering，正是理解当下 RSI 的入口。Harness 可理解为 AI 的运行系统，负责工具调用、上下文管理、记忆保存、任务分配、权限控制和结果检查。这些变化未必直接修改模型权重，却可能明显提升整个系统的工作能力。

对于在各类计算机认知工作中全面超过顶尖人类专家的超级人工智能 ASI，Thinking Machines 首席科学家 John Schulman 预测 3 至 4 年，Millidge 倾向于约 5 年，O'Neill 认为可能需要 5 至 10 年。分歧背后有几道技术难题：模型需不断吸收新经验又不能丢掉原有能力，更新过激可能“灾难性遗忘”，过保守又学不进新知识；更难自动化的是研究判断力，让 AI 优化代码成功标准明确，让它判断失败实验意味着方向错误还是值得继续探索则困难得多。真正的科学突破往往先提出全人类都没想过的怪问题，这种从“怎么做到”到“该做什么”的跨越，至今高度依赖人类直觉。

这轮末日风险争论的导火索，来自 9 月 8 日 Jacob Coxon 的辞职声明。他宣布从 Anthropic 辞职，称担心两家公司没有采取负责任行动，而是在竞相研发能自我提升的超级智能，拿全人类性命当赌注。声明浏览量很快超过 1.7 亿次，Anthropic 在职对齐科学负责人埃文·休宾格也公开附和。随后达里奥·阿莫代伊发文呼吁同行集体降速，给安全研究让出一到两年，并提出前沿 AI 公司应允许第三方评估机构常驻实验室。罕见的是，山姆·奥特曼、马斯克等也突然在减速问题上形成统一阵线。

只是，能承担高额安全审查成本的恰恰也是这些头部公司。它们拥有庞大安全团队、封闭数据中心和充足审计资源，开源社区和中小企业很难承担同等合规成本，这种安全叙事天然构成扼杀对手的壁垒。更值得关注的是，AI 风险如何评估、哪些能力需要限制、什么企业有资格训练下一代模型，这些关键规则