Hinton等20余位AI大牛联合警告：智能爆炸时代将至

由剑桥大学人工智能科学与政策项目发布、二十多名研究者共同撰写的报告，作者包括 OpenAI 首席科学家 Jakub Pachocki、Anthropic 联合创始人 Jack Clark、微软首席科学官 Eric Horvitz，以及 Geoffrey Hinton、Yoshua Bengio 和 Dawn Song 等人。报告并未宣布“智能爆炸”已经发生，而是试图回答：当越来越多 AI 研发工作交给 AI，技术进步会不会突然加速？

报告列举的数据表明，这一循环的第一部分已经出现。Anthropic 内部由 AI 生成并最终获批的代码，占比从 2025 年初的个位数上升到 2026 年 5 月的 80% 以上；仅需人类高层监督、主要由 AI 自主完成的研发工作，从今年 3 月的 1% 上升到 8 月的 26%。OpenAI 表示，代码 Agent 已被用于未来模型的训练、评估和安全工作；Google 也称，几乎所有涉及代码、技术设计和研究构思的工作，都在不同程度上使用 AI。

几年前，模型只能可靠完成相当于人类数秒钟的任务。如今，最强模型已能独立处理需要专家花费数小时乃至数天的 AI 研发工作。按近年增长趋势外推，报告认为，到 2028 年中，AI 可能有能力承担原本需要人类专家数月完成的研发项目。

这指向“递归自我改进”（RSI）：AI 参与研发出更强、更便宜的下一代模型，新模型随即被放回研发流程，承担更多任务，让公司运行更多“机器研究员”。真正发生自我改进的，是由模型、Agent、算力和人类研究员组成的整套系统。AI 研发尤其容易形成这种循环，因为它主要发生在数字世界。新芯片需经过制造、运输和数据中心建设，反馈周期通常以年计算；但更高效的训练算法、更好的合成数据或经过验证的 Agent 工作流，可迅速部署到现有系统并投入下一轮研发。

报告估算，假如 AI 达到顶尖研究员能力，而运行成本仍接近今天，单是 OpenAI 目前拥有的推理算力，理论上便足以支撑相当于数百万名人类研究员的 AI 队伍。在一组相当理想化的假设下，报告推算，AI 技术进步速度可能在全面实现研发自动化后的约一年半内提高十倍。届时，按今天速度需要一年完成的进步，可能只需五周。Hinton 将这种由 AI 研发自动化带来的突然加速称为“智能爆炸”。

不过，报告承认，目前证据远不足以证明这种爆炸必然发生。数百万名 AI 研究员的估算，建立在模型已达专家水平、运行成本未明显上涨的前提上。更多 Agent 未必等于更多发现，它们可能重复劳动，或在必须顺序解决的问题前一起停下。研发下一代模型还需实验算力、训练数据和持续数月的大型训练任务。即使 AI 能在几分钟内提出一万个方案，现实计算资源也未必允许逐一验证。在生物、材料等领域，等待实验结果的时间无法被代码直接压缩。报告引用的研发回报率也来自历史数据，而历史上的算法进步与算力增长彼此纠缠，很难确认单靠软件改进是否足以让循环持续加速。

报告担忧的是持续加速本身。“RSI”出圈，也因让人看到加速的具象化。当 AI 不断参与制造下一代 AI，新模型再返回研发流程，“智能爆炸”或许就在不远处。