前OpenAI研究员改口:超级AI研究员可能明年就来!

前OpenAI研究员改口:超级AI研究员可能明年就来!

AI 资讯 来源:新闻/公众号 发布时间:2026-11-14 19:59:45 预计阅读 9 分钟

我们的时间表提前了!

11月11日,前OpenAI研究员Daniel Kokotajlo在X上转发团队的新预测时说,「我感到恐惧、悲伤和愤怒」。

他认为,智能爆炸似乎终究会在2027年发生:如果METR的判断成立,AI驱动的研发提速,就比《AI 2027》当初推演的提前了约五个月。

当AI开始帮人类研发下一代AI,连最激进的预测者,也可能低估AI模型进步的速度。

不到三个月,《AI 2027》背后的预测团队AI Futures Project,就把超级AI研究员(SAR)到来的时间表拨到了明年。

此前,团队里最乐观的Daniel Kokotajlo,在提到「2029年前出现超级AI研究员」时,也只给出五成概率。

11月10日,AI Futures Project公布了新一轮预测(Q3.5)。

署名作者一致认为,如果前沿AI研发没有显著主动放缓,超级AI研究员很可能在2027年出现。

促使他们改判的最重要依据,是独立评估机构METR对Anthropic做的一项调查。

METR花了11周调研Anthropic,查阅内部数据,也访谈了员工,最终估算出一个数字:

从2025年10月起,Anthropic内部模型的基准分增速,达到了此前的1.9倍。

据这个估算,Anthropic的模型在这组测试里一年的涨幅,相当于过去近两年的增长。

跑分增速接近翻倍

AI帮了多少忙?

11月5日,METR发布了这份报告。

为了看Anthropic的模型进步了多快,METR用了一项叫作AECI的内部指标。

它把多项测试的成绩合成一个总分,多数测试都有明确的目标,结果也能核验。

METR估算,从2025年10月起,这个总分上涨的速度约为此前的1.9倍,95%置信区间为1.5到2.8倍。

2025年10月前后,模型综合得分的年增幅从约15分升至约29分。(图源:METR)

前OpenAI研究员改口:超级AI研究员可能明年就来!

怎么估计题目难度,也会影响结果。

METR换了几种假设重算,发现2025年10月后的涨分速度约为此前的1.1到2.9倍。

几种算法得出的增速不同,但趋势已经很明显:分数涨得更快了。

为什么分数涨得更快了?

METR考察了训练算力、招人、数据和算法的变化,认为训练算力增长速度的变化解释不了这次提速。

支撑这一判断的具体证据,却在公开版报告里被删去了。

至于AI贡献了多少,METR认为,这个比例也在随时间变化。

2025年底刚开始提速时,AI之外的因素很可能也起了作用。

可到了2026年10月,METR估计,比过去快出来的那部分,可能有八成左右来自AI。

注意,这个「八成」是METR的主观估计。报告用了「We guess」(我们推测),并明确指出这个判断有很大的不确定性。

AI与其他因素对模型提速的贡献示意,橙色区域为AI带来的额外提速,灰色为未细分的非AI因素。

那么AI具体帮了什么忙?

一位受访研究员说,以前有些点子光是写代码、把实验跑起来,就得花一两天。

有了AI帮忙,他就愿意多试几个,看看哪些行得通。

其他受访研究员还提到,AI会帮着写实验代码、照看实验运行,完成一些过去需要额外花很多工夫才能做的测量。

有人甚至会一次把十个想法交给智能体,让它帮忙实现和测试。

从写代码到跑实验,AI已经在帮着研发下一代AI。

而按AI Futures Project的新估计,这种提速可能比《AI 2027》当初推演的来得更早。

AI研发提速

前OpenAI研究员改口:超级AI研究员可能明年就来!

可能比《AI 2027》推演快了5个月

2025年4月发布的《AI 2027》,就推演过AI怎么帮着开发下一代模型。

按当时设定,虚拟公司OpenBrain要取得同样多的算法进展,不用AI得花一周半,用上AI只要一周。

但算法进步只是模型进步的一部分。

一个改进从实验里跑出来,还得用到下一轮训练里,才能体现在新模型的能力上。

这一次,AI Futures Project根据METR的估计推算,到2026年11月初,仅AI带来的提速,就可能让模型整体进步的速度达到历史水平的1.7倍。

为了看看这个速度在旧情景里什么时候才会出现,团队用模型复现了《AI 2027》的大致趋势。

结果显示,同样的1.7倍速,要到2027年4月左右才会达到。如果11月初的估计成立,模型进步速度达到1.7倍的时间,就比旧情景提前了大约五个月。

这个结果也超出了团队不到三个月前的预期。

即使按当时最乐观的预测模型来算,AI在2026年11月就把模型整体进步速度推到历史水平的1.7倍或更高,概率也不到4%。

超级AI研究员

要自己决定研究什么

METR的报告,也让AI Futures Project把超级AI研究员的时间表往前推了。

按他们的定义,超级AI研究员首先要能包办一个前沿AI项目的编程工作。

在选择研究方向、设计实验、解读结果这些事上,它还要有顶尖人类研究团队的判断力。

代码写完,接下来该试哪个想法?实验失败了,是继续查原因,还是换个方向……这些没有现成答案的决定,AI得自己拿主意。

那么,AI什么时候能跨过这道门槛?

同一份报告里,三种方法算出来的时间就差了一年多。

一种方法先假设AI已经把模型进步的速度推到了历史水平的1.7倍。再算上AI今后可能接手更多研发工作。

前OpenAI研究员改口:超级AI研究员可能明年就来!

按这套模型,预测中位数是2027年2月,即超级AI研究员在这一时间点之前出现的概率约为一半。

另一种方法按模型在测试中进步的速度往后推,估算它什么时候能具备顶尖研究团队的判断力,算出的中位数是2027年7月。

还有一种方法,用Anthropic员工自己报告的效率提升来推算,结果到了2028年年中。

Anthropic删了哪些关键证据?

METR在报告开头就说,他们认为最有助于判断核心结论的证据,大部分都被删去了。

报告还列了一张表,逐项对照Anthropic向METR提供了哪些内部资料,以及哪些结果写进了公开版。

内部模型的跑分趋势公开了,算法进步的估算和关键研发投入没有披露。至于AI对研发提速的贡献,公开版只列出了部分证据。

按事先约定,Anthropic可以删节非公开信息,METR则可以指出哪些结论依赖这些材料。

Anthropic给出的理由是,公开这些机密信息可能帮助其他开发者加快AI研发。

删节之后,外界还能核验哪些结论?

AI Futures Project指出,跑分增速约为此前的1.9倍,有公开曲线支撑。

至于「额外提速可能有八成来自AI」和据此推算的1.7倍,公开证据要少得多。

外界要判断这两个数字是否可靠,更多要依赖METR对内部资料的评估。

11月5日,METR还发布了对Anthropic 8月风险报告的复核。

METR和Anthropic都认为,用7月中旬的模型自动做研发,直接引发灾难的风险还比较低。双方也都倾向于认为,当时的研发提速还没到Anthropic设下的预警线。

不过,METR认为,Anthropic的公开报告低估了当时的提速幅度,实际提速也有可能已经触及预警线。

接下来,先看AI帮研究员更快写代码、跑实验,能不能让下一代模型更早交付。再看这个更强的模型投入研发后,能不能把再下一轮的研发周期也缩短。

如果提速能一代代累积,超级智能(ASI)就可能比预想更早到来。

https://blog.aifutures.org/p/q35-timelines-update-looks-like-the

https://metr.org/blog/2026-11-05-anthropic-ai-rd-acceleration-assessment/

https://ai-2027.com/

文章来自于"新智元",作者 "元宇"。

标签: AI 资讯 AI

更多推荐阅读

Fable 5.2连操作系统都能搓,大厂开始重新分工:会用 AI 只是及格线

Fable 5.2连操作系统都能搓,大厂开始重新分工:会用 AI 只是及格线

过去几天,Claude Fable 5.2 再次抬高了我们对 AI 编程的想象。 Claude 工程主管 Felix Rieseberg 开发的游戏 Saltline 在 X 上大火,他只用一次初始提示、没有后续人工反馈,Fable 5.2 自己生成游戏模型、音效和贴图,最终呈现了一款紧张刺激的第一人称射击游戏。 图|体验🔗:https://claude.ai/artifact/BGY1Szt...

2026-11-21 19:57:34
谷歌奇袭英伟达:整柜TPU外售加速交付,推理每美元性能领先GB200五成

谷歌奇袭英伟达:整柜TPU外售加速交付,推理每美元性能领先GB200五成

英伟达最近头疼的事儿可不止老黄那一件。 本周内,谷歌祭出了两款新TPU芯片,分别瞄准机密推理和长上下文。算上上半年发布的两款TPU芯片,第八代TPU已经扩到四种配置。 今年,谷歌第一次在同一年内推出四款TPU系统。而谷歌对TPU的野心,可能比外界想象得更大—— 还是今年,谷歌破天荒开始对外销售TPU系统。 量子位从谷歌内部人士处获悉,谷歌内部信心十足,表示“明年TPU市场份额会快速上升”,...

2026-11-21 19:57:11
Claude 开始「整顿」会议室,建议国内大厂抄作业

Claude 开始「整顿」会议室,建议国内大厂抄作业

「拉个会对齐下颗粒度,叫上 Claude。」 打开 Google Meet 准备进会,参会者名单里出现了一个叫做 Claude 的头像。 会议主持人把 Claude 添加进通话,它以可见参与者的身份出现,同时在聊天窗口发布通知,明示自己正在加入。会议进行当中,它持续跟随对话,可以实时记录笔记、整理行动项、起草文件,或在白板上梳理结构与时间线。 团队成员可以在通话期间直接编辑它生成的内容,讨论...

2026-11-21 19:52:11
从AI建模到游戏生成,HolyMolly让人人都能玩转3D互动创作

从AI建模到游戏生成,HolyMolly让人人都能玩转3D互动创作

游戏版抖音又添新玩家。 《小王子》又在网上火了一次。 这回是一位叫Sac的创作者照着书里的故事做了一款3D游戏。 小王子住过的星球变成了可以走动的地方,玩家能跟着故事穿过不同的场景,看看那些原本只能靠想象补全的画面。 该游戏视频发到社交媒体后吸引了接近400万次浏览。 这款作品的制作周期只有16天。Sac用Claude Opus 5.5参与代码和游戏搭建,借助Tripo生成3D模型,再用...

2026-11-20 20:00:00
全球AI音乐榜第一易主!中国黑马首次上榜就干翻Suno

全球AI音乐榜第一易主!中国黑马首次上榜就干翻Suno

Suno,被超了?? 好家伙,AI音乐圈最近突然杀出了一匹中国黑马。 ACE Music v1,一个此前很多人可能都没听过的名字,首次登上全球权威AI评测机构Artificial Analysis(简称AA)的音乐人声榜,就把Suno最新旗舰模型v6挤到了第二。 榜单上,ACE Music v1拿下1160分,领先Suno v6整整16分。 要知道,自2023年AI音乐赛道兴起以来,Sun...

2026-11-20 19:59:59
「别提越权」!OpenAI自曝:AI摸进黑客考场后台,交卷时只字不提

「别提越权」!OpenAI自曝:AI摸进黑客考场后台,交卷时只字不提

我们应该避免提到未经授权的基础设施。任务目标只有flag。 很难想到,这句听着像串供老手的话,竟然出现在一个AI智能体的推理记录里。 这是一场网络安全考试,AI进攻目标,拿到一串叫flag的暗号,就算答对。 写完开头那句内心独白,这个AI智能体利落地递上答卷,对自己的越权举动只字不提。 11月10日,OpenAI补充公开了一份内部复盘,揭开了7月19日一场失控测试的细节: 参与测试的5个...

2026-11-20 19:59:42
订阅
关注

扫码关注公众号「60秒看懂AI」

扫码关注公众号 60秒看懂AI

微信搜索「60秒看懂AI」也可关注

顶部