奥特曼：谁来决定AI该比人类聪明多少？

在11月3日发布的Raj Shamani访谈中，OpenAI CEO奥特曼主动提出：AI究竟该被允许比人类聪明多少？

评估机构METR用“人类专家所需工时”衡量AI有五成把握独立完成的软件任务长度。2025年初约50分钟，到2026年4月已超16小时。增长速度也在加快：2019年至2025年初约每7个月翻一番；2026年5月报告发现，只看2024年以来发布的前沿模型，约每105天翻一番。人类方面，20世纪智商测试成绩平均每十年涨约3分，即“弗林效应”，但已出现逆转迹象：挪威研究者分析约73万份征兵智商测试，发现1975年以后出生的人分数下降，相当于每代人少约7分；弗林本人也在英国青少年身上看到类似下滑。

两把尺子不能直接算出“智力鸿沟”，但问题已摆在眼前：AI能接手的工作越来越多，人类看懂、核查、管住它的能力也得跟上。平时用AI写代码、查资料、改方案，它聪明半步是“外挂”；一旦聪明太多，人甚至失去挑错能力，只能依赖工具和他人验证。

奥特曼坦言，打造超级智能的代价已体现在生活中：刚做OpenAI时生活轻松、满身爱好，如今日程精确排满，很久没做过随性的事。他强调OpenAI的技术将深刻影响社会，责任重大、赌注极高。进入递归自我改进（RSI）过程中，需同时防范两类风险：人类失去对AI的控制；权力过度集中在某个人、某家公司或某个国家手中。

GPT-4训完后，OpenAI曾押上公司命运狂囤算力，逻辑是“大力出奇迹”。但谈到RSI，奥特曼的追问背后多了一个最难提速的变量：人脑消化AI产出的速度。跟不上，智力鸿沟只会越拉越大。RSI即让AI研发下一代AI，造出更强AI后再接管更多研发，像滚雪球一样自己推自己跑。OpenAI在9月21日文章中划出安全线：完全自主的RSI今天还没发生，在能确保安全前不该硬闯；要不要往前走、怎么走，得看人类是否能保住控制权。但要守住安全线，还得缩小“速度差”：AI提出的新方案，人类验证要跟得上。若系统24小时抛出成百上千个算法改进，人类还没弄清上一轮影响，下一轮实验已开始，只看跑分放行，人工审核就可能沦为走过场。人还在流程里，控制权却未必在手里。

奥特曼在直播中追问的治理、监测和对齐，要落到实处绕不过三个问题：谁来评估？谁来复核？谁有权改方向？OpenAI在9月21日文章中还提出，对齐研究及其实际应用需走在能力增长前面。10月，奥特曼在Matthew Berman访谈中进一步表示，RSI推进速度需要某种“限速”。这些讨论没有给出具体智力上限，也没有完整限速方案，但往后衡量AI进步，不能只算“能力涨了多少”，还得算“人类来不来得及插手”这第二本安全账。

10月29日，OpenAI把前沿模型分层监测机制摆上台面，像层层加码的机场安检，用AI盯AI：第一层用轻量探针实时扫描模型内部激活信号，宁可错杀；第二层派模型翻看智能体对话、思维链和工具调用，揪出撒谎、越权、钻评测空子；第三层交给调查智能体回溯上下文、还原现场，必要时拉进隔离沙箱跑代码取证。训练、评测和内部Codex等高危核心区还有第四层“底线哨兵”，核对网络日志和系统记录，拍板是否叫醒人类。问题在于模型可7×24小时连轴转，人类安全值班却分工作和下班。OpenAI承认误报太多，做不到所有任务全天候叫人，于是让部分关键警报直接熔断暂停任务，并推进30分钟兜底机制：警报响起30分钟内没人排除，相关活动强制停机。

退一步讲，哪怕模型不失控，人类仍可能掉进权力过度集中的深坑。奥特曼提到两种近乎“卡通式”的坏结局：失控，人类有意或无意把未来交接给远比自己强大的系统，再也收不回来；集中，某个人、某家公司借AI获得碾压其他所有人的力量。他甚至表态：如果只有OpenAI一家掌握这种技术，同样不是好事，应让多家AI机构各走各路、同台竞争。落到普通人和开发者头上，是选择权问题：模型厂商太霸道能不能换？规则伤到自己有没有地方讲理？AI接管工作越多，选择权越重要。但巨头竞争不会自动带来安全，真正试金石是开放透明：外部的人能不能随时掀开AI“引擎盖”查验。查验规则也要写明：能力跨过哪条红线必须触发人工复核？独立评估方进场能看到多深训练底牌？发现苗头不对谁有权按暂停键？这些答案不能只由实验室关起门来定。

访谈尾声，奥特曼谈起最想造的东西：一台帮人类发现新科学的机器。近期AI在数学上的突破让他觉得这个里程碑比预想更快，他畅想AI帮人类捅破物理学窗户纸，找出全新疗法和清洁能源。他说最近一次心跳加速，是宣布Navier-Stokes方程相关成果前夕。可也正是这个成果，量出了AI与人类最尴尬的时间差：据OpenAI披露，AI跑出结果只花约88小时；人类顶尖数学家接手核对至今已快两个月，仍无法给出定论。没经过验证的突破，在科学上等于零，