奥特曼预判AI三种终局：最坏可瘫痪对手GPU

据《The Information》报道，OpenAI 首席执行官萨姆・奥特曼在内部员工会议上提出 AI 竞赛的三种可能终局：成立全球性监管机构；顶级实验室合并为一；某家公司率先突破关键技术，甚至有能力让竞争对手的硬件陷入瘫痪。奥特曼直言最后一种是“糟糕透顶”的结局。

第一条路径是建立类似国际原子能机构（IAEA）的全球监管组织，对最先进 AI 系统进行监督，制定统一安全标准，并要求开发企业接受独立审查。2023 年 5 月，奥特曼曾与 Greg Brockman、Ilya Sutskever 共同发表《超智能治理》一文，提出未来可能需要建立类似 IAEA 的国际机构，对达到特定能力或算力门槛的 AI 开发活动实施监管，包括系统检查、安全审计、合规测试，以及算力和能源消耗监测。但 AI 已成为各国重点投入的战略技术，国际监管涉及技术保密、国家安全和产业竞争，各国能否接受统一规则仍存在很大不确定性。

第二条路径是全球领先 AI 实验室可能最终合并为一家机构，奥特曼称之为“Demis 方案”。Demis Hassabis 曾提出，AI 研究可借鉴欧洲核子研究中心（CERN）模式，由多个国家共同建设和管理一个大型研究机构。若头部 AI 公司由同一组织统一管理，可共享安全标准和实践经验，避免各家公司为抢先发布产品而不断加快研发速度。但最先进模型、人才和算力全部集中到一个组织，该机构将拥有巨大技术和经济影响力，如何避免权力过度集中又成为新难题。

第三条赢者通吃路径被奥特曼称为“Eliezer 方案”，是 AI 安全研究者 Eliezer Yudkowsky 提出的一类极端设想。Yudkowsky 长期警告失控的超级智能可能给人类带来生存风险，曾主张率先掌握超级智能的一方需要采取决定性行动，阻止其他组织开发潜在危险的超级智能系统。奥特曼将其与递归自我改进（RSI）联系起来。RSI 指 AI 能够参与改进自身的模型架构、训练方法或开发流程，升级后的 AI 又能继续提高这些能力，形成持续自我改进循环。一旦这种机制达到足够高的自主化程度，AI 研发速度可能明显加快。如果某家公司率先突破 RSI，就可能迅速建立其他竞争对手难以追赶的技术优势，最终形成市场垄断。在最极端情况下，这家公司甚至可能拥有干扰或破坏竞争对手 GPU 的能力。奥特曼明确反对这种将先进 AI 集中在单一企业手中的结局。

这次内部讨论延续了奥特曼此前一贯关注的问题。2026 年 9 月中旬，他曾公开指出先进 AI 可能带来两大主要风险：人类失去对 AI 系统的控制，以及 AI 权力集中在少数组织手中。他强调必须避免 AI 发展走向上述任何一种结果，表示 OpenAI 应当站在全人类立场上，而不能只服务于某家公司或某个利益集团，并呼吁建立更严格的 AI 安全协议，对先进 AI 系统开展独立评估。这一立场与 Anthropic CEO 达里奥・阿莫迪的部分观点一致。然而，奥特曼也在内部承认，OpenAI 目前无法轻易放弃与竞争对手争夺技术领先地位。