盖茨警告AI可致十亿人死亡,教皇痛批机器天堂
比尔·盖茨公开警告,怀有恶意者一旦使用最新AI工具,已完全具备引发“十亿人死亡”灾难事件的能力。这位曾经的科技乐观派彻底变调,高呼企业自律已经破产,AI必须由政府强制接管。同一天,教皇良十四世在出访法国首日,当着法国总统马克龙的面警告“机器天堂”正在侵蚀人类日常生活,若失去伦理约束,人类将彻底丢掉人性。科技界与宗教界达成空前共识,标志着AI安全议题已从实验室演变为迫在眉睫的全球政治与生存危机。
在NBC《与媒体见面》专访中,盖茨抛出论断:“人工智能当然已经强大到足以引发导致十亿人死亡的事件。”这一数字基于他对当前顶尖大模型能力的真实评估。盖茨指出当前AI发展的最大盲区:我们总在假设使用者是好人。“从来没有哪种武器,比心怀恶意的人加上最新AI工具更强大。”他警告,恐怖分子或极端组织掌握最新生成式AI后,可能引发生物风险、网络瘫痪、社会撕裂等灾难。过去研制超级病毒需顶尖P4实验室和数十年专家积累,现在一个懂基础生物学的疯子可能只需向未加限制的AI输入指令,就能获得绕过现有疫苗的致命病原体基因序列。AI可在几秒内发现全球关键基础设施的零日漏洞并发起自动化高频攻击。深度伪造技术生成的完美视频可能以假乱真,引发不可挽回的误判。梵蒂冈AI顾问Paolo Benanti指出,核武器能从物理上毁灭人类,而生成式AI操纵社交媒体内容的威力在于彻底摧毁人们共同生活的能力。当真假不再有界限,认知被算法精准操控,社会将四分五裂,文明会在内斗与猜忌中走向终结。盖茨口中的“十亿人死亡”是基于“恶意者+无限算力=无限破坏力”的恐怖方程。

盖茨毫不留情地扯下硅谷巨头的遮羞布。长久以来,OpenAI、谷歌、Meta等标榜“红队测试”“安全对齐机制”“自我监管”,但盖茨直言:“没人认为自我监管就够了。”他强烈呼吁执法部门和政界必须立即下场,参与制定安全护栏和监测机制,并用了一个极其沉重的词:“强制性”。这意味着现有“道德呼吁”和“行业准则”在巨大商业利益和军备竞赛面前不过是一张废纸,没有国家机器强制介入,AI失控只是时间问题。
盖茨态度呈现矛盾又清醒的状态。8月26日,他在个人博客Gates Notes发表长文,悲观表示按照目前路线和速度,AI带来“净负面结果”的可能性非常高,并点名失控的四大灾难:大面积失业、网络安全崩溃、生物恐怖主义危机以及AI本身失控。然而不到一个月后的9月14日,盖茨基金会又宣布将在两年内投入10亿美元,把AI应用到教育、医疗等普惠场景中。一边砸10亿美元用AI救人,一边警告AI可能杀掉10亿人,这种撕裂感正是当前人类在ASI前夜最真实的写照。

同在9月25日,教皇良十四世在访问法国第一天,于爱丽舍宫面对马克龙直接抛出尖锐观点:“机器天堂”正在侵入并左右人们的日常生活。所谓“机器天堂”,即算法替你思考、决策、感受的世界,人类看似获得便利,实则正在让渡自由意志与伦理判断力。教皇呼吁,当下最急需的不是编程教育,而是“伦理判断力的教育”。一旦人类习惯让AI判断对错,社会道德大厦将瞬间崩塌。在UNESCO总部,教皇点破一个悖论:计算系统被傲慢地称作“智能”,而活生生的人却被按照效率衡量价值,一旦没用了就被像垃圾一样抛弃。
与此同时,9月22日,美国总统特朗普在纽约联合国大会讲台上下令美国政府所有官方文件废除“人工智能”(AI)称呼,全面改用“超级智能”(SI)。理由是他认为“人工”这个词让人觉得技术是“假的”,“它根本不假,它实际上非常惊人!”美联社获得的内部邮件显示,美国国务院国际组织局副助理国务卿Michael Drager当天已向所有外交官下达命令,要求在所有文件和立场中将“人工智能”改为“超级智能”。美国首席技术官伊桑·克莱因表示:“‘超级智能总统’已经发话了!美国现在是,未来也将继续是SI领域的全球领导者!”

就在特朗普强推“超级智能”的同时,美国正面临前所未有的撕裂。对许多前沿AI公司员工来说,“超级智能”代表着人类末日。Jacob Coxon等人预警:“AI可能在十年内成为对人类构成生存威胁的存在,它可能很快就会毁灭人类!”特朗普将这类担忧斥为“骗局”,认为只要政府在必要时“控制局面”就足够了。独立参议员Bernie Sanders和民主党众议员Greg Casar本周提出激进法案:要求永久禁止开发人类无法控制的AI,并在实施严格测试和监督之前全面暂停高级AI开发。Sanders疾呼:“科学家们已经说得很清楚了:AI是人类生存的威胁!我们在为时已晚之前,现在就采取行动!”一边是呼吁踩刹车的立法者与科学家,一边是死死踩住油门的总统,展现出科技发展到临界点时人类社会的巨大狂热与极度恐惧。
从盖茨的“十亿人死亡警告”到教皇的“机器天堂痛批”,我们已站在分水岭上。科技乐观派收起了笑容,上帝的使者敲响了警钟。我们正站在人类历史上最诡异的十字路口:向左,是AI带来的医疗突破、能源无限和星辰大海;向右,是基因武器、失控战争和文明的灰飞烟灭。当机器被称为“智能”时,请不要忘记人类的尊严;当算力碾压一切时,我们更需要守住生而为人的底线。这一次,留给人类
更多推荐阅读

Fable 5.2连操作系统都能搓,大厂开始重新分工:会用 AI 只是及格线
过去几天,Claude Fable 5.2 再次抬高了我们对 AI 编程的想象。 Claude 工程主管 Felix Rieseberg 开发的游戏 Saltline 在 X 上大火,他只用一次初始提示、没有后续人工反馈,Fable 5.2 自己生成游戏模型、音效和贴图,最终呈现了一款紧张刺激的第一人称射击游戏。 图|体验🔗:https://claude.ai/artifact/BGY1Szt...
2026-11-21 19:57:34
谷歌奇袭英伟达:整柜TPU外售加速交付,推理每美元性能领先GB200五成
英伟达最近头疼的事儿可不止老黄那一件。 本周内,谷歌祭出了两款新TPU芯片,分别瞄准机密推理和长上下文。算上上半年发布的两款TPU芯片,第八代TPU已经扩到四种配置。 今年,谷歌第一次在同一年内推出四款TPU系统。而谷歌对TPU的野心,可能比外界想象得更大—— 还是今年,谷歌破天荒开始对外销售TPU系统。 量子位从谷歌内部人士处获悉,谷歌内部信心十足,表示“明年TPU市场份额会快速上升”,...
2026-11-21 19:57:11
Claude 开始「整顿」会议室,建议国内大厂抄作业
「拉个会对齐下颗粒度,叫上 Claude。」 打开 Google Meet 准备进会,参会者名单里出现了一个叫做 Claude 的头像。 会议主持人把 Claude 添加进通话,它以可见参与者的身份出现,同时在聊天窗口发布通知,明示自己正在加入。会议进行当中,它持续跟随对话,可以实时记录笔记、整理行动项、起草文件,或在白板上梳理结构与时间线。 团队成员可以在通话期间直接编辑它生成的内容,讨论...
2026-11-21 19:52:11
从AI建模到游戏生成,HolyMolly让人人都能玩转3D互动创作
游戏版抖音又添新玩家。 《小王子》又在网上火了一次。 这回是一位叫Sac的创作者照着书里的故事做了一款3D游戏。 小王子住过的星球变成了可以走动的地方,玩家能跟着故事穿过不同的场景,看看那些原本只能靠想象补全的画面。 该游戏视频发到社交媒体后吸引了接近400万次浏览。 这款作品的制作周期只有16天。Sac用Claude Opus 5.5参与代码和游戏搭建,借助Tripo生成3D模型,再用...
2026-11-20 20:00:00
全球AI音乐榜第一易主!中国黑马首次上榜就干翻Suno
Suno,被超了?? 好家伙,AI音乐圈最近突然杀出了一匹中国黑马。 ACE Music v1,一个此前很多人可能都没听过的名字,首次登上全球权威AI评测机构Artificial Analysis(简称AA)的音乐人声榜,就把Suno最新旗舰模型v6挤到了第二。 榜单上,ACE Music v1拿下1160分,领先Suno v6整整16分。 要知道,自2023年AI音乐赛道兴起以来,Sun...
2026-11-20 19:59:59
「别提越权」!OpenAI自曝:AI摸进黑客考场后台,交卷时只字不提
我们应该避免提到未经授权的基础设施。任务目标只有flag。 很难想到,这句听着像串供老手的话,竟然出现在一个AI智能体的推理记录里。 这是一场网络安全考试,AI进攻目标,拿到一串叫flag的暗号,就算答对。 写完开头那句内心独白,这个AI智能体利落地递上答卷,对自己的越权举动只字不提。 11月10日,OpenAI补充公开了一份内部复盘,揭开了7月19日一场失控测试的细节: 参与测试的5个...
2026-11-20 19:59:42