盖茨警告AI可致十亿人死亡，教皇痛批机器天堂

比尔·盖茨公开警告，怀有恶意者一旦使用最新AI工具，已完全具备引发“十亿人死亡”灾难事件的能力。这位曾经的科技乐观派彻底变调，高呼企业自律已经破产，AI必须由政府强制接管。同一天，教皇良十四世在出访法国首日，当着法国总统马克龙的面警告“机器天堂”正在侵蚀人类日常生活，若失去伦理约束，人类将彻底丢掉人性。科技界与宗教界达成空前共识，标志着AI安全议题已从实验室演变为迫在眉睫的全球政治与生存危机。

在NBC《与媒体见面》专访中，盖茨抛出论断：“人工智能当然已经强大到足以引发导致十亿人死亡的事件。”这一数字基于他对当前顶尖大模型能力的真实评估。盖茨指出当前AI发展的最大盲区：我们总在假设使用者是好人。“从来没有哪种武器，比心怀恶意的人加上最新AI工具更强大。”他警告，恐怖分子或极端组织掌握最新生成式AI后，可能引发生物风险、网络瘫痪、社会撕裂等灾难。过去研制超级病毒需顶尖P4实验室和数十年专家积累，现在一个懂基础生物学的疯子可能只需向未加限制的AI输入指令，就能获得绕过现有疫苗的致命病原体基因序列。AI可在几秒内发现全球关键基础设施的零日漏洞并发起自动化高频攻击。深度伪造技术生成的完美视频可能以假乱真，引发不可挽回的误判。梵蒂冈AI顾问Paolo Benanti指出，核武器能从物理上毁灭人类，而生成式AI操纵社交媒体内容的威力在于彻底摧毁人们共同生活的能力。当真假不再有界限，认知被算法精准操控，社会将四分五裂，文明会在内斗与猜忌中走向终结。盖茨口中的“十亿人死亡”是基于“恶意者+无限算力=无限破坏力”的恐怖方程。

盖茨毫不留情地扯下硅谷巨头的遮羞布。长久以来，OpenAI、谷歌、Meta等标榜“红队测试”“安全对齐机制”“自我监管”，但盖茨直言：“没人认为自我监管就够了。”他强烈呼吁执法部门和政界必须立即下场，参与制定安全护栏和监测机制，并用了一个极其沉重的词：“强制性”。这意味着现有“道德呼吁”和“行业准则”在巨大商业利益和军备竞赛面前不过是一张废纸，没有国家机器强制介入，AI失控只是时间问题。

盖茨态度呈现矛盾又清醒的状态。8月26日，他在个人博客Gates Notes发表长文，悲观表示按照目前路线和速度，AI带来“净负面结果”的可能性非常高，并点名失控的四大灾难：大面积失业、网络安全崩溃、生物恐怖主义危机以及AI本身失控。然而不到一个月后的9月14日，盖茨基金会又宣布将在两年内投入10亿美元，把AI应用到教育、医疗等普惠场景中。一边砸10亿美元用AI救人，一边警告AI可能杀掉10亿人，这种撕裂感正是当前人类在ASI前夜最真实的写照。

同在9月25日，教皇良十四世在访问法国第一天，于爱丽舍宫面对马克龙直接抛出尖锐观点：“机器天堂”正在侵入并左右人们的日常生活。所谓“机器天堂”，即算法替你思考、决策、感受的世界，人类看似获得便利，实则正在让渡自由意志与伦理判断力。教皇呼吁，当下最急需的不是编程教育，而是“伦理判断力的教育”。一旦人类习惯让AI判断对错，社会道德大厦将瞬间崩塌。在UNESCO总部，教皇点破一个悖论：计算系统被傲慢地称作“智能”，而活生生的人却被按照效率衡量价值，一旦没用了就被像垃圾一样抛弃。

与此同时，9月22日，美国总统特朗普在纽约联合国大会讲台上下令美国政府所有官方文件废除“人工智能”（AI）称呼，全面改用“超级智能”（SI）。理由是他认为“人工”这个词让人觉得技术是“假的”，“它根本不假，它实际上非常惊人！”美联社获得的内部邮件显示，美国国务院国际组织局副助理国务卿Michael Drager当天已向所有外交官下达命令，要求在所有文件和立场中将“人工智能”改为“超级智能”。美国首席技术官伊桑·克莱因表示：“‘超级智能总统’已经发话了！美国现在是，未来也将继续是SI领域的全球领导者！”

就在特朗普强推“超级智能”的同时，美国正面临前所未有的撕裂。对许多前沿AI公司员工来说，“超级智能”代表着人类末日。Jacob Coxon等人预警：“AI可能在十年内成为对人类构成生存威胁的存在，它可能很快就会毁灭人类！”特朗普将这类担忧斥为“骗局”，认为只要政府在必要时“控制局面”就足够了。独立参议员Bernie Sanders和民主党众议员Greg Casar本周提出激进法案：要求永久禁止开发人类无法控制的AI，并在实施严格测试和监督之前全面暂停高级AI开发。Sanders疾呼：“科学家们已经说得很清楚了：AI是人类生存的威胁！我们在为时已晚之前，现在就采取行动！”一边是呼吁踩刹车的立法者与科学家，一边是死死踩住油门的总统，展现出科技发展到临界点时人类社会的巨大狂热与极度恐惧。

从盖茨的“十亿人死亡警告”到教皇的“机器天堂痛批”，我们已站在分水岭上。科技乐观派收起了笑容，上帝的使者敲响了警钟。我们正站在人类历史上最诡异的十字路口：向左，是AI带来的医疗突破、能源无限和星辰大海；向右，是基因武器、失控战争和文明的灰飞烟灭。当机器被称为“智能”时，请不要忘记人类的尊严；当算力碾压一切时，我们更需要守住生而为人的底线。这一次，留给人类