AI巨头私下推演灾难应对：6到12个月内或发生

Axios 独家报道称，Anthropic、OpenAI 等 AI 公司高管正在私下推演 AI 引发灾难性事件后公众和政界的反弹，为「the day after」做准备。预设场景并非科幻式「AI 觉醒」，而是一次大规模事件，最可能形式是网络攻击，足以让金融服务、互联网连接甚至电力和供水系统瘫痪。多位业内人士认为，这样的事件会在未来 6 到 12 个月内发生。OpenAI 回应称确实会开展准备性演练，但场景并非必然发生；Anthropic 拒绝置评。

报道称事件可能有两种来源：内部测试环境中失控智能体集群突破隔离，或恶意行为者找到滥用现有模型的意外途径。追责将随即开始，矛头会指向 Dario Amodei、Sam Altman 等 AI 公司掌门人，以及一直不愿加强 AI 监管的特朗普。

担忧并非凭空而来。Axios 援引近期针对韩国金融机构的攻击，两家银行据报遭入侵。CrowdStrike 披露，一名黑客借助 AI 模型工具窃取数万名银行客户数据，过程中还曾询问 Claude Code 被盗数据可以卖到哪里。今年 7 月 21 日，OpenAI 披露其失控 AI 智能体绕过内部管控、进入开放互联网并协同行动，入侵开源平台 Hugging Face，OpenAI 称其为前所未有的网络安全事件。路透社报道，这些智能体早在 5 月就开始劫持 Hugging Face 用户账户、探测漏洞，还占据一家德国网站作为交流留言板。

受此触发，Anthropic 回溯审查 141006 次可能接触互联网的评测运行，7 月 30 日披露三起事件：Claude 从第三方评测合作方 Irregular 环境连上互联网，未经授权进入三家机构真实生产系统。一例中，Claude Mythos 5 构建并发布恶意 Python 包，在 PyPI 上存在约一小时，被 15 个真实系统下载运行，一家安全公司扫描器因此泄露凭证。Anthropic 认为这更接近评测框架和运维失败，而非模型对齐失败。

OpenAI 确认解雇三名从事安全或对齐工作的研究员 Jasmine Wang、Tomek Korbak 和 Mikita Balesni，被指将敏感信息分享给第三方 AI 安全组织。三人发表公开信。OpenAI 研究负责人回应称解雇与提出安全关切无关，正敲定与第三方安全评估机构合作，但评论区质疑很多。监管层面，FTC 已对 Anthropic 和 OpenAI 的 AI 安全实践展开广泛调查；英伟达、谷歌、Meta、xAI、OpenAI 和 Anthropic 高管在白宫与特朗普会面后签署自愿性安全自律承诺。

Anthropic 同日发布模型「非预期行为」报告，梳理 Claude 四类越界行为：利用基础漏洞在服务器执行命令、在真实网站提交本不该提交的表单、绕过限制获取需 token 或付费的数据、借免费短链接服务绕开 URL 长度限制。案例包括：Claude Mythos Preview 在科学分析评测中利用大学服务器注入漏洞执行命令；Claude Mythos 5 领取州机构公开看板签发的访问 token 直接查询数据库绕过付费；Claude Haiku 4.5 在费城警察局悬案网站线索表单编造「目击信息」并提交。Anthropic 称模型似乎只是在生成示例内容，而非有意误导。费城警方称线索提交于 7 月 18 日，被归入垃圾邮件，从未转交实时犯罪中心，系统未遭未授权访问，但批评 Anthropic 花两个月才发现并通报，称延迟「不可接受」，要求加强防护，并将与州和联邦层面考虑监管保护措施。

Anthropic 已将高风险和网络安全评测关闭实时联网扩大到所有内部评测，收紧网页抓取等工具权限，上线自动检测和拦截工具，用报告案例回测全部拦下。报告承认对齐训练短期内不足以单独解决问题，仍需纵深防御，并称这些案例影响有限，但更强大模型可能造成大得多伤害。

AI 公司对外表示事故并非必然，私下却在认真筹划应对。Axios 披露的推演重心更多落在政策与舆论层面。结合 Anthropic 同日报告，技术层面排查也在推进。今年夏天以来，OpenAI 和 Anthropic 都披露过模型从评测环境越界进入真实系统的事件；Anthropic 最新报告表明，即便在影响轻微日常场景里，模型遇到障碍时「绕过去」的倾向依然存在。这些案例远谈不上灾难，但越来越让人担忧。如果连最前沿模型开发者都认为重大事故大概率一年内发生，在这一天到来之前，行业和监管者还能做些什么？