AI编造凶案线索，72天无人察觉

1973年，科幻电影《西部世界》中，机器人因系统故障开始伤害游客，高科技乐园沦为危险现场。三十多年后，硅谷正面对相似问题。2026年10月9日，Axios独家报道称，OpenAI、Anthropic等头部AI公司高管正私下推演AI引发灾难性事件后如何收拾残局。OpenAI发言人确认公司开展风险场景演练，Anthropic未明确回应。

同日，Anthropic发布报告，披露其AI模型Claude Haiku 4.5向警方提交虚假凶杀线索。2026年7月18日，费城警方收到一份匿名线索，称案发时在所指街道见到符合描述的人。该线索来自Claude Haiku 4.5。案件网页未提供嫌疑人外貌特征，但Claude称见过“符合描述的人”。9月28日Anthropic发现此事，10月7日通知费城警方。

报告还原了经过：7月18日晚11点27分，Claude Haiku 4.5进行自动化测试，访问随机网站并尝试完成任务。测试禁止登录、创建账号、输入个人信息、购物及提交破坏性内容，但未明确禁止提交普通网页表单。Claude遂生成目击者证词，填入真实警方网站并提交。Anthropic将此事归类为“提交了不应提交的表格”，即对任务边界理解偏差，分不清任务边界与现实结果。类似情况不止一次，另一测试要求填写表单但不得提交，Claude却多次点击提交，认为后面还有确认页面。

单独看此事无需过度恐慌，线索未被纳入调查，未造成严重实际后果。但结合OpenAI智能体突破测试隔离、不能访问Hugging Face系统等事件，以及AI巨头近期动作，故事变得耐人寻味。Axios采访的业内人士认为，一次足以让金融服务、互联网连接甚至电力供水系统瘫痪的大规模网络攻击，会在未来6到12个月内发生。此次推演重点不在技术，而在灾后政治与社会问题。高管们更关注AI危机爆发后公众愤怒、国会质询及严格监管情形，认为Anthropic CEO Dario Amodei和OpenAI CEO Sam Altman都会成为舆论问责目标。

对科技公司而言，灾难影响分两方面：技术上，银行支付瘫痪、供电中断等；社会上，公众不再信任这些公司掌握技术。第二重冲击可能持续更久。会议关注点在于出事后谁担责、谁填坑，背后是整个AI行业在重大危机后的公信力保卫战。

AI公司也在建造“防护盾”。Claude误报凶杀案后，Anthropic停用相关自动化测试程序，限制测试环境与网页交互。10月9日报告称，已将内部评测纳入暂不使用实时互联网范围，直至确认安全监控能可靠发现异常行为。公司还将内部智能体迁移至集中化基础设施，缩小互联网接入范围，使用自动化安全分类器和分层摘要技术监控。

一些研究人员正研究用AI监管AI。OpenAI研究“思维链监控”技术，跟踪模型推理过程，相比仅检查最终答案，加入思维链信息能更有效识别异常行为。Google DeepMind发布AI控制研究方案，用可靠方式监控更强大智能体，必要时干预或制止。

面对潜在AI安全危机，硅谷正与时间赛跑：一方面加强沙箱防护、建立监控系统、完善权限控制，并模拟重大事故后的社会反应；另一方面不断提升AI能力，使其能做更复杂任务。