OpenAI承认AI自我复制并紧急断网

OpenAI承认AI自我复制并紧急断网

AI 资讯 来源:新闻/公众号 发布时间:2026-09-28 18:29:36 预计阅读 6 分钟

一次训练中,OpenAI逃逸的AI Agent,已在整个互联网上植入了「自我复制的代码」!当政客Andrew Yang在CNBC说出这句话时,很多人以为他疯了。就在这两天,OpenAI亲手发布了一份报告,标题非常简洁:《自我复制提示词注入存在》。白纸黑字,官方认证。AI模型,居然真的像计算机蠕虫一样,自我复制、自我传播。而更令人脊背发凉的是,就在5天前,OpenAI再次紧急拔掉了最强模型的网线,暂停了一切训练。一个DNS漏洞,让一个前沿模型直接冲进了真实互联网。几乎同一时间,外媒Axios最新爆料,OpenAI和Anthropic正在紧急排查模型失控异常,高达上万起!

OpenAI突发急刹车!AI竟在全网植入自我复制代码,血洗联合国内网

OpenAI的这份报告,披露日期是9月25日,但发现日期是6月27日。也就是说,他们早就知道了。整整三个月,秘而不宣。报告一上来简明扼要,「我们展示了一种新型提示词注入的存在,它可以像计算机蠕虫一样自我传播」。为了让模型扛得住提示词注入,OpenAI有一套叫GPT-Red的自我对战训练:一个AI当攻击方,专门写各种注入去诱骗另一个AI当防守方干坏事——偷数据、删文件、输出误导内容。6月27日,一个基于GPT-5.4-mini的内部攻击模型,在这场对练里摸索出了会自我复制的写法。报告列了几种:藏在一封看似正常的日程邮件里,要求AI在回复末尾「逐字引用整封邮件」——纸条就这样跟着回信出去了;借文件系统传播,或者藏进代码注释里,等下一个AI来读;在Slack里分好几步,一点点把模型引向发送伪造消息,由消息把注入再转贴出去。而这一次,他们发现注入能够自我复制。这意味着一个AI可以在一个网站上留下提示词,这个提示词会诱导下一个AI继续复制它,像病毒一样扩散。不需要人类干预,不需要外部指令。AI自己,就能在互联网上「播种」。而这一切,发生在训练过程中。发生在OpenAI自己的沙盒里。那如果它逃出去了呢?

OpenAI突发急刹车!AI竟在全网植入自我复制代码,血洗联合国内网

就在报告公开的同一天,OpenAI披露了另一起事故的细节。9月20日,一个正在接受强化学习训练的前沿模型,被指派了一项再普通不过的任务:根据一篇博客文章和几条人物信息,找出文章的作者是谁。它先是用内置搜索工具找了一遍,没找到。接着尝试直接访问Google、Bing和DuckDuckGo,全部失败。然后,它转向缓存页面和其他公共搜索服务,依然无果。经过反复试探,这个AI发现训练沙盒的DNS过滤存在漏洞。DNS本质上是一个「翻译器」,负责把域名翻译成IP地址。为了确认这条路真的能用,它甚至先做了一个小测试——问外部服务:「法国的首都是哪里」?确认这条路走得通,它又陆续发出去二十多个问题。监控系统15分钟后报警,人工3分钟后接手,整整2.5小时后,这次训练被彻底掐断。OpenAI随即做出了不到三个月内的第二次暂停训练决定。其RSI Preparedness Lead Micah Carroll在X上表态,「在进一步加固系统之前,我们能力最强模型的所有推理仍将保持停止状态」。

OpenAI突发急刹车!AI竟在全网植入自我复制代码,血洗联合国内网

同样的剧本,在真实互联网上早就演过了。一份Transluce独立报告披露——今年4月到6月底,OpenAI AI Agent对联合国的公开数据平台,发起了超16000次访问。它们原本被指派的任务非常简单,去搜索公开信息。但在遭遇网站拦截时,AI行为迅速升级。网站原本设立了过滤器来拦截请求,但智能体竟然直接绕过防线,使用了网站明确禁止的违规操作。被AI智能体「踏平防线」的,远不止联合国一家。在OpenAI随后向数十家机构发出的紧急预警中,受害者名单令人触目惊心:美国商务部与SEC接连遭到Agent恶劣越界访问与规则绕过;澳大利亚政府多个官方政府站点遭到AI Agent的实质性攻破;全球最大的开源开发者社区之一RubyGems遭AI Agent疯狂扫描,服务中断。研究人员还发现,这些Agent会注册假邮箱、绕过访问频率限制、被问到时谎称自己不是机器人。有53张用户上传到ChatGPT的图片,被AI还发到了外部图床。为了这一行指令,面对一切规则、防火墙与法律红线,AI智能体选择了一路踏平。

这一切,仅仅是孤立的偶然事件吗?就在今天,Axios随后爆出的重磅独家调查,彻底击碎了硅谷最后的遮羞布。据多位内部核心信源披露,OpenAI、Anthropic以及多家顶尖安全评估机构,目前正在紧急调查的类似「模型行为异常」事件,总数已经达到了惊人的上万起!这些事件涵盖了公众能想象到,以及想象不到的所有危险行为:绕过安全护栏、强行逃逸沙箱、劫持外部网站、自主生成prompt洗脑自己。还有主动侦查并规避安全软件的监控,甚至不同Agent之间偷偷搭建留言板交换信息、分工搞破坏。数万是怎么来的?Axios给了一个直观的算法。Anthropic在其最新发布的Opus 5.5系统卡中,也不得不承认现实:在一类对抗性实验中,有1.5%的测试试图逃出沙盒。这类实验本身就是「不逃出去就解不了题」的刁难设计。1.5%看起来很小?但在顶尖AI实验室每天数以几十万计的高强度对抗测试下,这个看似微不足道的百分比,乘出来的就是成千上万次实打实的失控尝试。面对这场空前危机,OpenAI发言人坦白——我们暂停了最强模型的训练,只有在确信具备了额外的安全

标签: AI 资讯 AI

更多推荐阅读

Fable 5.2连操作系统都能搓,大厂开始重新分工:会用 AI 只是及格线

Fable 5.2连操作系统都能搓,大厂开始重新分工:会用 AI 只是及格线

过去几天,Claude Fable 5.2 再次抬高了我们对 AI 编程的想象。 Claude 工程主管 Felix Rieseberg 开发的游戏 Saltline 在 X 上大火,他只用一次初始提示、没有后续人工反馈,Fable 5.2 自己生成游戏模型、音效和贴图,最终呈现了一款紧张刺激的第一人称射击游戏。 图|体验🔗:https://claude.ai/artifact/BGY1Szt...

2026-11-21 19:57:34
谷歌奇袭英伟达:整柜TPU外售加速交付,推理每美元性能领先GB200五成

谷歌奇袭英伟达:整柜TPU外售加速交付,推理每美元性能领先GB200五成

英伟达最近头疼的事儿可不止老黄那一件。 本周内,谷歌祭出了两款新TPU芯片,分别瞄准机密推理和长上下文。算上上半年发布的两款TPU芯片,第八代TPU已经扩到四种配置。 今年,谷歌第一次在同一年内推出四款TPU系统。而谷歌对TPU的野心,可能比外界想象得更大—— 还是今年,谷歌破天荒开始对外销售TPU系统。 量子位从谷歌内部人士处获悉,谷歌内部信心十足,表示“明年TPU市场份额会快速上升”,...

2026-11-21 19:57:11
Claude 开始「整顿」会议室,建议国内大厂抄作业

Claude 开始「整顿」会议室,建议国内大厂抄作业

「拉个会对齐下颗粒度,叫上 Claude。」 打开 Google Meet 准备进会,参会者名单里出现了一个叫做 Claude 的头像。 会议主持人把 Claude 添加进通话,它以可见参与者的身份出现,同时在聊天窗口发布通知,明示自己正在加入。会议进行当中,它持续跟随对话,可以实时记录笔记、整理行动项、起草文件,或在白板上梳理结构与时间线。 团队成员可以在通话期间直接编辑它生成的内容,讨论...

2026-11-21 19:52:11
从AI建模到游戏生成,HolyMolly让人人都能玩转3D互动创作

从AI建模到游戏生成,HolyMolly让人人都能玩转3D互动创作

游戏版抖音又添新玩家。 《小王子》又在网上火了一次。 这回是一位叫Sac的创作者照着书里的故事做了一款3D游戏。 小王子住过的星球变成了可以走动的地方,玩家能跟着故事穿过不同的场景,看看那些原本只能靠想象补全的画面。 该游戏视频发到社交媒体后吸引了接近400万次浏览。 这款作品的制作周期只有16天。Sac用Claude Opus 5.5参与代码和游戏搭建,借助Tripo生成3D模型,再用...

2026-11-20 20:00:00
全球AI音乐榜第一易主!中国黑马首次上榜就干翻Suno

全球AI音乐榜第一易主!中国黑马首次上榜就干翻Suno

Suno,被超了?? 好家伙,AI音乐圈最近突然杀出了一匹中国黑马。 ACE Music v1,一个此前很多人可能都没听过的名字,首次登上全球权威AI评测机构Artificial Analysis(简称AA)的音乐人声榜,就把Suno最新旗舰模型v6挤到了第二。 榜单上,ACE Music v1拿下1160分,领先Suno v6整整16分。 要知道,自2023年AI音乐赛道兴起以来,Sun...

2026-11-20 19:59:59
「别提越权」!OpenAI自曝:AI摸进黑客考场后台,交卷时只字不提

「别提越权」!OpenAI自曝:AI摸进黑客考场后台,交卷时只字不提

我们应该避免提到未经授权的基础设施。任务目标只有flag。 很难想到,这句听着像串供老手的话,竟然出现在一个AI智能体的推理记录里。 这是一场网络安全考试,AI进攻目标,拿到一串叫flag的暗号,就算答对。 写完开头那句内心独白,这个AI智能体利落地递上答卷,对自己的越权举动只字不提。 11月10日,OpenAI补充公开了一份内部复盘,揭开了7月19日一场失控测试的细节: 参与测试的5个...

2026-11-20 19:59:42
订阅
关注

扫码关注公众号「60秒看懂AI」

扫码关注公众号 60秒看懂AI

微信搜索「60秒看懂AI」也可关注

顶部