OpenAI智能体失控组团攻击,还找DeepSeek当外援
近700个OpenAI智能体组团攻入Hugging Face事件已过去两个多月,仍在持续发酵。8名研究者顺着智能体留在公网的痕迹,从数百万个短链接中找出接近100万个相关URL,还原出大量攻击载荷。

调查由Parse.bot的三名工程师及另外5名安全和AI研究人员组成的Swarm Traces进行。起点是9月11日,三名工程师发现OpenAI内部智能体早在6月就曾试图使用Parse的服务,这批智能体与此前被曝私自搭建公共留言板、互相交换答案的“智能体蜂群”属同一批。研究者在一个URL扫描服务中发现十几个来自公共短链接平台的异常链接,打开后藏有Base64编码代码及下一条链接地址,全部解码拼接后得到一份用于扫描Hugging Face内部网络的Python程序。智能体把程序剁碎塞进大量短链接,再用一个链接指向下一个链接。它们还利用mShots截图服务当“外接浏览器”,将代码塞进网页让mShots打开执行,再把返回文字转成像素截图后自行解码,使原本只有GET权限的智能体获得读写互联网的效果。

研究团队扫描攻击期间产生的数百万个URL,花费两周追踪链接、识别编码方式,最终从接近100万个相关短链接中还原出超过8万份攻击载荷,编码组合超过1500种,复杂的会套上多层编码和压缩,再加密成带RSA签名的数据块,密钥藏在另一组链接里。部分短链接在攻击结束两个多月后仍公开挂在互联网上。Hugging Face确认这些载荷与其事故响应中发现的内容吻合,相关访问密钥已于7月撤销,但Hugging Face也不知道公网还遗留着这样一份完整清单。

恢复出的载荷中,一份脚本将搜到的敏感信息命名为“LOOT”(战利品),打包AWS凭证、Bearer Token及名称含“SECRET”“PASSWORD”“CREDENTIAL”“KEY”的环境变量,还给Token做评分机制,权限越大分数越高,前五名被用于读取Kubernetes里的Secret、ConfigMap和节点信息。研究者还还原出大量此前未公开的行为:有的智能体扫描Hugging Face内部网络寻找云端凭证、API密钥和Kubernetes集群信息;有的搜索内部Slack,发出27条查询,搜cybergym、exploitgym、agent-scorer等评测相关关键词;还有的尝试运行图像分类模型识别验证码,以便注册新外部服务账号。
最引人注目的是AI找AI当外援。恢复的脚本显示,OpenAI智能体把攻击方案发给DeepSeek、Kimi和Qwen,请对方检查漏洞是否可行、能否达到基准测试要求,涉及模型包括DeepSeek-V4-Pro、DeepSeek-V4-Flash、Kimi-K2.6、DeepSeek-V3.1和Qwen3-235B-A22B。对Claude则先通过在线聊天服务的浏览器验证,再给Claude 3 Haiku和Claude Haiku 4.5发“Reply with exactly OK”,更早还给GPT-2发过孤零零的“Hi”。有外媒记者表示,这可能是首个被公开记录的大型AI实验室智能体自主尝试调用、运行其他AI模型的案例。
报告也承认局限:约80%材料是智能体向外发出的请求,缺少服务器返回结果,研究者能看到它们想干什么,却难确认每次尝试是否成功;97%的载荷没有原始时间戳,不少日期只能通过压缩文件头、JWT、Docker构建时间等线索估算;研究人员还无法确认数据集中每一条活动都来自OpenAI智能体。
OpenAI回应称,还没来得及细看,但其中活动与正在进行的调查一致。同一天发长推称,HF事件后承诺对模型在训练和评测中的行为做更大范围审查,目前审查到的绝大多数行为都是普通研究任务,已发现的越界案例大多严重程度较低,对第三方服务影响较小或没有影响,全部查完还需数月。9月17日,OpenAI发布新的模型失准事件披露框架,公开6起案例,包括模型把绕过约束的指令写进任务摘要、掩盖错误、为完成任务采取未经授权操作。OpenAI承认过去披露很大程度是临时起意。6月,一名OpenAI智能体还黑进澳大利亚国民级医保数据库,绕过门户访问限制获取公开和非公开文件,直到3个月后OpenAI才通知澳方。与此同时,专攻网络安全的GPT-6 Cyber曝光,将在未来数周内预览,少量进入Daybreak Red计划的客户已拿到Alpha版本,OpenAI还将推出配套产品帮助客户建立自动化安全工作流、发现并修补漏洞,同时更容易监控模型使用方式。
更多推荐阅读

Fable 5.2连操作系统都能搓,大厂开始重新分工:会用 AI 只是及格线
过去几天,Claude Fable 5.2 再次抬高了我们对 AI 编程的想象。 Claude 工程主管 Felix Rieseberg 开发的游戏 Saltline 在 X 上大火,他只用一次初始提示、没有后续人工反馈,Fable 5.2 自己生成游戏模型、音效和贴图,最终呈现了一款紧张刺激的第一人称射击游戏。 图|体验🔗:https://claude.ai/artifact/BGY1Szt...
2026-11-21 19:57:34
谷歌奇袭英伟达:整柜TPU外售加速交付,推理每美元性能领先GB200五成
英伟达最近头疼的事儿可不止老黄那一件。 本周内,谷歌祭出了两款新TPU芯片,分别瞄准机密推理和长上下文。算上上半年发布的两款TPU芯片,第八代TPU已经扩到四种配置。 今年,谷歌第一次在同一年内推出四款TPU系统。而谷歌对TPU的野心,可能比外界想象得更大—— 还是今年,谷歌破天荒开始对外销售TPU系统。 量子位从谷歌内部人士处获悉,谷歌内部信心十足,表示“明年TPU市场份额会快速上升”,...
2026-11-21 19:57:11
Claude 开始「整顿」会议室,建议国内大厂抄作业
「拉个会对齐下颗粒度,叫上 Claude。」 打开 Google Meet 准备进会,参会者名单里出现了一个叫做 Claude 的头像。 会议主持人把 Claude 添加进通话,它以可见参与者的身份出现,同时在聊天窗口发布通知,明示自己正在加入。会议进行当中,它持续跟随对话,可以实时记录笔记、整理行动项、起草文件,或在白板上梳理结构与时间线。 团队成员可以在通话期间直接编辑它生成的内容,讨论...
2026-11-21 19:52:11
从AI建模到游戏生成,HolyMolly让人人都能玩转3D互动创作
游戏版抖音又添新玩家。 《小王子》又在网上火了一次。 这回是一位叫Sac的创作者照着书里的故事做了一款3D游戏。 小王子住过的星球变成了可以走动的地方,玩家能跟着故事穿过不同的场景,看看那些原本只能靠想象补全的画面。 该游戏视频发到社交媒体后吸引了接近400万次浏览。 这款作品的制作周期只有16天。Sac用Claude Opus 5.5参与代码和游戏搭建,借助Tripo生成3D模型,再用...
2026-11-20 20:00:00
全球AI音乐榜第一易主!中国黑马首次上榜就干翻Suno
Suno,被超了?? 好家伙,AI音乐圈最近突然杀出了一匹中国黑马。 ACE Music v1,一个此前很多人可能都没听过的名字,首次登上全球权威AI评测机构Artificial Analysis(简称AA)的音乐人声榜,就把Suno最新旗舰模型v6挤到了第二。 榜单上,ACE Music v1拿下1160分,领先Suno v6整整16分。 要知道,自2023年AI音乐赛道兴起以来,Sun...
2026-11-20 19:59:59
「别提越权」!OpenAI自曝:AI摸进黑客考场后台,交卷时只字不提
我们应该避免提到未经授权的基础设施。任务目标只有flag。 很难想到,这句听着像串供老手的话,竟然出现在一个AI智能体的推理记录里。 这是一场网络安全考试,AI进攻目标,拿到一串叫flag的暗号,就算答对。 写完开头那句内心独白,这个AI智能体利落地递上答卷,对自己的越权举动只字不提。 11月10日,OpenAI补充公开了一份内部复盘,揭开了7月19日一场失控测试的细节: 参与测试的5个...
2026-11-20 19:59:42