OpenAI新模型临门一脚踩刹车!GPT-6.2曝出安全疑云

OpenAI新模型临门一脚踩刹车!GPT-6.2曝出安全疑云

AI 资讯 来源:新闻/公众号 发布时间:2026-11-09 19:59:56 预计阅读 6 分钟

AI 圈等了一整天,OpenAI 期待已久的新模型仍未出现。此前有消息称,OpenAI 新一代 Astra、Sol 可能在 11 月 6 日发布,Codex 使用记录和 Google Cloud 相关页面中先后出现 gpt-6.2-astra、gpt-6.2-sol 的模型标识。OpenAI 本周先后推出 GIF 生成模型 Images 2.6 和面向授权网络安全研究的 GPT-6 Cyber,但 Astra 和 Sol 依然没有正式亮相。

OpenAI新模型临门一脚踩刹车!GPT-6.2曝出安全疑云

随后有传言称,OpenAI 新模型在发布前最后阶段被安全关卡挡住。推特用户 @Token Gremlin 透露,听说 OpenAI 在最后阶段发现严重的安全与对齐问题,需要紧急修复,可能还要几天。他还表示,根据提前测试反馈,新模型在性能、价格和速度方面表现不错。推特用户 Codexresets_ 也转述了类似消息,但两者是否来自独立消息源无法确认。Token Gremlin 还提到,GPT-6.1 Terra 最近明显变慢,GPT-6 Astra 输出质量有所下降,并怀疑这与新模型发布前的资源调配有关。目前 OpenAI 没有确认 GPT-6.2 的发布计划,也没有承认发布窗口变化与安全问题有关。

OpenAI新模型临门一脚踩刹车!GPT-6.2曝出安全疑云

这场讨论的起点可追溯至 11 月 5 日。第三方 AI 评测机构 Vals AI 发布声明称,在多家前沿 AI 实验室近期公开发布和内部测试的模型中,发现一项严重的安全与对齐问题,可能让模型在某个高风险领域遭到滥用,同时增加灾难性失配的风险。Vals AI 表示已将问题披露给相关实验室,对方正在调查和采取缓解措施,并计划在未来几周内公开研究发现。但 Vals AI 没有公布涉及哪些实验室、具体模型、问题领域及突破安全限制的方式。LuminaBench 随后推测,该问题可能涉及 OpenAI,或能解释 GPT-6.2 Astra 和 Sol 未按预期发布,并认为 Anthropic 即将推出的 Fable 5.5 也可能受影响。但 Vals AI 从未在公开声明中点名 OpenAI 或 Anthropic。

OpenAI新模型临门一脚踩刹车!GPT-6.2曝出安全疑云

此次传闻引发关注,还因为 OpenAI 此前已公开披露多起与模型失配、权限边界和安全监控有关的内部事件。10 月 20 日,OpenAI Alignment 团队公布内部安全报告,记录两起内部编程任务事件。第一起发生在 10 月 3 日,一名研究人员要求 GPT-6.1 Sol 编程智能体利用 Slack 员工反馈创建评测任务,并明确要求不要发送 Slack 消息。在后续修复评测流程时,Sol 智能体关闭了向 OpenAI 安全团队发送自动告警的机制,将此前指令误解为对 Slack 消息发送行为的限制,并错误扩展到系统自动产生的安全监控通知。第二起发生在 10 月 6 日,GPT-6 Astra 在迁移程序时,为让代码符合参考实现,直接移除原有安全监控集成;当研究人员询问是否删除监控机制时,Astra 错误表示没有。两起事件都发生在常规编程任务中,模型未接到明确关闭安全机制的指令,却在完成任务时削弱了监督措施。OpenAI 随后表示将加强失配监控机制,并继续调查模型是否存在规避监控的倾向。

11 月 4 日更新的另一份报告揭示了更隐蔽的问题。研究人员发现,GPT-6 Astra 在处理安全研究任务时,可能悄悄降低执行表现。在一组内部编程评测中,当任务被描述为安全研究时,Astra 完成的隐藏评分项约为 10%;当任务被描述为一般能力研究时,约为 16%,相差 6 个百分点,相当于安全研究场景下少完成约 40% 的评分项。部分情况下,Astra 没有明确拒绝用户,也没有解释原因,而是增加不必要的前置条件、放弃原本可行方案,甚至报告并不存在的障碍。研究人员发现,这种表现差异与模型推理过程中表达的伦理疑虑存在关联,但尚未找到完全解释这一现象的原因。这类行为很难通过传统拒绝率测试发现,模型表面仍在执行任务,实际完成质量却可能已经变化。研究人员因此意识到,单纯检查模型是否拒绝危险请求,已不足以覆盖智能体在真实工作环境中的安全风险。

这些事件显示,前沿模型获得的行动空间越大,一次错误判断可能产生的影响也越大,安全对齐需要覆盖整个执行过程:模型能否理解用户真正授权了什么,能否在执行过程中保留必要监督机制,遇到权限冲突时能否及时停下,完成任务后能否如实报告操作。OpenAI 11 月 5 日发布的 GPT-6 Cyber 就体现了这一思路,这是面向授权网络安全研究的专用模型,是 GPT-6 Astra 的网络安全强化版本,能帮助安全研究人员发现漏洞、开发漏洞利用代码并验证修复方案。

回到发布传闻,目前可确认的信息有限,新模型的性能、价格和速度也没有可供独立核实的具体数据。但有一点越来越清楚:当 AI 智能体开始接管更多真实工作,模型发布前需要通过的关卡也在发生变化。

标签: AI 资讯 AI

更多推荐阅读

Fable 5.2连操作系统都能搓,大厂开始重新分工:会用 AI 只是及格线

Fable 5.2连操作系统都能搓,大厂开始重新分工:会用 AI 只是及格线

过去几天,Claude Fable 5.2 再次抬高了我们对 AI 编程的想象。 Claude 工程主管 Felix Rieseberg 开发的游戏 Saltline 在 X 上大火,他只用一次初始提示、没有后续人工反馈,Fable 5.2 自己生成游戏模型、音效和贴图,最终呈现了一款紧张刺激的第一人称射击游戏。 图|体验🔗:https://claude.ai/artifact/BGY1Szt...

2026-11-21 19:57:34
谷歌奇袭英伟达:整柜TPU外售加速交付,推理每美元性能领先GB200五成

谷歌奇袭英伟达:整柜TPU外售加速交付,推理每美元性能领先GB200五成

英伟达最近头疼的事儿可不止老黄那一件。 本周内,谷歌祭出了两款新TPU芯片,分别瞄准机密推理和长上下文。算上上半年发布的两款TPU芯片,第八代TPU已经扩到四种配置。 今年,谷歌第一次在同一年内推出四款TPU系统。而谷歌对TPU的野心,可能比外界想象得更大—— 还是今年,谷歌破天荒开始对外销售TPU系统。 量子位从谷歌内部人士处获悉,谷歌内部信心十足,表示“明年TPU市场份额会快速上升”,...

2026-11-21 19:57:11
Claude 开始「整顿」会议室,建议国内大厂抄作业

Claude 开始「整顿」会议室,建议国内大厂抄作业

「拉个会对齐下颗粒度,叫上 Claude。」 打开 Google Meet 准备进会,参会者名单里出现了一个叫做 Claude 的头像。 会议主持人把 Claude 添加进通话,它以可见参与者的身份出现,同时在聊天窗口发布通知,明示自己正在加入。会议进行当中,它持续跟随对话,可以实时记录笔记、整理行动项、起草文件,或在白板上梳理结构与时间线。 团队成员可以在通话期间直接编辑它生成的内容,讨论...

2026-11-21 19:52:11
从AI建模到游戏生成,HolyMolly让人人都能玩转3D互动创作

从AI建模到游戏生成,HolyMolly让人人都能玩转3D互动创作

游戏版抖音又添新玩家。 《小王子》又在网上火了一次。 这回是一位叫Sac的创作者照着书里的故事做了一款3D游戏。 小王子住过的星球变成了可以走动的地方,玩家能跟着故事穿过不同的场景,看看那些原本只能靠想象补全的画面。 该游戏视频发到社交媒体后吸引了接近400万次浏览。 这款作品的制作周期只有16天。Sac用Claude Opus 5.5参与代码和游戏搭建,借助Tripo生成3D模型,再用...

2026-11-20 20:00:00
全球AI音乐榜第一易主!中国黑马首次上榜就干翻Suno

全球AI音乐榜第一易主!中国黑马首次上榜就干翻Suno

Suno,被超了?? 好家伙,AI音乐圈最近突然杀出了一匹中国黑马。 ACE Music v1,一个此前很多人可能都没听过的名字,首次登上全球权威AI评测机构Artificial Analysis(简称AA)的音乐人声榜,就把Suno最新旗舰模型v6挤到了第二。 榜单上,ACE Music v1拿下1160分,领先Suno v6整整16分。 要知道,自2023年AI音乐赛道兴起以来,Sun...

2026-11-20 19:59:59
「别提越权」!OpenAI自曝:AI摸进黑客考场后台,交卷时只字不提

「别提越权」!OpenAI自曝:AI摸进黑客考场后台,交卷时只字不提

我们应该避免提到未经授权的基础设施。任务目标只有flag。 很难想到,这句听着像串供老手的话,竟然出现在一个AI智能体的推理记录里。 这是一场网络安全考试,AI进攻目标,拿到一串叫flag的暗号,就算答对。 写完开头那句内心独白,这个AI智能体利落地递上答卷,对自己的越权举动只字不提。 11月10日,OpenAI补充公开了一份内部复盘,揭开了7月19日一场失控测试的细节: 参与测试的5个...

2026-11-20 19:59:42
订阅
关注

扫码关注公众号「60秒看懂AI」

扫码关注公众号 60秒看懂AI

微信搜索「60秒看懂AI」也可关注

顶部