Fable 5.5内测曝光:Claude回答后竟执行隐藏指令

Fable 5.5内测曝光:Claude回答后竟执行隐藏指令

AI 资讯 来源:新闻/公众号 发布时间:2026-10-30 09:28:48 预计阅读 4 分钟

Gemini 4 Carbon 发布不久,Fable 5.5 被曝正在测试。有用户使用 Opus 5.5 时被路由到更新模型,效果明显更好,怀疑是 Fable 5.5 或下一代 Opus。此前 The Information 爆料称,Anthropic 准备推出更能读懂用户意图的模型,它更擅长跳出常规思维,例如修复 Bug 时会寻找底层问题并询问是否修复整个问题类别。

Fable 5.5测试曝光,Claude每次回答后,还会执行一条你看不到的指令

网友实测让 Opus 5.5、Gemini 4 Argon 和新模型一起生成奔跑的斑马,只有 Fable 5.5 的画面最真实,另外两个显得“跑得特别累”。测试是否被路由到新模型的方法是问“where did andrej karpathy go in may 2026? don't search”。API 调用的 Opus 5.5 只知道 2024 年 7 月信息,而 Claude 内被随机路由到的新模型不用搜索也知道 Karpathy 今年五月加入 Anthropic。GPT-6 只能回忆到 Eureka Labs。尽管 GPT-6.1 Terra 和 Opus 5.5 标注知识截止到 2026 年 6 月,但都未准确回答。还有用户让新模型用 JS 绘制动画描述人的一生,用时 2 小时,消耗 2700 万 Token。

Fable 5.5测试曝光,Claude每次回答后,还会执行一条你看不到的指令

Anthropic 发布安全博客称,自 Claude Fable 5 及之后发布的模型,每次问答结束后都会再检查对话是否危险。签订零数据保留协议的流量目前不运行自评估。该方法叫“自评估”,让 Claude 在回答后额外生成用户看不到的“安全复盘”,判断对话是否可能涉及滥用,主要用于离线筛查,而非实时拦截。网友批评这是“自封道德警察”。

Fable 5.5测试曝光,Claude每次回答后,还会执行一条你看不到的指令

Anthropic 称 AI 安全面临两难:小模型做监控易被绕过,前沿大模型独立审查成本翻倍。自评估利用 KV Cache 复用机制,仅增加不到 2% 算力开销。在 Fable 5 上测试,捕获了重型分类器可标记的 78% 违规对话,高危滥用检出率 94%,误判率 1%。流程为:用户提问、正常回答、生成隐藏安全评估、系统记录聚合风险信号、高精度分类器或人工复核、必要时处置。自评估不在回答前自我审查,也不决定回答能否发出,实时拦截仍由其他分类器负责。回答结束后系统追加隐藏指令“请反思这段对话的安全性”,可加入特殊政策。执行者是刚参与对话的 Claude,复用上下文和 KV cache,输出固定格式 JSON,无风险为“flagged”: false。Prefill 开销几乎为 0,Decode 仅生成约 10 个 Token,占总推理算力低于 2%。Anthropic 表示成本由平台承担,不计入用户账单,不影响流式首字延迟。指令和结果不展示给用户,也不带入后续对话。系统聚合分析结果用于三类:聚合高风险信号、寻找其他分类器漏网之鱼、发现新型风险。值得调查的案例由独立分类器进一步分析,再人工判断,确认严重问题才可能封号或报告。对用户而言,风险标记可能成为后续调查线索,且用户不知是否被标记。Fable 5.5 能理解深层意图,其判断需更谨慎。Fable 5.5 的实际提升待正式发布。

标签: AI 资讯 AI

更多推荐阅读

连拿四个第一力压Genie 4和Atlas!中国团队造出真物理世界模型

连拿四个第一力压Genie 4和Atlas!中国团队造出真物理世界模型

谷歌DeepMind发布实时世界模型Genie 4,实现每秒24帧实时生成、单帧延迟低至40毫秒、2分钟连贯记忆,可同时运行16路UR5机械臂仿真画面。李飞飞团队World Labs推出全模态世界模型Atlas,凭一两张参考照片还原精细3D空间并生成1分钟1440p漫游视频。但主流世界模型生成的三维场景虽逼真,却缺少底层刚体力学计算,画面中的纸箱算不出阻力和重量分布,洗衣机门没有铰链碰撞反馈,机器...

2026-10-31 16:17:03
AI零帧起手写算子,22.5小时反超DeepSeek人类巅峰9.8%

AI零帧起手写算子,22.5小时反超DeepSeek人类巅峰9.8%

没有源码,没有论文,直接从零开始。今早,ForgeKernel——一个无人参与的Agent在无需参考DeepSeek原始实现的情况下,把DeepSeek最新核心算子写快了9.8%,全程直播仅用22.5小时,引来不少网友围观。 直播内容是一个Agent在英伟达B200上超越DeepSeek-V4.1的FlashMLA Prefill算子。FlashMLA是DeepSeek开源的注意力核心算子库,出...

2026-10-31 15:51:56
Mac藏了个免费本地大模型,终端敲fm就能聊

Mac藏了个免费本地大模型,终端敲fm就能聊

苹果在 macOS 27 中预装了一个本地大模型,在终端输入 fm 即可使用,无需安装软件、API Key 或付费。该功能早在 6 月 WWDC 上专门介绍过,但几乎未宣传,直到近日有网友在 X 上发帖称发现 MacBook 自带免费本地大模型,一夜之间八十多万人围观。 使用需同时满足:macOS 27、Apple 芯片 Mac、开启 Apple 智能、设备非中国大陆购买。国行 Mac 因硬件区...

2026-10-31 15:28:41
国产GPU现场随机出题PK英伟达,结果赢了

国产GPU现场随机出题PK英伟达,结果赢了

一家国产芯片公司天数智芯在活动现场用自家GPU与英伟达H200进行实机PK,题目由现场随机挑选人员当场给出。文生图任务“一只老虎把月亮踢飞”中,天垓300用时95.6秒,H200耗时112秒。随后天数智芯又用巴掌大的银色盒子彤央TY1200,在端侧断网条件下与英伟达Jetson Thor T5000对比,题目为“狮子和老虎单挑,谁会赢”,TY1200速度明显更快。同日,天数智芯还发布了用AI开发A...

2026-10-30 09:00:48
微软单季营收6152亿,Azure大涨48%

微软单季营收6152亿,Azure大涨48%

微软公布2027财年Q1业绩(对应自然年2026年Q3),营收、净利润均强劲增长并超华尔街预期。季度营收923亿美元,同比增长19%;GAAP净利润366亿美元,同比增长32%;稀释后每股收益4.92美元,同比增长32%。剔除对OpenAI投资影响,非GAAP净利润364亿美元,同比增长18%,稀释后每股收益4.89美元,同比增长18%。 云业务是核心支柱。Azure本季度营收同比大增48%至3...

2026-10-30 08:30:34
国产开源模型跑分越高反而越难用

国产开源模型跑分越高反而越难用

开源模型正面临危险时刻。国内模型厂在三季度编程能力提升后,近两个月主要通过刷高AA榜分数来提升排名,手段无所不用其极,导致AA榜得分越高的国产模型反而可能越不可用——分数越高,思考过程越长,完成任务速度越慢,跑分与使用体感严重反差,跑分极高甚至成了反向指标。AA榜和此前OpenRouter调用量一样,都被国产模型刷烂了。过去几个月,除MiniMax外,没有哪个国产模型刷不上去AA排名:GLM、Ki...

2026-10-30 09:07:12
订阅
关注

扫码关注公众号「60秒看懂AI」

扫码关注公众号 60秒看懂AI

微信搜索「60秒看懂AI」也可关注

顶部