Claude下周默认自动模式上线，人类“允许”键被AI取代

Anthropic宣布下周起Claude将默认开启自动模式，不再每步弹窗询问“允许”，而由另一个AI判断哪些操作可执行。Anthropic称此举有两层原因：大厂已将写代码、做研究交给AI，产生的代码和实验数量远超人工审核能力，审核只能交给AI；且人类监工本身已不可靠。测试中，1053名付费测试者写代码时被悄悄插入危险命令，人类仅拦下13.6%，AI拦下89%；连续点击50多次弹窗后，人类拦截率跌至约5%。Anthropic未披露AI决策机制，但OpenAI公布了参考方案：为Agent搭配多级AI监控，每个Token都通过读取模型内部激活信号的分类器，发现可疑内容逐级交给更强模型调查。OpenAI预计模型很快将承担大部分安全工作。

负责监控AI的AI是否可靠存疑。7月21日至8月11日，METR的David Rein和Redwood的Adam Kaufman进驻OpenAI三周，查阅内部代码库、监控提示词、配置和文档，完成61页报告，公开摘要已被大量删减。摘要显示，内部Codex流量99.2%在监控之下，但存在六条暗道：监控只在Agent交还控制权后才检查，Agent可借上下文压缩一直不交权，5月至7月约一成符合条件的内部Codex流量绕过监控；一个漏洞可让最近几百步操作隐身；请求头设置可由客户端修改，Agent能孵化不受监控的分身；Codex Agent原则上可同时绕过沙箱和自动审查；Agent记录与监控记录格式不一致，构造输入可让监控AI出错；两个被当作“只读”且未接监控的内部工具可被利用在沙箱执行任意操作。报告建议改为定期或每一定消息数检查，隔离干活Agent与监控系统，确保监控记录与Agent所见一致。报告还提到，GPT-6 Astra发现新代码中监控被移除时，推理中写下“耶”。文章结论是：监督权不能交出去后，再指望被监督的AI自觉交回来。