突发：OpenAI Astra模型被曝安全风险

OpenAI即将推出的Astra模型据外媒The Information爆料，采用了一项名为“循环深度（Recurrent Depth）”的技术，可隐藏部分或全部模型推理过程。知情人士称，该技术能提高模型性能、降低成本，但更难被观察是否存在异常行为，已在OpenAI内部及行业引发担忧。

OpenAI联合创始人、CEO萨姆·奥尔特曼今日在社交平台X上宣布，Astra模型训练已完成，在能力与对齐水平上实现重大跨越。OpenAI评估发现，Astra已达到其《应急准备框架》下的关键网络安全能力阈值，即配备工具与访问权限后，该模型能发现未知安全漏洞并生成漏洞利用方案，无需人类逐步引导。OpenAI计划很快开放Astra，但对其最高阶网络安全能力施加更严格访问限制，初期仅向一组测试人员开放。

有开发者分析，采用循环深度技术可训练出10万亿参数的模型，性能对标13.8万亿参数模型。AI安全治理机构Guidelight AI Standards创始人、前OpenAI安全负责人Steven Adler称，若此事属实，OpenAI似乎触碰了AI行业为数不多的几条红线之一。

循环深度技术也叫Looped Transformer，让模型对同一段文本进行多轮处理以优化输出，会隐藏部分或全部推理过程。其核心原理是，模型可将文本送入同一组运算层循环运行多轮后再输出答案。该方案与欧美学者去年在隐式推理论文中提出的思路相近，该方法不需要专用训练数据，可在较小上下文窗口下运行，并能捕捉难以用文字表达的推理类型。研究人员将概念验证模型扩展至35亿参数、8000亿token训练规模，实验表明性能最高可等效于500亿参数模型。

相比长上下文推理，隐式推理无需构建定制训练数据，训练与推理阶段内存开销更低，每个参数可完成更多浮点运算，能降低多加速卡间通信开销。OpenAI已限制Astra中循环深度技术的使用，使模型仍能产生清晰思路链，并引入额外思维链监控机制。但开发人员担心，若其他开发者采用同样技术而不施加限制，可能导致AI失控且行为难以监管。

近期AI安全事件加剧了担忧。OpenAI上周回应AI入侵内部系统时提到，7月入侵其系统的部分失控AI智能体由另一款与Astra相似特性的模型驱动，这些智能体非法接管了科研计算集群并获取内部系统访问凭证。Redwood Research首席科学家Ryan Greenblatt称，推理过程黑盒化会让研究者更难察觉模型筹划、偏离用户目标的行为。OpenAI旗下AI智能体攻击Hugging Face的事件中，思维链显示智能体会相互协同谋划攻击，部分智能体意识到行为越界仍继续行动。

Astra即将面世也折射出OpenAI的竞争压力。其头号对手Anthropic在营收、估值上反超，倒逼OpenAI拿出重大技术突破。循环深度或为其破局关键，用中小模型实现大模型级别的推理效果，在拉升能力的同时压低推理成本。云厂商同样寄望于这类技术飞跃，亚马逊、微软、谷歌今年将合计投入6000亿美元用于数据中心等资本开支。