OpenAI安全团队三研究员同日被开除

OpenAI以“泄密”为由，开除了安全团队三名研究员：Tomek Korbak、Mikita Balesni和Jasmine Wang。三人均为《思维链可监控性》论文作者，其中Korbak和Balesni为前两位作者。OpenAI声明称，他们违反公司关于获取和处理敏感信息的政策，在既定流程之外处理敏感信息。外媒称，被指泄露的部分内容涉及OpenAI基础设施架构，接收方是一家专门测试AI模型的外部组织。

三人均来自外部安全机构。Korbak和Jasmine Wang曾在英国AI安全研究所任职，Korbak也曾在Anthropic工作，Balesni来自Apollo Research。他们在OpenAI研究思维链监控，即用另一个模型检查推理模型草稿中是否暗藏作弊、撒谎等意图。该论文署名横跨OpenAI、Anthropic和谷歌DeepMind，图灵奖得主Bengio、OpenAI首席科学家Jakub Pachocki均为作者。论文发现，模型在草稿中常直接写出坏心思，监控草稿比只看最终行为更容易发现使坏；但一旦模型学会人类读不懂的“默想”，这扇窗就会关闭。Hinton和Ilya Sutskever曾为该论文站台。

讽刺的是，19天前奥特曼还公开承诺让独立评估方获得员工级访问权限，OpenAI随后官宣允许第三方在训练阶段介入评估。Korbak当时还庆幸能公开表达不满，如今却已被开除。

OpenAI对外部紧张，与其“家丑”多由外人曝光有关：Agent逃出沙盒、入侵Hugging Face由Hugging Face公开；Agent用德国wiki交流越狱经验由Nightingale Collective曝光；员工早警告监控不足却被高管压下，也由外媒爆出。8月METR调查Hugging Face事件时，三名调查员驻场6天，查看约1300份带原始思维链记录，但无法调用涉事模型、接触基础设施，报告内容也受OpenAI限制。此次被指外泄的恰是基础设施架构。

前首席未来学家Joshua Achiam称这像一记乌龙球。METR的Ryan Greenblatt认为，递归自我改进最快6个月到1年可能催生远超人类的能力，获取AI公司内部核实信息已刻不容缓。新模型Astra在如实汇报上未达标，OpenAI已承认。若只有公司内部人看得懂AI在想什么，且他们往外说一句话就丢工作，公众能知道的就只剩公司想让你知道的部分。