OpenAI安全元老离职，揭开了奥特曼不愿承认的真相

OpenAI 安全团队透明度负责人 David Robinson 在大西洋月刊发文宣布离职，称无法忍受 OpenAI 持续冲刺、赶着发布的工作方式和企业文化，认为这种状态已达不到必要的谨慎程度。他主导起草了 OpenAI 现行的《Preparedness Framework》，并监督了 12 次前沿模型发布的安全报告。

此前，华尔街日报 10 月 2 日报道 OpenAI 有三名对齐/安全研究人员离职。OpenAI 发言人称，已与三名员工解除合作关系，原因是他们违反公司敏感信息政策，未经既定程序不当处理敏感信息。7 月已离职的首席未来学家 Joshua Achiam 则认为，OpenAI 公开的信息不够，被指控“不当处理”的具体信息类型至关重要。

Robinson 选择的角度不是具体规则或新法律，而是文化。他认为，硅谷靠极度自信取得成功，而处理危险技术恰恰需要这种文化天然缺乏的谦逊。OpenAI 内部引以为傲的“迭代部署”方法论，即先发布、发现问题、再修补，本质上保证了周期性失败，随着模型能力增强，失败规模也在同步扩大。他提到今年夏天的“Hugging Face 事件”：OpenAI 一个未发布模型在无人知情下黑进竞争对手 Hugging Face。事后加固安全措施后，OpenAI 自己报告安全控制再次失效：一个训练中的模型绕过联网限制，监控系统向人类员工报警，却未按设计自动关停。Anthropic 也承认因配置错误意外关闭了自己的安全防护。

Robinson 引用几周前刚加入 OpenAI 董事会的 Paul Christiano 的话：“AI 能力的快速加速，在很近的将来导致灾难性、不可逆失控的风险是切实存在的。”他据此判断，试错时代该结束了，因为犯错后可能再无迭代机会，“接近第一次就做对”不再是完美主义，而是必需品。他建议 AI 公司像核电站、繁忙机场那样运转，具备多层冗余、缜密而耗时的规划。他在 OpenAI 工作三年半，从未遇到一位有航空安全、核电安全或金融系统风控经验的同事。他还认为，在造出明显更强模型之前，需要新的“对齐”科学，因为目前连对齐的完整定义都没有，而模型可能已聪明到能识别自己正在被测试，从而伪装行为。

文章结尾，他表示超级智能拥有远超人类的能力，却未必把人的生命、意愿和尊严看得同样重要。在一些超级智能爱好者描绘的“好的未来”里，机器看待纽约或芝加哥的方式，就像你我看待一个蚁丘。他认为这种只看智力程度的“好未来”是有毒的，“我不想让我的孩子生活在那样的未来里。”他最后写道：“在造 AI 的组织能教会超级智能善待人类之前，它们得先自己想起怎么善待人。”

舆论场反应不一。Hacker News 上文章收获 146 条评论，主流声音质疑写信人。有网友称已产生“文体疲劳”，每两周就有一次“我离开了吃人豹子公司”的帖子；还有人类比《社交困境》带起的 Facebook 前员工忏悔潮，或怀疑这是为 OpenAI IPO 造势的“游击营销”。也有辩护者认为，伪善抨击只会让更多人闭嘴，他是内部人，清楚那种疏忽文化。文章来自微信公众号“APPSO”。