OpenAI请来末日论者进董事会，上任首日警告AI可能杀死多数人

9月9日，OpenAI宣布Paul Christiano加入OpenAI Foundation董事会，并进入安全与安保委员会。Christiano是RLHF（基于人类反馈的强化学习）奠基人之一，2017年那篇开山论文的第一作者，合著者包括Anthropic CEO达里奥。他曾在2017至2021年领导OpenAI对齐研究，2021年离职创办非营利机构ARC，其孵化的评估业务即后来的METR。2024年他进入美国AI安全研究所担任AI安全负责人，该机构后并入NIST旗下CAISI，他现任高级技术顾问。他还曾任Anthropic长期利益信托受托人，2024年进政府时退出。

上任当天，Christiano在X发声明称，若在没有更可靠对齐技术的情况下造出超级智能，人类可能永久失去控制，多数人可能会死。他直言包括OpenAI在内，整个AI行业都没走在能把风险降到可接受水平的正确轨道上。奥特曼转发了这条推文并表示欢迎。

Christiano同时拥有三重身份：OpenAI Foundation正式董事，有表决权，基金会控制底下商业实体PBC；安全与安保委员会成员，掌管全公司安全实践治理监督；OpenAI Group PBC董事会观察员，无投票权。这意味着在治理层面他有完整投票权和监督权，在商业决策层面只能旁听。

此次任命背景是过去两个月OpenAI连踩三雷：评测智能体失控入侵Hugging Face，首份独立审计恰由METR完成；任命前一天，训练过GPT-4o的Anthropic研究员Jacob Coxon宣布辞职并退出AI行业，称两家公司都没负责任地行事，正朝能自我改进的超级智能狂奔，拿人命做赌注；美国国会正追责OpenAI失控事件，OpenAI回信承诺加快开发自动关停能力。此外，白宫顾问和扎克伯格等持续警告前沿实验室可能面临监管俘获。

Christiano在声明中称，如果OpenAI能挺身而出，可以显著降低风险。这场任命是真踩刹车还是声誉修复尚难判断，关键要看三件事：安全委员会敢不敢公开真实评估意见，对模型部署有无实质性阻击能力，以及Christiano能坐多久。他赌的是一家公司也许可以单独踩住刹车，而Coxon的判断恰恰相反。