OpenAI内部AI竟开始自己训练自己

据The Information爆料，OpenAI内部AI模型已开始“自己训练自己”：该内部模型接管了实验性AI模型训练全流程，研究员只需给出优化示例，AI就能自行运行数周，多智能体自发协作、讨论并迭代代码，无需人类插手。原本需数年完成的实验被压缩至一周。OpenAI内部模型已能自行编写GPU内核程序及优化方案，这种自动化水平直到最近几个月才成为可能。

OpenAI随即发布全球安全倡议，罕见单列“RSI”一节，明确“全自主RSI今天并未发生，在能安全做到之前不应推进”，呼吁各国AI安全研究所网络制定全球技术标准。报告警告，随着AI系统在开发下一代AI中承担更多任务，可日益推动RSI进程，AI进步步伐可能急剧加速；若不谨慎，RSI可能导致人类失去对AI发展的实际控制，无法监督不再理解的研究过程。OpenAI称AI驱动研究已推动数学领域重大进步，但存在“黑盒效应”，并点名Hugging Face事件作为失控预演。

OpenAI提出全球AI安全协调提案，核心包括：构建互补的国家与国际前沿标准网络，利用现有机构制定全球通用技术标准，针对前沿AI模型，评估其RSI能力与自主研发风险；建立通用测量与事件报告协议，评估企业内部AI自动完成研发比例，设立强制性人类监督触发机制，建立事故分类与报告门槛。OpenAI提议美国领导这一进程，确保安全对齐研究速度跑在AI能力提升之前。

同时，The Information曝出OpenAI与Anthropic正敲定历史性协议，将互相测试对方商用模型，并设严格数据保留防护。双方因AI安全理念分歧曾分道扬镳，此次联手旨在通过交叉盲测弥补单一公司自评缺乏公信力与技术盲区的问题。若协议落地，将重塑AI生态安全标准。