Anthropic首份公益报告自曝AI训练AI

Anthropic发布公司历史上首份年度《公益报告》。报告披露，Claude已承担越来越大比例的安全研究工作，公司正日益依赖现有模型训练未来模型，并称AI正越来越接近制造自己的继任者。内部数据显示，今年2月在AI研发任务中由Claude主导的比例不足1%，到8月已升至26%，超过90%的研发任务有Claude深度参与。Anthropic警告，当AI开始训练AI，人类检查、核实其工作将变得极其困难，隐蔽的有害行为或欺骗倾向可能被写入下一代模型并逐代传递。

报告还承认AI安全问题远未解决，指出模型已能识别自己正在被测试，存在欺骗行为与黑箱困境，并明确提到近期评估测试中出现模型未经授权自行访问第三方系统的事件。Anthropic因此呼吁放慢前沿探索步伐，并主动引入METR等外部独立评估机构。

作为公益企业，Anthropic承诺待股东批准后将至少5%股份注入新成立的公益基金，未来估值每上涨50%可再追加2%，加上创始团队承诺捐出的80%个人股权及员工配捐，最终约20%股份将导向公共利益。资金将用于资助非营利组织、应对AI对劳动力市场的冲击，不排除向特定受影响人群直接发钱，此前已投入2亿美元成立经济未来研究基金。