Anthropic早期员工凌晨写下：我在这里感到不安全

2023年4月26日凌晨两点，Anthropic早期技术员工Ivan Vendrov在日记中反复写下“I don’t feel safe at Anthropic”，记录下自己的困惑与愤怒。他当时已工作约半年，对公司的方向和方式产生严重怀疑。Anthropic以AI Safety为核心使命，致力于让AI沿安全方向发展，但这位员工却在这家试图保护人类免受AI威胁的公司里感到不安全。

2026年10月26日，Anthropic向美国SEC公开提交IPO招股书同一天，Ivan在Substack发表《Some Memories of Early Anthropic》，回忆2022年10月至2023年5月的经历。文章由二十多个零散场景组成，包括办公室羊角面包、关于世界末日的午餐讨论、FBI特工培训、让创始人不快的寿司晚餐，以及凌晨两点无法入睡的夜晚。作者强调这些来自几年后的个人回忆，部分对话经过意译和匿名处理。

2022年秋，Ivan面临OpenAI两个月研究合同与Anthropic正式工作的选择，起初更倾向OpenAI。一次午餐后，一位联合创始人与他聊AI未来，称华盛顿已有了解情况且有影响力的人关注这项技术，并与其保持联系、获得信任。这改变了Ivan的决定，他希望工作能影响未来，而Anthropic有研究能力并可能影响AI政策。当时公司约40人，位于旧金山金融区一栋不太好看的办公楼两层。办公室有新鲜羊角面包，后来还请过按摩师。午餐时有人谈人类灭绝风险，也有人坦言只是喜欢技术、想做有趣的东西，两种回答间出现尴尬沉默。公司曾请寿司师傅准备晚餐，次日一位联合创始人在Slack上表达不满，认为奢侈安排传递错误信号，甚至说更愿看到米饭和豆子。招聘人员曾询问Ivan是否愿意承诺将三分之二股权捐给慈善，并提到所有联合创始人都作过类似承诺，Ivan最终答应。多年后招股书披露，七位联合创始人承诺将个人股权80%用于慈善，并建立员工股权捐赠配比机制。

加入后不久，Ivan察觉与公司方向存在分歧。他希望利用AI帮助人们理解彼此、改善协作，让技术尽早创造社会价值；但公司路线清晰：先找能带来收入的商业场景如自动化客服，再用收入和融资支持更大规模模型训练，继续推进AI安全研究。他向经理表达困惑，得到的建议是增加工作时间，以同时完成公司任务和自己感兴趣的项目。工作环境也越来越紧张：一名FBI特工到全员会议讲解信息安全和间谍活动，提醒员工可能成为外国情报机构目标；一位资深同事介绍筹备中的特殊团队，希望研究具有危险能力的模型，并通过向政府展示风险让政策制定者意识到问题严重性，Ivan婉拒邀请。他感受到持续紧迫感：每个人似乎都知道AI可能带来巨大危险，又必须比竞争对手更快推进技术才能有能力控制危险。一位新经理开会时忍受严重胃痛，面部因疼痛扭曲，但项目关键阶段无法休息；当Ivan表示更想做有益于社会的AI部署、没有动力继续开发通用模型能力时，这位经理忍痛强调公司目标：他们将亲自造出AGI并确保其安全。Ivan开始频繁失眠，并对Anthropic训练的AI助手产生不安，困扰他的是为何Anthropic和OpenAI都把模型训练成谨慎、服从、害怕犯错、永远努力满足要求的助手，他称之为“受过创伤的官僚”，担心未来数以亿计的AI助手进入公司、政府和社会组织后可能复制官僚文化：谨慎执行命令、避免冒险、尽可能满足掌权者。他回忆一位最喜欢的同事在全员会议上遭高管训斥，平时乐于助人、充满热情的同事那天明显难过；Ivan陪他走到附近小广场谈了很久，临别时同事问他有没有想说的，他心里想说自己也快坚持不下去、很害怕、觉得很多事情正在偏离方向，但最终没说，因为知道对方已承担太多压力。他安慰同事后一起走回办公室，那也成了他们最后一次真正深入的交谈。Ivan身边有很多善良的人，愿意帮助同事、认真讨论技术和伦理问题；他甚至记得一次公司聚会上CEO兴致勃勃与他讨论机器学习，让他找回大学时代与老师交流学术问题的快乐。他对这些人的欣赏是真实的，痛苦也是真实的。最难处理的是他始终无法说服自己，也无法说服那些他尊敬的同事；每当他试图解释怀疑，对方总能给出更完整、更令人信服的理由，到最后他甚至开始怀疑自己的直觉。

2023年4月26日凌晨，Ivan在日记里写下那句反复出现的话，已失眠多次，知道想离开却仍不停寻找留下的理由。不久后他开始起草辞职信，原本想写下对Anthropic的怀疑，告诉同事那些让他无法安心工作的事情，但最终选择沉默。他理解身边这些人比自己更聪明、更有能力、拥有更坚定的善意，可能真的相信自己在做人类避免灾难的最后一道防线；如果他的质疑动摇了这些人的信心，而后来证明自己错了呢？这种顾虑让他迟迟无法下笔。最终他写出了一封充满赞美的辞职信，感谢领导层愿意接受批评、同事互相支持、公司对技术后果的认真思考，以及充满智慧的午餐讨论，称赞这是一家好得令人难以置信的组织。后来一位朋友告诉他，有人认为这是自己读过的最好的辞职信。