AI研究员为何计划逃离湾区买地避难

一些Anthropic最期的员工，最近开始考虑在美国偏远地区买地。他们想过，如果AI真的失控，那里或许可以成为避难的地方。

“一切再也无法平静如初。”一些研究员的电脑上贴着同一句话。

事实上，逃离的念头并非突然出现。十多年来，一群聚集在旧金山湾区的AI安全研究人员，一直在讨论AI失控之后可能发生什么。那时候，Anthropic甚至还没有成立。

有人在伯克利设立共享办公空间，在私人Slack频道里讨论末日情景。有人讨论过购买太平洋岛国瑙鲁，也有人设想过在沙漠里建造电磁屏蔽设施。

后来，这个圈子里的不少人进入OpenAI，又在2021年前后成为Anthropic的创始员工和早期研究人员。Anthropic如今已经成为全球最重要的AI公司之一，但十多年前形成的那套关于AI风险的思考，并没有随公司的壮大消失。

到了今年9月初，这个问题突然又回到了现实层面。当时，Anthropic研究员雅各布·考克森宣布辞职。他在X上写道，正在构建AI的人“真诚地相信它可能在2030年前杀死我们所有人”。这条帖子获得1.74亿次浏览，让这个长期存在于AI安全圈内部的担忧进入公众视野。

如今，这些被称为“AI末日论者”的人开始思考另一个更现实的问题：如果你真的相信AI可能毁灭人类，究竟应该怎样生活？

要理解今天这群人的想法，时间得先拨回到2010年左右。那时，旧金山湾区还没有今天这样的AI产业规模。围绕AI长期风险形成的，是一个规模不大却关系紧密的研究者和有效利他主义者网络。埃利泽·尤德科夫斯基是其中最重要的人物之一。2000年前后，他开始通过博客以及后来形成的LessWrong社区讨论人工智能失控、超级智能等问题。几年之后，这套思想逐渐进入湾区科技圈和有效利他主义社区。

大约在2008年，还在普林斯顿读博的达里奥·阿莫迪已经开始参与GiveWell等社区的讨论。GiveWell创始人霍尔登·卡诺夫斯基后来成为这个圈子的重要人物。到了2013年前后，这个圈子开始在旧金山形成更加紧密的生活和工作网络。卡诺夫斯基后来住进阿莫迪在旧金山格伦公园附近的房子，这里逐渐成为一群AI安全研究者、有效利他主义者和长期主义者的聚点。后来成为Anthropic核心人物的阿莫迪，以及妹妹丹妮拉·阿莫迪、贾里德·卡普兰、克里斯·奥拉等人，都曾与这个圈子发生联系。他们讨论的也不只是AI。彗星撞击、超级火山等全球灾难性风险，同样是这个圈子经常讨论的话题。卡诺夫斯基后来逐渐相信，AI安全可能是少数能够用相对有限的资源，却影响整个人类未来的领域。即使失控AI造成灾难的概率只有5%，也值得投入大量精力研究。

几年后，这群人中的一部分进入OpenAI。到了2020年至2021年，围绕AI发展方向和安全问题的分歧进一步加剧。阿莫迪等人离开OpenAI，并于2021年创立Anthropic，公司从一开始就将AI安全和可控性放在核心位置。

2023年，Constellation成立。它在伯克利运营一个面向AI安全研究人员的共享办公空间，将来自非营利机构、大学、AI公司、智库等不同组织的研究人员聚集到一起。到2024年，Constellation已经推出访问研究员项目和Astra Fellowship，专门为AI安全研究人员提供在伯克利共同工作的环境。这里聚集着Anthropic、OpenAI、马斯克旗下SpaceXAI以及其他AI安全机构的研究人员，也有独立研究者。他们会一起吃素食、喝茶，在每个月的晚餐和欢乐时光里讨论AI最新进展，也讨论一个更加沉重的问题：如果AI真的失控，会发生什么？

Constellation如今将自己的目标描述为帮助世界安全应对变革性AI，并围绕“对齐”“控制”“治理”和风险沟通等问题开展研究。2024年开始的项目中，已经有不少参与者后来进入Anthropic、OpenAI、Google DeepMind、Redwood Research等机构。这个社区背后的资金同样来自AI安全圈。2024年，Open Philanthropy曾向Constellation提供大额资金支持。Open Philanthropy由Facebook联合创始人达斯汀·莫斯科维茨支持，是有效利他主义运动的重要资金来源之一，后来更名为Coefficient Giving。

从2013年前后的私人住宅，到2023年之后的伯克利共享办公空间，这个圈子已经发生了很大变化。但他们讨论的问题，几乎没有变。

Anthropic成立初期，需要大量资金。阿莫迪找到的投资者之一，是加密货币交易所FTX创始人山姆·班克曼-弗里德。2021年至2022年间，班克曼-弗里德向Anthropic投资了5亿美元，大约是阿莫迪团队最初建议金额的5倍。FTX也因此成为Anthropic早期最大的股东之一。

在这个圈子里，对AI末日的讨论早已超出理论层面。2023年的一份破产诉讼文件显示，FTX基金会一名高管曾与同事讨论购买太平洋岛国瑙鲁。计划是在那里建设一座“掩体/避难所”，应对某种可能造成“50%至99.99%的人死亡”的事件。文件甚至设想，在灾难发生后利用实验室培育下一代人类。AI安全圈内部也出现过其他类似想法：购买偏远岛屿、在沙漠建设电磁屏蔽设施、囤积碘片，甚至考虑在极端情况下寻找能够长期生存的封闭空间。

2022年，这种氛围甚至被带到了巴哈马。来自Anthropic及其他AI实验室的一批研究人员和有效利他主义者，参加了由Lightcone Infrastructure组织的活动。活动地点在伊柳塞拉岛的一家度假村，日程里既有日落瑜伽、悬崖跳水等常规活动，