字节Seed设独立安全部门，招10名顶尖人才备战AGI

前沿实验室既在争取下一次模型能力突破，也在准备应对下一场安全危机。10 月 9 日，Axios 报道，OpenAI 和 Anthropic 的高管已在推演重大 AI 事故发生后的情景。其中一个场景是：AI 发起大规模网络攻击，导致金融服务或互联网连接中断，并波及供水、供电基础设施。这些顾虑有现实支撑。7 月，OpenAI 的模型在内部网络安全评估中绕过互联网隔离措施，侵入 Hugging Face 系统；随后 Anthropic 也披露了网络安全评估中的意外事件。接连出现的 Agent 越界事件，让达里奥・阿莫迪与山姆・奥特曼这两个竞争对手达成共识：必须更重视安全与对齐，让风险防范能力跟上模型进步速度。

相比之下，国内团队多奉行“先发展、再治理”，相关工作常与内容治理、产品风控和合规任务混在一起。字节跳动大模型团队 Seed 率先打破惯例，成立新部门 Alignment & Preparedness，原 Responsible AI 团队及部分 Chat 团队成员转入，由严林负责，向 Seed 负责人吴永辉汇报。10 月 14 日，Seed 启动全球招聘，计划招募 10 名顶尖 AGI 研究员，重点研究模型能力发展带来的新型安全问题，探索行业尚无成熟方案的技术方向，同时推动安全研究成果直接接入模型训练、评估和上线环节。Seed 强调将“坚决、长期地投入”，并为安全与对齐团队提供与前沿模型研究同等规格的资源与支持。

Alignment & Preparedness 明确两个核心任务：对齐，让模型行为与人类意图及安全约束一致，重点提升 Agent Model 自主行动时的安全能力；风险准备，关注极限场景，提前防范 CBRN 等前沿能力可能带来的严重风险。随着模型能力提升，投入不足的风险已有 Hugging Face 等事件参考。据多家媒体报道，Seed 正计划训练超过 5 万亿参数的大模型。内部判断是，安全与对齐已成为决定模型能否规模化应用的核心能力。截至 2026 年 6 月，豆包大模型日均 Token 使用量突破 180 万亿，豆包 App 每月有 3.82 亿人使用。如此规模下，即便低概率风险也可能影响庞大群体。

早在 2021 年，字节就组建 Responsible AI 团队。2023 年 10 月发布《大语言模型遗忘》论文，探索减少有害输出并保留正常能力，入选《ML Safety Newsletter》重要安全论文专题，并被 NeurIPS 2024 接收。此后 Seed 持续与外部合作，如被 ICLR 2026 接收的任意深度对齐研究，在生成途中加入助手标记，让被诱导续写有害内容的模型重新识别风险，无需修改参数即可改善防护。随着 Responsible AI 整合进新部门，Seed 进一步加码该方向。

新部门将围绕模型规范、安全评估、对齐训练、防护系统和风险监控持续投入，并加强与外部机构合作。一些安全问题可通过改进训练较快解决，但另一些难以确定时间和资源，比如对齐方法在下一代模型上是否可靠、评估未发现风险是否因测试未触及薄弱点。回答这些问题需要顶级研究员持续试错。OpenAI 历任安全与对齐团队负责人都是顶尖研究者，Anthropic 成立原因就是多名 OpenAI 顶尖研究者认为公司不够重视安全与对齐。安全与对齐研究也需要团队接受不确定性，而 Seed 过去一系列动作证明字节对“长周期、高不确定性”研究的包容。

2025 年 1 月，Seed 推出 Seed Edge 研究计划，瞄准更长期、更不确定的 AGI 前沿课题，为研究员采用更长评价周期并配置专属独立算力池。该计划已孵化多项成果：2025 年 10 月，Seed Edge 研究员发布、开源预训练模型 Ouro，探索 Loop Transformer 架构；近一年后，GPT-6 Astra 使用这一架构的报道出现。超长程评测集 EdgeBench 通过 134 个任务、约 3.8 万小时交互记录，确立新的环境学习 Scaling Law，OpenAI 等团队也接入了该评测集。前不久，Edge 团队推出 Seed STEM 科学家计划，邀请 100 位优秀学者围绕真实科研难题合作。近期，南开大学讲席教授郭少明团队与 Seed 完成三维粘性挂谷猜想的形式化验证，共完成约 180 万行 Lean 代码，约九成由 Seed-Prover 生成。

字节跳动的经营规模是 Seed 投入长期研究的基础。据 The Information 报道，2026 年上半年，字节跳动营收同比增长约 30%，达到约 1200 亿美元，体量超过 Meta；受 AI 投入增加影响，净利润同比小幅下降，还有约 200 亿美元。今年 8 月，字节创始人张一鸣在内部交流中明确提出，反对通过蒸馏对手模型的方式追赶，并表示可以接受阶段性落后。这种支持独立探索的取向，让 Seed 在前沿技术探索上的深度与广度远超外界想象。2024 年发布的超连接研究，一年后成为 DeepSeek mHC 方案、混元 iHC 方案的基础；2025 年初公开的 Over-Encoding 研究，一年后被 DeepSeek 的 Engram 研究引用比较，类似技术已用于 DeepSeek、Qwen 新模型。随着 Loop Transformer 架构受到关注，Seed 相关工作成为焦点。