17岁AI天才陈广宇宣布离开Kimi

今天，曾因 Attention Residuals 论文走红的AI少年陈广宇（Nathan Chen）宣布离开Kimi。他16岁入职月之暗面，17岁挂出顶会级架构论文一作，深度参与Kimi K3与底层内核研发。从去年11月加入月之暗面到如今离开，前后不到一年。

陈广宇由月之暗面核心技术大牛杜雨伦发掘。杜雨伦此前在MIT攻读博士，是生成模型领域公认的顶级学者。陈广宇在告别推文中特别提到：“在Kimi的过去一年是我人生中最美好的一年。感谢一切，尤其是杜雨伦当年相信并聘用了一个16岁的我。”

在Kimi期间，他参与的核心工作包括：与张宇一起优化KDA（Kimi Delta Attention）高性能内核；与苏剑林、张宇共同构思并完善Attention Residuals架构；在最底层训练动态中研究优化器与训练动力学；参与Kimi K3发布案例制作。

其中最引人注目的是Attention Residuals（AttnRes）。今年3月，月之暗面公开的论文（arXiv:2603.15031）中，陈广宇位列第一作者，并列署名者包括苏剑林、张宇、杜雨伦、吴育昕及杨植麟。

Transformer模型能叠到几十甚至上百层，依赖残差连接，但经典残差存在“等权累加”缺陷：每层输出以1:1权重加入主干通道，层数加深后主干数据流迅速膨胀，深层特征占比微乎其微，导致“PreNorm稀释病”。AttnRes让每一层回看前面所有层时引入轻量级注意力打分，根据当前上下文决定给前面哪一层分配更多权重，按需汲取历史表征。为避免全量注意力带来的平方级计算复杂度，团队又推导出分块注意力残差（Block AttnRes）：将上百层网络拆成若干区间块，块内精细打分，跨块用锚点通信。

在Kimi 48B模型实测中，逻辑推理基准GPQA-Diamond从36.9提升到44.4，提升7.5分；代码生成HumanEval提升3.1分。

陈广宇的下一站尚未公布，他在推文中只留下敬礼表情：“More things to explore”。有人猜测他可能重返校园，也有人推测他会被北美顶级实验室或初创团队挖走。

他的离职引发震动，深层原因在于大模型时代传统经验壁垒正快速崩塌。底层算子优化、注意力机制数学推导、上千卡分布式集群动态追踪等前沿领域，很多没有现成教科书，全球顶尖头脑几乎在同一起跑线摸索。2025年初，陈广宇还在通过阅读论文、借助AI工具理解机器学习基础概念；几个月后已开始编写底层计算内核，在开源社区分享研究；不到两年，已参与大模型核心架构研究。正如他自己所写，模型世界浩瀚无垠，属于这一代极客少年的探索才刚刚拉开序幕。毕竟，他才17岁。