港大PhD兼小米大模型研究员：AI时代读博的10个关键问题

本周「十字路口」嘉宾是李磊，小米MiMo大模型后训练研究员、香港大学在读博士。他一边参与大模型训练，一边读PhD，面对AI带来的机会与飞速变化的节奏，既兴奋也焦虑。本期聊的主题是：AI时代PhD怎么拿到理想结果。

李磊2016年就读西安电子科技大学本科，2020年到北大计算语言学研究所读硕士，2023年到香港大学NLP Group读PhD。他提到读PhD的决定：如果10年后躺在床上可能后悔没去读，那就去读。机会成本很大，工业界与学术界待遇有差距，但钱可以以后再说，这段时间能专注做自己想做的事。他在北大最后阶段与师弟合作获Best Paper，入学两个月参加第一个会议，师弟论文中Best Paper，自己也有工作，当时觉得巅峰开局。

他的PhD打法：一是快速迭代，保持专注高效节奏，及时参与社区，向peers或更资深的老师同学获取反馈；二是选择做难而正确的问题。不够难就会有非常多竞争对手，容易被干掉。正确包括两方面：大家都关注的问题大概率重要；难。解决重要问题时即使很难，只要有一点进展也可能获得很大影响力。大家对你的要求不会那么苛责，因为都知道难。很多人面对困难问题第一步就觉得没头绪，但只要找到好的切面，扎实提供部分解释或实验理论分析，对后续研究者就是重要milestone。这套打法不一定适合所有人，但很大程度上可以减轻焦虑。

PhD的焦虑：首先是publication，顶会系统在AI冲击下有些难以为继；其次满足毕业要求后发那么多paper还有没有用，比如Astra出来后很多做具身的觉得整个domain被颠覆；最后是能否完成从PhD到工作的转换。应对建议：心态放松，社区在想办法稳固审稿系统，要相信这套系统有内在生命力；做的东西有没有意义，Astra看似很牛但有很多毛刺，大模型智能是锯齿状的，有些地方厉害有些地方完全没有，这考验大家真的坐在电脑前coding、设计harness、跑数据看模型表现，而不是被社交媒体炒作震惊。他们也在做具身实验，研究能力从哪里来，traceback模型从哪里泛化过来，才能更好提升它。

关于AI论文是否挤垮顶会：压力确实存在，审稿人原来可能看两三篇，现在约10篇，工作量受直接冲击，判断随机性变大。会场容纳量也在变大，NeurIPS有三个会场。社区通过限制投稿数量、推动更有经验审稿人承担更大责任、引入AI审稿辅助决策来让结果更准确，AAAI要求做决定时由两个senior SPC讨论。但有人的地方就有随机性，不要把accept or not作为最终reward。用SOTA模型做100篇论文投出去拼随机概率的做法不好，相当于对系统DDoS攻击，paper本身是为knowledge sharing，背后的人是否把事情弄清楚、是否有严密论证才重要。如果人加AI能提出100个有价值问题并解决得好，投不投稿都无所谓。

评价体系方面，现在已开始弱化publication体系，但只要存在评价体系就会有reward hacking。筛选候选人时paper更像nice to have，原先金标准现在大家都有，没有也没那么重要。贡献开源项目很加分，但也存在hacking，有人用AI提PR被merge就说自己是贡献者。他有个筛选小指标：看代码、数据有没有开源，开源后issues有没有人维护。