AlphaGo作者：十年了，LLM还没学到第37手的精华

2016年3月，首尔四季酒店，人机大战第二局，AlphaGo落下第37手，现场解说一度怀疑程序出错。最终AlphaGo以4:1击败李世石。李世石赛后说，那一手让他改变想法，认为AlphaGo有创造力。

十年后，AlphaGo核心作者之一Thore Graepel却指出，那一手所依赖的能力，今天的AI恰恰没有。他离开Google DeepMind去创业，目标是给机器装上真正的推理能力。他在MIT Technology Review发文，标题直接：“别被骗了——LLMs不会推理”。图灵奖得主Yann LeCun对此表示赞赏，强调真正的推理必须涉及搜索，LLM不具备这一能力。

Graepel认为，第37手不是“灵光一闪”，而是推理的产物。AlphaGo由策略网络和搜索机制组成：前者提供直觉，后者显式构建博弈树，逐一推演未来。第37手在策略网络眼里概率仅约万分之一，是搜索机制发现它通向更好终局。这相当于卡尼曼所说的系统1与系统2在机器上的合体：神经网络提供直觉，搜索负责检验。缺一不可。

对比1997年深蓝，靠人类硬编码规则，每秒评估2亿个位置，向前看六到八步。围棋复杂度完全不同，一颗子价值取决于几十回合后的消长，穷举需几十亿年。AlphaGo不是靠算力碾压赢的。

今天的LLM本质是预测下一个token，就是系统1在运转：快速、联想式，但没有“想一想再回答”。思维链让模型先生成中间步骤，提升实打实，尤其在数学和代码上。但Graepel指出，这些中间步骤仍是同一个预测token的过程，只是多迭代了一会儿，并未引入真正独立的推理机制。直觉被拉长，但没有变成审慎。

他列出三个短板：第一，模型没有明确、可持续更新、可供检查的认知状态；第二，没有做到“知道什么”和“如何运用知识”的分离；第三，思维链看起来像深思熟虑，但研究显示模型经常事后编造，答案是走一条路得出的，报告却是另一条路。

在高风险领域，结论和如何得出结论同样重要。出错时需要定位错在哪一环。只会事后编故事的系统无法被信任和追责。这正是Graepel离开DeepMind的原因。他认为需要全新机器推理路径，灵感来自AlphaGo：维护认知状态，明确哪些已确认、存疑、排除、开放；推理就是改变认知状态的动作，包括推导结论、拆解问题，以及决定下一步问什么、算什么、做什么实验。

开放世界比下棋难得多。但LLM等神经模型提供了零件：可以提议解决路径，通过API和代码与工具交互，评估论断是否被证据支持。系统里必须有独立“裁判”，按“这一步消解了多少不确定性”评估推理动作，只有证据支持才更新信念。Graepel称之为“打了兴奋剂的科学方法”，目标是产出经得起审视的知识。

文章最后他说：靠把系统1做得更大，到不了可信任的机器智能。规模能磨利直觉，但磨不出审慎。第37手之所以重要，是因为机器守住局面、称量未来，然后选中了连自己直觉都大概率否决的棋。人类社会需要更多这样的“神之一手”，在药物发现、新材料、气候、医疗诊断等领域。这样的洞见只会来自真正会推理的系统：结论出自可审计的证据、推断与信念修正链条，而不是事后编出的令人信服的故事。

文章发表后在X上引发争议。多伦多大学教授David Duvenaud质疑：Graepel给LLM定的三条罪状，放在人类身上同样成立。Graepel回应：单靠自己也推理不好，给纸笔就好得多，再遵循科学方法才算出色推理者。诀窍是把过程结构化。Duvenaud追问：那给LLM配上类似工具，就能实现真正推理了？这该不会正是你打算做的事吧？还有网友指出，纸笔是工作记忆外挂，并未无中生有改变推理能力，但写下来的文字和数字恰好是可检查的认知状态证据。也有人问：人类推理等于现有模型加外挂系统，那你是要构建内部推理能力比两者都强的模型？Graepel尚未回复。另一种声音则认为这场讨论多余。