田渊栋新公司首个模型亮相：AI全程参与，不到4个月从零造出

自今年5月官宣以来，田渊栋参与创立的新公司Recursive SI迎来首个模型成果Flint-40B-A2B。这是一款专为本地硬件运行的智能体编程模型，由Recursive自研的自动化研究系统Eureka Machine全程参与打造。

Flint是混合专家（MoE）模型，总参数量400亿，每生成一个Token仅激活25亿参数。在少量员工和AI智能体共同参与下，从零开始不到4个月完成。在SWE-Bench Pro v2、Terminal-Bench 2.1和SWE-Bench Verified等基准测试中，Flint表现超过总参数量低于500亿的其他MoE模型，编程能力可与250亿至400亿参数的稠密模型媲美，运行速度快5倍以上。

推理引擎做了专门优化。短上下文下，Flint在搭载M4 Pro芯片的MacBook Pro上生成速度超过每秒125个Token；在配备64GB内存的NVIDIA RTX Spark上超过每秒150个Token，相比同类模型速度最高提升2倍。有开发者在M5 Max上实测生成速度达每秒114～132个Token；另有开发者在12GB显存的RTX 3060上成功运行该模型，支持256K上下文，生成速度约46 Token/s。

开发Flint也是对Eureka Machine的实际检验。该系统帮助完成了模型构建流程中几乎所有环节的研发，包括数据处理、训练方案、基础设施和推理优化。Flint模型权重已在Hugging Face开放，采用Apache 2.0许可证，下载后可在本地运行，数据留在自己设备上，也可根据需求调整。Flint兼容llama.cpp、Ollama、Unsloth、LM Studio、vLLM和SGLang等工具框架，开源轻量级推理引擎rec针对M4 Pro和M5 Pro/Max芯片优化。

基准测试方面，Flint在IFBench和IFEval上取得最高分，在Terminal-Bench 2.1和SWE-bench Pro v2上领先于所列其他稀疏MoE模型，在SWE-bench Verified和LiveCodeBench v6上保持较强竞争力，但部分稠密模型在编程基准中仍取得更高分。Flint支持最长512k Token上下文窗口，官方建议控制在256k以内以获得更好效果。它适合日常编程本地执行任务，处理复杂任务时建议拆成较小子任务并给出明确指令，与大型闭源编程模型相比可能需要更多引导。

技术细节上，Eureka Machine从总参数量350亿、每Token激活30亿参数的基线模型出发，经多轮探索选定最终架构。模型训练完成后，系统继续寻找量化方案，将输出层也量化到4 bit，并增加离线蒸馏环节弥补精度损失，使训练步数减少近一半，最终NVFP4模型在各项基准测试中得分与16位模型相差不超过0.7分。系统还针对Apple Silicon和NVIDIA RTX Spark开发专用内核，在M4和M5芯片上开发基于Metal的大型融合内核，将整个解码阶段前向计算合并到一个内核中执行。

Recursive的目标是打造能够递归式自我改进的超级智能，让知识发现过程自动化。Flint是这项工作起点，小团队不到4个月从零构建。Recursive判断，能力更强的模型能让Eureka Machine成为更好的研究者，帮助更快开发下一代模型。接下来Recursive将继续开发能力更强的本地模型及所需基础设施，并将工作延伸到更广泛的AI研究与开发领域。