DeepSeek开源自家印钞机级推理框架DeepInfer

昨天，DeepSeek 开源了支撑自家百亿级调用的云服务推理框架 DeepInfer，以及生产级分词组件 deepseek-recipe，均采用 Apache 2.0 协议。官方表示，未来新模型的推理代码和性能优化也会持续在 DeepInfer 中开源。

基于 DeepInfer，DeepSeek 单一集群服务吞吐已达每天 155 万亿 Tokens，按最低价格计算，整体收入约每卡每小时 38 美金，折合人民币约 253 元。

此前行业开源模型通常只提供权重文件，生产环境的高吞吐、低延迟部署方案多藏在闭源黑盒中，导致中小算力商和企业自部署时算力利用率低、难以盈利。DeepSeek Harness 负责人崔添翼表示，开源 DeepInfer 和 deepseek-recipe，是希望全球公司和机构都能部署 DeepSeek 模型并靠此赚钱。有网友估算，二三线推理服务商用这套方案可做到 90% 以上毛利。vLLM 官方账号也发文致谢，感谢 DeepSeek 将最初基于 vLLM 打造的 DeepInfer 以 Apache 2.0 协议回馈社区。

技术博客显示，DeepInfer 从设计之初就具备广泛硬件兼容性，用常见 8 卡机器做 Prefill，用 64 到 128 卡超节点做 Decode。文档建议视觉编码器用可用范围内最便宜的卡部署。为降低 Prefill 成本，DeepSeek 搭建了 100 PiB 容量的 3FS 分布式存储集群，Agent 流量 KVCache 保留 72 小时以上，Chatbot 流量存 7 天；通过 RDMA 网卡和 GDR 技术将聚合读取带宽做到 10 TiB 每秒，换入显存时与前向计算重叠，不占 GPU 的 SM 计算单元。V4 到 V4.1 迭代中，团队推出 SWA Bounded Replay 技术，只重算最后 128 个 token，将总 Prefill 计算量砍掉一半。

同步开源的 Rust 组件 deepseek-recipe 统一了 OpenAI Chat Completions、Responses 和 Anthropic Messages 三种 API 协议，用分段并行编码解决长文本分词卡顿，并从底层堵住 Special Token 注入攻击。底层调度通过 GPU 和 CPU 异步流水线重叠做到 GPU 全程无空闲，投机解码 DSpark 采用变长验证，线上再提升 6% 吞吐。

梁文锋早在 2024 年 V2 降价时就表示，定价基于成本核算，不贴钱也不赚暴利，因为 AI 应该普惠、人人用得起。

文章还对比了闭源巨头：OpenAI 全面转向闭源商业化，Anthropic 坚持闭源并以安全为由拒绝开源。招股书显示 Anthropic 2026 年上半年净亏损 807 亿美金，其中 720 亿为可转债公允价值变动，半年算力和基建支出近 90 亿美金，超过 2025 年全年。博主 @bookwormengr 估算，按 DeepInfer 在 GB200 NVL72 上的能力，1GW 算力一年可跑出 1000 亿到 1490 亿美金 Token 收入，比行业预测高近十倍；若 2027 年全球 50GW 算力中一半用于推理，按 DeepSeek 价格需全人类每年消费 2.5 万亿美金才能用完，按闭源巨头价格则需 10 万亿美金 ARR。