AI不需要K8s？他们放弃数百万营收转向AI Infra

“做事情就得边开车边修轮子，你得往正确的方向走，不能等坐上保时捷了才出发。”

四年前，法国一场 CNCF 大会上，主持人问大模型创业者：“Kubernetes 能为 AI 带来什么？”对方脱口而出：“AI 不需要 K8s。”随即又找补说也用了一点点 K8s 管底层集群。台下坐着的梁胜与秦小康对此格外敏感：写 Python 的大模型开发者关注权重、上下文和推理延迟，而非 Pod 编排与容器调度。

彼时，他们二次创业的数澈软件正推进平台工程产品 Walrus，账上有数百万元营收，大客户已列入下一年预算，新版本即将发布。但面对行业范式转向，秦小康问梁胜：“我们什么时候宣布转型？”梁胜回答：“走出会议室就宣布。”回国后中午落地，下午两点召集全员会，方向彻底调转。秦小康认为，这提高了团队效率，固守一眼望得到头的方向是最大消耗。

转向背后是 AI 算力落地的现实断层。2022 年大模型爆发后，企业疯狂买卡，但用好极难。不同芯片厂商驱动与软件栈各异，新模型日新月异，硬件适配与部署链路极度碎片化。摩根大通报告显示，中国 80% 新建数据中心的 GPU 处于闲置状态。梁胜概括为“多对多”困境：没有一家 GPU 厂商能支持所有开源模型，也没有一家模型厂商能保证代码在每种芯片上完美运行。开发者只希望短时间把卡跑起来，变成对外提供调用的“Token 工厂”。

新产品 GPUStack 由此诞生。彻底开源后，十余人的团队聚拢了全球 120 多个国家和地区超十万名开发者，并拿下华为昇腾、海光 DCU、沐曦 MetaX 等多家国产芯片官方兼容认证。九月初，GPUStack 首届 AI Infra 生态与技术创新大会落幕，秦小康、梁胜及帝欧水华集团董事长朱江接受 CSDN 专访。

谈及英伟达传闻收购 Hugging Face，秦小康认为这与微软收购 GitHub 不同，说明开源价值巨大。GPUStack 第一天设计就考虑 Hugging Face，也支持魔搭和 Local Model，若渠道受限，很快会有新平台替代。梁胜表示，下一个 Hugging Face 马上会起来，这是对开源和开放式模型的认可。

对于 GPUStack 定位，梁胜称没想宏观终局，打“避风港”旗号没用，核心是提供实在价值。用户下载 GPUStack 是为解决具体问题：让模型稳定跑起来，变成可对外调用的 Token 服务。“多对多”困境正是机会。他坚信开源模型会越来越多，芯片架构越来越多元，技术扎实自然成为避风港。

秦小康表示，从没想把 GPUStack 与“Token 工厂”死死绑定，这只是现阶段客户最易理解、最愿买单的形态。早期讲“多对多”像玄幻故事，面对传统企业必须具象化：有一堆卡，GPUStack 帮你建“Token 工厂”，把算力变成 Token 换钱。商业叙事是阶段性的，今天接受 Token 工厂，明天可以是 Token OS，未来是 Agent 运行容器，这就是“Stack”的魅力。

梁胜补充，领域变化太快，两年前讲“Token 级调度”别人以为在搞加密货币。技术命名永远在变，顺其自然就好。

关于推理价格战，梁胜认为现在 GPU 显存里基本还是临时缓存，如 KV Cache，业界都在攻。未来与用户上下文绑定的数据会越来越多，单机配 NVMe 存储可能跟配 GPU 一样重要，几十 T、几百 T 甚至几个 P 的高速存储都要塞进单台机器。硬件复杂到一定程度，底层资源必须有一个操作系统统一管起来，这正是他们要管的。

对于异构算力管理是否会诞生 AI 时代“K8s”，梁胜认为完全有可能。一旦行业标准成型，一定全力拥抱。现在核心痛点是入局者众多，但很多人讲不清自己在做什么，刻意把系统讲得复杂模糊；反而边界清晰、明明白白说“就做这个、不做其他”的公司不好找了。