30B大模型跑进手机，端侧AI迎来长上涨周期

TrendForce数据显示，从2025年年中到现在，部分DDR5内存价格涨了近10倍，主因是云端大模型训练和推理消耗大量产能，需求向外溢出，端侧成为承接方。同期手机端模型从3B膨胀到30B+，硬件扩张缓慢，存算力错配严重。行业从模型侧压精度、推理引擎侧压系统开销两条路应对。

9月高通骁龙峰会上，成立不到一年的中国公司无量火科技与高通联合发布移动端解决方案，展示Ember推理引擎，让手机跑通30B大模型，模型未经额外改动，砍掉大部分内存占用，推理质量无损。CEO王瑜琨认为，存算力供需错配越深，端侧AI增长空间越大；用户体验和成本决定终端厂商不可能一直依赖云端，智能向终端迁移将持续相当长时间。

Ember核心思路是预测性部分加载，只把推理真正需要的参数装进内存。针对MoE架构稀疏特性，训练轻量预测模型提前判断下一步所需参数，从闪存加载部分参数，其余留在存储中。该逻辑也适用于Dense模型，可将其改造成类似MoE的运行状态。实测Ember将MoE模型内存占用降低80%，Dense模型降低50%，王瑜琨称更激进方案已在内部推进。与传统推理引擎依赖手写优化规则不同，Ember在预测、调度、路由等环节大量使用深度学习算法，部署后可在运行中持续积累优化经验，推理速度随使用提升，经验可跨用户共享，形成网络效应雏形。

无量火在Ember之上还做了AI原生操作系统FlareOS，仅用300MB出头运行内存即可支撑完整操作系统、大模型和多个Agent同时运行，内存占用为传统操作系统的十分之一。王瑜琨认为推理引擎和操作系统最终走向“智能软件”阶段，软件在闭环逻辑内自行进化，传统软件越用越卡，AI原生软件可以越用越快。

商业化方面，无量火设立于上海浦东张江，成立百天与多家头部算力平台达成实质合作，作为唯一初创企业入选中国信通院创新实践汇编，成为浦东新区AI Infra标杆企业；成立不到半年作为全场唯一中国初创企业登上高通骁龙峰会主题演讲舞台。骁龙峰会后Ember芯片适配已覆盖国内外十余家主流算力平台，OEM合作伙伴涵盖多家头部终端厂商。王瑜琨称策略是“靠速度拉开身位，用生态锁死壁垒”，核心创始团队来自芯片与互联网产业界一线，公司采用AI原生方式运转。主流开源模型架构约半年大变样，每次变化都对推理引擎适配能力提出新要求，跟不上的引擎会被甩出去；当引擎跑进足够多芯片和终端后，适配数据和优化经验会沉淀成产业级生态。

无量火下一个关键节点是2027年1月CES，将联合合作伙伴发布FlareOS软硬一体化产品。王瑜琨预计，在DRAM 3D堆叠、闪存HBF等技术支撑下，“明年100B的模型就能在手机上流畅运行”。