端侧推理引擎开源，机器人跑大模型提速10.7倍

9月第二周，具身智能领域密集发布模型。8日松延动力发布HERON-World Model；9日智元推出AGILE 2.0与GE-Act 2.0；10日宇树开源UnifoLM-WLA-1.0，6B参数，约2500小时真机数据，一个模型统筹64项任务；15日松延再发HERON-CRA。八天内三家本体厂商共发布五个模型。

与此同时，机器人加速进入物理世界。9月20日启元机器人举办新品发布会，两款个人机器人正式发售，Q1定价19999元起；9月10日优必选宣布获超5000万元海外订单，涉及Walker C1、优世界U1等产品。资本市场评价标准亦发生变化，开始用脱水复购率、经营性净现金流及真实履约成本（交付后的部署、调试与维护投入）重新审视具身企业。

两条线索交汇，核心痛点浮现：如何将复杂强大的具身大模型高效、稳定地部署到算力极其有限的机器人本体硬件上？这正是端侧推理引擎的核心价值。

9月15日，清华大学联合无问芯穹与上海交通大学开源APXInf，一款面向具身模型的端侧推理引擎，同时回答两个问题：在算力、内存和功耗受限的端侧环境中，如何让具身模型在机器人本体上达到可用推理速度？当模型不断迭代进化，如何构建持续适配、永不掉队的端侧优化能力？

第一个问题，APXInf给出的答案是一组数字：无需改变π0.5模型本身，通过端到端全栈优化，在Thor芯片FP8配置下将推理延迟从278ms降至26ms，端到端提速约10.7倍，38.46Hz的频率让机器人控制进入实时区间。

第二个问题的答案写在APXInf仓库的构建方式中。它把原本依赖少数专家的模型适配、优化与验证，沉淀成一套可被持续复用并可被Agent使用的工作流。