端侧推理引擎开源,机器人跑大模型提速10.7倍

端侧推理引擎开源,机器人跑大模型提速10.7倍

AI 资讯 来源:新闻/公众号 发布时间:2026-09-30 12:16:33 预计阅读 3 分钟

9月第二周,具身智能领域密集发布模型。8日松延动力发布HERON-World Model;9日智元推出AGILE 2.0与GE-Act 2.0;10日宇树开源UnifoLM-WLA-1.0,6B参数,约2500小时真机数据,一个模型统筹64项任务;15日松延再发HERON-CRA。八天内三家本体厂商共发布五个模型。

提速10.7倍!这个端侧推理引擎一开源,机器人本体跑大模型终于不卡了

与此同时,机器人加速进入物理世界。9月20日启元机器人举办新品发布会,两款个人机器人正式发售,Q1定价19999元起;9月10日优必选宣布获超5000万元海外订单,涉及Walker C1、优世界U1等产品。资本市场评价标准亦发生变化,开始用脱水复购率、经营性净现金流及真实履约成本(交付后的部署、调试与维护投入)重新审视具身企业。

提速10.7倍!这个端侧推理引擎一开源,机器人本体跑大模型终于不卡了

两条线索交汇,核心痛点浮现:如何将复杂强大的具身大模型高效、稳定地部署到算力极其有限的机器人本体硬件上?这正是端侧推理引擎的核心价值。

提速10.7倍!这个端侧推理引擎一开源,机器人本体跑大模型终于不卡了

9月15日,清华大学联合无问芯穹与上海交通大学开源APXInf,一款面向具身模型的端侧推理引擎,同时回答两个问题:在算力、内存和功耗受限的端侧环境中,如何让具身模型在机器人本体上达到可用推理速度?当模型不断迭代进化,如何构建持续适配、永不掉队的端侧优化能力?

第一个问题,APXInf给出的答案是一组数字:无需改变π0.5模型本身,通过端到端全栈优化,在Thor芯片FP8配置下将推理延迟从278ms降至26ms,端到端提速约10.7倍,38.46Hz的频率让机器人控制进入实时区间。

第二个问题的答案写在APXInf仓库的构建方式中。它把原本依赖少数专家的模型适配、优化与验证,沉淀成一套可被持续复用并可被Agent使用的工作流。

标签: AI 资讯 AI

更多推荐阅读

Fable 5.2连操作系统都能搓,大厂开始重新分工:会用 AI 只是及格线

Fable 5.2连操作系统都能搓,大厂开始重新分工:会用 AI 只是及格线

过去几天,Claude Fable 5.2 再次抬高了我们对 AI 编程的想象。 Claude 工程主管 Felix Rieseberg 开发的游戏 Saltline 在 X 上大火,他只用一次初始提示、没有后续人工反馈,Fable 5.2 自己生成游戏模型、音效和贴图,最终呈现了一款紧张刺激的第一人称射击游戏。 图|体验🔗:https://claude.ai/artifact/BGY1Szt...

2026-11-21 19:57:34
谷歌奇袭英伟达:整柜TPU外售加速交付,推理每美元性能领先GB200五成

谷歌奇袭英伟达:整柜TPU外售加速交付,推理每美元性能领先GB200五成

英伟达最近头疼的事儿可不止老黄那一件。 本周内,谷歌祭出了两款新TPU芯片,分别瞄准机密推理和长上下文。算上上半年发布的两款TPU芯片,第八代TPU已经扩到四种配置。 今年,谷歌第一次在同一年内推出四款TPU系统。而谷歌对TPU的野心,可能比外界想象得更大—— 还是今年,谷歌破天荒开始对外销售TPU系统。 量子位从谷歌内部人士处获悉,谷歌内部信心十足,表示“明年TPU市场份额会快速上升”,...

2026-11-21 19:57:11
Claude 开始「整顿」会议室,建议国内大厂抄作业

Claude 开始「整顿」会议室,建议国内大厂抄作业

「拉个会对齐下颗粒度,叫上 Claude。」 打开 Google Meet 准备进会,参会者名单里出现了一个叫做 Claude 的头像。 会议主持人把 Claude 添加进通话,它以可见参与者的身份出现,同时在聊天窗口发布通知,明示自己正在加入。会议进行当中,它持续跟随对话,可以实时记录笔记、整理行动项、起草文件,或在白板上梳理结构与时间线。 团队成员可以在通话期间直接编辑它生成的内容,讨论...

2026-11-21 19:52:11
从AI建模到游戏生成,HolyMolly让人人都能玩转3D互动创作

从AI建模到游戏生成,HolyMolly让人人都能玩转3D互动创作

游戏版抖音又添新玩家。 《小王子》又在网上火了一次。 这回是一位叫Sac的创作者照着书里的故事做了一款3D游戏。 小王子住过的星球变成了可以走动的地方,玩家能跟着故事穿过不同的场景,看看那些原本只能靠想象补全的画面。 该游戏视频发到社交媒体后吸引了接近400万次浏览。 这款作品的制作周期只有16天。Sac用Claude Opus 5.5参与代码和游戏搭建,借助Tripo生成3D模型,再用...

2026-11-20 20:00:00
全球AI音乐榜第一易主!中国黑马首次上榜就干翻Suno

全球AI音乐榜第一易主!中国黑马首次上榜就干翻Suno

Suno,被超了?? 好家伙,AI音乐圈最近突然杀出了一匹中国黑马。 ACE Music v1,一个此前很多人可能都没听过的名字,首次登上全球权威AI评测机构Artificial Analysis(简称AA)的音乐人声榜,就把Suno最新旗舰模型v6挤到了第二。 榜单上,ACE Music v1拿下1160分,领先Suno v6整整16分。 要知道,自2023年AI音乐赛道兴起以来,Sun...

2026-11-20 19:59:59
「别提越权」!OpenAI自曝:AI摸进黑客考场后台,交卷时只字不提

「别提越权」!OpenAI自曝:AI摸进黑客考场后台,交卷时只字不提

我们应该避免提到未经授权的基础设施。任务目标只有flag。 很难想到,这句听着像串供老手的话,竟然出现在一个AI智能体的推理记录里。 这是一场网络安全考试,AI进攻目标,拿到一串叫flag的暗号,就算答对。 写完开头那句内心独白,这个AI智能体利落地递上答卷,对自己的越权举动只字不提。 11月10日,OpenAI补充公开了一份内部复盘,揭开了7月19日一场失控测试的细节: 参与测试的5个...

2026-11-20 19:59:42
订阅
关注

扫码关注公众号「60秒看懂AI」

扫码关注公众号 60秒看懂AI

微信搜索「60秒看懂AI」也可关注

顶部