740亿大模型塞进笔记本，英伟达RTX Spark今日开卖

英伟达开放了Nemotron 3.5 Bolt模型权重，参数规模740亿，量化后从约148GB压缩至22.1GB，缩减约85%，瞄准24GB级本地部署，支持看图、写代码、调用工具。Ollama已提供接入OpenClaw、Hermes等框架的入口，开发者可将Agent的推理交给本地电脑，文件、工具与模型在同一台设备上运行。

Bolt每次生成token激活约90亿参数，保留740亿参数家底，支持工具调用及图片、视频输入。训练时团队让模型在模拟环境中练习工具操作。量化版在Terminal-Bench 2.1得分50.98%，BrowseComp得分66.75%。

Bolt基于同期发布的1200亿参数Nemotron 3.5 Super VL，后者每次激活120亿参数，面向企业Agent，可读图表、文档、视频并调用工具，支持企业用自有数据继续训练。Ramp已将其用于识别小票并整理报销数据。

压缩过程中，团队先将模型从1200亿参数压到740亿，再恢复能力。视觉模块重新接入后，ScreenSpot Pro测试中父模型得分41.6%，刚压缩完的Bolt掉到0；经每轮约660万张图像的视觉适配器训练及视觉任务微调，成绩拉回39.79%。740亿参数按BF16保存约148GB，超过RTX Spark最高128GB统一内存，最终将专家权重压至约2bit，其他部分保留不同精度，并用量化感知蒸馏追回精度损失，权重降至22.1GB。实验显示，同样内存预算下，先练大模型再瘦身比从头练小模型再做4bit量化准确率更高。

Bolt引入小模型LiLiCorr先打草稿、主模型批量验收，减少逐个生成token的等待。英伟达代码生成测试中，128GB版Surface Laptop Ultra让Bolt跑到约84token/s。按Unsloth建议，32GB内存或统一内存可作为规划起点，48至64GB更宽裕，22.1GB仅为权重占用。

10月16日，搭载RTX Spark的笔记本全球发售，联想、微软等厂商新机登场。Blackwell RTX GPU与Grace CPU集成于一颗超级芯片，共用最高128GB统一内存。测试中，量化后权重77GB的Ling 3.0 Flash在64GB MacBook Pro和32GB显存RTX 5090上均装不下，128GB RTX Spark笔记本可继续运行。RTX Spark首发支持数百款游戏，并提供Photoshop、Premiere原生支持测试版。英伟达将OpenClaw和Hermes列入发售时应用生态并提供引导安装。

此外，Nemotron 3.5 Bolt E4B 4GB计划10月23日推出，面向本地语音助手、交互角色等更轻巧设备。Super VL面向企业复杂任务，Bolt负责日常Agent任务，E4B覆盖轻量设备。