10 月 13 日，NVIDIA 在 RTX Spark 笔记本（10 月 16 日开卖）的软件生态发布里投下一颗棋子：Nemotron 3.5 Bolt 74B——一个 740 亿总参数、每 token 只激活 90 亿的混合专家模型，用 2 比特量化感知训练压进 24GB 显存，官方定位是为本地智能体而生。权重 10 月 15 日上线，llama.cpp、vLLM、Ollama、Unsloth、LM Studio 首发支持，Hermes 与 OpenClaw 智能体可直接接入。
两个叠加设计，各管一件事
把 74B 塞进 24GB，靠的是两个设计叠加。MoE 管「每个 token 算多少」：总参数 74B 保证知识面，门控网络每 token 只激活约 9B，算力与带宽开销接近中等稠密模型——知识的存储和推理的开销在这类架构里被解耦。2 比特量化感知训练管「每个权重存多少」：训练阶段就模拟低精度，让模型学会在 2 比特下工作，而不是训练完再硬压；作为参照，同深度稠密全精度模型要 140GB 以上。
开放程度也值得一提：权重、训练数据、训练配方全部开源，开发者可以微调、审计、复现——这比「只放权重」高了一档。硬件锚点同样明确：24GB 对准高端消费显卡与新一代 AI 笔记本的统一内存，RTX Spark 最高 128GB 统一内存、1 petaflop 算力，Grace 加 Blackwell 经 NVLink-C2C 相连，联想与宏碁为首发伙伴，定价尚未公布。
模型只是入口，栈才是新闻
同一波发布里，NVIDIA 把「本地跑智能体」的周边一次配齐，这比单个模型更值得记。PAIR 结束测试：这台个人 AI 路由器自动发现局域网内的兼容设备、安装模型与推理引擎、分摊负载，正式版新增 llama.cpp 支持与 Hugging Face 直下，覆盖 Windows、Linux 与 macOS，社区一个月贡献了 10 多项功能修复。Switchyard 开源路由库管本地与云端的分流——简单问题走本地、难问题走云端，Hermes 称十月内跟进，Perplexity Computer 与 GitHub Copilot 则已有自有方案。
应用层在 MCP 化：NVIDIA App、Broadcast、PAIR、Omniverse 等应用放出 MCP 接口，另有 CUDA-X 技能库；Broadcast 2.3 自带 MCP 服务与技能，本地智能体可以直接调它的音视频特效。安全侧，NVIDIA OpenShell 与微软执行容器（MXC）合流的沙箱方案里，OpenClaw 与 GitHub Copilot 已支持，Hermes 称月底跟进。
放进赛道里看
这是本站关于本地智能体叙事的第三次落点：723 与 941 两轮追过 PAIR 从发布到 RTX 扩展，408 覆盖过 Nemotron 3.5 Lightning；微软 MXC 的正式发布也在 1746 记过一笔。把三次连起来看，路线逐渐清晰——本地智能体不缺开源模型，缺的是一整套「模型加运行时加路由加应用接口加沙箱」的栈。Bolt 是这块拼图里最新的模块，也是头一个把「24GB 跑前沿档」当明确工程目标的。
需要保留的怀疑
厂商的性能声称全部悬空：NVIDIA 自称 Bolt「快于多数主流稠密模型、智于同内存占用的 MoE」，但发布时未给出基准数字，独立测试要等权重上线之后——这一点多家媒体在报道里明确点了名。2 比特下的质量保持、QAT 训练数据配比、门控负载均衡的实际表现，都要等第三方复现。RTX Spark 笔记本的定价、Bolt 在长程工具调用上的真实水平，同样未披露。「本地跑智能体」的数据不出门与成本结构优势是实的，但「前沿级」三个字目前只存在于新闻稿里。
目前官方及行业暂未披露更多细节，后续将持续跟进迭代动态。对想在本地跑智能体的团队，这波发布的实际意义是：从模型到沙箱的配件柜头一回被同一家厂商摆齐了，接下来半年看的是组合拳的打法，不是某一款模型的分数。