世界模型为什么需要开放权重
11 月 5 日,英伟达在 Hugging Face 博客发布 Cosmos 3 世界模型家族的四个开放权重检查点。过去两年,世界模型大多停留在实验室演示:谁能跑、在哪跑、用谁的算力,往往被闭源权重锁死。英伟达这次把四个可直接取用的检查点摆到台面上,明确指向两类最缺数据的场景——自动驾驶的闭环仿真,以及机器人策略的学习与评估。它给出的判断是:世界模型的难点不在单帧画面有多真,而在于能否随动作滚动生成、能否让摄像头与激光雷达同步、能否被研究者拿去复现和改进。
四个检查点,四种仿真任务
Cosmos 3 四个开放权重检查点:从统一底座到驾驶与机器人仿真
四个检查点都是 Cosmos 3 Nano 的后训练示例,各自 16B 可训练参数,但任务分工清晰。Transfer-Auto 做离线合成驾驶数据,能一次生成最多 11 路摄像头(含鱼眼)的同步视频,并联合生成 RGB 与 LiDAR;Sim-Auto 是它的流式变体,用极少步去噪滚动输出同步的摄像头视频与 LiDAR,适合边开边仿真的闭环;Sim-Transfer 把物理仿真器的空间控制信号(深度、分割、边缘、模糊布局)加一段文本提示,渲染成照片级真实视频,再喂给机器人或汽车的控制网络;Sim-Bimanual 则面向双臂机器人,从 YAM 与 AgiBot 本体的动作预测环境如何演化。换句话说,前两者服务开车,后两者服务机器人,共同点是都把生成和动作、感知绑在一起。
架构与训练:Mixture-of-Transformers 与四阶段配方
支撑这套能力的是 Cosmos 3 的 Mixture-of-Transformers 主干:文本处理与视觉生成由两个独立网络经注意力相连,模型在压缩后的视频隐空间上工作,初始帧之后每个隐时间步对应四帧 RGB。训练走四阶段配方:先双向适配,从完整片段学域与控到视频的关系;再教师强制,用已录片段与可用控制预测每个块;接着一致性蒸馏,用冻结教师训练一个每块仅四步去噪的学生;最后自强制,让学生在自身生成史上继续训练。Sim-Bimanual 的混合动作示例用到 59 个控制量,训练时补齐到 64。英伟达把这些配方连同技术报告、演示一起放出,等于把过去只有内部能跑的微调流程交了出来。
开放权重带来的研究红利与局限
开放权重最直接的价值,是给机器人与自动驾驶研究者一个共同的起点:不必再从零训世界模型,就能在自有传感器布局、驾驶域或机器人本体上做后训练与对比。英伟达也明确点出局限——这批模型在多大程度上能忠实支撑策略学习与评估,仍需在留出集上实测;它们的边界、失效模式和改进空间,恰恰是要靠社区去填的坑。这不是一份性能成绩单,而是一套可被检验、可被改造的原材料。对产业而言,真正的看点不是英伟达又发了多少参数,而是世界模型头一回以可复现的方式,向车厂、本体厂和高校同时敞开。
信息来源
- NVIDIA Hugging Face 官方博客(L1):New NVIDIA Cosmos 3 Open Models for Interactive World Simulation(2026-11-05,确认四个检查点、16B 可训练参数、OpenMDW1.1 许可、四阶段训练配方与 Mixture-of-Transformers 主干)
- Renderu(L2):NVIDIA 开源 Cosmos 3 模型,用于流式世界仿真(2026-11-06,独立转述四检查点任务分工、运行环境与 GB200 测试配置)
- AiBoss(L2):NVIDIA 在 Hugging Face 发布 Cosmos 3 四个开放权重检查点(2026-11-06,交叉核对许可条款与功能描述)