一组与英伟达平台一一对应的开源包

9 月 30 日,DeepSeek 宣布正式开源面向华为昇腾算力平台的基础设施组件,覆盖编程工具、计算库与分布式通信库三类。官方强调了一个关键细节:所有组件与此前面向英伟达平台的开源组件一一对应——同一个团队、同一套接口习惯,开发者可以在两种硬件之间沿用相似的调用方式。

具体清单包括:TileLang 高级语言编译工具、加速矩阵运算的 DeepGEMM、负责大规模跨设备通信的 DeepEP、提供向量计算与访存算子的 TileKernels、稀疏注意力算子 FlashMLA,以及做高效数据筛选的 DeepSelect。多项关键测试中,这批组件的计算与通信性能已接近硬件理论上限(官方口径)。

六个开源组件:昇腾版与英伟达版一一对应TileLang算子编程高级语言 · 封装 Ascend C 指令承载 V4 训练大部分算子实现DeepGEMM通用矩阵运算加速API 兼容原版 · BF16/FP8/FP4DeepEPMoE 专家并行跨设备通信950DT 上 EP8 带宽接近硬件上限TileKernels向量计算与访存算子GPU 与 NPU 共用一套 Python 接口FlashMLA稀疏注意力算子预填充最高达理论峰值 95%(项目口径)DeepSelect注意力索引与采样数据筛选top-k 高效选择配套:昇腾 950 · 128 卡 SuperPod Flex 超节点单层扩展 3.2 Tbps · 两层扩展至 25.6 万卡 · 配 ASC-COMM 通信库
DeepSeek 昇腾开源组件与英伟达平台组件一一对应

TileLang:这套开源包的核心

TileLang 是整个发布的重心。按官方介绍,相比用 CUDA 编程,TileLang 能简化代码、提升开发效率,同时保留针对芯片特性做优化的能力。这条路线此前已在英伟达平台验证:DeepSeek V4 系列模型训练中的大部分算子都基于 TileLang 实现。

此番开源的昇腾版本对底层 Ascend C 指令做了封装,让开发者用高级语言写程序而不损耗硬件性能;DeepSeek 训练中用到的每一个 TileLang 算子,在昇腾上都有了对应的高性能实现。公司还给出了一个更大的定位:希望昇腾版能成为其他 AI 芯片搭建软件生态的参考范例——这句话的潜台词是,TileLang 想做的是超越单一硬件体系的通用算子语言。

通信与注意力的具体成绩

几个关键数字值得单列。DeepEP 昇腾版负责混合专家模型的分发与汇合,项目文档口径显示,在昇腾 950DT 上 EP8 配置下 FP8 dispatch 带宽 373 至 375 GB/s、combine 带宽 345 至 347 GB/s,接近硬件极限;该数据基于概念验证固件包,DeepSeek 提示用户转向华为计划于 10 月 15 日前后推出的商用版本。

FlashMLA 的项目文档给出了另一组结果:昇腾 950 上,预填充阶段稀疏注意力算子最高达到硬件理论峰值的 95%,解码阶段最高 83%。DeepGEMM 昇腾版则与原版 API 兼容,支持 BF16、FP8 与 FP4 精度。以上均为项目方公布的测试成绩,独立复现数据尚未出现。

与华为共同定义的 128 卡超节点

软件组件之外,双方还在硬件协同上给出了方案:基于昇腾 950 共同推进 128 卡 SuperPod Flex 超节点,配 UBL128 组网——单层扩展网络 3.2 Tbps,两层扩展可到 25.6 万卡规模,另附 ASC-COMM 通信库支持自定义通信算子。华为已把联合工作沉淀为 CANN 社区里的多类方案,覆盖大规模专家并行低延迟推理、单卡单机部署、大规模训练、长上下文 KV 缓存池化与智能体强化学习等场景。

离线测试层面,华为口径显示:EP32 配置、12.8 万词元上下文下,DeepSeek-V4.1-Flash 单卡输出速度在每词元 5 毫秒档达到 2469 词元/秒,10 毫秒档达到 5102 词元/秒(未计入调度与框架负载均衡开销)。需要留意的是,本次公告并未说明 V4 系列已在昇腾上完成全量训练,这句话的分寸感本身就说明了现状。

这步棋的行业含义

把视角放大:模型厂商公开自家训练推理赖以运转的底层实现,在行业内并不多见。DeepSeek 把这套东西放出来,受益方是所有想用好国产算力的团队——矩阵运算、数据读写、多卡通信这些环节的适配成本,是模型换芯最痛的部分,如今有了可复用的参照系。

对国产芯片生态而言,这补的是「软件生态」这块最短的板:硬件参数追赶可以靠工艺与堆叠,但没有高效的算子语言与通信库,硬件性能就落不了地。头部模型实验室下场共建,比单靠芯片厂商自研生态内循环,路径要短得多。冷静的一面也存在:一一对应不等于体验对齐,稳定性、工具链成熟度与社区响应速度仍需时间检验,性能数字与真实训练负载之间也总有一段距离。目前官方暂未披露后续组件的迭代节奏,后续将持续跟进迭代动态。