11 月 18 日,摩尔线程(688795.SH)披露基于 MTT S5000 训推一体卡与 MUSA 软件栈,完成对月之暗面 Kimi K3.1 Pro 的训练适配。该模型总参数约 2.8 万亿,摩尔线程构建了原生 FSDP2 多模态训练路径,打通从模型加载、分片调度到梯度同步的链路。
据技术报告,实验用双机共 16 张 MTT S5000 做跨节点训练,16 个进程完成 400 次连续优化器更新,loss 与梯度范数全程有限,未出现数值溢出或异常中断。公司强调,此次是对开源模型的训练适配,并不等于该模型在其芯片上完成预训练,也不同于 Day 0 推理适配。训练成本、耗时与是否量产均未披露。