11 月 9 日至 10 日，科技日报、界面新闻、IT168 等多家媒体集中报道了面壁智能与 OpenBMB 社区开源的端侧多模态模型 MiniCPM-V 4.7。该系列包含 35B-A3B 与 1B 两个版本，其中 35B-A3B 是一个总参数 350 亿、每次推理仅激活约 30 亿的 MoE 模型，可在手机上以约 3GB 内存运行，生成速度在 iPhone 17 Pro Max 上超过每秒 13 个词元。
把 35B 模型放进手机，难点首先在于装不下。面壁智能联席首席科学家姚远在 11 月 5 日的技术分享会上算过一笔账：即便采用较激进的 4 位量化，35B 模型的权重仍约 15GB，而旗舰手机留给模型的可用内存往往只有 6 到 8GB。团队借助 MoE 架构的稀疏激活特性，把大部分专家权重留在闪存中，仅在推理时按需加载，从而压低常驻内存。
真正的瓶颈随之转为读取延迟。若等到计算到某一层才确定所需专家、再从闪存调取，等待时间甚至会超过计算本身。官方给出的对照数字是，在 iPhone 17 Pro Max 上直接这样跑，每秒只能输出约 3.38 个词元。面壁提出的 LES（Lookahead Expert Scheduling，前瞻专家调度）技术，在算当前层时提前预判下一层可能用到的专家并后台预加载，让加载时间隐藏在计算时间里；据技术博客，多数场景可提前备好超过 80% 的所需专家。
提速是分步实现的。官方消融数据显示，基线 3.38 tok/s 加上 LES 调度升至 6.57，叠加存储布局改造到 11.34，再加上混合精度量化到 17.16，最后加上 DSpark 投机解码达到 20.51，整体约为基线的 6.07 倍。在 iPhone 18 Pro Max 上，全流程速度超过每秒 20 个词元；经过后续 2.0 优化，同一机型可在精度损失可忽略的前提下达到 30+ tok/s，内存占用仍是 3GB。
模型的适用面也在下探。1B 版本被设计为可运行在千元机乃至部分百元设备上，而上一代 MiniCPM-V 4.6 已在部分千元机上做到约 15 tok/s。面壁已将推理引擎、App 代码与安装包开源，代码与权重以 Apache-2.0 协议发布，支持 iOS、Android 与 HarmonyOS，并对瑞芯微、后摩智能、英特尔、AMD、Arm 等芯片提供首日支持。早在今年 7 月，MiniCPM 系列就为三星 Galaxy Z Fold8 与 Fold8 Ultra 的 Galaxy AI 提供端侧多模态能力。
端侧智能的意义不止于让大模型在手机上跑起来。在姚远看来，隐私保护、断网可用、低延迟与成本等需求，正推动智能从集中式云端向个人设备迁移，路径类似个人计算与移动计算的演进。需要指出的是，上述速度与基准分数均为厂商自测，第三方尚未在自有设备上复现；官方所称无损指保持原网络结构、专家数量与路由方式不变，而非与 FP16 逐比特一致，读者应以此边界理解相关结论。