跳到正文

面壁智能开源 MiniCPM-V 4.7:3GB 内存跑起 35B 多模态模型

35B 参数的多模态模型,在手机上流畅跑起来需要多少内存?面壁智能给出的答案是:3GB。

10 月 13 日,面壁智能正式开源 MiniCPM-V 4.7,包含 35B-A3B 和 1B 两个版本。其中 35B-A3B 采用 MoE 架构:总参数 350 亿,每次推理只激活 30 亿,是首个能在端侧无损流畅运行的开源 MoE 模型。iPad Pro 实测解码速度超过 15 token/s,基本做到即问即答。

卡顿是怎么被解决的

MoE 模型内部有大量「专家」,每次回答只调用其中几位。传统做法是用到哪位就临时搬进运存,一搬一停,落在手机上就是肉眼可见的卡顿。

面壁这次拿出的 LES(前瞻专家调度)技术换了思路:提前预判接下来要用哪些专家,趁当前计算还在跑,就把它们提前加载好,让加载与计算同步推进。官方称这是目前业界独家开源的方案。

生态铺得很快

发布当天,MiniCPM-V 4.7 就支持了瑞芯微、NVIDIA、Intel 和 Apple 等主流芯片平台,iOS、安卓、鸿蒙三个系统通吃,端侧适配代码和主流推理框架一并开源。

另一组数字值得留意:MiniCPM 系列模型联合 OpenBMB 社区发布至今,全球累计下载量已突破 6000 万次,覆盖文本、视觉、语音全模态。

当谷歌靠 Gemini 4 Argon 在云端把输出上限堆到百万 token 时,面壁在往 3GB 里塞旗舰能力。端侧和云端的路线之争,2026 年显然还没到分胜负的时候——但对没有云端算力牌的开发者来说,端侧开源是眼下更现实的那张票。