长久以来，在手机等端侧设备运行百亿级多模态大模型，一直是行业技术难题。受硬件内存限制，大参数模型往往只能采取压缩裁剪，或是依赖云端推理的方式运行，很难在本地设备兼顾模型规模、运行内存与输出精度，形成端侧大模型的“不可能三角”。

近日，面壁智能联合OpenBMB社区开源端侧多模态模型MiniCPM V 4.7，包含35B A3B与1B两个版本，分别瞄准端侧性能上限与轻量化普惠应用，尝试通过系统调度优化破解上述矛盾。其中35B A3B版本为开源 MoE（混合专家）多模态模型，完整权重规模远超主流移动设备内存上限，该方案没有简单压缩模型权重，而是依靠MoE架构搭配前瞻专家调度LES技术，探索模型“边算边读”的运行模式。

传统MoE端侧推理的主要瓶颈来自读取等待，各层所需专家需要等待上一层计算结束后才能确定，造成频繁磁盘读取卡顿。LES调度技术利用模型相邻层输入特征高度相似的特性，在当前层计算的同时，提前预判下一层需要调用的专家，后台预读取至内存；同时调整专家计算顺序，实现读取与计算并行。该预判仅做调度预取，模型专家的最终选择仍由原有路由逻辑决定，不需要对模型重新训练，保障输出精度不受损耗。官方测试显示，多数场景预取命中率超80%，推理生成速度获得明显提升，可在移动端以较低内存实现模型无损运行。

除调度算法外，项目同步在权重存储、视觉输入处理、解码输出环节配套全链路优化。通过权重分层处理、参数连续存储降低加载开销；采用分级视觉token压缩方案，可根据场景在画质细节与显存占用之间灵活取舍；同时引入投机解码技术提升生成速度。公开测评数据显示，该系列模型在多模态理解、文档解析、OCR、长视频分析等多项基准测试取得不错表现，大小两个版本分别覆盖高性能终端与入门级设备。

端侧大模型的价值，不止是实现在本地运行大模型，更在于推动AI能力终端原生化。本地推理能够降低对网络的依赖，有助于数据隐私保护、实现低延迟响应。据介绍，该开源模型已完成多家硬件芯片厂商、主流推理框架的适配，面向全球开发者开放使用。

业内专家认为，该项目代表端侧 AI 研发思路的转变：从单纯压缩模型参数，转向依靠系统级调度优化打破内存限制。随着技术迭代，端 云协同、终端原生的AI模式，或将进一步加速人工智能普惠落地。