面壁智能近日联合清华大学、OpenBMB开源社区,正式发布并开源了在低比特大模型训练方向的最新突破成果——BitCPM-CANN。该成果在华为昇腾平台上原生完成,标志着端侧AI大模型在轻量化与工程落地方面迈出了关键一步。
本次开源的BitCPM-CANN包含0.5B、1B、3B、8B四个模型尺寸,与同尺寸全精度家族模型进行逐项对照评测,表现十分优异。相比传统BF16 精度,该模型在推理阶段能够释放约 6 倍的显存红利,让大模型运行的硬件门槛大幅降低。

对于手机产业而言, 6 倍的显存红利意味着原本对配置要求极高的8B参数级别大模型,如今也可以轻松流畅地运行在主流旗舰手机之上。这种对内存空间的极致释放,将直接加速端侧AI技术在移动设备上的普及与商用落地。
在精简模型体积的同时,BitCPM-CANN依然保持了极高的性能水准,其模型能力保留率成功维持在90%至97.2%之间。其中,三个主要尺寸模型的能力保留率均达到了95.7%—97.2%,即使是体积最小的0.5B模型,其保留率也超过了90%。
这一亮眼的评测结果,系统性地证明了低比特训练技术路线具备极强的可扩展性与工程可复现性。面壁智能基于相关主干搭建了完整的低比特训练底座,涵盖环境适配、32K长序列支持及融合算子等完整工程体系,为后续面向昇腾的低比特训练工作筑牢了公共基础设施。
面壁智能联合清华大学及OpenBMB开源社区,发布并开源了中国首个基于华为昇腾平台训练的三值(1.58-bit)大模型BitCPM-CANN。该模型在低比特训练领域取得突破,实现从量化算子到训练算法的全链路原生开发,推出0.5B至8B四个尺寸版本,展示了国产算力平台的强大实力。
面壁智能联合清华大学及OpenBMB开源社区发布MiniCPM-V 4.6端侧多模态大模型,仅1.3B参数、6G内存即可流畅运行,性能卓越,在内存涨价背景下实现“低内存、极速跑”,为AI应用拓展新可能。
MiniMax开源其自我迭代模型M2.7,华为昇腾AI同日宣布完成0Day适配,开发者可在昇腾Atlas系列产品上无缝部署。该模型核心突破在于其智能体能力,通过将早期版本引导为研究型Agent,使模型具备自我进化与迭代循环功能。
国产大模型赛道迎来重要整合。面壁智能引入电信巨头与产业基金,完成深度股权绑定。此举不仅带来资金支持,更将加速国产大模型在公共数据与智能硬件领域的商业化进程,标志着“国家队”与“清华系”技术力量的深度结合。
面壁智能完成数亿元融资,由国家队与清华系联手投资。公司成立于2022年8月,核心团队源自清华,结合硬核技术与商业经验,获得算力与产业生态战略支持。

关注 “悠AI” 更多干货技巧行业动态