导语：面壁智能会聚清华大学、OpenBMB 开源社区，今天留意发布并开源其在低比特大模子熏陶标的的最新效力 —— BitCPM-CANN。

IT 之家  5 月 25 日音书，面壁智能会聚清华大学、OpenBMB 开源社区，今天留意发布并开源其在低比特大模子熏陶标的的最新效力 —— BitCPM-CANN。

滚球中国官方网站入口

官方示意，这是中国首个满盈基于国产算力平台（华为昇腾）终了端到端熏陶并开源的三值（1.58-bit）大模子。从量化算子、熏陶算法到全链路框架，BitCPM-CANN   均在华为昇腾上原生完成，包含 0.5B、1B、3B、8B 四个模子尺寸，与同尺寸 MiniCPM4 全精度眷属逐项对照评测，性能确认优异。

比拟传统 BF16 精度，BitCPM-CANN 在推理阶段开释约 6 倍显存红利，同期将模子才智保留率督察在   90% – 97.2%。

官方示意，买球投注平台敌手机产业来说，6 倍的显存红利意味着，一个 8B 参数的 BitCPM-CANN 大模子，不错松驰启动在刻下主流旗舰手机之上。

此外，面壁智能基于 MindSpeed × Megatron-LM 骨干搭建了好意思满的低比特熏陶底座，包含环境适配、32K 长序列营救、并行战略、和会算子等好意思满工程体系。从此，统共面向昇腾的低比特熏陶责任，王人可成就在吞并套专家基础措施之上。

BitCPM-CANN 0.5B / 1B / 3B / 8B 全系列模子权重现已开源，IT 之家附邻接如下：

（著述为作家孤立不雅点买球投注平台app中国官方下载，不代表艾瑞网态度）