K·体育世界杯(中国)官方网站 面壁智能等开源首个基于华为昇腾考试的1.58-bit 端侧大模子BitCPM-CANN

【TechWeb】5月25日音讯,面壁智能晓示集会清华大学、OpenBMB开源社区,持重发布并开源其在低比特大模子考试标的的最新恶果——BitCPM-CANN。
这款中国首个全齐基于国产算力平台华为昇腾终了端到端考试并开源的三值(1.58-bit)大模子,继5月23日在华为鲲鹏昇腾开导者大会(KADC 2026)完成初度技能亮相后,当天持重将其全系列模子向全社会灵通。
据先容,比拟传统 BF16 精度,BitCPM-CANN 在推理阶段开释约6倍显存红利,同期将模子本事保留率看护在90%–97.2%。相似的设立内存,不错承载远超以往的模子本事;梗概反过来说,相似的模子本事在湮灭款末端上开动,只需要昔日 1/6 的内存。这意味着,K·体育世界杯(中国)官方网站改日有望在手机上开动 60B 大模子,手机的智能会大幅晋升。
「2-bit」是近一年来端侧芯片行业的热点商榷话题,亦然在手机上开动更大参数模子的最大技能卡点之一。2-bit 量化将模子权重压缩 6-8 倍,使其能存脱手机闪存,如 4GB 内存能放 16B,再互助 MoE 与激活限度抵制、能放 32B;若内存扩大到 8GB,则能将模子参数扩大到 60B。
面壁智能暗示,BitCPM-CANN 的亮相K·体育世界杯(中国)官方网站,符号着面壁智能高效大模子「小钢炮」在端侧落地的本事进一步跃升,同期也通过开源向中国端侧大模子赛谈提交了一份新的答卷。
声明:新浪网独家稿件,未经授权回绝转载。 -->