华为麒麟11月11日介绍,麒麟9050系列借助新一代达芬奇架构NPU,可以在手机上离线运行300亿参数大模型。华为此次披露了具体做法,包括通过低比特量化减少参数所占空间,以及协调内存和计算资源,让模型在手机上完成推理。
华为在10月的沟通会上曾披露模型的内存开销。这款模型采用混合专家架构,总参数量为300亿,每次推理实际激活约20亿参数,运行时占用内存不到2.5GB。
华为还列出了新一代NPU支持的几项手机功能,包括AI屏幕朗读、XMAGE智拍2.0、AI眼动翻页和熄屏地图2.0。其中,眼动翻页可以根据用户的视线变化翻页,屏幕朗读则能把屏幕上的内容读出来。





