5月30日,华为宣布推出参数规模高达7180亿的全新模型盘古Ultra MoE,这是一个全流程在昇腾AI计算平台上训练的准万亿MoE模型。据悉,盘古团队提出Depth-Scaled Sandwich-Norm(DSSN)稳定架构和TinyInit小初始化的方法,在昇腾平台上实现了超过18TB数据的长期稳定训练。在训练方法上,华为团队首次披露在昇腾CloudMatrix 384超节点上打通大稀疏比MoE强化学习(RL)后训练框架的关键技术,使RL后训练进入超节点集群时代。 华为昇腾 你可能会喜欢 报告:超半数马来西亚消费者使用AI购物2025/08/08 17:33 任天堂说别多想,每个月玩一款我的游戏就够了2025/08/08 16:26 谷歌想让你用AI助手,为孩子一键生成专属睡前故事书2025/08/08 16:06 马斯克叫停自研芯片2025/08/08 13:40