5月30日,华为宣布推出参数规模高达7180亿的全新模型盘古Ultra MoE,这是一个全流程在昇腾AI计算平台上训练的准万亿MoE模型。据悉,盘古团队提出Depth-Scaled Sandwich-Norm(DSSN)稳定架构和TinyInit小初始化的方法,在昇腾平台上实现了超过18TB数据的长期稳定训练。在训练方法上,华为团队首次披露在昇腾CloudMatrix 384超节点上打通大稀疏比MoE强化学习(RL)后训练框架的关键技术,使RL后训练进入超节点集群时代。 华为昇腾 你可能会喜欢 淡马锡确认重组,三大板块迎接全球新格局2025/08/29 16:56 iPhone“拼好机”即将问世,库克有点急了2025/08/29 15:57 “请问猫箱在哪下载?”2025/08/29 15:31 索尼 PS6 掌机曝光:光线追踪性能接近 PS5 Pro,售价或为 399 美元2025/08/29 14:45