公开信息显示,中国日均AI词元调用量截至今年6月已突破500万亿。这里的词元总量反映的是模型处理规模,并不等同于用户数量或模型数量。

业内人士称,大模型更新周期已经从原来的约3个月缩短至4至6周。与此同时,AI智能体在一次任务中需要反复检索信息、读取上下文、调用工具并处理反馈,也进一步推高了推理算力需求。

腾讯表示,混元3正式版上线首周的词元调用量,是上一代混元2的68倍。随着模型训练和应用规模扩大,互联网企业也在加快建设AI智算中心,以锁定长期算力资源。