无问芯穹近日完成23亿元C轮融资,成立以来累计融资额达到43亿元。据公司披露,单轮及累计融资额均创下我国AI原生基础设施赛道最高纪录。

无问芯穹成立于2023年,主要为大模型企业提供算力调度、模型推理及企业AI应用基础设施。其平台连接不同芯片和计算集群,让分散的算力能够共同承担模型训练和推理任务。

据公司介绍,目前平台已部署触达37000P算力,覆盖16种主流芯片。公司已实现华为昇腾、天数智芯、沐曦、摩尔线程等国产芯片,分别与AMD、英伟达芯片进行大模型混合训练,算力利用率最高达到97.6%。

跨区域算力协同方面,无问芯穹与中国电信完成了横跨新疆哈密和广东深圳、距离超4000公里的混合训练验证,利用两地集群训练300亿参数模型。

推理服务也是其业务重点。公司今年7月发布的新架构,将推理过程中的不同计算环节分配至不同集群。据公司数据,该方案使生成首个词元的等待时间降低51.5%,单个词元成本降低37.5%。截至7月,其模型服务平台单日词元调用量较去年12月增长至约40倍。

目前,无问芯穹已与智谱、月之暗面等模型企业合作,并推出面向文娱游戏、医疗健康、法律服务和能源电力等领域的解决方案,根据任务复杂度、响应时间和成本要求调配模型与算力。