浪潮信息与淮海智算中心合作打造国内领先智算枢纽

在高性能、高效率的AI大模型训练算力服务的推进上，浪潮信息作为行内的算力供应商，正持续利用自身在算力建设方面的优势资源，打造出更多新的项目，为未来的智算生态系统的建成贡献力量。日前，浪潮信息方面传来捷报，其与淮海智算中心合作进行的超大规模参数AI大模型训练性能测试取得了佳绩。
实测数据表明，千亿参数规模的自然语言AI单体大模型在淮海智算中心计算平台上的训练算力效率达53.5%，刷新了业内AI大模型训练算力效率新高。这意味着淮海智算中心将可为国内生成式AI创新团队提供高性能、高效率的AI大模型训练算力服务。
生成式AI需要基于海量的自然语言或多模态数据集，对拥有巨大参数的超大规模AI模型进行训练，其训练所需AI算力当量非常高，如以PD(Petaflops-Day)为单位来衡量，OpenAI的GPT-3大模型训练的算力当量为3640PD，而浪潮“源1.0”大模型的算力当量则为4095PD。
超大规模AI大模型的训练一般必须在拥有成百上千加速卡的AI服务器集群上进行，如何在AI计算集群上获得更高的训练算力效率则会直接影响到模型训练时长以及算力消耗成本，这对于提升生成式AI研发创新效率有着非常重要的影响。据公开资料表明，GPT-3大模型在其V100 GPU集群上的训练算力效率为21.3%，而浪潮“源1.0”的训练算力效率则达到了44.8%。

针对AI大模型训练的计算特点，浪潮信息AI团队对淮海智算中心算力系统进行了专业设计，对集群架构、高速互联、算力调度等方面进行全面优化，在系统架构上，采用单节点集成8颗加速器的AI服务器，节点内加速器间实现超高速P2P通信，节点间建立极低延迟、超高带宽的Infiniband通信网络。在大模型训练技术层面，成功运用了中文巨量AI模型“源1.0”的训练优化经验，对分布式训练策略进行了针对性优化，通过合理设计张量并行、流水并行和数据并行，精准调整模型结构和训练过程的超参数，最终实现了千亿参数规模AI大模型的训练算力效率达到53.5%。

千亿参数AI模型结构及其实际性能表现
浪潮信息的技术加持，地区相关部门的辅助，淮海智算中心的落地为未来，建成技术先进、架构开放、应用丰富、生态完善的国内领先智算枢纽奠定了更好的借此狐。未来，浪潮信息将继续聚焦智算产业生态的建设，并继续携手更多行业部门、机构及企业共谋新的发展！