腾讯发布新一代超强算力集群

发布时间：2023-04-14 12:49:21 所属栏目：动态来源：

导读：从腾讯官方获悉，腾讯云发布了新一代 HCC 高性能计算集群，采用最新一代星星海自研服务器，搭载英伟达 H800 Tensor Core GPU。

腾讯官方称，该集群基于自研网络、存储架构，带来 3.2T 超高互联带宽、TB 级吞吐能力

从腾讯官方获悉，腾讯云发布了新一代 HCC 高性能计算集群，采用最新一代星星海自研服务器，搭载英伟达 H800 Tensor Core GPU。

腾讯官方称，该集群基于自研网络、存储架构，带来 3.2T 超高互联带宽、TB 级吞吐能力和千万级 IOPS。实测结果显示，新一代集群算力性能较前代提升 3 倍。

计算层面，服务器单机性能是集群算力的基础，腾讯云新一代集群的单 GPU 卡在不同精度下，支持输出最高 1979 TFlops 的算力。

针对大模型场景，星星海自研服务器采用 6U 超高密度设计，相较行业可支持的上架密度提高 30%；并基于并行计算理念,在单节点的单点运算性能得到进一步提高,同时结合了 CPU、 GPU节点的集成设计。

网络层面，计算节点间存在着海量的数据交互需求。实现集群网络与算力节点之间相互协作是提高集群训练效率的保障,而集群网络的不断扩大也带来了通信性能和训练效能的直接影响。

腾讯自研的星脉高性能计算网络，号称具备业界最高的3.2T RDMA 通信带宽。实测结果显示，搭载同等数量的 GPU，3.2T 星脉网络相较 1.6T 网络，集群整体算力提升 20%。

同时，腾讯自研的高性能集合通信库 TCCL，融入定制设计的解决方案。相对业界开源集合通信库，为大模型训练优化 40% 负载性能，消除多个网络原因导致的训练中断问题。同时，通过对数据库进行分析，提供高效的查询和报表功能，支持大规模数据的分析和挖掘。

存储层面，在模型训练中，大量计算节点会同时读取一批数据集，需要尽可能缩短数据加载时长，避免计算节点产生等待。在应用层面，大模型训练中，大量计算节点会同时读取一批数据集，需要尽可能缩短数据加载时长，避免计算节点产生等待。

腾讯云自研的存储架构，具备 TB 级吞吐能力和千万级 IOPS，支持不同场景下对存储的需求。COS+GooseFS 对象存储方案和 CFS Turbo 高性能文件存储方案，充分满足大模型场景下高性能、大吞吐量和海量存储要求。

此外，新一代集群集成了腾讯云自研的 TACO 训练加速引擎，对网络协议、通信策略、AI 框架、模型编译进行大量系统级优化，大幅节约训练调优和算力成本。通过与产业场景数据结合,可以让企业能够提升生产效率、快速创建和部署 AI应用,提高人工智能的应用开发速度。

（编辑：汽车网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!