« 返回前頁列印

中國財經 | 2023-04-14 15:57

騰訊推高性能計算集群 應對AI大模型訓練

放大圖片

騰訊控股(00700)公布,旗下騰訊雲發布面向大模型訓練的新一代HCC(High-Performance Computing Cluster)高性能計算集群,旨在為人工智能(AI)大模型訓練提供高性能、高帶寬、低延遲的智算能力支撐。

騰訊表示,該計算集群整體性能比過去提升了3倍,搭載NVIDIA H800 Tensor Core GPU(圖形處理器)。新一代集群通過對單機算力、網絡架構和存儲性能進行協同優化,能夠為大模型訓練提供智算能力支撐。

該公司指,目前大熱的AI大模型訓練,離不開高性能的算力集群。隨着算力需求的陡增,自己採購GPU的價格昂貴,甚至有錢也買不到,給創業企業、中小企業帶來很大壓力,騰訊雲的新一代HCC集群,能夠幫助在雲上訓練大模型,希望能緩解壓力。

騰訊又提到,一個AI大模型通常得用數萬億個單詞訓練,參數量也飆升到上萬億,這個時候需要高性能的計算集群。公司正以新一代HCC為標誌,基於自研晶片、自研服務器等方式,軟硬一體,打造面向AIGC(人工智能生成內容)的高性能智算網絡,持續加速全社會雲上創新。