TrendForce集邦咨詢: NVIDIA Blackwell高耗能推動散熱需求,預(yù)估2024年底液冷方案滲透率將達(dá)10%
Jul. 30, 2024 ---- 隨著高速運(yùn)算的需求成長,更有效的AI Server(AI服務(wù)器)散熱方案也受到重視。根據(jù)TrendForce集邦咨詢最新AI Server報(bào)告,由于NVIDIA(英偉達(dá))將在2024年底前推出新一代平臺Blackwell,屆時(shí)大型CSP(云端服務(wù)業(yè)者)也會開始建置Blackwell新平臺的AI Server數(shù)據(jù)中心,預(yù)估有機(jī)會帶動液冷散熱方案滲透率達(dá)10%。
氣冷、液冷并行方案滿足更高散熱需求
根據(jù)TrendForce集邦咨詢調(diào)查,NVIDIA Blackwell平臺將于2025年正式放量,取代既有的Hopper平臺、成為NVIDIA高端GPU(圖形處理器)主力方案,占整體高端產(chǎn)品近83%。在B200和GB200等追求高效能的AI Server機(jī)種,單顆GPU功耗可達(dá)1,000W以上。HGX機(jī)種每臺裝載8顆GPU,NVL機(jī)種每柜達(dá)36顆或72顆GPU,可觀的能耗將促進(jìn)AI Server散熱液冷供應(yīng)鏈的成長。
TrendForce集邦咨詢表示,服務(wù)器芯片的熱設(shè)計(jì)功耗(Thermal Design Power, TDP)持續(xù)提高,如B200芯片的TDP將達(dá)1,000W,傳統(tǒng)氣冷散熱方案不足以滿足需求;GB200 NVL36及NVL72整機(jī)柜的TDP甚至將高達(dá)70kW及近140kW,需要搭配液冷方案方以有效解決散熱問題。
據(jù)TrendForce集邦咨詢了解, GB200 NVL36架構(gòu)初期將以氣冷、液冷并行方案為主;NVL72因有更高散熱能力需求,原則上優(yōu)先使用液冷方案。
觀察現(xiàn)行GB200機(jī)柜系統(tǒng)液冷散熱供應(yīng)鏈,主要可分水冷板(Cold Plate)、冷卻分配系統(tǒng)(Coolant Distribution Unit, CDU)、分歧管(Manifold)、快接頭(Quick Disconnect, QD)和風(fēng)扇背門(Rear Door Heat Exchanger, RDHx)等五大零部件。
TrendForce集邦咨詢指出,CDU為其中的關(guān)鍵系統(tǒng),負(fù)責(zé)調(diào)節(jié)冷卻劑的流量至整個(gè)系統(tǒng),確保機(jī)柜溫度控制在預(yù)設(shè)的TDP范圍內(nèi)。TrendForce集邦咨詢觀察,目前針對NVIDIA AI方案,以Vertiv(維諦技術(shù))為主力CDU供應(yīng)商,奇鋐、雙鴻、臺達(dá)電和CoolIT等持續(xù)測試驗(yàn)證中。
2025年GB200出貨量估可達(dá)6萬柜,促Blackwell平臺成市場主流、將占NVIDIA高端GPU逾8成
根據(jù)TrendForce集邦咨詢觀察,2025年NVIDIA將以HGX、GB200 Rack及MGX等多元組態(tài)AI Server,分攻CSPs及企業(yè)型客戶,預(yù)估這三個(gè)機(jī)種的出貨比例約為5:4:1。HGX平臺可較無縫對接現(xiàn)有Hopper平臺設(shè)計(jì),使CSPs或大型企業(yè)客戶能迅速采用。GB200整柜AI Sever方案將以超大型CSPs為主打,TrendForce集邦咨詢預(yù)期NVIDIA將于2024年底先導(dǎo)入NVL36組態(tài),以便快速進(jìn)入市場。NVL72因其AI Server整體設(shè)計(jì)及散熱系統(tǒng)較為復(fù)雜,預(yù)計(jì)將于2025年推出。
TrendForce集邦咨詢表示,在NVIDIA大力擴(kuò)展CSPs客群的情況下,預(yù)估2025年GB200折算NVL36合計(jì)出貨數(shù)量可望達(dá)6萬柜,而GB200的Blackwell GPU用量可望達(dá)210-220萬顆。
然而,終端客戶采用GB200 Rack的過程仍有幾項(xiàng)變量。TrendForce集邦咨詢指出,NVL72需較完善的液冷散熱方案,難度較高。而液冷機(jī)柜設(shè)計(jì)較適合新建數(shù)據(jù)中心,但會牽涉土地建物規(guī)劃等復(fù)雜程序。此外,CSPs可能不希望被單一供應(yīng)商綁住規(guī)格,可能會選擇HGX或MGX等搭載x86 CPU架構(gòu)的機(jī)種,或擴(kuò)大自研ASIC(專用集成電路)AI Server基礎(chǔ)設(shè)施,以應(yīng)對更低成本或特定AI應(yīng)用場景。