NVIDIA推液體冷卻式A100和H100 PCIe GPU,進一步減少能源消耗

NVIDIA Liquid Cooled GPU

 

NVIDIA 於 COMPUTEX 2022 推出液體冷卻式的 PCIe 版 GPU,共有 NVIDIA A100 和 NVIDIA H100 兩款,目標在推動永續發展。液冷版 NVIDIA A100 於今(2022)年第三季上市,液冷版 NVIDIA H100 則預計於 2023 年初上市。

 

液冷技術是 NVIDIA 空氣冷卻(氣冷式)GPU 加速運算技術發展的下一步,它在 AI 推論和高效能運算的效能表現較 CPU 高出 20 倍。

 

NVIDIA 認為,若將所有全球運行 AI 及高效能運算的純 CPU 伺服器轉換成 GPU 加速系統,每年將可省下高達 10 兆瓦特小時的能源,相當於省下一年 140 萬個家庭所消耗的能源。

 

NVIDIA Liquid Cooled GPU
依照 PUE 的測量結果,Equinix 正穩定地逐步改善其資料中心的能源使用效率

 

致力於成為業界首間達到氣候中和的 Equinix 公司以最佳化的電源使用效率(Power Usage Effectiveness;PUE)方式來減少對環境的影響,PUE 是衡量資料中心直接用於處理運算作業之能源使用量的產業指標。

 

資料中心營運商正試著將這個比例向下調整到接近 1.0 PUE 的理想值。如今,Equinix 設備的平均 PUE 為 1.48,其表現最佳的全新資料中心 PUE 數字則低於 1.2。

 

NVIDIA Liquid Cooled GPU
NVIDIA 觀察到液冷技術具有省電及提高密度的優勢

 

資料中心營運商的目標是淘汰冷水機的使用,冷水機每年以蒸發數百萬加侖水的方式來冷卻資料中心內的空氣。液冷系統卻可在封閉系統中循環少量液體,將重點著重於排除關鍵的熱點。

 

Equinix 與 NVIDIA 在個別的測試中都發現,資料中心無論使用液冷技術或氣冷技術都可以執行相同的作業負載,但前者的能源消耗減少約 30%。NVIDIA 預估使用液冷技術資料中心的 PUE 值可以達到 1.15,遠低於使用氣冷技術資料中心的 1.6 PUE 值。

 

使用液冷技術的資料中心也能在相同的空間處理兩倍的運算量,原因在於液冷式 A100 GPU 只用了一個 PCIe 插槽,而氣冷式 A100 GPU 則使用兩個 PCIe 插槽。

 

Equinix 正在對 A100 80GB PCIe 液冷式 GPU 進行資格認證,以便用於該公司的資料中心,並作為永續冷卻和熱捕獲綜合方法的一部分。

 

包括 ASUS 華碩、ASRock Rack永擎電子、Foxconn Industrial Internet 富士康工業互聯網、GIGABYTE 技嘉科技、H3C 杭州華三通信技術、Inspur 浪潮、Inventec 英業達、Nettrix、QCT 雲達科技、Supermicro 美超微、Wiwynn 緯穎科技與 xFusion,至少有超過十家系統製造商計畫於今年下半年將這些 GPU 導入至旗下產品線。

推薦電競新聞

繼續閱讀
Source NVIDIA推液體冷卻式A100和H100 PCIe GPU,進一步減少能源消耗 https://www.4gamers.com.tw/news/detail/53278/nvidia-annouces-liquid-cooled-a100-and-h100-gpu……