NVIDIA Grace Hopper 超級運算卡登場
NVIDIA 在 GTC 2022 大會上除了發佈新一代 Hopper 微架構 H100 GPU 與基於 ARMv9 微架構的 Grace GPU,同時發佈一張結合兩者的 Grace Hopper 的超級運算卡,號稱全球密度最高的運算,兩顆晶片間透過第 4 代 NVLink 連接其頻寬可達 900GB/s,對於需要快速存取大量記憶體,並整合運用 CPU 與 GPU 的工作,有效提升人工智慧、高效能運算、雲端和超大規模工作負載以提高準確性和實用性。
NVIDIA 正式發佈全新 Hopper 微架構 H100 GPU是針對 HPC 高性能運算、AI 智能運算,採用了 TSMC 最先進的 4nm 制程、CoWoS 2.5D 晶片封裝、單晶片設計,總數達 800 億個電晶體,號稱世界上最先進的運算晶片。
但 NVIDIA 認為 GPU 的平行運算功能持續進步,工作負載仍可能因 CPU 執行的序列工作而受限。快速有效率的 CPU 是系統設計的重要元素,可支援最高的工作負載加速。
因此,NVIDIA 同時推出全新 Grace CPU,它能透過 NVLink-C2C 與 Hopper GPU 連結,它具備 72 個 ARMv9 核心、197MB Cache 容量,支援ECC 的 LPDDR5x 記憶體提供每秒 1TB 的記憶體頻寬。
