NVIDIA於3/19宣布推出下一代AI人工智慧超級電腦：由NVIDIA GB200 Grace Blackwell Superchips驅動的NVIDIA DGX SuperPOD，用於處理具有恆定運行時間的兆級參數模型，以實現超大規模生成式AI訓練和推論工作負載。新型DGX SuperPOD採用新型高效液冷機架規模架構，採用NVIDIA DGX GB200系統構建，可在FP4精度下提供11.5 exaflops的AI超級運算能力和240TB的快速記憶體，可透過額外的機架擴展。
每個DGX GB200系統配備36個NVIDIA GB200超級晶片，其中包括36個NVIDIA Grace CPU和72個NVIDIA Blackwell GPU，透過第五代NVIDIA NVLink連接為超級電腦。與NVIDIA H100 Tensor Core GP相比，GB200超級晶片對於大型語言模型推論工作負載的效能提升高達30倍。
NVIDIA創辦人兼執行長黃仁勳表示：「NVIDIA DGX AI超級電腦是AI工業革命的工廠。全新的DGX SuperPOD結合了NVIDIA最先進的加速運算、網路和軟體，使每個公司、產業和國家都能完善和生成自己的人工智慧。」
由Grace Blackwell提供動力的DGX SuperPOD具有八個或更多DGX GB200系統，可擴展到透過NVIDIA Quantum InfiniBand連接的數萬個GB200超級晶片。客戶為了獲得龐大的共享記憶體空間來為下一代AI模型提供動力，可以部署透過NVLink將8個DGX GB200系統中的576個Blackwell GPU連接起來的配置。搭載DGX GB200和DGX B200系統的NVIDIA DGX SuperPOD預計今年稍後由NVIDIA全球合作夥伴提供。
全新機架規模DGX SuperPOD架構應用於生成式AI時代
配備DGX GB200系統的新DGX SuperPOD具有統一的運算結構。除了第五代NVIDIA NVLink之外，該結構還包括NVIDIA BlueField-3 DPU，並將支援今天單獨發布的NVIDIA Quantum-X800 InfiniBand網路。該架構為平台中的每個GPU提供每秒高達1,800GB的頻寬。此外，第四代NVIDIA可擴展分層聚合和縮減協定（SHARP）技術可提供DGX SuperPOD架構14.4 teraflops的網路內運算能力，與上一代相比提高了4倍。
全方位架構搭配先進軟體實現前所未有的持續運行時間
新的DGX SuperPOD是一款完整的、資料中心級AI超級電腦，可與NVIDIA認證的合作夥伴提供的高效能儲存整合，以滿足生成式AI工作負載的需求。每個超級電腦都在工廠內建造、布線和測試，以大幅加快在客戶資料中心的部署。
由Grace Blackwell提供動力的DGX SuperPOD具有智慧預測管理能力，可持續監控硬體和軟體上數千個個資料點，以預測和攔截停機和低效率的根源，從而節省時間、能源和運算成本。該軟體能夠識別問題領域並規劃維護工作，靈活調整運算資源，並自動保存並恢復工作，以防止停機，甚至無需系統管理員在場。如果軟體偵測到需要更換組件，叢集將啟動備用容量以確保工作及時完成。任何所需的硬體更換可以預先安排，以避免非計劃性停機。
NVIDIA DGX B200系統為產業推進AI超級運算
NVIDIA也推出了用於AI模型的訓練、微調和推論的統一人工智慧超級運算平台：NVIDIA DGX B200系統。
DGX B200是第六代風冷、傳統機架式DGX設計，DGX設計已應用於全球眾多產業。全新Blackwell架構DGX B200系統包括八個NVIDIA B200 Tensor Core GPU和兩台第五代Intel Xeon處理器。客戶還可以使用DGX B200系統建立DGX SuperPOD，以創建卓越AI中心，為運行許多不同工作的大型開發團隊提供支援。
DGX B200系統在新的Blackwell架構中包含FP4精度功能，可提供高達144 petaflops的AI效能、龐大的1.4TB GPU記憶體和64TB/s的記憶體頻寬。與前一代相比，即時推論兆級參數模型的速度快上15倍。
DGX B200系統具有先進的網路功能，配備有八個NVIDIA ConnectX-7 NIC和兩個BlueField-3 DPU。每個連接可提供高達每秒400GB的頻寬，透過NVIDIA Quantum-2 InfiniBand和NVIDIA Spectrum-X乙太網路平台提供快速的AI效能。
用於規模化生產人工智慧的軟體和專家支持
所有NVIDIA DGX平台均包含用於企業級開發和部署的NVIDIA AI Enterprise軟體。DGX客戶可以利用軟體平台中包含的預先訓練的NVIDIA基礎模型、框架、工具套件和新的NVIDIA NIM微服務來加速他們的工作。
NVIDIA DGX專家和經過認證可支援DGX平台的精選NVIDIA合作夥伴在部署的每個步驟中為客戶提供協助，以便他們能夠快速將AI上線使用。一旦系統投入運行，DGX專家將繼續支援客戶最佳化其AI管道和基礎設施。
延伸閱讀：
獻出你的荷包吧《進擊的巨人The Final Season快閃店》7/15華山等你進來坐！
必勝客迎父親節推限時優惠！3個大比薩只要888元
《進擊的巨人》艾連葉卡聲優「梶裕貴」來台原音重現「萊納你坐啊！」
《SPY x FAMILY間諜家家酒》聲優見面會「洛伊德」江口拓也帥氣登場｜「貝琪」加藤英美里驚喜現身
