H200 相較於 H100 升級了內存容量和內存帶寬,當然還有 DGX 本身的溢價,英偉達此前還在財報中透露會公平分配這些加速卡,所以這台服務器的價格應該還是非常誇張的。同時通過堆疊多張 GPU 用來提高性能。
今天英偉達創始人兼首席執行官黃仁勳親自帶著全球首台 NVIDIA DGX H200 加速卡前往 OPENAI 位於美國舊金山的辦公室進行交付程序。其中當前的旗艦款就是 NVIDIA H200 GPU,可以安裝 141GB 內存;內存帶寬提高 1.4 倍,
當然即便價格非常誇張目前這些加速卡和服務器也是供不應求的,DGX 係列服務器由英偉達自行設計和構建,總內存帶寬高達 4.8TB / 秒。不過再怎麽分配可能也得按照訂單順序來,而 DGX H200 則是包含了多張 H200 GPU 的服務器,所以後來訂購的人工智能企業可能還需要等待很長時間。裏麵包含了一些英偉達的專有設計,
目前英偉達正在努力生產更多適用於數據中心級別的人工智能加速卡,還在 X/Twitter 上發布了現場照片。後來預訂的人工智能公司就需要等待更長時間才能獲得交付。DGX H200 服務器可以容納 4~8 張 H200 加速卡,
NVIDIA H200 的價格傳聞是在 25000 美元~40000 美元,

需要提醒的是 NVIDIA H200 是英偉達推出的適用於人工智能計算的 GPU,



