輝達（Nvidia）執行長黃仁勳以一身黑色皮衣勁裝，於9日時現身洛杉磯舉辦的SIGGRAPH大會，興奮的向台下聽眾展示全球最新的人工智慧超級晶片GH200。
「你可以將任何語言模型放入其中，他會瘋狂地進行推理。」黃仁勳指出，過去需斥資1億美元來打造資料中心，改用GH200後，可以省下12倍的成本，加上GH200超強大的算力，還能降低20倍的能耗，再次呼應他來台後不斷高呼的口號：「買越多、省越多。」
Nvidia黃仁勳深夜炸鍋：地表最強AI晶片「GH200」問世
GH200是什麼來頭？有多快？
GH200結合CPU和GPU，透過NVLink技術傳輸。輝達的官網指出，NVLink是一種使GPU及GPU互連的技術，能提供更好的擴充性，以超快速度進行深度學習訓練。
GH200是首款結合CPU與GPU的超級晶片，而今也將成為第一個採用高頻寬記憶體HBM3e的晶片。不僅增加記憶體容量，速度也更快，每秒可傳輸的資料量比起H100增加1.7倍，在需要大量且快速運算資料的AI時代，增添優勢。
GH200何時量產？
輝達副總裁Ian Buck則在8日的線上說明會表示，GH200是為了推理（inference）所設計，更多的記憶體容量也是為了讓更大的AI模型，例如Meta的Lama2或是由Stable Diffusion所發表的模型SDXL。
Buck指出，和擁有80GB記憶體容量的H100相比，GH200則有141GB，「記憶體容量擴大，能讓模型在單一個GPU上運行，無需跨多個系統，或是好幾個GPU才能運行。」
在今年5月Computex期間，黃仁勳就曾提及GH200晶片，如今算是正式亮相。「GH200會在明年（2024年）第二季量產。」黃仁勳說。
華碩躋身新一代OVX平台供應商
SIGGRAPH大會上的硬體亮點不只如此，輝達還發布為OVX系統所打造的新一代伺服器，搭載 L40S GPU並採用Ada Lovelace架構，可加強AI的訓論及推論、3D設計和視覺、影像處理和工業數位化等應用，預計會在今年秋天上市。
OVX系統是專門為大規模數位孿生 (digital twins) 所設計的運算系統。輝達指出，OVX可用於模擬複雜較高的數位孿生，例如打造整棟建築物、工廠和城市，甚至是整個世界的模型。
值得關注的是，供應商除了有戴爾（Dell）、技嘉、廣達旗下的雲達和美超微（Supermicro）之外，新加入的華碩也成為供應商之一。法人指出，華碩近期已傳出接到輝達DGX大單，預期8月還會有更近一步的消息揭露。
責任編輯：林美欣
