NVIDIA執行長黃仁勳在GTC上,手上握著輝達最新的AI超級晶片「GB200」。「G」代表輝達的Grace系列CPU,為既有產品;「B」則是以次世代架構Blackwell打造而成的全新GPU「B200」。
除此之外,黃仁勳也在GTC大會上點名11家台灣關鍵供應鏈廠商,包含鴻海、華碩、技嘉、英業達、廣達以及旗下的雲達科技、緯創以及緯穎、和碩、台灣艾維登、華擎旗下公司永擎等。 而鴻海董事長劉揚偉也親自出席GTC大會,和碩以及緯穎等台廠也都有產品亮相。
鴻海:除了AI伺服器,車用也是亮點
鴻海科技集團董事長劉揚偉親自出席GTC,其中一個原因是要感謝NVIDIA創辦人黃仁勳在去年鴻海科技日(HHTD23)的站台。
劉揚偉也在3月14日法說會上表示,鴻海是可以提供AI數據中心全方位解決方案的公司。因此,鴻海在GTC也有相關的技術展示,包含AI伺服器、液冷機櫃,以及電動車智慧駕駛的解決方案。
AI伺服器方面,鴻海攜手旗下子公司鴻佰科技展出多款產品。其中就有最新世代的AI數據中心液冷解決方案GB200 NVL72,搭載72個高性能NVIDIA Blackwell GPU和36個NVIDIA Grace CPU,並透過第5代NVLink互連,串聯成單一大規模GPU,可以大幅加快大型語言模型的推論速度。
在自動駕駛領域,鴻海端出基於NVIDIA的Orin X處理器(車用晶片)所打造的Smart Drive智能駕駛控制器,目的是展示鴻海在ADAS(輔助駕駛)硬體領域的強項,提供不同等級的ADAS控制器,最高等級搭載了2個Orin X處理器,能夠應對最具挑戰性的算力需求。
和碩:推AI伺服器、液冷產品
在今年的法說會上,和碩共同執行長鄭光志就點名,AI伺服器將帶爆發性成長。和碩此次於GTC中,就展示了AI伺服器、GenAI平台、智慧製造解決方案等。
與NVIDIA攜手合作打造企業AI伺服器
和碩與NVIDIA合作,推出搭載NVIDIA GH200 Grace Hopper超級晶片的AI伺服器,能夠配合大型語言模型(LLM)訓練,基於模組化設計以滿足多樣化的運算需求,且可依照客戶所需進行擴充,適合需要大規模運算處理和NVIDIA GPU加速的應用。
AI伺服器採用直達晶片液冷
和碩的液冷產品,在既有機箱空間限制下,採用直達晶片(Direct-to-Chip)液冷技術,能大幅增加硬體運算效率來降低總成本。和碩表示,可適用於生成式AI的訓練和推理、數位孿生等領域。
智慧製造解決方案
和碩在GTC現場也展示了機械手臂如何在AI輔助下,進行感知包裝物件與作業反應能力。操作者可以直接用自然語言,向機器提供精確的指令。同時,和碩也有整合NVIDIA Omniverse技術的PEGAVERSE(加速運算生成式AI伺服器解決方案),以提供更高效的解決方案。
最純AI股緯穎:推搭載GB200解決方案、液冷產品
緯穎在GTC上展示的是「整機櫃AI運算解決方案」與「整機液冷管理系統」。2個產品分別是為了滿足生成式AI所需的大規模算力,以及不斷增長的冷卻需求。其中,也針對NVIDIA GB200設計,推出全新的整機櫃。
緯穎也被稱為「最純AI股」,在2023年公布第4季的營收中,AI伺服器佔比達到20%,可以說是台廠最受惠的廠商。
緯穎總經理暨執行長張順來表示:「我們很高興成為首批搭載NVIDIA GB200 NVL72的合作夥伴之一。」緯穎作為NVIDIA緊密的合作夥伴,伺服器產品也呼應黃仁勳強調的速度與節能,緯穎的新產品將實現30倍速快的即時大型語言模型(LLM)推理速度,並且降低25倍的能源消耗。
張順來表示:「在提供算力的同時,緯穎也確保客戶客製化的彈性,以滿足資料中心在擴展、靈活性和管理方面的需求。未來會持續與NVIDIA合作,共同開發、優化,為生成式AI的資料中心提供解決方案。」
在液冷方面,因為AI與HPC(高效能運算)需要更強的冷卻技術,緯穎的液冷產品將提供即時監測、冷卻能耗優化、即時漏液檢測與控制,以確保系統的高效運作。
責任編輯:錢玉紘