搭載Nvidia GPU的超級電腦,2座在台灣!黃仁勳衝刺AI還秀出哪些肌肉?
搭載Nvidia GPU的超級電腦,2座在台灣!黃仁勳衝刺AI還秀出哪些肌肉?

🔥每日精選最重要區塊鏈新聞、第一手採訪 👉歡迎加入《Web3+》官方Telegram

GH200晶片進入量產,黃仁勳宣佈新超級電腦

今年的Computex 2023活動上,Nvidia揭露在超級電腦領域的進展,除了全新超級電腦DGX GH200,還公佈了世界各地4台配備其GPU、CPU的超級電腦,而其中兩台就在台灣本土。

AI浪潮下追逐更高效的運算能力已成顯學,而Nvidia在宣佈Grace Hopper架構的GH200晶片已經全面進入量產階段外,更對外發表運用這款晶片打造的DGX GH200超級電腦,聲稱是首款擁有超過100TB GPU記憶體的超級電腦。

GH200結合了首款ARM架構處理器Grace CPU及AI晶片Hopper H100 GPU,省略掉以往CPU與GPU連線的需求,是Nvidia為需要CPU及GPU整合解決方案所推出的產品──特別針對了AI模型的訓練等用途上。

nvidia computex dgx gh200
黃仁勳在Keynote演講上揭露了利用 GH200晶片打造的超級電腦DGX GH200。
圖/ Nvidia

而DGX GH200則是串連了256個GH200超級晶片打造的超級電腦,能夠將其作為單個GPU使用,提供了多達1 exaflop的算力及144TB的記憶體,比2020年推出的上一代DGX A100系統多出近500倍。

「生成式AI、大型語言模型和推薦系統是現代經濟的數位引擎。」黃仁勳在聲明中表示,「DGX GH200 AI超級電腦集合了Nvidia最先進的加速運算及網路技術,來拓展AI領域的前沿。」

按照Nvidia的說法,Google Cloud、Meta及微軟將成為DGX GH200的首批客戶,未來還打算將其設計提供給雲端服務商,讓客戶能夠依照需求定製自己的超級電腦。

還有4台超級電腦蓄勢待發,其中兩台在台灣

不過除了DGX GH200以外,Nvidia還宣佈了世界各地配備其Grace及Hopper級CPU、GPU的超級電腦,而其中兩台就在台灣。

台灣杉4號

先前由華碩取得標案的台灣杉四號超級電腦預計將有44個運算節點,並採用Nvidia Grace CPU Superchip,該晶片是由兩枚Grace CPU封裝在一起組成的超級晶片,接替直接除役的台灣杉一號提供高效能運算所需的資源。

國網中心指出,台灣杉四號主要將用於氣候預測、天體物理模擬、分子模型模擬及工程設計與模擬等研究課題,期待台灣杉四號未來能在各個研究領域發揮高效能運算的優勢。

根據《HPCwire》報導,Nvidia及國網中心有特別強調Grace CPU的節能性質,聲稱利用Grace CPU打造的台灣杉四號將成為亞洲最省電的超級電腦,也符合它應對全球氣候危機的使命。

Taipei-1

第二台位於台灣的超級電腦,則是Nvidia自行擁有及營運的Taiepi-1,預計將使用64個DGX H100──每個系統使用8枚H100 GPU,總計512枚──以及64個為執行Omniverse應用程式打造的OVX系統,預計將在今年內正式上線。

相比使用CPU、不擅長AI運算的台灣杉四號,Taipei-1擁有更廣泛的使用前景,從大型語言模型、數位分身、機器人技術到醫療領域都能發揮作用,而作為首批用戶之一的台大,就計畫利用這台超級電腦訓練大型語言模型。

Helios及Israel-1

除了在台灣的兩座超級電腦外,Nvidia也在打造能夠串連4個DGX GH200系統的「NVIDIA Helios」超級電腦,以推進在AI領域的進展。

與此同時,Nvidia還將在以色列打造擁有8 exaflops性能的超級電腦Israel-1。這個超級電腦是由Nvidia 2019年斥資70億美元收購的Mellanox團隊所開發,預計將在2023年底前部份投入營運。

「現在生成式AI無所不在,你需要能夠在大型資料庫上進行訓練。」Nvidia高級副總裁吉拉德.謝納(Gilad Shainer)表示,未來以色列公司將有超級電腦可以處理這項任務,「這個系統是一個能夠讓他們快速訓練、建立框架、應對更複雜問題的解決方案。」

🔥每日精選最重要區塊鏈新聞、第一手採訪 👉歡迎加入《Web3+》官方Telegram

資料來源:HPCwireReuters

責任編輯:錢玉紘

往下滑看下一篇文章
從模型競爭走向算力經濟,INFINITIX 助客戶打造軟體定義 AI 基礎建設
從模型競爭走向算力經濟,INFINITIX 助客戶打造軟體定義 AI 基礎建設

過去兩年,人工智慧技術以史無前例的速度翻轉企業營運與競爭態勢,從客服、知識管理到軟體開發,越來越多企業將大型語言模型(LLM)導入企業營運流程,隨著應用程度的深化與廣化,越來越多發現,真正的挑戰早已不只是「選擇哪個模型」,而是如何管理算力、控制成本、確保資料安全,以及讓不同世代GPU、模型與AI應用可以持續共存與調度。

代理式AI崛起後,AI應用從回答問題進展為執行任務、操作系統以及串接流程,連帶拉升對AI基礎設施的需求與架構複雜度,而這意味著,想要發揮AI綜效,光只有模型與技術尚不夠,必須將整體IT環境逐步升級為AI基礎建設(AI Infra)。

深耕AI管理領域多年的數位無限(INFINITIX),近年積極布局軟體定應AI基礎建設(Software Defined AI Infrastructure)市場,除持續深化與GPU、伺服器與AI硬體生態系的合作關係,如於2021年取得NVIDIA Solution Advisor全球夥伴資格,2025年亦獲AMD GPU生態建設夥伴獎,也因應市場需求推出AI-Stack與ixCSP兩大產品線,協助企業、雲端服務供應商(CSP)與新世代AI雲端業者,更有效率地管理跨世代AI算力資源。

數位無限執行長陳文裕表示:「我們的目標是協助客戶打造軟體定義AI基礎架構,讓其可以視需求向下整合不同世代GPU、儲存與網路設備,同時,向上鏈結模型、Token跟AI應用,加速企業的AI創新轉型腳步。」

數位無限執行長陳文裕.JPG
數位無限執行長陳文裕
圖/ 數位時代

從AI模型到AI經濟,企業競爭焦點轉向算力與Token調度能力

過去市場談AI,焦點多半放在模型參數、推論效能與模型能力,但在大型語言模型推論需求暴增的現下,AI Infra早已從單純GPU採購演變成涵蓋機櫃、網路、儲存、散熱與電力的整體工程;企業真正需要的,不是更多GPU、而是如何更有效率地調度與利用算力。

尤其在NVIDIA提出Token Factory概念後,全球AI產業正逐步從模型競賽轉向「AI經濟」,亦即,影響企業AI決策的再也不是使用哪個模型、部署多少GPU,而是消耗多少Token、產生多少AI服務,以及算力是否能被有效共享與調度。

換言之,在AI新世界,算力調度能力的重要水漲船高。對此,陳文裕十分認同的說:「企業想要提升AI競爭力,不僅要掌握模型與應用,還必須進一步思考如何有效切割GPU資源、讓不同部門甚至集團子公司共享算力、延長舊世代GPU的使用壽命,甚至是如何將閒置算力轉變成可交易的資源等。」

事實上,這也是大量AI資料中心(AIDC)跟新世代AI雲端服務(Neo Cloud)業者出現的原因,包括CoreWeave、Nebius、Lambda Labs、GMI Cloud等業者皆試圖以更具彈性的方式,提供企業所需的GPU服務與AI算力平台。

看準這波趨勢,數位無限除透過AI-Stack提供GPU切片、模型部署、模型管理與MLOps等服務,協助客戶提升GPU使用率,更進一步推出ixCSP平台,讓雲端服務供應商與新世代AI雲端業者,能從過去單純販售GPU資源轉型為提供GPU as a Service、Token as a Service與Model as a Service等創新AI服務。

以Software Defined AI Infrastructure助企業以「通用化、鬆耦合」迎戰瞬變AI世代

因應AI新世代帶來的挑戰:模型快速升級、算力需求攀升、GPU世代交替迅速,企業在追逐AI落地的同時,勢必得面臨基礎建設更新速度過快、硬體投資壓力升高,以及資源利用效率難以最佳化等挑戰。

為協助企業在AI快速演進與基礎建設投資之間取得平衡,數位無限的作法是,透過AI-Stack將底層硬體抽象化,以Token或模型服務形式提供,讓企業客戶、AIDC與Neo Cloud業者可以延長不同世代與不同品牌的AI硬體設備的生命週期、創造更高的使用價值、甚至是展開更多元的營收模式。

例如,高雄醫學大學附設中和紀念醫院便透過數位無限的AI-Stack解決GPU資源調度效率不彰問題,加速39項AI模型進入臨床應用階段,成功建立起「從模型開發到臨床落地」的完整生態系統。而日本精密製造大廠–Union Tool Co.–則是透過AI-Stack簡化GPU資源共享、加速AI模型的開發與測試腳步,為提升生產效率做最佳準備。

「如果大型企業或AIDC業者擁有閒置資源,也可以透過ixCSP平台,把算力共享或調度給集團內部團隊、子公司,甚至上下游合作夥伴使用,進一步提升整體資源利用率。」數位無限執行長陳文裕如是說道。

隨著AI從工具演變成企業核心基礎建設,企業真正需要的,也不再只是單一模型,而是一套能持續適應AI快速演進的AI Infra,而這與數位無限近年來的重要轉型方向一致:從AI管理軟體提供者轉型為軟體定義AI基礎建設供應商,更好協助客戶打造具備「通用化」與「鬆耦合」特性的AI基礎建設。

除以AI-Stack與ixCSP協助客戶提升算力使用效率與價值,數位無限亦計畫與硬體合作夥伴推出Agentic AI一體機方案,協助企業快速建立可驗證、可部署、可切割、可共享的AI運算環境,降低企業從PoC走向實際導入的門檻,加速AI落地。

總的來說,隨著AI競爭從模型能力延伸到算力治理,企業比拚的不僅是導入速度,而是能否建立一套足夠彈性、可持續演進的AI Infra,而這與數位無限的發展目標一致,將持續不斷優化產品服務,化身企業搶進AI新世代的關鍵合作夥伴。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
代理式商務連動百兆商機
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓