AI伺服器年產值估增69%!輝達GB200出貨倒數,鴻海等4大台廠如何搶攻6兆大餅?
AI伺服器年產值估增69%!輝達GB200出貨倒數,鴻海等4大台廠如何搶攻6兆大餅?

進入2024下半年,備受期待的GB200出貨也在倒數中。研調機構TrendForce表示,今年大型雲端服務廠商持續擴大採購AI伺服器, 預計AI伺服器的出貨佔比將占整體伺服器出貨的12.2%,較2023年提升約3.4%。

若估算產值, AI伺服器2024年的產值將達逾1,870億美元(約新台幣6兆元),年成長率達69%,產值占整體伺服器高達65%。

也就是說,幾乎整個伺服器的產業都由AI伺服器領頭向前衝。這一點,從台灣受惠的供應鏈中也能獲得應證。

晶片廠擴產,AI伺服器出貨提早

據TrendForce分析報告指出,由於CoWoS原廠台積電、HBM原廠SK海力士、三星及美光逐步擴產下,NVIDIA主力方案H100的交貨前置時間從45周縮短16周。

因此TrendForce預估,AI伺服器第2季出貨量將季增近20%,全年出貨量上修至167萬台,年增率達41.5%。

TrendForce表示,由於大型雲端服務廠商聚焦於採購AI伺服器,一般型伺服器出貨量年增率僅有1.9%,反觀AI伺服器則較去年提升約3.4%。

就AI伺服器搭載的AI晶片供應商分布來看,NVIDIA市占率逼近9成;AMD市占率則僅約8%。

但若加計所有AI伺服器用AI晶片(包含GPU、ASIC、FPGA),NVIDIA今年市占率則約64%。

GB200將成為市場主流,鴻海、廣達、緯創、緯穎營運看好

據TrendForce的調查,展望2025年市場對於高階AI伺服器需求仍強,尤其以NVIDIA新一代Blackwell(包含GB200、B100/B200等)將取代Hopper平台成為市場主流,這也將帶動CoWoS及HBM等需求。

NVIDIA在2024的GTC大會上點名高階AI伺服器GB200訂單的台灣代工廠商,包含:華碩、永擎、鴻海旗下富士康、技嘉、英業達、和碩、雲達、緯創、緯穎。

其中,業界估計鴻海拿到的訂單量最大,依序是廣達與緯穎。

鴻海:AI伺服器拉貨動能強勁

鴻海旗下負責伺服器製造的工業富聯董事長鄭弘孟指出,團隊4月開始少量出貨輝達GB200 NVL36伺服器,而目前最新款的GB200 AI伺服器NVL72,也已製造出完整的成品,團隊預計先從美國加州聖荷西開始,將新產品逐步的導入市場。

鴻海指出「雲端網路產品類別」由於AI伺服器拉貨動能增加,年對年會有強勁成長。

老黃跟鴻海.jpeg
輝達執行長黃仁勳6/4日下午親自到訪集團旗下鴻佰科技展位,和鴻海董事長劉揚偉同框。
圖/ 鴻海科技提供

雲達:AI伺服器營收佔比將超過5成

而廣達則以旗下雲達科技積極發展和NVIDIA的關係,雲達總經理楊騏令表示,雲達是首批取得GB200 NVL72機櫃設計的廠商之一,根據晶片出貨速度,最快9月可以量產出貨。

廣達表示,由於GPU的物料供應狀況改善,帶動下半年AI伺服器的出貨表現,目前維持2024年伺服器營收成長雙位數的展望,預計AI伺服器營收佔比將超過5成。

緯穎:AI類產品成長上看3位數

而緯創旗下子公司緯穎,身為最早卡位NVIDIA供應鏈的廠商,又是首批取得GB200 NVL72機櫃設計的廠商之一,董事長洪麗寗先前在股東會提到,會努力跟緊出貨NVIDIA GB200的AI伺服器,期望2024年第4季會有表現,力求滿足生成式AI對大規模算力和冷卻解決方案的市場需求。

緯創總經理暨執行長林建勳則在股東會表示,2024年AI相關產品會有3位數的成長,AI相關產品的營業額也會超過總營業額的2成以上。

緯穎科技董事長洪麗甯.jpg
緯穎取得臺北市內湖區潭美段地上權案6月7日簽約,圖為緯穎董事長洪麗寗和緯創總經理林建勳
圖/ 黃詩媛拍攝

延伸閱讀:美超微梁見後:以後與美股7雄平起平坐!「那指100」是什麼?為何入選是關鍵里程碑?

責任編輯:黃若彤、李先泰

往下滑看下一篇文章
AI代理時代已至!國泰金控以GAIA 2.0框架加速AI應用百花齊放
AI代理時代已至!國泰金控以GAIA 2.0框架加速AI應用百花齊放

AI正以驚人速度重塑世界樣貌,金融產業也不例外。國泰金控作為台灣最大的金融控股公司之一,不僅積極擁抱創新變革,更透過開放分享促進產業共好:在「2025國泰金控技術年會」中分享「GAIA 2.0技術框架」,揭示多代理(Multi-Agent)雲端協作架構,讓AI從知識問答助理進化成可以自主推論、規劃與協作的夥伴,拉開以人為中心的金融科技新世代序幕。

以GAIA 2.0技術框架為基礎,加速集團應用百花齊放

GAIA是國泰金控為實現AI即服務(AI as a Service)提出的關鍵技術框架,歷經一年的發展,不僅成功建立超過200種資料類別的知識庫、彙整50多種生成式AI模型的Model Hub、設有70道安全防護檢查點的AI護欄。

國泰金控
國泰金控副總暨國泰世華銀行數據長梁明喬分享GAIA 2.0技術框架與集團GenAI應用案例
圖/ 數位時代

國泰金控副總經理暨國泰世華銀行數據長梁明喬指出:「隨著代理式AI技術崛起,我們在今年提出GAIA 2.0技術框架,目標是讓AI助理(Assistant)進化成AI Agent,可以跨單位整合工具、數據與分工,實現真正的智慧協作。」

舉例來說,為深化集團員工運用AI提升工作效率,我們打造員工AI助手—Agia,協助同仁進行知識查詢、資料摘要等任務,提升效率與生產力;另外,透過AI自助開發平台—GAIA Studio,讓員工以No Code工具,連結內部知識庫,並以視覺化介面或Prompt快速自主開發,打造業務場景所需的生成式AI服務與工具。GAIA Studio 上線三個月已有28個部門自助開發超過40支內部應用AI服務(包含行銷文案、各類產品知識、趨勢摘要等)。

在技術面,具體作法是透過GAIA 2.0框架下的四個模組,包含負責統籌AI Agent任務分配與協作流程的「Agent Core核心框架」、提供安全自主運作環境的「Agent Workspace可控環境」、連結Agent間共通語言的「Agent Protocol串接協定」,以及集中管理AI工具與元件的「Agent Marketplace整合市集」,以加速AI Agent應用研發與部署。

梁明喬表示:「接下來,我們將以GAIA為引擎,打造通用型、業務型、IT型與服務型AI應用,如Vibe Coding、CUBE Intelligence等服務,一步一腳印擴展集團的AI Agent生態圈,型塑智慧金融新格局。」

舉例來說,隨著生成式AI普及,客戶對於數位(助理)服務的期待更高,國泰世華銀行數位品牌CUBE推出「CUBE Intelligence」兩項新服務,包含「升級版」智能助理–阿發,滿足客戶詢問複雜問題的需求,無論客戶提出什麼問題,都可以完整步驟與適當的情緒價值強化與客戶的連結,讓服務更智慧、貼心且符合期待。

國泰金控
國泰金控副總暨國泰世華銀行數位長陳冠學展示「CUBE Intelligence」兩項新服務
圖/ 數位時代

國泰金控副總經理暨國泰世華銀行數位長陳冠學表示:「除了升級版阿發,另一新服務是我們也在CUBE App新增『對話式功能搜尋(CUBE Search)』,就像把行員放到CUBE App一樣,讓客戶可以用自然語言輕鬆找到想要的服務,讓服務體驗變得更聰明、更人性也更懂你。」兩項CUBE Intelligence新服務即將在年底正式上線。

跨界合作推動台灣大型語言模型落地,加速生成式AI發展

大型語言模型具備強大的語意理解與內容生成能力,是生成式AI快速發展的關鍵推力。國立政治大學金融科技研究中心主任王儷玲指出:「金融產業因為有獨特的金融語境、法規語意以及在地化的繁體中文知識,國際通用模型並不適用,必須建構本土知識庫、標準化模型機制、AI 法規沙盒及在地算力平台,發展台灣企業共同主導與管理的大型語言模型,方能讓更多金融業者透過微調打造適用模型、加速可信賴的AI Agent服務落地。」

國泰金控數數發中心數據暨人工智慧發展部副總經理劉浩翔進一步補充:「本地大型語言模型的成功關鍵,不僅是掌握充足且高品質的數據,還要透過後訓練微調與人類回饋強化學習的訓練方式去微調出適用的AI模型,藉此提升答案的精準度,尤其是需要跨法規、多層邏輯的嚴謹金融專業知識。」

AI要成功,除了應用場景、模型,算力也扮演至關緊要角色,對此,鴻海科技集團亞灣超算執行長姚延宗表示:「本土算力是支持本土大型語言模型落地的關鍵。」不過,他也強調,AI算力快速迭代且進入門檻高,不是每一間企業都可以自建算力,因此,亞灣超算與NVIDIA合作啟用超算中心,讓金融等台灣企業可以按需租賃所需算力,解決資料共享等敏感問題,加速金融AI應用的多元發展。

國泰金控
產業與學界專家於國泰金控技術年會交流生成式AI如何在台落地應用,左起為:國泰金控副總經理施君蘭、政治大學金融科技研究中心主任王儷玲、國泰金控數數發中心副總經理劉浩翔、鴻海科技集團亞灣超算執行長姚延宗
圖/ 數位時代

總的來說,從GAIA 2.0技術框架的推出、生成式AI的落地應用、到積極參與本土大型語言模型建置等行動,可以清楚看到,國泰金控正由內而外推動全面AI創新:強化內部流程效率與治理能力、以智慧化服務提升客戶體驗,並透過技術開放與跨域合作,為金融產業的數位與AI智慧轉型注入新動能。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
進擊的機器人
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓