「一滴水落在伺服器就完了!」黃仁勳催出液冷散熱商機,但普及還有2大難題
「一滴水落在伺服器就完了!」黃仁勳催出液冷散熱商機,但普及還有2大難題

儘管AI技術近兩年有著重大突破,從舊時科幻電影中的存在,變成尋常百姓都能體驗到、甚至改變工作生活的技術,這大大提升了資料中心的負荷,但依靠大量風扇替伺服器降溫的傳統手段,依然是最主要的散熱辦法。現在以輝達為首的科技公司,開始探索更有效率的技術: 液體冷卻(liquid-cooled)散熱技術

一圖看懂水冷技術
圖/ 數位時代製作

液冷技術為何崛起?跟風冷散熱相比,好在哪?

今年3月的GTC大會上,輝達揭露了採用全新Blackwell架構的GB200伺服器,並聲稱將採用液體冷卻技術。根據《華爾街日報》報導,輝達發言人還透露,他們正在與供應商合作,著手開發浸沒式冷卻技術,將整台電腦浸泡在絕緣液體中進行冷卻。

自從AI技術興起後,資料中心的用電一直被搬上檯面討論。目前全球資料中心用電已高達350 TWh(太瓦時),比台灣2023全年用電270 TWh還要高出許多,全球只有16個國家用電量高於這個數字。但《彭博社》預估,2034年時資料中心用電將成長至1,580 TWh,相當於印度一整年的用電量。

apple data center green energy.jpg
資料中心有接近4成耗電,都用在了降溫散熱上。
圖/ Apple

資料中心巨額的用電量,很大一部分就是用於散熱。麥肯錫曾估計,冷卻就占了資料中心耗電的40%左右。 倘若使用液冷或更先進的技術,用電占比降到10%甚至更低,都是有可能的情況。

而除了用電疑慮外, 依靠風扇冷卻的作法也已經快要滿足不了AI晶片的散熱需求

研究公司集邦科技指出,B200、GB200等產品單一GPU功率就超過1,000W,HGX型號一組就有8塊GPU,而NVL型號則每個機櫃有著高達36或72塊GPU,傳統的風冷已經漸漸難以負荷。NVL36預計還會採用風冷、液冷結合的作法,而NVL72則會以液冷為主。

《華爾街日報》指出,AI伺服器供應商美超微(Super Micro Computer)就強調,液冷系統可將資料中心的耗能降低30%到40%;輝達也提到, 液冷技術可以省下風扇空間,使得資料中心內可以容納倍於風冷的運算能力 。另外,風扇揚起的灰塵還可能影響硬體效能。

延伸閱讀:[液冷散熱是什麼?跟水冷有何不同?解析下一個明星技術][1]

液冷散熱普及兩大難題:漏水、供應不穩定

不過,液冷要普及應用還有幾點困難等待克服,最大的風險就是 液體外洩 。「如果一滴水落在伺服器上,好比說要價數百萬美元的GB200,可能引發災難性的損壞。」散熱技術公司力致科技總經理連春源向《華爾街日報》表示。

7月下旬,GB200就被爆出液冷零組件有問題,出現機櫃漏水的情況,一度導致鴻海和相關供應商股價下跌5%以上。《華爾街日報》指出,消息人士透露目前供應商正在解決問題,預計不會影響到GB200的出貨時間。

jensen gtc 2024.jpg
黃仁勳認為,液冷比風冷更具優勢,是AI運算未來所需的技術。
圖/ Nvidia

再加上,目前液冷零組件的供應還不是很穩定,美超微在最新財報中提到,因為液冷零組件短缺導致出貨延遲,這一季少了8億美元收入。短缺的其中一種零組件叫作快接頭(UQD),是讓液冷系統運作時不漏液的關鍵零組件。

液冷的成本暫時也相對高昂,摩根士丹利估計,GB200的液冷系統一套要價超過8萬美元,相當於H100使用的風冷系統的15到20倍的價格。

目前風冷仍是資料中心冷卻辦法的絕對多數,超過95%資料中心都還是使用風冷,集邦科技認為,隨著輝達Blackwell系列晶片的推出,液冷普及率可望在年底到達10%。值得一提的是,該研究是在Blackwell系列傳出設計缺陷前發布,延期消息對此有多大的影響,暫時還不得而知。不過美超微也透露,明年出貨的伺服器將有高達30%都是採用液冷技術。

液冷要取代風冷成為主流,勢必還有相當長的一段時間,但如今的成長趨勢顯示,液冷不再只是高端電腦玩家,或者核電廠等特別環境才會使用的技術,能夠真正為資料中心帶來革新。今年6月黃仁勳出席HPE的活動也提到,「液冷技術未來將帶來包括更好的性能、更少的基礎設施和更低的營運成本等所有一切好處。」

延伸閱讀:[氣冷、液冷、浸沒式三種散熱差在哪?一文看懂AI大商機:關鍵技術、概念股有哪些?][2]

資料來源:[華爾街日報][3]、[集邦科技][4]、[CRN][5]

責任編輯:林美欣
[1]: https://www.bnext.com.tw/article/77267/auras-cooler
[2]: https://www.bnext.com.tw/article/79629/why-taiwan%E2%80%99s-cooling-manufacturers-are-so-important
[3]: https://www.wsj.com/tech/novel-ideas-to-cool-data-centers-liquid-in-pipes-or-a-dunking-bath-cdb7a393?mod=tech_lead_pos2
[4]: https://www.trendforce.com/presscenter/news/20240730-12232.html
[5]: https://www.crn.com/news/ai/2024/nvidia-ceo-jensen-huang-hpe-nvidia-is-a-massive-partnership-exits-sphere-stage-with-a-go-hpe?itc=refresh

關鍵字: #Nvidia #資料中心
往下滑看下一篇文章
當AI開始幫消費者做決定,品牌怎麼做?iKala Connection Day揭企業轉型解方
當AI開始幫消費者做決定,品牌怎麼做?iKala Connection Day揭企業轉型解方

隨著代理式AI(Agentic AI)快速發展,人工智慧的角色也從被動問答的對話工具,轉變為能主動代為執行搜尋的商業介面;兩者根本的差異在於,前者仍須仰賴使用者逐步下達指令,後者則能自主完成任務。當AI代理為人類代勞搜尋、比價、甚至決策等任務,品牌競爭的對象便不再限於消費者,也涵蓋替消費者把關的AI代理。

因此,「Business to Agent」(B2A)成為當代企業必須面對的新命題,為了擁抱嶄新的思路,跨國AI轉型解決方案供應商iKala舉辦第二屆「iKala Connection Day」論壇,以「數據領航:AI時代的真實價值」為題,邀集Google Cloud、Google Ads等產業領袖,一同剖析企業如何從基礎建設走向市場端,搶佔AI先機。

不只SEO,還要GEO!企業如何讓AI認識你

回顧過往科技發展週期,新科技普遍需10至12年才能成熟。iKala共同創辦人暨集團董事長程世嘉引述AMD執行長蘇姿丰的比喻來說,若AI是一場棒球賽,目前僅走到第三局。這意味著,只要企業採用率持續攀升,尚且毋需擔憂AI泡沫化;反之,AI產業可能才正要邁入超級循環。

不過,程世嘉也提出「智慧通膨」的現象,他表示:「各大廠不斷推出新模型,資本支出也不斷提升,但使用成本並沒有因此下降,因為算力供不應求;不過長期來看,成本曲線一定會往下走,未來AI智慧會像水龍頭一樣,打開就有。」

隨著AI逐步普及,使用者尋找資訊的方式也隨之轉變。程世嘉強調,搜尋行為正從關鍵字轉向AI對話與生成式搜尋。企業除經營傳統SEO,更需布局GEO(生成式引擎優化),提高被AI引用與推薦的機會。這波版位重分配與十餘年前SEO興起時無異,及早掌握規則者,才能在新流量分配中卡位。

2.JPG
iKala共同創辦人暨集團董事長 程世嘉
圖/ 數位時代

迎戰Business-to-Agent,如何搶進AI決策新戰場

要爭取AI時代的流量紅利,關鍵前提在於企業內部的基礎建設是否到位。「現在超過9成的企業都有AI焦慮症,大家都很急著導入AI工具,但背後缺乏整體的策略與架構。」iKala AI服務事業部副總經理Gary Yang認為,AI專案應如培訓新進員工,結合商業策略與數據資產雙向評估,才能真正落地。

「如果沒有穩定的雲端基礎,企業的AI就會是空中樓閣。」他強調,雲端即是企業佈局AI的關鍵基礎建設之一。如多數企業選擇Google Cloud,看重的就是技術護城河、數據主權與總體擁有成本;而iKala推出的企業級AI代理平台iKala Nexus,定位為策略中樞與營運大腦,即立基於此。

3.JPG
iKala AI服務事業部副總經理Gary Yang
圖/ 數位時代

然而,架構穩固只是起點。Google Workspace銷售總監Murray Chiang指出,全球僅約3%企業成功透過AI達成深度轉型,關鍵就在AI代理能取得多少企業資料與情境。因此,企業級Gemini Enterprise App結合個人級Google Workspace,構成Google所主張的「代理型工作轉型」(Agentic Workplace Transformation,AWT)主軸,讓AI從被動對話框升級為跨系統執行的代理,並恪守數據主權歸屬企業的原則,讓企業級AI能真正發揮效益。

4.JPG
Google Workspace銷售總監Murray Chiang
圖/ 數位時代

當企業打穩內部地基,外部競爭也才能順勢轉向市場端。「Google Search全球年搜尋量達5兆次,近八成消費者認為AI讓購物決策更快、更有信心。」Google Ads廣告產品行銷資深總監Alvin Tsai指出,「B2A」(Business to Agent)的時代來臨,當AI代理主導決策時,看重的是API串接流暢度與數據結構化程度,企業必須從爭取「被看見」的SEO排名,走向爭取「被推薦」的AI清單,並進一步走向「被選擇」。其中,信任將成為AI時代品牌經營的關鍵。

5.JPG
Google Ads廣告產品行銷資深總監Alvin Tsai
圖/ 數位時代

從洞察到執行,iKala全方位解方引領品牌佈局

這份信任要能落地,關鍵在於底層數據是否可信。對此,iKala行銷科技事業部總監Donna Hsu提出的IMC整合行銷架構,正是iKala因應Agentic Commerce時代所提出的整體解決方案。

面對高度碎片化的行銷環境,品牌需要建立的,是一套能從市場洞察延伸至全通路執行、並持續優化的整合行銷系統。Ontix即時掌握消費者社群聲量與市場趨勢,代表品牌對人的理解;Kuroma則從AI搜尋視角,分析品牌在生成式搜尋中的能見度與引用表現,代表對AI的理解;兩者合力,讓品牌同時掌握人類與AI代理的決策脈絡。再透過Kolr行銷數據平台,將洞察轉化為具體行銷執行,使每一次決策都能以數據驅動、持續優化,協助品牌在AI時代建立長期競爭優勢。

6.JPG
iKala行銷科技事業部總監Donna Hsu
圖/ 數位時代

最後,在論壇壓軸的高峰對談中,程世嘉強調,當前正是典範轉移的關鍵時機,如同過往率先布局SEO的業者得以享有紅利;他認為,這同樣是企業重生的契機,提早深耕者將在此波轉型中佔得先機。尤其,AI轉型已非單機運作所能達成,企業應優先建立基礎建設與治理架構;當自身能力有限,也須慎選合作夥伴、借助外部資源,並在安全可信任的前提下,實現共同成長。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
台達電全解讀
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓