「一滴水落在伺服器就完了!」黃仁勳催出液冷散熱商機,但普及還有2大難題
「一滴水落在伺服器就完了!」黃仁勳催出液冷散熱商機,但普及還有2大難題

儘管AI技術近兩年有著重大突破,從舊時科幻電影中的存在,變成尋常百姓都能體驗到、甚至改變工作生活的技術,這大大提升了資料中心的負荷,但依靠大量風扇替伺服器降溫的傳統手段,依然是最主要的散熱辦法。現在以輝達為首的科技公司,開始探索更有效率的技術: 液體冷卻(liquid-cooled)散熱技術

一圖看懂水冷技術
圖/ 數位時代製作

液冷技術為何崛起?跟風冷散熱相比,好在哪?

今年3月的GTC大會上,輝達揭露了採用全新Blackwell架構的GB200伺服器,並聲稱將採用液體冷卻技術。根據《華爾街日報》報導,輝達發言人還透露,他們正在與供應商合作,著手開發浸沒式冷卻技術,將整台電腦浸泡在絕緣液體中進行冷卻。

自從AI技術興起後,資料中心的用電一直被搬上檯面討論。目前全球資料中心用電已高達350 TWh(太瓦時),比台灣2023全年用電270 TWh還要高出許多,全球只有16個國家用電量高於這個數字。但《彭博社》預估,2034年時資料中心用電將成長至1,580 TWh,相當於印度一整年的用電量。

apple data center green energy.jpg
資料中心有接近4成耗電,都用在了降溫散熱上。
圖/ Apple

資料中心巨額的用電量,很大一部分就是用於散熱。麥肯錫曾估計,冷卻就占了資料中心耗電的40%左右。 倘若使用液冷或更先進的技術,用電占比降到10%甚至更低,都是有可能的情況。

而除了用電疑慮外, 依靠風扇冷卻的作法也已經快要滿足不了AI晶片的散熱需求

研究公司集邦科技指出,B200、GB200等產品單一GPU功率就超過1,000W,HGX型號一組就有8塊GPU,而NVL型號則每個機櫃有著高達36或72塊GPU,傳統的風冷已經漸漸難以負荷。NVL36預計還會採用風冷、液冷結合的作法,而NVL72則會以液冷為主。

《華爾街日報》指出,AI伺服器供應商美超微(Super Micro Computer)就強調,液冷系統可將資料中心的耗能降低30%到40%;輝達也提到, 液冷技術可以省下風扇空間,使得資料中心內可以容納倍於風冷的運算能力 。另外,風扇揚起的灰塵還可能影響硬體效能。

延伸閱讀:液冷散熱是什麼?跟水冷有何不同?解析下一個明星技術

液冷散熱普及兩大難題:漏水、供應不穩定

不過,液冷要普及應用還有幾點困難等待克服,最大的風險就是 液體外洩 。「如果一滴水落在伺服器上,好比說要價數百萬美元的GB200,可能引發災難性的損壞。」散熱技術公司力致科技總經理連春源向《華爾街日報》表示。

7月下旬,GB200就被爆出液冷零組件有問題,出現機櫃漏水的情況,一度導致鴻海和相關供應商股價下跌5%以上。《華爾街日報》指出,消息人士透露目前供應商正在解決問題,預計不會影響到GB200的出貨時間。

jensen gtc 2024.jpg
黃仁勳認為,液冷比風冷更具優勢,是AI運算未來所需的技術。
圖/ Nvidia

再加上,目前液冷零組件的供應還不是很穩定,美超微在最新財報中提到,因為液冷零組件短缺導致出貨延遲,這一季少了8億美元收入。短缺的其中一種零組件叫作快接頭(UQD),是讓液冷系統運作時不漏液的關鍵零組件。

液冷的成本暫時也相對高昂,摩根士丹利估計,GB200的液冷系統一套要價超過8萬美元,相當於H100使用的風冷系統的15到20倍的價格。

目前風冷仍是資料中心冷卻辦法的絕對多數,超過95%資料中心都還是使用風冷,集邦科技認為,隨著輝達Blackwell系列晶片的推出,液冷普及率可望在年底到達10%。值得一提的是,該研究是在Blackwell系列傳出設計缺陷前發布,延期消息對此有多大的影響,暫時還不得而知。不過美超微也透露,明年出貨的伺服器將有高達30%都是採用液冷技術。

液冷要取代風冷成為主流,勢必還有相當長的一段時間,但如今的成長趨勢顯示,液冷不再只是高端電腦玩家,或者核電廠等特別環境才會使用的技術,能夠真正為資料中心帶來革新。今年6月黃仁勳出席HPE的活動也提到,「液冷技術未來將帶來包括更好的性能、更少的基礎設施和更低的營運成本等所有一切好處。」

延伸閱讀:氣冷、液冷、浸沒式三種散熱差在哪?一文看懂AI大商機:關鍵技術、概念股有哪些?

資料來源:華爾街日報集邦科技CRN

責任編輯:林美欣

關鍵字: #Nvidia #資料中心
往下滑看下一篇文章
用科技與創意改寫食農未來:好食好事加速器第八屆 Demo Day 登場
用科技與創意改寫食農未來:好食好事加速器第八屆 Demo Day 登場

在科技重塑萬物的時代,飲食與農業的創新也正悄然發酵。台灣唯一專注於食農科技創業輔導的「好食好事加速器」,將於10月30日舉辦第八屆Demo Day。活動將邀請13 家入選新創登台發表,聚焦食農科技、AI供應鏈和飲食創新三大面向,分享他們如何以科技、創意和永續理念,改寫食農產業的未來。現場亦同步規劃「未來食農展演區」,集結本屆共17 家新創團隊,展示最前沿的產品與服務,從飲食創新到食農產業的智慧應用,讓與會者一次看見未來食農的全景樣貌。

化身食農新創關鍵推手,創整體存活率95%佳蹟

好食好事加速器營運總監張正瑜指出,好食好事加速器自2018年啟動以來,至今已輔導 78 家食農新創團隊、累積總資本額達新台幣22.6億元,整體成長率達 114%,整體存活率達 92%。

好食好事3.jpg
圖/ 好食好事

這些成果不僅展現了台灣食農新創的韌性與潛力,更凸顯好食好事加速器在背後扮演的關鍵推手角色,透過系統化輔導、跨域資源鏈結與市場驗證,讓食農創業者能夠以更快的速度、更穩的步伐邁向成功。而因應食農產業的轉型趨勢與全球永續浪潮,今年加速器特別聚焦在以下兩大重點,一是運用科技和創新推動食農產業升級,二是加速飲食創新發展。

食農科技+AI供應鏈,以數位創新驅動食農產業升級

根據張正瑜的觀察,多數人對食農產業的想像皆停留在農作物生產階段,但這其實太過狹隘,「食農產業的真正範圍很廣,從『產地到餐桌』乃至『再循環』的整條供應鏈,都應該被納入其中,」張正瑜說,這當中包含生產、批發零售、物流、用餐場域、包裝材質的選用,甚至或廚餘與農業廢棄物的循環再利用等議題,這些都屬於食農產業的一環。

為了提升食農產業價值,今年入選團隊中,有許多聚焦於 AI、數位科技、永續再生等領域的新創,透過創新的解決方案去優化供應鏈各個節點,讓創新不只發生在農田,而能延伸至整個產業鏈。舉凡食農科技、AI 供應鏈等議題,其目的都是運用科技與創新思維推動食農產業升級。

其中,食農科技指的是,運用創新技術或數位科技改變傳統農作物的生長模式與管理方式,本屆入選團隊好食Agri Optech,便是以室內植物工廠為核心,自主開發高效植物照明技術與模組化系統,不僅大幅節省能源與水的耗用量,更能降低疏菜耗損量,與國際植物工廠解決方案相比,好食Agri Optech無論在價格或營運效能上都極具競爭力,如今更透過好食好事加速器的輔導與媒合,成功對接至連鎖早餐品牌,擴大產品通路與市場觸角。

好食股份.jpg
圖/ 好食好事

而AI供應鏈,則是運用人工智慧讓供應鏈更透明、暢通與高效。例如本次入選團隊——團薦科技開發出的AI零售選址平台,可以透過數據與 AI 模型分析人流熱點、預測未來3個月內的營收表現與展店成功率,協助企業找出最具潛力的展店地點。這項技術不僅提升選址決策的速度和精準度,也大幅優化展店流程與整體效率,同時在加速期間,透過業師牽線順利取得與大型連鎖手搖飲品牌合作的機會。

整合大拙匠人資源,加速推動飲食創新

至於本屆加速器的第二個特色——飲食創新,好食好事攜手新興食品品牌「大拙匠人」推出FMCG(快速消費品)加速項目,將具備台灣特色和在地風味的食品,結合新食材、新技術或新包裝,轉化成可在主流通路販售的商品,進一步走向更廣泛的國際市場。

舉例來說,本次入選團隊阿勇家餐飲,是一家擁有 60 年經驗的辦桌團隊,透過與大拙匠人合作開發新產品,使傳統的辦桌料理得以用全新的形式進入零售通路,從節慶餐桌延伸至日常家庭,甚至邁向海外市場,讓全球都能感受台灣獨有的辦桌文化。

另一家入選團隊日日好食,雖然與大拙匠人同樣主打麵類商品,但其強調高蛋白、低碳水化合物的健康取向,與大拙匠人的主要產品鵝油拌麵,各具不同特色、形成互補,雙方在加速期間不僅共同探索合作開發新商品的可能性,大拙匠人更分享自身進軍大型通路的實戰經驗,協助新創掌握通路策略與進入國際市場的運作節奏。

日日好食.jpg
圖/ 好食好事

不只如此,日日好食也透過好食好事加速器的引薦,接受曾任直銷企業高階主管的業師輔導,進一步優化經營策略、提升銷售表現,並對接大型食品公司洽談合作機會,同時也與海外加速器建立連結,為進軍北美市場做好準備。

「我們想做的不只是產品創新,更是『台灣味』的文化傳承與品牌輸出。」張正瑜強調,把餐飲料理轉化成標準化商品,不僅能擴大銷售通路和市場,更能縮短備菜的人力和時間,成為解決餐飲業人力短缺的有效途徑。

從在地出發,鏈結全球:好食好事推動食農新創國際化

張正瑜認為,台灣食農技術和食品產業都具有很強大的市場競爭力,新創團隊應該更具企圖心,在創業的第一天就放眼海外市場。正因如此,好食好事加速器不僅致力於培育在地新創,更積極推動國際鏈結,透過海外社群串聯日本、新加坡、印尼、北美等地的食農科技與創業生態圈,希望將台灣的新創力量推向全球舞台。

今年 5 月,加速器便帶領校友團隊前往日本參加 SusHi Tech Tokyo 2025(Susai Tech)展會,與日本當地的食農科技團隊與投資人交流;預計 11 月前往新加坡和印尼,透過新加坡知名的食農科技加速器 Innovate 360,接觸具潛力的投資與合作夥伴,並對接由印尼最大食品集團三林集團(Salim Group)成立的加速器 Innovation Factory,進一步串聯當地的大型零售與食品企業,為台灣食農新創開啟跨國合作與市場落地的新契機。

從在地創新到國際鏈結,好食好事加速器持續為台灣食農新創打造更廣闊的舞台。現在就報名 10 月 30 日第八屆 Demo Day,一同見證台灣食農創新的新篇章。

好食好事1.JPG
圖/ 好食好事

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
一次搞懂Vibe Coding
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓