「一滴水落在伺服器就完了!」黃仁勳催出液冷散熱商機,但普及還有2大難題
「一滴水落在伺服器就完了!」黃仁勳催出液冷散熱商機,但普及還有2大難題

儘管AI技術近兩年有著重大突破,從舊時科幻電影中的存在,變成尋常百姓都能體驗到、甚至改變工作生活的技術,這大大提升了資料中心的負荷,但依靠大量風扇替伺服器降溫的傳統手段,依然是最主要的散熱辦法。現在以輝達為首的科技公司,開始探索更有效率的技術: 液體冷卻(liquid-cooled)散熱技術

一圖看懂水冷技術
圖/ 數位時代製作

液冷技術為何崛起?跟風冷散熱相比,好在哪?

今年3月的GTC大會上,輝達揭露了採用全新Blackwell架構的GB200伺服器,並聲稱將採用液體冷卻技術。根據《華爾街日報》報導,輝達發言人還透露,他們正在與供應商合作,著手開發浸沒式冷卻技術,將整台電腦浸泡在絕緣液體中進行冷卻。

自從AI技術興起後,資料中心的用電一直被搬上檯面討論。目前全球資料中心用電已高達350 TWh(太瓦時),比台灣2023全年用電270 TWh還要高出許多,全球只有16個國家用電量高於這個數字。但《彭博社》預估,2034年時資料中心用電將成長至1,580 TWh,相當於印度一整年的用電量。

apple data center green energy.jpg
資料中心有接近4成耗電,都用在了降溫散熱上。
圖/ Apple

資料中心巨額的用電量,很大一部分就是用於散熱。麥肯錫曾估計,冷卻就占了資料中心耗電的40%左右。 倘若使用液冷或更先進的技術,用電占比降到10%甚至更低,都是有可能的情況。

而除了用電疑慮外, 依靠風扇冷卻的作法也已經快要滿足不了AI晶片的散熱需求

研究公司集邦科技指出,B200、GB200等產品單一GPU功率就超過1,000W,HGX型號一組就有8塊GPU,而NVL型號則每個機櫃有著高達36或72塊GPU,傳統的風冷已經漸漸難以負荷。NVL36預計還會採用風冷、液冷結合的作法,而NVL72則會以液冷為主。

《華爾街日報》指出,AI伺服器供應商美超微(Super Micro Computer)就強調,液冷系統可將資料中心的耗能降低30%到40%;輝達也提到, 液冷技術可以省下風扇空間,使得資料中心內可以容納倍於風冷的運算能力 。另外,風扇揚起的灰塵還可能影響硬體效能。

延伸閱讀:液冷散熱是什麼?跟水冷有何不同?解析下一個明星技術

液冷散熱普及兩大難題:漏水、供應不穩定

不過,液冷要普及應用還有幾點困難等待克服,最大的風險就是 液體外洩 。「如果一滴水落在伺服器上,好比說要價數百萬美元的GB200,可能引發災難性的損壞。」散熱技術公司力致科技總經理連春源向《華爾街日報》表示。

7月下旬,GB200就被爆出液冷零組件有問題,出現機櫃漏水的情況,一度導致鴻海和相關供應商股價下跌5%以上。《華爾街日報》指出,消息人士透露目前供應商正在解決問題,預計不會影響到GB200的出貨時間。

jensen gtc 2024.jpg
黃仁勳認為,液冷比風冷更具優勢,是AI運算未來所需的技術。
圖/ Nvidia

再加上,目前液冷零組件的供應還不是很穩定,美超微在最新財報中提到,因為液冷零組件短缺導致出貨延遲,這一季少了8億美元收入。短缺的其中一種零組件叫作快接頭(UQD),是讓液冷系統運作時不漏液的關鍵零組件。

液冷的成本暫時也相對高昂,摩根士丹利估計,GB200的液冷系統一套要價超過8萬美元,相當於H100使用的風冷系統的15到20倍的價格。

目前風冷仍是資料中心冷卻辦法的絕對多數,超過95%資料中心都還是使用風冷,集邦科技認為,隨著輝達Blackwell系列晶片的推出,液冷普及率可望在年底到達10%。值得一提的是,該研究是在Blackwell系列傳出設計缺陷前發布,延期消息對此有多大的影響,暫時還不得而知。不過美超微也透露,明年出貨的伺服器將有高達30%都是採用液冷技術。

液冷要取代風冷成為主流,勢必還有相當長的一段時間,但如今的成長趨勢顯示,液冷不再只是高端電腦玩家,或者核電廠等特別環境才會使用的技術,能夠真正為資料中心帶來革新。今年6月黃仁勳出席HPE的活動也提到,「液冷技術未來將帶來包括更好的性能、更少的基礎設施和更低的營運成本等所有一切好處。」

延伸閱讀:氣冷、液冷、浸沒式三種散熱差在哪?一文看懂AI大商機:關鍵技術、概念股有哪些?

資料來源:華爾街日報集邦科技CRN

責任編輯:林美欣

關鍵字: #Nvidia #資料中心
往下滑看下一篇文章
從會員數據到 AI 行銷:Vpon 打造零售業 AI-Ready 數據中台,提升決策效率
從會員數據到 AI 行銷:Vpon 打造零售業 AI-Ready 數據中台,提升決策效率

在 AI 快速進入企業營運核心的時代,數據不再只是被動的分析素材,而是 AI 模型運作與決策優化的重要基礎。

零售品牌積極累積大量第一方數據,例如會員資料、交易紀錄以及線上與線下行為數據,但因這些數據分散於不同系統,缺乏統一的身分識別機制以及明確的元數據(Metadata)定義,導致難以整合與分析,同時,也影響 AI 對這些數據資產的理解與應用。

為解決上述挑戰,Vpon 威朋將累積十餘年的實務經驗轉化為產品與服務,如 Audience Center 與 AI Agent 等解決方案,並透過專業顧問團隊協助企業完成數據收集、清理、整合與分析等關鍵流程,從資料清理到 AI-Ready 再到落地應用,讓行銷與業務團隊能以自然語言將數據查詢與分群受眾逐步自動化,大幅縮短過去仰賴技術與分析團隊溝通需求與開發分析邏輯的時間。

Vpon 助零售業打造 AI-Ready 數據基礎,以 Audience Center 驅動業務商機

如何建立 AI Ready 數據基礎建設?

Vpon 威朋數據科學經理廖宜楷指出,在 AI 驅動的時代,數據的品質決定模型價值。其中四個關鍵分別是:建構標準化的數據採集與處理管線,透過統一的工程規範,確保所有進入系統的數據在格式、維度與質量上具備高度一致性;其次是定義語義清晰的元數據(Metadata)體系,確保數據能夠被 AI 理解與使用,從而產出具備可靠性的產出結果;再來是打破企業內部的「數據孤島」, 透過完整整合線上(Web/App)行為與線下(POS/CRM)會員資訊,建構全方位的會員數據輪廓,精準捕捉消費者的跨通路行為軌跡。最後,數據的價值隨時間遞減,AI 的決策品質取決於數據的「新鮮度」,因此,數據的持續更新與自動化維護,不僅能讓企業在動態市場中保持敏銳,還可進一步深化會員輪廓分析的即時性。

舉例來說,在 Vpon 團隊的協助下,台灣百貨零售龍頭透過整合 Web 與 App 行為資料,並將線上與線下數據集中於數據中台進行分析,將傳統耗時數小時的複雜資料庫分析工作縮短至秒級回應,並基於此高效率基礎,進一步開發不同業務主題的預測與分群模型,提升行銷精準度與營運決策的敏捷性。

扎實數據基礎的價值落實:Audience Center 如何賦能企業實現「數據即戰力」?

有了堅實的數據底座後,下一步是透過 Audience Center 將數據資產轉化為商業動能。

廖宜楷指出,在變化快速的零售與數位行銷市場中,速度就是競爭力。然而,仍有許多企業在數據應用上面臨嚴重的溝通與技術斷層。過去,當行銷或業務人員需要數據支持時,通常得花費繁複的內部流程申請需求、討論需求,才會進到後續的資料清理、建模與分析,最後才能得到想要的分析結果或行銷名單。這種以「週」為單位的進程,不僅拖慢了決策效率,更讓企業在競爭激烈的市場中錯失先機。

Audience Center 的核心價值在於徹底翻轉上述流程,將數據處理轉化為數據服務,透過直覺的介面與背後扎實的數據基礎支撐,讓非技術人員不用編寫程式碼,即可自行組合維度,大幅縮短從需求到執行的距離,將原先需要耗時數週的作業流程優化成秒級產出。

「Audience Center 的導入,不僅有助於提升效率,更賦予企業快速試錯與精準捕獲趨勢的能力,讓數據真正成為驅動業務增長的引擎。」廖宜楷如此總結。

#1 從會員數據到AI行銷:Vpon打造零售業AI-Ready數據中台,提升決策效率
Vpon 威朋數據科學經理 廖宜楷
圖/ 數位時代

以 AI Agent 重塑數據使用方式,讓數據更貼近決策流程

「Vpon 除提供 Audience Center 協助品牌發揮第一方數據資產價值、提供豐沛的第三方數據助品牌深化對客戶輪廓的掌握度,更推出 AI Agent 服務讓品牌與行銷人員能更直覺地使用數據。」Vpon 威朋數據科學資深總監陳文謙表示,在數位轉型的過程中,許多企業面臨的挑戰不僅是數據整合,更包括如何讓不同部門的人員都能更即時協作與應用數據,有鑑於此,Vpon 推出四種 AI Agent 協助企業分析與應用數據,極大化第三方數據成效:

第一,以 Reporting Agent 讓高階主管或行銷人員可以自然語言查詢數據與生成報表,即時掌握市場動態,加速決策下達與決策品質。

第二,透過 Insight Agent 確保數據分析不受分析人員的主觀意識或產業知識侷限,可以輕鬆完成跨領域數據分析、快速挖掘潛在市場機會與消費者洞察。

第三,藉由 Audience Agent 將客戶分群方式從規則導向(Rule-based)轉變為關聯導向,以關聯分析擴大受眾範圍,協助品牌找出更多潛在客群。

第四,推出 Creative Agent 協助行銷人員分析廣告素材表現的根本原因,釐清受眾喜歡的素材跟不喜歡的素材,藉此優化廣告投放內容,持續提升轉換率。

陳文謙表示:「透過 AI Agent 的輔助,品牌不僅能更快完成數據分析,也能將分析結果直接轉化為行銷策略與創意建議,降低跨部門溝通成本,讓數據真正參與決策流程。」

#2 從會員數據到AI行銷:Vpon打造零售業AI-Ready數據中台,提升決策效率
Vpon 威朋數據科學資深總監 陳文謙
圖/ 數位時代

鏈結數據生態夥伴,以跨境數據放大行銷效益

除了協助品牌主建立 AI Ready 的數據基礎環境並提升數據使用效率,Vpon 也持續拓展數據生態圈,協助零售品牌更精準布局海外市場。

Vpon 威朋產品行銷資深經理邱心儒表示,跨境行銷過去多仰賴經驗與市場直覺,但透過數據整合與 AI 分析,品牌能更精準理解海外消費者的旅遊與消費行為。

以 Vpon 與日本 Loyalty Marketing Inc. 合作為例說明,透過雙方的獨家合作,企業可以結合 Ponta 超過一億的會員數據、問卷調查結果以及 Vpon 的七大數據來源,深入分析日本消費者的消費偏好與購買力——包括哪些日本族群對台灣品牌最感興趣、最受歡迎的台灣商品類型,以及不同客群的價格敏感度與回購行為等,將行銷決策從過往的經驗判斷轉變為精準的數據洞察,成為品牌出海的重要工具。

簡言之,對零售品牌而言,跨境數據是理解海外旅客真實樣貌的一大利器,也能進一步優化廣告投放、內容策略與商品布局,讓品牌在拓展國際市場時,可以更有效率地接觸潛在客群,放大行銷效益。

#3 從會員數據到AI行銷:Vpon打造零售業AI-Ready數據中台,提升決策效率
Vpon 威朋產品行銷資深經理 邱心儒
圖/ 數位時代

展望未來,Vpon 將持續擴展數據生態圈並優化產品服務,幫助零售品牌從數據整合、AI 分析到市場決策建立完整的數據應用循環,希望以數據夥伴的角色與品牌共同成長,打造互利共贏的數據生態。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
AI全球100+台灣20
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓