液冷散熱有多強?4個關鍵數字看懂AI未來商機:碳排少8倍、吸熱多3倍!
液冷散熱有多強?4個關鍵數字看懂AI未來商機:碳排少8倍、吸熱多3倍!

AI時代來臨,根據國際能源署(IEA)報告指出,2022年全球資料中心用電量占總用電量的2%,IEA預測這個比率到2026年可能會增加1倍以上。

資料中心需要更有效率地運行AI運算,然而現有風扇的氣冷散熱已無法滿足日益增長的處理器功耗所帶來的散熱需求。因此,液冷技術被視為應對「散熱」挑戰的解決方案。

AI伺服器大廠慧與科技(HPE)推出液冷技術的解決方案,以應對AI系統日益增長的散熱需求。另外,也可以從4個液冷技術的關鍵數字,證明液冷技術的未來可期。

一圖看懂水冷技術
相較於使用風扇的傳統氣冷技術,液冷技術—–—特別是直接液冷技術(Direct Liquid Cooling,DLC)—–—是將冷卻劑直接泵入伺服器中,以吸收處理器散發的熱量,並傳輸到資料中心外的熱交換系統。
圖/ 數位時代製作

關鍵數字1:液體可吸收的熱能是空氣的3倍

目前AI晶片的設計需求旨在以更小的體積,達到更高效能,但也提升冷卻晶片的困難度。若無法即時冷卻晶片,資料中心可能面臨過熱問題,導致系統故障,最終造成AI工作無預警停擺。

而液冷技術能更快速且有效地冷卻這些晶片,因為 水的熱容量是空氣的三倍,可吸收更多加速器和其他元件(如CPU、記憶體和網路交換器)所產生的熱量。

關鍵數字2:碳排量相較氣冷減少將近8倍

以1個擁有1萬台伺服器的HPC資料中心為例,若皆採用氣冷技術,資料中心每年將排放超過8,700噸的二氧化碳,而採用液冷技術的伺服器,每年僅排放約1,200噸的二氧化碳。

除了碳排之外,成本也是考量。在擁有1萬台液冷伺服器的資料中心中,每台伺服器的年度成本僅為45.99美元,而氣冷伺服器的年度成本則高達254.70美元,這相當於每年可節省近210萬美元的營運成本。

關鍵數字3:能源90%可重複再利用

伺服器晶片所產生的熱能,透過液冷系統吸收熱量後,會將熱量轉移到資料中心外的熱交換系統,並利用這些熱水為其他建築或設施提供能源。

目前美國能源部國家再生能源實驗室(NREL)已成功採用此方式多年,該實驗室從慧與科技研發的Cray液冷超級電腦Peregrine系統中回收90%的熱水,並將其再利用作為能源系統整合設施(ESIF)辦公室和實驗室的主要熱源。

慧與科技在魁北克的合作夥伴QScale也計劃利用此一技術支援農作物種植並解決糧食短缺問題。QScale希望利用液冷技術為當地將近100個足球場大小的溫室供電,預計每年可生產約8萬噸的番茄。

也有廠商利用回收的熱水協助魚場養殖。Hima是全球最大的陸上鱒魚養殖場,採用循環水產養殖系統(Recirculating Aquaculture Systems,RAS)技術,循環利用純淨的山泉水。其目標為每年生產約8,000噸的優質Hima鱒魚,相當於2,200萬份晚餐。

關鍵數字4:液冷散熱可節省近77.5%的室內空間

隨著資料中心計劃採用新型的AI基礎架構,「密度」將成為資料中心是否有足夠空間容納先進AI解決方案的關鍵因素。

相較於氣冷解決方案,液冷技術無需使用風扇和其相關設備,因此資料中心可以放置更少且更緊密排列的伺服器機架,從而最大化空間利用率或視需求擴充。

以1萬台伺服器的資料中心為例,採用液冷伺服器可減少77.5%的空間需求。此外,在5年內液冷解決方案使用的機箱功率可減少14.9%,且每千瓦效能比氣冷解決方案高出20.7%。

雖然液冷散熱技術有望成為未來主流,不過,伺服器產業分析師陳牧風提醒,大型資料中心在散熱的需求上,也因為AI伺服器需要透過更緊密的方式排列、提升算力,因此基礎設施的散熱(水冷甚至是浸沒式)系統、不斷電系統(UPS)、配電裝置(PDU)與備援電池(BBU)都需要升級。

各資料中心在節能減碳和AI算力的平衡下,什麼樣的方案能夠達到雙贏,也是資料中心建置時必須面對的課題。

延伸閱讀:氣冷、液冷、浸沒式三種散熱差在哪?一文看懂AI大商機:關鍵技術、概念股有哪些?

關鍵字: #資料中心 #AI
往下滑看下一篇文章
AI 成為企業新基礎設施,勤英科技從雲端代理走向 AI Infra 整合
AI 成為企業新基礎設施,勤英科技從雲端代理走向 AI Infra 整合

因應生成式 AI、代理式 AI 與實體 AI 的崛起,模型成為企業資訊基礎設施的一環,企業不僅需要算力、還必須具備同時管理多個 AI 模型、優化營運成本,以及確保 AI 基礎設施的安全與穩定;有鑑於此,服務超過 2,000 家企業客戶上雲的勤英科技(ELITE CLOUD)將業務範疇從雲端代理延伸到 AI 基礎設施整合商,協助企業整合多元模型資源、因應不同應用場景彈性調度算力資源,在 AI 新世代建立可規模化的 AI Infra 能力。

「隨著 AI 從單一聊天機器人進化到多模型、多代理協作,企業的核心競爭力不再僅是擁有 AI,而是建立一套可管理、多模型共存、穩定、安全且可持續擴充的 AI Infra 環境。」勤英科技區域總經理黃士培表示,為協助更多企業推進 AI 創新實務,勤英科技從原本的 AWS、Google Cloud、Azure 雲端代理角色,進一步轉型為 AI 基礎設施整合服務商,透過多語言模型平台 MixRoute、代理式 AI 導入與企業資料治理服務,協助企業建立真正可落地、可管理、可擴展的 AI 應用架構。

從 IT Infra 到 AI Infra,企業最大挑戰不是模型、算力而是管理

過去幾年,許多企業透過生成式 AI 實現「問問題」、「摘要文件」、「生成簡報」,提升員工工作績效,而代理式 AI 的崛起與普及,則讓「內嵌 AI 的企業應用」快速成為新常態,從企業資源規劃(ERP)、顧客關係管理(CRM)、人力資源(HR),到客服、研發甚至製造系統,AI 開始深度嵌入各類企業應用,AI 扮演的角色也從單純的輔助工具,逐漸進化為企業營運與決策流程的重要核心。

也因此,企業保持未來競爭力的關鍵,不再是「有沒有導入 AI」,而是「是否具備管理 AI 的能力」,包括如何讓多模型共存、如何控管 Token 成本、如何確保資料品質與一致性、如何依不同部門需求配置 Agent,以及如何避免 AI 成為新的資訊孤島,都是企業導入 AI 後的新挑戰。

「Gemini、Claude、OpenAI、Mistral 等模型快速迭代,意味著企業若只押注單一模型,未來很可能在成本、效能與彈性上失去優勢。」勤英科技區域總經理黃士培表示,企業接下來更需要以「Models as Infrastructure(模型即基礎建設)」的思維,將大型語言模型視為與運算、儲存、網路同等重要的基礎資源來規劃、治理以及進行成本管理,將資訊系統架構重塑為 AI 基礎建設。

勤英科技_內文1.JPG
圖/ 數位時代

勤英科技服務的客戶數超過 2,000 家,不少客戶已導入 AI 應用服務,正積極建置 AI Infra 與管理環境,因此,勤英科技自 2025 年積極轉型,將 AI Infra 視為企業長期競爭力的基礎建設來經營,業務範疇從傳統雲端代理擴展至 AI Infra 整合服務商,例如與多模型平台 MixRoute 合作,並開發可支援單一登入(SSO)、彈性調度不同大型語言模型 Token 的管理平台,協助企業簡化模型管理與成本控管,將更多資源與心力聚焦於核心業務與創新應用。

從雲端代理走向 AI Infra 整合,勤英科技從三面向協助企業發揮 AI 綜效

有鑑於 AI 應用與雲端環境息息相關,勤英科技除因應企業客戶的多雲策略協助管理多雲環境、優化成本,以及落實資安治理,更因應不同使用情境推出三種 AI 方案助力企業:

第一:提供開箱即用的 AI 服務。

黃士培以 Google Cloud 的產品為例解釋,透過整合 Gemini 的 Google Workspace,企業可直接在 Gmail、Meet、Docs、Sheets、Slides 中使用 AI 功能,包括會議摘要、文件生成、簡報整理等,快速提升員工生產力,同時,增強企業對 AI 應用的信心,為之後的應用深化做準備。

第二:協助企業規劃、打造與導入代理式 AI 應用服務。

「對於擁有豐沛結構化數據資料、知識庫的企業來說,除以生成式 AI 打造企業大腦,還會透過代理式 AI 提升自動化執行能力,重塑工作效率。」黃士培表示,勤英科技可以基於 Google Gemini Enterprise,提供含括底層雲端架構、AI 模型調度、資料治理與 AI Agent 串接等服務,讓企業員工可以自然語言安全調用企業資料,讓 Agent 進一步執行任務與推動流程。

舉例來說,勤英科技協助在台灣成立超過 50 年的製造業品牌商將 Gemini Enterprise 介接 SAP 與 Salesforce 訓練模型、建立可供 AI 調用的企業知識中樞;另在影音內容生成領域,勤英科技亦協助客戶導入 AI 自動化技術,將內容產製成本縮減達 90%。

第三:提供多模型聚合管理平台,滿足企業以 API 串連各種模型的需求。

勤英科技與新加坡 MixRoute 合作,提供企業客戶多模型管理平台,讓企業可以視需求彈性敏捷的調度 Gemini、Claude、OpenAI 等不同模型,並透過單一帳號、單一帳單與 Budget Alert 機制,管理 token 使用量與 AI 成本。

勤英科技_內文2.JPG
圖/ 數位時代

「透過我們提供的多模型管理平台,企業客戶不會被單一模型綁定,可以在模型快速疊代的環境下,更靈活地管理成本與算力資源。」黃士培如是說道。

總的來說,隨著 AI 應用從單點工具走向大規模企業部署,下一波競爭核心將從模型能力延伸至 AI 基礎設施管理能力,而這也是勤英科技從雲端代理走向 AI Infra 整合服務商背後的核心原因:當 AI 開始成為企業營運的一部分,企業需要的,已不只是模型供應商,而是能協助串接雲端、資料、Agent 與應用場景的長期技術夥伴。

有關更多勤英科技相關資訊,請查詢網站:https://www.elite.cloud/zh/

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
代理式商務連動百兆商機
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓