AI晶片太燙怎麼辦?微軟黑科技讓散熱能力飆3倍:「微流體技術」是什麼?
AI晶片太燙怎麼辦?微軟黑科技讓散熱能力飆3倍:「微流體技術」是什麼?

AI熱潮掀起後,最常被討論到的議題之一就是「能源」。資料中心消耗了大量電力,而且很大一部分都是花在散熱上,如今微軟嘗試透過微流體技術來幫助晶片降溫,應對短時間的高負荷需求。

資料中心耗費了龐大能源,根據高盛的報告,2022年時資料中心占美國電力消耗的3%左右,然而研究預計到了2030年時,能源消耗占比可能上升到8%之多。同時他們預估全球資料中心用電量將從目前約400十億瓩時,到2030年時突破1,000十億瓩時。

資料中心用電量如此之大的原因,一部分就在於散熱。資料中心有高達30%~40%的電力都是耗費在散熱,為了解決散熱問題,提升資料中心的效率,微軟正在嘗試一個新方法:微流體技術(microfluidics)。

微流體技術是什麼?怎麼幫晶片降溫?

AI運算會對資料中心產生比以往高得多的熱量,假如散熱技術沒有更上一層樓的話,AI的發展很快就會因為散熱限制遇到瓶頸。為了解決這個問題,微軟聲稱他們運用微流體技術打造出一套新散熱系統,比目前主流的冷板散熱效果要高出3倍。

微流體技術是指利用只有幾十到幾百微米的通道,精確控制極少量流體的技術,就像為液體及氣體打造的高速公路。在極小的空間裡,流體會展現與日常生活所見不同的物理特性,這項技術過去常用於科學研究,並且在醫療檢測、藥物開發以及各種化工領域都有運用潛力。

微軟指出,他們透過微流體技術,讓冷卻液直搗黃龍──直接進入晶片內部,更有效率地散熱。晶片背部會蝕刻極小的凹槽,讓冷卻液能夠直接流到晶片上,並且能利用AI識別晶片上的熱訊號,精確引導冷卻液流動。

microfluidic02.jpg
微軟這款利用微流體技術散熱的晶片,實際運作時會鎖上蓋子、連接管道確保冷卻液安全輸送。
圖/ 微軟

微軟在過去兩年內擴充了2,000百萬瓩(GW)的資料中心容量,因此對提升效率非常重視。Azure資料中心硬體部門系統和基礎設施副總裁拉妮.伯卡(Rani Borkar)就明白表示,「當用這種規模營運時,效率非常重要。」

具體而言,微軟聲稱微流體散熱性能比主流的冷板高出3倍,還能將GPU內部的最高溫降低65%,不過這些數字會因為配置而有所差異,並預計可以提升能源使用效率、降低營運成本。

目前這項技術是在模擬Teams會議服務的伺服器上運用。微軟解釋,Teams並非是單一服務,而是300項服務協作的系統,每種服務有不同特性,對伺服器各個部份施加的壓力也不同。

好比說,會議往往是在整點或30分開始,這前後5分鐘內負責處理語音及視訊通訊的系統會非常忙碌,有兩種方法可以應對高峰:一是購買額外容量備用,這顯然不合成本,二是用超頻的方式讓伺服器更有效率運轉,這就需要更強大的散熱技術,而微流體技術就能派上用場。

Microsoft 365核心管理技術研究人員吉姆.克里溫(Jim Kleewein)指出,「它(微流體技術)在成本和可靠性上都有優勢,並且因為可以超頻,速度也更快。」

散熱技術如何改變資料中心?

外媒《GeekWire》指出,雖然微流體散熱技術是在英特爾的Xeon上演示,微軟計畫下一步將這項技術融入未來版本的自研晶片中,可能包括Azure Cobalt和Maia AI加速器。

雖然微軟目前仍主要使用輝達等業者的GPU,他們從2023年就開始投入自研AI晶片,認為需要採用更全面整合的方式,才能應用AI帶來的硬體挑戰,並在與Google、亞馬遜的雲端競爭中勝出。伯卡曾表示,AI需求非常龐大,他們需要從設計開始優化每一個層次,才有辦法滿足需求。

微軟也提到,微流體技術看似只改善了散熱,卻可能對整體資料中心的規劃產生更重大影響。散熱需求限制了當前資料中心的設計,微流體技術可以提昇資料中心伺服器的密度,進而提升運算能力。

Data Center
微軟指出,散熱技術的突破不單單只是提升營運效率,甚至可能改變資料中心的設計。
圖/ shutterstock

同時,微流體散熱讓3D堆疊的邏輯晶片成為可能。3D堆疊技術已在記憶體領域使用,但礙於散熱的挑戰無法應用在CPU、GPU等晶片上,微軟認為可以透過微流體技術,讓冷卻液在每一層晶片中流動來解決問題。

值得一提的是,在微軟公佈微流體散熱技術的當天,資料中心冷卻系統廠商Vertiv股價便大跌6%以上。但微軟並非希望藉此擺脫合作夥伴,他們希望未來能有更多業者投入微流體散熱技術,「採用這項技術的人越多越好,對我們、我們的客戶,以及所有人都會是一件好事。」

資料來源:MicrosoftBloombergGeekWire

延伸閱讀:IG活成了TikTok?Meta宣布全力衝刺短影音Reels抗敵:文青風圖文時代落幕了?

責任編輯:李先泰

關鍵字: #資料中心 #AI
往下滑看下一篇文章
當AI開始幫消費者做決定,品牌怎麼做?iKala Connection Day揭企業轉型解方
當AI開始幫消費者做決定,品牌怎麼做?iKala Connection Day揭企業轉型解方

隨著代理式AI(Agentic AI)快速發展,人工智慧的角色也從被動問答的對話工具,轉變為能主動代為執行搜尋的商業介面;兩者根本的差異在於,前者仍須仰賴使用者逐步下達指令,後者則能自主完成任務。當AI代理為人類代勞搜尋、比價、甚至決策等任務,品牌競爭的對象便不再限於消費者,也涵蓋替消費者把關的AI代理。

因此,「Business to Agent」(B2A)成為當代企業必須面對的新命題,為了擁抱嶄新的思路,跨國AI轉型解決方案供應商iKala舉辦第二屆「iKala Connection Day」論壇,以「數據領航:AI時代的真實價值」為題,邀集Google Cloud、Google Ads等產業領袖,一同剖析企業如何從基礎建設走向市場端,搶佔AI先機。

不只SEO,還要GEO!企業如何讓AI認識你

回顧過往科技發展週期,新科技普遍需10至12年才能成熟。iKala共同創辦人暨集團董事長程世嘉引述AMD執行長蘇姿丰的比喻來說,若AI是一場棒球賽,目前僅走到第三局。這意味著,只要企業採用率持續攀升,尚且毋需擔憂AI泡沫化;反之,AI產業可能才正要邁入超級循環。

不過,程世嘉也提出「智慧通膨」的現象,他表示:「各大廠不斷推出新模型,資本支出也不斷提升,但使用成本並沒有因此下降,因為算力供不應求;不過長期來看,成本曲線一定會往下走,未來AI智慧會像水龍頭一樣,打開就有。」

隨著AI逐步普及,使用者尋找資訊的方式也隨之轉變。程世嘉強調,搜尋行為正從關鍵字轉向AI對話與生成式搜尋。企業除經營傳統SEO,更需布局GEO(生成式引擎優化),提高被AI引用與推薦的機會。這波版位重分配與十餘年前SEO興起時無異,及早掌握規則者,才能在新流量分配中卡位。

2.JPG
iKala共同創辦人暨集團董事長 程世嘉
圖/ 數位時代

迎戰Business-to-Agent,如何搶進AI決策新戰場

要爭取AI時代的流量紅利,關鍵前提在於企業內部的基礎建設是否到位。「現在超過9成的企業都有AI焦慮症,大家都很急著導入AI工具,但背後缺乏整體的策略與架構。」iKala AI服務事業部副總經理Gary Yang認為,AI專案應如培訓新進員工,結合商業策略與數據資產雙向評估,才能真正落地。

「如果沒有穩定的雲端基礎,企業的AI就會是空中樓閣。」他強調,雲端即是企業佈局AI的關鍵基礎建設之一。如多數企業選擇Google Cloud,看重的就是技術護城河、數據主權與總體擁有成本;而iKala推出的企業級AI代理平台iKala Nexus,定位為策略中樞與營運大腦,即立基於此。

3.JPG
iKala AI服務事業部副總經理Gary Yang
圖/ 數位時代

然而,架構穩固只是起點。Google Workspace銷售總監Murray Chiang指出,全球僅約3%企業成功透過AI達成深度轉型,關鍵就在AI代理能取得多少企業資料與情境。因此,企業級Gemini Enterprise App結合個人級Google Workspace,構成Google所主張的「代理型工作轉型」(Agentic Workplace Transformation,AWT)主軸,讓AI從被動對話框升級為跨系統執行的代理,並恪守數據主權歸屬企業的原則,讓企業級AI能真正發揮效益。

4.JPG
Google Workspace銷售總監Murray Chiang
圖/ 數位時代

當企業打穩內部地基,外部競爭也才能順勢轉向市場端。「Google Search全球年搜尋量達5兆次,近八成消費者認為AI讓購物決策更快、更有信心。」Google Ads廣告產品行銷資深總監Alvin Tsai指出,「B2A」(Business to Agent)的時代來臨,當AI代理主導決策時,看重的是API串接流暢度與數據結構化程度,企業必須從爭取「被看見」的SEO排名,走向爭取「被推薦」的AI清單,並進一步走向「被選擇」。其中,信任將成為AI時代品牌經營的關鍵。

5.JPG
Google Ads廣告產品行銷資深總監Alvin Tsai
圖/ 數位時代

從洞察到執行,iKala全方位解方引領品牌佈局

這份信任要能落地,關鍵在於底層數據是否可信。對此,iKala行銷科技事業部總監Donna Hsu提出的IMC整合行銷架構,正是iKala因應Agentic Commerce時代所提出的整體解決方案。

面對高度碎片化的行銷環境,品牌需要建立的,是一套能從市場洞察延伸至全通路執行、並持續優化的整合行銷系統。Ontix即時掌握消費者社群聲量與市場趨勢,代表品牌對人的理解;Kuroma則從AI搜尋視角,分析品牌在生成式搜尋中的能見度與引用表現,代表對AI的理解;兩者合力,讓品牌同時掌握人類與AI代理的決策脈絡。再透過Kolr行銷數據平台,將洞察轉化為具體行銷執行,使每一次決策都能以數據驅動、持續優化,協助品牌在AI時代建立長期競爭優勢。

6.JPG
iKala行銷科技事業部總監Donna Hsu
圖/ 數位時代

最後,在論壇壓軸的高峰對談中,程世嘉強調,當前正是典範轉移的關鍵時機,如同過往率先布局SEO的業者得以享有紅利;他認為,這同樣是企業重生的契機,提早深耕者將在此波轉型中佔得先機。尤其,AI轉型已非單機運作所能達成,企業應優先建立基礎建設與治理架構;當自身能力有限,也須慎選合作夥伴、借助外部資源,並在安全可信任的前提下,實現共同成長。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
台達電全解讀
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓