AI晶片太燙怎麼辦?微軟黑科技讓散熱能力飆3倍:「微流體技術」是什麼?
AI晶片太燙怎麼辦?微軟黑科技讓散熱能力飆3倍:「微流體技術」是什麼?

AI熱潮掀起後,最常被討論到的議題之一就是「能源」。資料中心消耗了大量電力,而且很大一部分都是花在散熱上,如今微軟嘗試透過微流體技術來幫助晶片降溫,應對短時間的高負荷需求。

資料中心耗費了龐大能源,根據高盛的報告,2022年時資料中心占美國電力消耗的3%左右,然而研究預計到了2030年時,能源消耗占比可能上升到8%之多。同時他們預估全球資料中心用電量將從目前約400十億瓩時,到2030年時突破1,000十億瓩時。

資料中心用電量如此之大的原因,一部分就在於散熱。資料中心有高達30%~40%的電力都是耗費在散熱,為了解決散熱問題,提升資料中心的效率,微軟正在嘗試一個新方法:微流體技術(microfluidics)。

微流體技術是什麼?怎麼幫晶片降溫?

AI運算會對資料中心產生比以往高得多的熱量,假如散熱技術沒有更上一層樓的話,AI的發展很快就會因為散熱限制遇到瓶頸。為了解決這個問題,微軟聲稱他們運用微流體技術打造出一套新散熱系統,比目前主流的冷板散熱效果要高出3倍。

微流體技術是指利用只有幾十到幾百微米的通道,精確控制極少量流體的技術,就像為液體及氣體打造的高速公路。在極小的空間裡,流體會展現與日常生活所見不同的物理特性,這項技術過去常用於科學研究,並且在醫療檢測、藥物開發以及各種化工領域都有運用潛力。

微軟指出,他們透過微流體技術,讓冷卻液直搗黃龍──直接進入晶片內部,更有效率地散熱。晶片背部會蝕刻極小的凹槽,讓冷卻液能夠直接流到晶片上,並且能利用AI識別晶片上的熱訊號,精確引導冷卻液流動。

microfluidic02.jpg
微軟這款利用微流體技術散熱的晶片,實際運作時會鎖上蓋子、連接管道確保冷卻液安全輸送。
圖/ 微軟

微軟在過去兩年內擴充了2,000百萬瓩(GW)的資料中心容量,因此對提升效率非常重視。Azure資料中心硬體部門系統和基礎設施副總裁拉妮.伯卡(Rani Borkar)就明白表示,「當用這種規模營運時,效率非常重要。」

具體而言,微軟聲稱微流體散熱性能比主流的冷板高出3倍,還能將GPU內部的最高溫降低65%,不過這些數字會因為配置而有所差異,並預計可以提升能源使用效率、降低營運成本。

目前這項技術是在模擬Teams會議服務的伺服器上運用。微軟解釋,Teams並非是單一服務,而是300項服務協作的系統,每種服務有不同特性,對伺服器各個部份施加的壓力也不同。

好比說,會議往往是在整點或30分開始,這前後5分鐘內負責處理語音及視訊通訊的系統會非常忙碌,有兩種方法可以應對高峰:一是購買額外容量備用,這顯然不合成本,二是用超頻的方式讓伺服器更有效率運轉,這就需要更強大的散熱技術,而微流體技術就能派上用場。

Microsoft 365核心管理技術研究人員吉姆.克里溫(Jim Kleewein)指出,「它(微流體技術)在成本和可靠性上都有優勢,並且因為可以超頻,速度也更快。」

散熱技術如何改變資料中心?

外媒《GeekWire》指出,雖然微流體散熱技術是在英特爾的Xeon上演示,微軟計畫下一步將這項技術融入未來版本的自研晶片中,可能包括Azure Cobalt和Maia AI加速器。

雖然微軟目前仍主要使用輝達等業者的GPU,他們從2023年就開始投入自研AI晶片,認為需要採用更全面整合的方式,才能應用AI帶來的硬體挑戰,並在與Google、亞馬遜的雲端競爭中勝出。伯卡曾表示,AI需求非常龐大,他們需要從設計開始優化每一個層次,才有辦法滿足需求。

微軟也提到,微流體技術看似只改善了散熱,卻可能對整體資料中心的規劃產生更重大影響。散熱需求限制了當前資料中心的設計,微流體技術可以提昇資料中心伺服器的密度,進而提升運算能力。

Data Center
微軟指出,散熱技術的突破不單單只是提升營運效率,甚至可能改變資料中心的設計。
圖/ shutterstock

同時,微流體散熱讓3D堆疊的邏輯晶片成為可能。3D堆疊技術已在記憶體領域使用,但礙於散熱的挑戰無法應用在CPU、GPU等晶片上,微軟認為可以透過微流體技術,讓冷卻液在每一層晶片中流動來解決問題。

值得一提的是,在微軟公佈微流體散熱技術的當天,資料中心冷卻系統廠商Vertiv股價便大跌6%以上。但微軟並非希望藉此擺脫合作夥伴,他們希望未來能有更多業者投入微流體散熱技術,「採用這項技術的人越多越好,對我們、我們的客戶,以及所有人都會是一件好事。」

資料來源:MicrosoftBloombergGeekWire

延伸閱讀:IG活成了TikTok?Meta宣布全力衝刺短影音Reels抗敵:文青風圖文時代落幕了?

責任編輯:李先泰

關鍵字: #資料中心 #AI
往下滑看下一篇文章
告別「極速迷思」!Opensignal 國際評比揭密:什麼才是 5G 時代的好網路?
告別「極速迷思」!Opensignal 國際評比揭密:什麼才是 5G 時代的好網路?

過去,下載速度是評價電信服務的重要指標,但在 5G 成為工作、娛樂、生活不可或缺的數位基礎設施後,消費者發現,再快的網速,如果不能讓其在人潮聚集、高速移動或室內空間維持穩定連線,即無法轉換成好的使用體驗,也因如此,衡量「好網路」的標準,也逐漸從追求測速數字,轉向任何時間、任何地點都能穩定連線的使用體驗。

這樣的轉變,也反映在國際權威網路分析機構 Opensignal 公布的評比結果。今年初,台灣大哥大不僅率先奪下「 4G/5G 在線率全球 No.3、全台 No.1 」國際級榮譽,在 Opensignal 最新公布的台灣行動網路體驗報告中,更一舉斬獲全台獨有的「可靠性體驗」與「品質一致性」No.1 雙冠王,同時,包辦全台整體影音體驗 No.1、全台整體語音體驗 No.1、全台 5G 語音體驗 No.1 以及全台網路在線率 No.1 多項榮譽。

這些獎項反映的不只是網路順暢,更代表台灣大哥大長期投入頻譜布局、基地台建設與 5G 技術整合所累積的成果,也讓外界重新思考:究竟什麼才是真正的好網路?

真正的好網路,比的是長期穩定、而非單點測速

答案,就藏在 Opensignal 最具代表性的兩項評比指標──可靠性體驗(Reliability Experience)與品質一致性(Consistent Quality)。

相較於傳統下載速度只反映單一時間、單一地點的網路表現,這兩項指標更重視使用者在真實生活中的整體體驗,因此也是最能反映電信業者網路實力、最難取得的獎項。

「可靠性體驗」衡量的是使用者是否能順利完成各種數位應用,因此,考驗的是網路服務在關鍵時刻不中斷的能力。例如,搶購熱門演唱會門票、秒殺限量商品、超商結帳掃描 QR Code,或是重要的線上會議,都需要網路能即時回應、低延遲且持續運作。

而「品質一致性」則是衡量電信業者可否在不同時間、不同地點、不同網路負載下,都能維持一致的網路服務品質。無論是在跨年晚會、球賽等人潮密集場域,或是在高速移動時觀看串流影音、傳送 LINE 訊息、分享社群動態,確保維持穩定流暢,不因環境改變而明顯降速。

台灣大哥大能同時拿下這兩項全台第一,不僅代表網路速度表現優異,更證明其網路基礎建設具備高度穩定性與韌性,能在各種使用情境下提供一致且可靠的連線品質。

#0 告別「極速迷思」!Opensignal 國際評比揭密:什麼才是 5G 時代的好網路?
圖/ 台灣大哥大

世界級的體驗,來自看不見的技術布局

對使用者來說,網路很好用是一種感覺,但對電信業者來說,則是資金、時間與技術的長期累積與優化。

台灣大哥大能夠率先獲得 Opensignal 的 4G/5G 在線率全球 No.3 與六項台灣第一肯定,背後依靠的不是單一技術,而是長期累積的頻譜策略、基地台建設與網路架構:

首先,台灣大哥大是全台唯一擁有 700MHz+900MHz 雙低頻組合的業者,具備涵蓋範圍廣、穿透力強的特性,不僅能深入建築物室內,也能有效覆蓋偏鄉及高速移動場景,成為穩定連線的基礎。

另一方面,面對影音串流、AI 應用等高速傳輸需求,則由 3.5GHz 100MHz 大頻寬提供高容量傳輸能力,雖然這 100MHz 頻譜由 60MHz 與 40MHz 組成、物理位置並不連續,但透過 NRCA(5G 載波聚合)技術,可將分散頻譜智慧整合,即時進行流量分配、負載平衡與備援,大幅提升頻譜使用效率,讓尖峰時段與高流量場景依然維持穩定的網路品質。

#1 告別「極速迷思」!Opensignal 國際評比揭密:什麼才是 5G 時代的好網路?
圖/ 台灣大哥大

透過上述技術布局,台灣大哥大成功將之轉換為使用者最有感的體驗:無論是在地下室、車廂、偏鄉山區,或是大型活動現場,都能享有穩定、流暢且時刻在線的連線品質。

這樣的發展態勢也意味著:台灣 5G 競爭已從基地台數量與下載速度,進一步走向網路品質、使用體驗與基礎建設韌性的競爭;未來,隨著生成式 AI 、代理式 AI、雲端服務、XR 沉浸式體驗、自駕車與智慧城市快速發展,行動網路將成為支撐數位經濟的重要基礎設施。

總地來看,從 Opensignal 全球 4G/5G 在線率 No.3、全台 No.1,到六項第一的肯定,可以清楚看見:台灣大哥大打造的不只是更快的 5G,而是一套兼顧涵蓋、容量與穩定性的世界級網路架構,也重新定義了好網路的價值–真正重要的,不是測速最快,而是在任何時間、任何地點、任何情境,都能提供穩定且值得信賴的連線體驗,將成為推動台灣下一個數位經濟與 AI 浪潮最關鍵的堅實底座。

想進一步了解台灣大哥大領先全台、接軌世界的網路實力與技術布局,歡迎點選官網了解更多。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
台達電全解讀
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓