AI晶片太燙怎麼辦?微軟黑科技讓散熱能力飆3倍:「微流體技術」是什麼?
AI晶片太燙怎麼辦?微軟黑科技讓散熱能力飆3倍:「微流體技術」是什麼?

AI熱潮掀起後,最常被討論到的議題之一就是「能源」。資料中心消耗了大量電力,而且很大一部分都是花在散熱上,如今微軟嘗試透過微流體技術來幫助晶片降溫,應對短時間的高負荷需求。

資料中心耗費了龐大能源,根據高盛的報告,2022年時資料中心占美國電力消耗的3%左右,然而研究預計到了2030年時,能源消耗占比可能上升到8%之多。同時他們預估全球資料中心用電量將從目前約400十億瓩時,到2030年時突破1,000十億瓩時。

資料中心用電量如此之大的原因,一部分就在於散熱。資料中心有高達30%~40%的電力都是耗費在散熱,為了解決散熱問題,提升資料中心的效率,微軟正在嘗試一個新方法:微流體技術(microfluidics)。

微流體技術是什麼?怎麼幫晶片降溫?

AI運算會對資料中心產生比以往高得多的熱量,假如散熱技術沒有更上一層樓的話,AI的發展很快就會因為散熱限制遇到瓶頸。為了解決這個問題,微軟聲稱他們運用微流體技術打造出一套新散熱系統,比目前主流的冷板散熱效果要高出3倍。

微流體技術是指利用只有幾十到幾百微米的通道,精確控制極少量流體的技術,就像為液體及氣體打造的高速公路。在極小的空間裡,流體會展現與日常生活所見不同的物理特性,這項技術過去常用於科學研究,並且在醫療檢測、藥物開發以及各種化工領域都有運用潛力。

微軟指出,他們透過微流體技術,讓冷卻液直搗黃龍──直接進入晶片內部,更有效率地散熱。晶片背部會蝕刻極小的凹槽,讓冷卻液能夠直接流到晶片上,並且能利用AI識別晶片上的熱訊號,精確引導冷卻液流動。

microfluidic02.jpg
微軟這款利用微流體技術散熱的晶片,實際運作時會鎖上蓋子、連接管道確保冷卻液安全輸送。
圖/ 微軟

微軟在過去兩年內擴充了2,000百萬瓩(GW)的資料中心容量,因此對提升效率非常重視。Azure資料中心硬體部門系統和基礎設施副總裁拉妮.伯卡(Rani Borkar)就明白表示,「當用這種規模營運時,效率非常重要。」

具體而言,微軟聲稱微流體散熱性能比主流的冷板高出3倍,還能將GPU內部的最高溫降低65%,不過這些數字會因為配置而有所差異,並預計可以提升能源使用效率、降低營運成本。

目前這項技術是在模擬Teams會議服務的伺服器上運用。微軟解釋,Teams並非是單一服務,而是300項服務協作的系統,每種服務有不同特性,對伺服器各個部份施加的壓力也不同。

好比說,會議往往是在整點或30分開始,這前後5分鐘內負責處理語音及視訊通訊的系統會非常忙碌,有兩種方法可以應對高峰:一是購買額外容量備用,這顯然不合成本,二是用超頻的方式讓伺服器更有效率運轉,這就需要更強大的散熱技術,而微流體技術就能派上用場。

Microsoft 365核心管理技術研究人員吉姆.克里溫(Jim Kleewein)指出,「它(微流體技術)在成本和可靠性上都有優勢,並且因為可以超頻,速度也更快。」

散熱技術如何改變資料中心?

外媒《GeekWire》指出,雖然微流體散熱技術是在英特爾的Xeon上演示,微軟計畫下一步將這項技術融入未來版本的自研晶片中,可能包括Azure Cobalt和Maia AI加速器。

雖然微軟目前仍主要使用輝達等業者的GPU,他們從2023年就開始投入自研AI晶片,認為需要採用更全面整合的方式,才能應用AI帶來的硬體挑戰,並在與Google、亞馬遜的雲端競爭中勝出。伯卡曾表示,AI需求非常龐大,他們需要從設計開始優化每一個層次,才有辦法滿足需求。

微軟也提到,微流體技術看似只改善了散熱,卻可能對整體資料中心的規劃產生更重大影響。散熱需求限制了當前資料中心的設計,微流體技術可以提昇資料中心伺服器的密度,進而提升運算能力。

Data Center
微軟指出,散熱技術的突破不單單只是提升營運效率,甚至可能改變資料中心的設計。
圖/ shutterstock

同時,微流體散熱讓3D堆疊的邏輯晶片成為可能。3D堆疊技術已在記憶體領域使用,但礙於散熱的挑戰無法應用在CPU、GPU等晶片上,微軟認為可以透過微流體技術,讓冷卻液在每一層晶片中流動來解決問題。

值得一提的是,在微軟公佈微流體散熱技術的當天,資料中心冷卻系統廠商Vertiv股價便大跌6%以上。但微軟並非希望藉此擺脫合作夥伴,他們希望未來能有更多業者投入微流體散熱技術,「採用這項技術的人越多越好,對我們、我們的客戶,以及所有人都會是一件好事。」

資料來源:MicrosoftBloombergGeekWire

延伸閱讀:IG活成了TikTok?Meta宣布全力衝刺短影音Reels抗敵:文青風圖文時代落幕了?

責任編輯:李先泰

關鍵字: #資料中心 #AI
往下滑看下一篇文章
鎖定智慧製造 AI 應用,摩絡人工智慧藉 NVIDIA 新創計畫的強大後盾,兩年內客戶數成長8倍
鎖定智慧製造 AI 應用,摩絡人工智慧藉 NVIDIA 新創計畫的強大後盾,兩年內客戶數成長8倍

摩絡人工智慧(Morale AI)成立於2023年9月,創業團隊早在國立清華大學便以機器學習(ML)與深度學習(DL)等技術累積大量智慧製造實例,逐步深化在品質、製程、機台、能耗、供應鏈等營運場景應用,爾後,更進一步透過大型語言模型(LLM)與人工智慧代理(AI Agent)等技術解決製造現場最棘手的人員經驗傳承、產線知識管理與品質客訴等挑戰,並且透過數據串接與建立資料倉儲平台等方式優化製造業的數據管理與分析能力,例如監管能耗與碳排狀態等,展開專屬的數位轉型旅程。

兩大關鍵,摩絡人工智慧化身製造業創新轉型的最佳夥伴

短短兩年不到的時間,摩絡人工智慧不僅將客戶數翻升8倍,更循序推出20個 AI Agent 服務,如專屬紡織業的 Textile GPT 方案,以及專屬半導體產業的地端 AI Agent 服務等,同時為15家企業客戶進行概念性驗證專案與推動 AI 應用落地。

摩絡人工智慧是怎麼辦到的?

首先是擁有深厚的產業知識。摩絡人工智慧的團隊成員不僅熟悉產業術語與營運流程,更洞察上中下游動態,能精準對應客戶需求、打造貼近客戶營運痛點的 AI 解方。摩絡人工智慧共同創辦人暨執行長高聖翔表示:「LLM 與 AI Agent 技術擅長處理非結構化數據資料,換言之,客戶只要有 PDF 資料即可展開 AI 應用,也不用花費大量時間進行資料標註,可以大幅降低 AI 應用門檻,吸引許多製造業關注與應用。」

其次是與 NVIDIA 新創計畫的夥伴展開密切合作。自2024年加入 NVIDIA Inception 新創計畫後,摩絡人工智慧在產品研發、市場行銷與募資等面向都獲得實質助力,例如,借助 NVIDIA NeMo™ 平台加速資料串接與生成式 AI 模型的微調時間,摩絡人工智慧成功將模型調整與應用落地時間從一開始的6個月縮短為1到3個月,大幅提升客戶的 AI 投資報酬率。

摩絡人工智慧共同創辦人暨執行長高聖翔認為,參加 NVIDIA Inception 新創計畫對新創的技
摩絡人工智慧共同創辦人暨執行長高聖翔認為,參加 NVIDIA Inception 新創計畫對新創的技術研發、市場行銷、業務擴展與募資都有極大的幫助。
圖/ 數位時代

高聖翔強調:「AI 發展日新月異、迭代速度極快,加入 NVIDIA 新創計畫讓我們能站在巨人肩膀上,掌握最新技術,並以更快速度滿足企業需求。」舉例來說,摩絡人工智慧不僅鎖定製造業共通需求推出相應 AI Agent,如品質客訴 Agent 等,更因應紡織、半導體、PCB、製鞋、精密機械等產業推出專屬 AI 模型與應用服務,加速製造業的 AI 轉型步伐。

所有加入 NVIDIA Inception 新創計畫的新創都可以免費取得 NVIDIA 深度學習學院(DLI)的訓練課程學分,藉此掌握最新產品與技術發展,此外,還可以透過技術分享會等方式了解產品技術的應用模式,激盪更多可能。除了 DLI 訓練課程,參與 NVIDIA Inception 新創計畫的台灣新創還可以獲得三大公有雲的 GPU 雲端點數資源、NVIDIA 軟體開發套件(SDK)存取,以及特定硬體與軟體的優惠價格,加速產品創新與研發時程。

NVIDIA 致力成為 DeepTech 新創的最佳後援。舉凡參加 NVIDIA Inception
NVIDIA 致力成為 DeepTech 新創的最佳後援。舉凡參加 NVIDIA Inception 新創計畫的新創團隊都可以取得 GPU 雲端資源、免費取得深度學習學院訓練學分、NVIDIA 產品早期試用機會,以及特定硬體與軟體的優惠方案,加速創新發展。
圖/ 數位時代

從技術支援、產品行銷到募資,NVIDIA Inception 新創計畫化身新創最佳後盾

除了從技術、產品層面給予支持,NVIDIA Inception 新創計畫也有助於摩絡人工智慧進行市場行銷與取得募資。舉例來說,NVIDIA 邀請包括摩絡人工智慧等16家 NVIDIA Inception 新創計畫新創團隊在 2025 COMPUTEX InnoVEX 大會中參展、展現前瞻技術,對此,高聖翔十分欣喜的說:「我們在展會期間就收到很多潛在客戶諮詢,一直到現在,都還有客戶提出需求,對品牌與產品行銷極具效益。」

值得特別一提的是,摩絡人工智慧自2024年加入 NVIDIA Inception 新創計畫後,也在 NVIDIA 的團隊協助下展開募資,並且成功完成80%募資目標,對於後續的產品開發與業務擴展極有幫助。加入 NVIDIA Inception 新創計畫後,新創團隊可以免費使用 Inception Capital Connect 福利,並有機會與全球 Inception 創投夥伴接觸,加速募資流程。

新創團隊可在 NVIDIA Inception 新創計畫網站清楚寫下產品服務等詳細資訊,如此一來, NVIDIA 全球各個部門都可以查詢到新創團隊資訊,便有機會取得 NVIDIA 軟體產品的早期試用(Early Access)機會,以及受邀參加地區性的大活動曝光等。

NVIDIA Inception 新創計畫提供專屬台灣的系列活動,藉此深化新創互動能量、活絡產業發展
NVIDIA Inception 新創計畫提供專屬台灣的系列活動,藉此深化新創互動能量、活絡產業發展。
圖/ 數位時代

為進一步擴大新創支援, NVIDIA 也計畫針對加入 NVIDIA Inception 新創計畫的台灣新創舉辦專屬活動,首先是每季會舉辦一次專屬技術研討會,主題會聚焦在製造、醫療、機器人與 AI Agent 等,讓新創團隊可以在會中分享應用心得、相互交流;其次是從 DLI 挑選熱門課程在台舉辦實體訓練課程,目標是讓新創與 NVIDIA 專家可以進行更即時的互動與討論;最後是持續邀請台灣新創在一年一度的 NVIDIA GTC Taipei 進行技術分享,並且在 COMPUTEX InnoVEX 的 Inception Startup Pavilion 進行展覽,共創商機。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
一次搞懂Vibe Coding
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓