AI晶片太燙怎麼辦?微軟黑科技讓散熱能力飆3倍:「微流體技術」是什麼?
AI晶片太燙怎麼辦?微軟黑科技讓散熱能力飆3倍:「微流體技術」是什麼?

AI熱潮掀起後,最常被討論到的議題之一就是「能源」。資料中心消耗了大量電力,而且很大一部分都是花在散熱上,如今微軟嘗試透過微流體技術來幫助晶片降溫,應對短時間的高負荷需求。

資料中心耗費了龐大能源,根據高盛的報告,2022年時資料中心占美國電力消耗的3%左右,然而研究預計到了2030年時,能源消耗占比可能上升到8%之多。同時他們預估全球資料中心用電量將從目前約400十億瓩時,到2030年時突破1,000十億瓩時。

資料中心用電量如此之大的原因,一部分就在於散熱。資料中心有高達30%~40%的電力都是耗費在散熱,為了解決散熱問題,提升資料中心的效率,微軟正在嘗試一個新方法:微流體技術(microfluidics)。

微流體技術是什麼?怎麼幫晶片降溫?

AI運算會對資料中心產生比以往高得多的熱量,假如散熱技術沒有更上一層樓的話,AI的發展很快就會因為散熱限制遇到瓶頸。為了解決這個問題,微軟聲稱他們運用微流體技術打造出一套新散熱系統,比目前主流的冷板散熱效果要高出3倍。

微流體技術是指利用只有幾十到幾百微米的通道,精確控制極少量流體的技術,就像為液體及氣體打造的高速公路。在極小的空間裡,流體會展現與日常生活所見不同的物理特性,這項技術過去常用於科學研究,並且在醫療檢測、藥物開發以及各種化工領域都有運用潛力。

微軟指出,他們透過微流體技術,讓冷卻液直搗黃龍──直接進入晶片內部,更有效率地散熱。晶片背部會蝕刻極小的凹槽,讓冷卻液能夠直接流到晶片上,並且能利用AI識別晶片上的熱訊號,精確引導冷卻液流動。

microfluidic02.jpg
微軟這款利用微流體技術散熱的晶片,實際運作時會鎖上蓋子、連接管道確保冷卻液安全輸送。
圖/ 微軟

微軟在過去兩年內擴充了2,000百萬瓩(GW)的資料中心容量,因此對提升效率非常重視。Azure資料中心硬體部門系統和基礎設施副總裁拉妮.伯卡(Rani Borkar)就明白表示,「當用這種規模營運時,效率非常重要。」

具體而言,微軟聲稱微流體散熱性能比主流的冷板高出3倍,還能將GPU內部的最高溫降低65%,不過這些數字會因為配置而有所差異,並預計可以提升能源使用效率、降低營運成本。

目前這項技術是在模擬Teams會議服務的伺服器上運用。微軟解釋,Teams並非是單一服務,而是300項服務協作的系統,每種服務有不同特性,對伺服器各個部份施加的壓力也不同。

好比說,會議往往是在整點或30分開始,這前後5分鐘內負責處理語音及視訊通訊的系統會非常忙碌,有兩種方法可以應對高峰:一是購買額外容量備用,這顯然不合成本,二是用超頻的方式讓伺服器更有效率運轉,這就需要更強大的散熱技術,而微流體技術就能派上用場。

Microsoft 365核心管理技術研究人員吉姆.克里溫(Jim Kleewein)指出,「它(微流體技術)在成本和可靠性上都有優勢,並且因為可以超頻,速度也更快。」

散熱技術如何改變資料中心?

外媒《GeekWire》指出,雖然微流體散熱技術是在英特爾的Xeon上演示,微軟計畫下一步將這項技術融入未來版本的自研晶片中,可能包括Azure Cobalt和Maia AI加速器。

雖然微軟目前仍主要使用輝達等業者的GPU,他們從2023年就開始投入自研AI晶片,認為需要採用更全面整合的方式,才能應用AI帶來的硬體挑戰,並在與Google、亞馬遜的雲端競爭中勝出。伯卡曾表示,AI需求非常龐大,他們需要從設計開始優化每一個層次,才有辦法滿足需求。

微軟也提到,微流體技術看似只改善了散熱,卻可能對整體資料中心的規劃產生更重大影響。散熱需求限制了當前資料中心的設計,微流體技術可以提昇資料中心伺服器的密度,進而提升運算能力。

Data Center
微軟指出,散熱技術的突破不單單只是提升營運效率,甚至可能改變資料中心的設計。
圖/ shutterstock

同時,微流體散熱讓3D堆疊的邏輯晶片成為可能。3D堆疊技術已在記憶體領域使用,但礙於散熱的挑戰無法應用在CPU、GPU等晶片上,微軟認為可以透過微流體技術,讓冷卻液在每一層晶片中流動來解決問題。

值得一提的是,在微軟公佈微流體散熱技術的當天,資料中心冷卻系統廠商Vertiv股價便大跌6%以上。但微軟並非希望藉此擺脫合作夥伴,他們希望未來能有更多業者投入微流體散熱技術,「採用這項技術的人越多越好,對我們、我們的客戶,以及所有人都會是一件好事。」

資料來源:MicrosoftBloombergGeekWire

延伸閱讀:IG活成了TikTok?Meta宣布全力衝刺短影音Reels抗敵:文青風圖文時代落幕了?

責任編輯:李先泰

關鍵字: #資料中心 #AI
往下滑看下一篇文章
資本市場迎來新氣象!簡立峰:從「臺灣人的亞洲」轉向「世界的亞洲」,主動招募國際互補性新創
資本市場迎來新氣象!簡立峰:從「臺灣人的亞洲」轉向「世界的亞洲」,主動招募國際互補性新創

金融監督管理委員會聯手臺灣證券交易所、證券櫃檯買賣中心共同推動「亞洲創新籌資平臺」,象徵臺灣資本市場邁向新局面。此平臺鎖定重點產業、法規鬆綁及強化推動策略等重點項目,面對此布局,擁有產業導師、獨立董事及投資者等多元角色的簡立峰,分享他的觀點與建議。

簡立峰開門見山直言,現在是臺灣資本市場加速前進的「好時機」。從量化角度來看,臺灣上市櫃公司總市值規模達94.9兆元,國家別排名全球第8名;特別是資通訊與半導體產業,目前已有四家企業(台積電、鴻海、台達電、聯發科)進入世界市值500大。受惠科技群山加持的優勢,讓打造「亞洲NASDAQ」的願景有厚實的底氣。

此外,簡立峰相當肯定本次針對創新版的制度優化,提供更鬆綁、具有創意的做法,大幅提高了國際團隊來臺上市的便利性。不過,除了擴大投資規模與流通性,簡立峰也提出三個策略觀點,鼓勵亞洲創新籌資平臺多家善用制度優勢,設定更宏大的發展目標。

觀點一:深化內部資本市場創新動能,鼓勵「小金雞」早期上市

這幾年臺灣的新創趨勢,簡立峰指出一個現象:現今成功的上市櫃案例,多半是大型集團的「小金雞」(子公司或孫公司),但集團通常傾向在小金雞獲利穩定並能確保控股後,才會在市場上釋出少數股份(25%)允許其上市。此情況容易造成臺灣的資本市場動能不足,甚至讓國際以為臺灣缺乏新創的誤解。

對此,簡立峰認為創新板的價值,即是鼓勵小金雞能提早登板的腳步,一來展現創新能量、翻轉產業典範;二來邁向資本市場不只是需要募資,更重要是上市後的經營策略,知道自身優勢所在,將營運方向隨時調整更貼近資本市場的需求。

因應簡立峰的觀察,本次創新板的新制,即是讓本國公司的股票集保期間從二年縮短為一年,並免除三年的承銷商保薦。此舉有助於降低集團小金雞提早進入市場的法規門檻,讓企業能更快速、更早實現「面對市場」的目標。

觀點二:強化產業聚落思維,主動招募國際上與臺灣互補的新創

亞洲創新籌資平臺成立的重要訴求之一,便是要成為亞洲NASDAQ。簡立峰直言,「如果是以此為願景,那它就不應該只是『臺灣人的亞洲』,而是成為『世界的亞洲』,也就是主動吸引更多國家的創新企業來臺上市,那麼招商策略必須從被動等待,轉為主動積極洽談。」

至於招商的目標該如何鎖定?簡立峰認為臺灣資本市場最重要的價值,在於其聚落現象,因此建議可瞄準能與臺灣產業有高度互補的區域國家或技術領域。讓臺灣的供應鏈業者與他們成為戰略夥伴關係,共同分享這些國外企業來臺上市後所創造的利潤。

如果是區域國家,簡立峰拿「以色列」為例,該國新創擁有強大的創意和軟硬整合能力,但缺乏生產製造基地,若考慮來臺灣上市或募資,將有利於他們與臺灣的製造商建立關係,增加其信賴度,並容易找到供應商。至於前瞻技術方面,簡立峰認為矽光子、3D封裝/先進封裝、AI資料中心冷卻等,與臺灣半導體產業有緊密合作關係,可借助資本市場吸引這些企業來臺投資、上市,不僅是實體的產業聚落,更有助於形成虛擬的資本市場聚落。

簡立峰的論述,也呼應亞洲創新籌資平臺鎖定的重點產業,涵蓋半導體、人工智慧、智慧製造、數位雲端、機器人、次世代通訊等前瞻新經濟領域。另外國際企業來臺上市的門檻,證交所也優化了既有制度,針對主要營運地或股東結構均未涉及陸港澳地區之外國企業,調整臺籍董事席次過半規範,僅須設置臺籍獨立董事至少二席。

觀點三:吸引國際分析師、產業媒體,成為亞洲NASDAQ絕佳觀測站

最後,簡立峰認為一個能持續有活水挹注的國際籌資平臺,成功上市是手段,但真正關鍵的目的,是能持續獲得投資並取得市場關注的聲譽。要獲得聲量,具體的執行策略是提高國際能見度,吸引國際級分析師的關注。

簡立峰以當時Appier在日本上市為例,他提到上市對Appier的最大益處並非來自本益比,而是被國際金融機構的分析師看到,並獲得他們的分析與報導。「這些報導對於B2B企業來說,是最紮實的行銷加分,能極大化取得業界客戶的信賴。」

簡立峰認為亞洲創新籌資平臺的下一步,可主動規劃一些登板的亮點案例,形成「標竿」進而產生群聚效應。對此,證交所回應未來將以多元行銷策略,配套措施包括加強外國公司資訊揭露,提高法人說明會的召開頻率,藉此提升企業國際知名度,為國際分析師提供更充足的資訊來源,助力更多指標的企業打響全球名氣。

國家發展委員會副主任委員詹方冠在亞洲創新籌資平臺啟動典禮上提到,臺灣經濟發展已從勞動密集、資本密集階段,進入到創新驅動的全新里程。最後簡立峰肯定表示,「亞洲創新籌資平臺的成立後,期待它的角色能槓桿資本市場的力量,讓『臺灣人的產業』轉變為『臺灣人主導的產業』,仰賴國際企業壯大臺灣的人才庫,同時也為臺灣創造新的經濟發展動能。」

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
一次搞懂Vibe Coding
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓