AI晶片太燙怎麼辦?微軟黑科技讓散熱能力飆3倍:「微流體技術」是什麼?
AI晶片太燙怎麼辦?微軟黑科技讓散熱能力飆3倍:「微流體技術」是什麼?

AI熱潮掀起後,最常被討論到的議題之一就是「能源」。資料中心消耗了大量電力,而且很大一部分都是花在散熱上,如今微軟嘗試透過微流體技術來幫助晶片降溫,應對短時間的高負荷需求。

資料中心耗費了龐大能源,根據高盛的報告,2022年時資料中心占美國電力消耗的3%左右,然而研究預計到了2030年時,能源消耗占比可能上升到8%之多。同時他們預估全球資料中心用電量將從目前約400十億瓩時,到2030年時突破1,000十億瓩時。

資料中心用電量如此之大的原因,一部分就在於散熱。資料中心有高達30%~40%的電力都是耗費在散熱,為了解決散熱問題,提升資料中心的效率,微軟正在嘗試一個新方法:微流體技術(microfluidics)。

微流體技術是什麼?怎麼幫晶片降溫?

AI運算會對資料中心產生比以往高得多的熱量,假如散熱技術沒有更上一層樓的話,AI的發展很快就會因為散熱限制遇到瓶頸。為了解決這個問題,微軟聲稱他們運用微流體技術打造出一套新散熱系統,比目前主流的冷板散熱效果要高出3倍。

微流體技術是指利用只有幾十到幾百微米的通道,精確控制極少量流體的技術,就像為液體及氣體打造的高速公路。在極小的空間裡,流體會展現與日常生活所見不同的物理特性,這項技術過去常用於科學研究,並且在醫療檢測、藥物開發以及各種化工領域都有運用潛力。

微軟指出,他們透過微流體技術,讓冷卻液直搗黃龍──直接進入晶片內部,更有效率地散熱。晶片背部會蝕刻極小的凹槽,讓冷卻液能夠直接流到晶片上,並且能利用AI識別晶片上的熱訊號,精確引導冷卻液流動。

microfluidic02.jpg
微軟這款利用微流體技術散熱的晶片,實際運作時會鎖上蓋子、連接管道確保冷卻液安全輸送。
圖/ 微軟

微軟在過去兩年內擴充了2,000百萬瓩(GW)的資料中心容量,因此對提升效率非常重視。Azure資料中心硬體部門系統和基礎設施副總裁拉妮.伯卡(Rani Borkar)就明白表示,「當用這種規模營運時,效率非常重要。」

具體而言,微軟聲稱微流體散熱性能比主流的冷板高出3倍,還能將GPU內部的最高溫降低65%,不過這些數字會因為配置而有所差異,並預計可以提升能源使用效率、降低營運成本。

目前這項技術是在模擬Teams會議服務的伺服器上運用。微軟解釋,Teams並非是單一服務,而是300項服務協作的系統,每種服務有不同特性,對伺服器各個部份施加的壓力也不同。

好比說,會議往往是在整點或30分開始,這前後5分鐘內負責處理語音及視訊通訊的系統會非常忙碌,有兩種方法可以應對高峰:一是購買額外容量備用,這顯然不合成本,二是用超頻的方式讓伺服器更有效率運轉,這就需要更強大的散熱技術,而微流體技術就能派上用場。

Microsoft 365核心管理技術研究人員吉姆.克里溫(Jim Kleewein)指出,「它(微流體技術)在成本和可靠性上都有優勢,並且因為可以超頻,速度也更快。」

散熱技術如何改變資料中心?

外媒《GeekWire》指出,雖然微流體散熱技術是在英特爾的Xeon上演示,微軟計畫下一步將這項技術融入未來版本的自研晶片中,可能包括Azure Cobalt和Maia AI加速器。

雖然微軟目前仍主要使用輝達等業者的GPU,他們從2023年就開始投入自研AI晶片,認為需要採用更全面整合的方式,才能應用AI帶來的硬體挑戰,並在與Google、亞馬遜的雲端競爭中勝出。伯卡曾表示,AI需求非常龐大,他們需要從設計開始優化每一個層次,才有辦法滿足需求。

微軟也提到,微流體技術看似只改善了散熱,卻可能對整體資料中心的規劃產生更重大影響。散熱需求限制了當前資料中心的設計,微流體技術可以提昇資料中心伺服器的密度,進而提升運算能力。

Data Center
微軟指出,散熱技術的突破不單單只是提升營運效率,甚至可能改變資料中心的設計。
圖/ shutterstock

同時,微流體散熱讓3D堆疊的邏輯晶片成為可能。3D堆疊技術已在記憶體領域使用,但礙於散熱的挑戰無法應用在CPU、GPU等晶片上,微軟認為可以透過微流體技術,讓冷卻液在每一層晶片中流動來解決問題。

值得一提的是,在微軟公佈微流體散熱技術的當天,資料中心冷卻系統廠商Vertiv股價便大跌6%以上。但微軟並非希望藉此擺脫合作夥伴,他們希望未來能有更多業者投入微流體散熱技術,「採用這項技術的人越多越好,對我們、我們的客戶,以及所有人都會是一件好事。」

資料來源:MicrosoftBloombergGeekWire

延伸閱讀:IG活成了TikTok?Meta宣布全力衝刺短影音Reels抗敵:文青風圖文時代落幕了?

責任編輯:李先泰

關鍵字: #資料中心 #AI
往下滑看下一篇文章
71% 台灣企業資安評級待強化!QNAP World Tour 2026盛大開場,剖析 Edge AI 與營運韌性新局
71% 台灣企業資安評級待強化!QNAP World Tour 2026盛大開場,剖析 Edge AI 與營運韌性新局

近年隨著主權 AI 議題持續升溫,企業開始重新思考資料與算力的部署方式,希望讓敏感資料留在地端,同時具備就近運算的能力,這也進一步加速 Edge AI 的發展。然而,當 AI 從雲端走向本地端與邊緣端時,企業除了追求運算效能與應用創新,更必須確保服務的穩定可靠。畢竟,再先進的 AI 應用,一旦因資安攻擊、設備故障或資料損毀而停擺,就會無法創造商業價值。

換句話說,「AI 創新」與「營運韌性」已不再是兩條各自獨立的單行道。企業加速 AI 布局的同時,也需要一套能守護資料安全、具備快速復原能力並確保營運不中斷的 IT 基礎架構。

因此,在本月 18 日盛大登場的「QNAP World Tour 2026 台北場|立足 Edge AI,決勝企業全方位韌性」論壇中,QNAP 總經理劉文義指出,企業需要的已經不只是把資料存下來,而是一套能同時支撐 AI 創新與營運不中斷的韌性平台。QNAP 此次聚焦企業韌性與 Edge AI 兩大主軸,深度剖析企業 IT 基礎架構如何兼顧穩健營運與 AI 智慧應用,同時展出高效能邊緣 AI 伺服器、企業級 ZFS 全快閃 NAS、網管型交換器等多項新產品,全面滿足企業下一階段的轉型需求。

QNAP
QNAP總經理劉文義指出,企業需要的已不只是把資料存下來,而是一套能同時支撐AI創新與營運不中斷的韌性平台。
圖/ 數位時代

從一站式 AI 平台至監控、影音應用,QNAP 加速 Edge AI 落地

在邊緣 AI 領域,QNAP 除了提供 GPU-Ready 的 Edge AI 平台與管理軟體 AI Service Center,更進一步推出 Qsirch AI、QuONE 及 QuAgent 等應用服務,打造從 AI 運算、模型管理、RAG 私有知識庫到 Agent 智慧應用的一站式企業 AI 平台。

QNAP資深智慧儲存產品經理 Yuna Chen形容,AI Service Center 就像一個管理中樞,IT 管理者可在單一介面統一管理所有 AI 應用所使用的模型與金鑰,也能隨時查詢 Token 用量、成本與稽核紀錄,清楚掌握誰在什麼時間點呼叫了哪些模型,讓企業在導入 AI 應用的同時,也能兼顧管理與治理需求。同時Yuna Chen也分享 NAS 結合AI 的使用者體驗,藉由執行在 QNAP NAS 上的對話式 AI 代理程式 QuAgent,自然語言能直接轉化為操作介面,使用者透過對話即可完成檔案搜尋、備份、系統查詢等工作;而 QuONE 則將行動裝置與 AI 技術深度結合,將原本分散的多款應用整合至單一入口,使用者只需一次登入,就能快速存取所需服務,徹底告別繁瑣的跨應用切換與登入流程,打造最直覺的 NAS 智慧助理體驗。

QNAP
QNAP資深智慧儲存產品經理Yuna Chen說明,AI Service Center可統一管理AI應用的模型與金鑰,並掌握Token用量、成本與稽核紀錄。
圖/ 數位時代

QNAP 智慧儲存產品經理 Vivian Luo 則說明,Qsirch AI 導入強大的語意理解與多模態檢索能力,能將 NAS 內的巨量檔案轉化為隨查即用的知識庫。使用者只要以自然語言描述內容,就能搜尋 NAS 裡的文件、圖片、影音與音訊等不同格式資料。影音檔案還可自動生成逐字稿,讓過去難以檢索的音訊與影片內容也能被全文搜尋。而所有索引皆在 NAS 本機完成,檔案不上傳雲端,兼顧搜尋效率與資料隱私。

QNAP
QNAP智慧儲存產品經理Vivian Luo表示,Qsirch AI具備語意理解與多模態檢索能力,索引皆在NAS本機完成,兼顧搜尋效率與資料隱私。
圖/ 數位時代

除了打造一站式 AI 平台,QNAP 也將 Edge AI 能力延伸至監視監控場域。QNAP 智慧視訊產品部部長 Hanz Sung 指出,QNAP 結合 AI 發展出 Deep Search、SkiLLM 等服務,使用者可以透過自然語言去描述想要搜尋的影像片段,或要求系統執行影像分析、產出調查報告與佐證影片等任務,不僅降低人工調閱影像與事件調查負擔,也讓視訊監控系統從被動記錄的角色,進一步升級為主動分析的監控顧問。

在視訊監控外,另一個 Edge AI 的應用則是影音內容產製。受到影音檔案容量指數級成長、AI 創作普及與多人協作之需求,高效能儲存與低延遲傳輸已成為影響創作效率的關鍵因素。

QNAP
QNAP智慧視訊產品部部長Hanz Sung指出,結合Deep Search、SkiLLM等AI服務,可讓視訊監控系統從被動記錄升級為主動分析的監控顧問。
圖/ 數位時代

QNAP 智慧儲存產品經理 Eddie Chuang 表示,QNAP 新一代 NAS 機種不僅支援 Thunderbolt™ 5 高速傳輸、可擴充 25GbE/100GbE、內建 NPU 加速等設計,更運用 AI 提升影音團隊管理與使用素材的效率,例如:透過地端 AI 運算,NAS 可以進一步化身為專案知識庫,協助團隊查詢過往剪輯邏輯、彙整客戶回饋,甚至快速確認素材版權狀態。

QNAP
QNAP智慧儲存產品經理Eddie Chuang表示,新一代NAS支援Thunderbolt 5高速傳輸與內建NPU加速,運用地端AI提升影音團隊協作效率。
圖/ 數位時代

從資料確信復原、高可用性到主動式威脅偵測,QNAP 層層築起營運韌性

除了 Edge AI 佈局,本場論壇的第二個主軸「營運韌性」,則從資料備份、高可用性與資安三個面向出發。QNAP 總經理劉文義也於開場引述 QNAP 於 8 月針對台灣 241 家企業進行的資安韌性調查,指出 71% 企業的資安綜合評級落在「待強化」以下,更有 53% 無法確保備份免於被刪除或篡改,揭示了國內企業 IT 架構在應對資安攻擊與營運中斷時的重大潛在風險。

QNAP 資深智慧儲存產品經理 Jack Wang 認為,企業資料備份現正面臨的挑戰是,遭遇災難或事故時,備份資料能否「真正被完整還原」,讓營運迅速恢復正常。為此,QNAP 在最新的備份解決方案 HDP for Business 中,整合自動化備份驗證與快速還原機制。當資料備份完成後,自動於 NAS 上以虛擬機 (VM) 開機驗證,並將過程錄影存證,讓 IT 主管與稽核人員有實際可查驗的復原證明;一旦事故真的發生,Instant Restore 則能直接將備份以 VM 型態在 NAS 上啟動、暫時接手服務,將復原時間從過去以天為單位來計算縮短至分鐘等級,為企業營運建立第一道防線。

QNAP
QNAP資深智慧儲存產品經理Jack Wang說明,HDP for Business整合自動化備份驗證,搭配Instant Restore可將復原時間縮短至分鐘等級。
圖/ 數位時代

除了備份資料的可復原性,確保關鍵服務在故障發生時依然能持續運作,更是營運韌性的重中之重。尤其隨著 AI 應用深入核心業務,一旦系統遭受非預期停擺,影響的不只是 IT 部門,更可能直接造成營運中斷與商業損失。為此,QNAP 針對硬體、系統、站點、容量及應用五個可能發生故障的層級,分別提出對應解決方案,協助企業打造高可用性的 IT 架構。

QNAP 資深儲存系統產品經理 Oliver Lam 進一步舉例,像是系統層的 QuTS hero High Availability Manager 採用 Active-Passive 雙機叢集,可在 90 秒內完成故障切換;硬體層的 ES NAS 則透過 Active-Active 雙主控架構,在控制器故障時,可於 30 至 60 秒內接管服務,讓企業在遭遇突發故障時,關鍵服務仍能快速切換至備援系統,將停機時間與營運衝擊降至最低。

QNAP
QNAP資深儲存系統產品經理Oliver Lam舉例,QuTS hero High Availability Manager可在90秒內完成故障切換,強化企業高可用性架構。
圖/ 數位時代

而造成系統停擺的原因,除了重大災害,可能是資安攻擊,因此,營運韌性的另一道防線,就是在威脅真正造成破壞之前,及早發現異常。QNAP 先進網通產品經理 Ruby Chan 指出,面對勒索軟體、零日攻擊等資安威脅,企業需要的資安工具,不只是可以防禦威脅,更要具備主動持續偵測與快速應變能力。

QNAP
QNAP先進網通產品經理Ruby Chan指出,面對勒索軟體與零日攻擊等資安威脅,企業所需的資安工具須具備主動持續偵測與快速應變能力。
圖/ 數位時代

自推出以來,深獲企業客戶青睞的 QNAP ADRA NDR X 內網資安防禦解決方案,內建超過 4.3 萬筆且還在持續更新的特徵規則,不僅能偵測出已知攻擊,還搭配 AI 行為分析技術去建立裝置的日常行為基準,主動辨識零時差攻擊與異常行為;更透過 LLM 將可疑封包與事件串連成完整攻擊鏈,協助 IT 人員快速掌握威脅脈絡。當系統偵測到高風險事件時,還能與 QNAP NAS 聯動、自動觸發快照,保留遭到加密或破壞前的資料版本,將資安防護從威脅偵測一路延伸到事件應變與資料復原,建立更完整的營運韌性防線,協助中小企業以高性價比的資安投資,輕鬆實現企業級內網防護能力。

當 AI 從雲端走向邊緣,企業 IT 基礎架構肩負的任務也隨之擴大,既要支撐 AI 創新,更要確保資料安全與營運不中斷。從 Edge AI 平台、場域應用,到資料復原、高可用性與資安防護,QNAP 正持續擴展 NAS 的角色,躍升為數位資產與營運連續性的關鍵守護者,協助企業打造穩健的 IT 底座,以全力追求創新、運用 AI 創造更大的商業價值;而QNAP 也深信再強大的技術,最終都要回到每一位使用者的日常體驗 ─ 安全、便利、穩定可靠。

QNAP
QNAP World Tour 2026台北場吸引大批IT從業人員到場,展區同步展示邊緣AI伺服器、企業級全快閃NAS等多項新品實機。
圖/ 數位時代
QNAP
現場同步展出Seagate等合作夥伴的「AI READY智慧資料管理」方案,呼應論壇聚焦Edge AI與企業韌性的雙主軸命題。
圖/ 數位時代

錯過了台北場沒關係! QNAP World Tour即將進行全台巡迴
立即報名:
QNAP World Tour 2026 高雄場
10/22 (四) | 13:00- 16:00 |
高雄翰品酒店春耕廳
https://campaign.qnap.com/registration_QNAPWorldTour2026_Taiwan_Kaohsiung
QNAP World Tour 2026 台中場
11/05 (四) | 13:00- 16:00|
台中福華大飯店 5F CR500 會議室
https://campaign.qnap.com/registration_QNAPWorldTour2026_Taiwan_Taichung

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
台達電全解讀
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓