AI晶片功耗5年飆6倍！台積電揭密下一代封裝：散熱與供電瓶頸，為何解法都是「向晶片靠攏」？|數位時代 BusinessNext

「我們估計，單一封裝的總功耗將增加約6倍。」台積電先進封裝研發處長陳燕銘在SEMICON Taiwan 2026異質整合國際高峰論壇指出，隨著CoWoS封裝尺寸持續擴大、SoIC 3D堆疊增加，從2024年至2029年，AI封裝需要處理的功耗將快速攀升。

台積電預估單一封裝內的運算電晶體規模可提高約48倍，HBM總頻寬則增加超過34倍。隨著更多高功率元件集中在同一個封裝，供電與散熱也成為下一代AI封裝的兩大挑戰。

為解決這兩大問題，台積電提出的技術方向是盡量把相關元件往晶片靠近。供電端讓電容、穩壓器更接近運算晶片，散熱端則讓冷卻系統更貼近發熱位置，分別降低送電損耗與熱傳遞阻力。

封裝規模持續擴大，5年功耗估增6倍

陳燕銘指出，從2024年至2029年，CoWoS封裝尺寸將從3.3倍光罩擴大至超過14倍光罩，隨著整合的運算邏輯增加，單一封裝內的運算電晶體規模預計提高約48倍。

在記憶體方面，台積電透過增加HBM顆數、提高每顆HBM的I/O數量，以及提升單一I/O的傳輸速率，拉高整個封裝的記憶體頻寬。陳燕銘指出，2024年至2029年間，單一封裝的HBM總頻寬預估增加超過34倍，其中I/O數量約增加一倍，每個I/O的傳輸速度則提高約6倍。

當運算晶片、HBM與3D堆疊的整合規模持續提高，單一封裝需要處理的功率也快速增加。陳燕銘指出，CoWoS與SoIC 3D堆疊會顯著提高系統功耗，因此「供電」與「散熱」成為下一代AI封裝必須同步處理的兩項挑戰。

挑戰一：供電損耗快速增加

為解決供電挑戰，台積電正在把電容、穩壓器等元件移得更靠近運算晶片，縮短電力從電路板送進封裝的距離。AI晶片功率愈高，需要輸送的電流也愈大，電流經過的路徑愈長，沿途產生的損耗也會愈明顯。

目前典型HPC AI系統的穩壓器通常設置在PCB，也就是電路板上，再將電力送進封裝中的運算晶片。陳燕銘舉例：「從600瓦增加到1400瓦，電力損耗將增加超過5倍。」原因在於導線上的電力損耗與電流平方相關，當晶片功率提高、需要輸送更大的電流，損耗增加的速度也會更快。

大電流也會增加供電穩定度的挑戰。陳燕銘指出，當供電過程中的電壓下降過大，可能讓電路運作速度降低，嚴重時甚至影響正常運作。因此，高功率AI晶片除了需要更多電力，也必須確保電力能穩定送到晶片。

台積電目前其中一個做法，是增加靠近晶片的電容。電容可以暫時儲存電力，在晶片瞬間需要大量電流時快速補上，但SoC本身面積有限，可配置的高密度電容受到限制，因此台積電進一步將高密度電容整合進中介層，增加可配置的容量。

陳燕銘也表示：「但這還不夠。」再往下一步，台積電研究把原本位於PCB上的穩壓器移得更靠近運算晶片，讓電源轉換的位置進入封裝，縮短大電流需要經過的路徑，降低送電過程中的損耗。

挑戰二：散熱已成問題

散熱方面，台積電同樣朝縮短與晶片距離的方向發展。首先是從封裝材料與結構改善散熱效率，陳燕銘指出，透過封裝蓋板、材料與晶片配置等調整，台積電已在CoWoS系統展示最高約40%的接面至環境熱阻改善。熱阻可以理解成熱從晶片往外傳遞時遇到的阻力，熱阻降低，晶片產生的熱就更容易傳到外部冷卻系統。

隨著AI晶片功耗持續增加，下一步則是讓冷卻液更靠近發熱位置。目前常見的液冷方式，是在封裝上方裝設冷板，讓冷卻液流過冷板並帶走熱能。不過，晶片與冷板之間仍隔著封裝蓋板與導熱介面材料（Thermal Interface Material，TIM），熱必須先穿過這些材料，才能傳到冷卻液。

台積電正在研究把微流道（microchannel）直接整合進封裝蓋板。微流道是讓冷卻液流動的細小通道，直接做進封裝後，可以讓冷卻液更靠近晶片，同時將原本兩層TIM減少至一層，降低熱傳遞過程中的阻力。台積電也持續研究更進一步的液冷方式，提高高功率晶片的散熱能力。

更長期來看，陳燕銘表示，「最終目標是完全消除TIM材料的使用」，進一步將封裝與冷板整合，並讓微流道更靠近晶片背面，減少熱傳遞途中需要經過的材料。不過，這部分仍屬前瞻方向，此次並未公布量產時程。

隨著單一AI封裝能整合的運算規模持續提高，供電與散熱的設計也必須跟著改變。台積電在供電端把電容、穩壓器移得更靠近運算晶片，散熱端則讓冷卻系統更接近發熱位置，以降低送電損耗與熱傳遞阻力，因應AI封裝功耗持續攀升帶來的壓力。

延伸閱讀：輝達為何砸千億投資聯發科，認購海外可轉債？7個關鍵問題看懂黃仁勳盤算

責任編輯：李先泰

快速展店背後的挑戰　如何降低跨據點管理與維運負擔

對連鎖零售企業而言，展店代表商機與成長，但當門市數量快速增加，營運與管理的複雜度也隨之提升。尤其對便利商店（C-store）、餐飲連鎖與其他高密度展店型態的企業而言，總部需要面對的不只是據點數量增加，更包括不同門市的設備管理、系統維護、日常維運與人力配置等多方面挑戰。

過去多據點門市的設備與資訊管理，往往以單一門市為單位，各據點可能擁有不同的攝影機、錄影設備配置與管理模式。當總部需要掌握事件狀況、確認門市營運情形，或進行跨區域管理時，往往需要投入大量人力逐一確認資訊，不僅增加管理負擔，也提高維運成本。

此外，零售產業本身具有高度變動性。門市可能因應市場策略進行展店、搬遷、改裝，甚至調整營運規模。傳統一次性設備投資模式，容易讓企業在面對據點變化時缺乏彈性，也增加設備重新配置與後續維護的負擔。

因此，現代零售企業所需要的不只是單純記錄事件的設備，而是一套能隨企業成長彈性調整、協助總部有效掌握多據點安全資訊，並支援未來智慧應用發展的智慧化管理架構。

從既有設備開始升級　降低全面汰換設備的轉型負擔

面對智慧化轉型需求，許多企業最大的挑戰並非是否需要升級，而是如何在不中斷現有營運的情況下完成轉型。

對已經投入大量資源建置安全系統的零售企業而言，全面汰換既有架構不僅成本高，也可能影響門市日常運作。因此，能夠兼容既有設備並逐步升級的彈性架構，成為企業導入智慧安全管理的重要關鍵。

透過混合雲架構，企業可以從既有設備開始，逐步整合不同據點的安全資訊與管理需求，同時導入雲端管理能力。相較於一次性重新建置，新一代平台架構能協助企業延續既有投資價值，並依照實際需求逐步導入更集中化、智慧化的管理能力。

此外，訂閱式雲端服務模式和混合雲安防架構，也為零售企業帶來更靈活的資產管理方式。相較於頻繁的硬體汰換、傳統一次性採購或繁瑣的跨品牌安防系統的管理，企業更有彈性的因應門市拓展、搬遷、調整或營運規模調整，精準配置資源，降低一次性投入壓力，也減少因據點變動造成設備閒置的情況。

對快速成長的連鎖零售企業而言，安全管理不再是一套固定且難以調整的架構，而是一個能隨企業規模與需求持續演進的平台。無論是新增門市、跨區域管理，或因應營運策略調整，都能以更彈性的方式完成管理升級。

AI 不只是安防工具　更開始協助零售提升營運效率

隨著 AI 技術快速發展，安全管理的角色也正在改變。過去企業導入影像系統主要用於事件記錄、事後查看與追蹤；如今，智慧雲端安防平台則能進一步從大量影像資訊中辨識人、車與行為，協助企業從「看見發生什麼」進一步「理解正在發生什麼」，甚至主動協助管理者發現與處理事件。對門市數量眾多、人力有限的連鎖零售業者而言，AI 正逐步成為降低管理負擔、提升營運效率的重要工具。

從基本事件偵測到自然語言規則　讓 AI 主動理解更多異常情境。 AI 智慧辨識已能針對跌倒、奔跑、徘徊、跨線等常見事件進行自動偵測，協助門市減少人工查看影像的需求。而進一步透過 Think Alert，管理者更可以直接以自然語言設定客製化的偵測條件，將 AI 應用延伸至傳統事件規則以外。以門市尖峰時段為例，店員往往需要同時處理結帳、補貨與顧客服務，總部也難以持續掌握每個據點的即時狀況。透過 Think Alert，管理者可以直接以自然語言設定「在門店入口抽菸的人」等情境；當符合設定條件的畫面出現時，系統即可主動發出警報，協助管理者即時掌握異常狀況。對於門市數量龐大的企業而言，這代表 AI 不只是協助辨識既定事件，更能依據不同營運需求，讓管理者以更直覺的方式設定希望 AI 主動關注的情境。

從大海撈針到快速完成調查　Think Search 搭配 Case Vault(案例庫) 掌握完整事件脈絡。 當事件發生後，如何從大量、多據點的影像中找到關鍵人物與事件脈絡，往往是最耗費人力的環節。透過 Think Search，管理者可以直接用自然語言描述想尋找的對象與情境，例如，當家長反映孩童可能在門市附近走失時，店員或總部人員不需要逐一查看不同攝影機的錄影畫面，只要在 Think Search 輸入「昨日上午，牽著小女孩的男性」等自然語言描述，系統即可協助從大量影像中篩選相關畫面，快速找到相關人物可能出現的時間與位置。若需要進一步追蹤，還能將不同搜尋階段找到的重要畫面與資訊整理至 Case Vault，建立事件時間線與人物移動路徑，協助管理者更完整掌握事件脈絡。

從安全管理延伸至顧客服務與門市營運　讓既有影像創造更多價值。 AI 的應用也不只限於安全事件。例如在咖啡店、餐飲等場景，若顧客將手機、包包等物品遺留在座位或櫃台附近，遺留物與遺失物偵測可以協助門市人員更快發現異常，主動確認並協助顧客處理失物問題；人流分析則能協助企業掌握不同時段的門市活動趨勢，作為空間配置與人力安排的參考；車牌辨識可應用於停車區域或門市周邊管理，而工安防護裝備辨識則能協助後場、倉儲等區域進行安全規範管理。透過這些應用，企業能在既有設備基礎上，進一步將影像資料延伸至安全、服務與營運等不同場景。

對連鎖零售業而言，AI 的價值已不只是「看得更清楚」，而是讓企業更快發現問題、更快找到資訊，並進一步理解事件脈絡與營運狀況。從基本事件偵測、自然語言設定規則，到 AI 搜尋與事件調查，再延伸至顧客服務與營運分析，雲端安防平台正讓影像從被動的紀錄工具，逐步成為支援多據點安全管理與營運決策的重要資訊來源。