台積電COUPE是什麼？光子引擎技術被台積點名下一個關鍵技術|數位時代 BusinessNext

「COUPE」是什麼？為什麼被台積電點名下一個關鍵技術？

台積電技術論壇上，張曉強指出，AI正從訓練走向推論，token經濟將帶動算力需求形成飛輪。也拆解晶片層三大技術方向，包括先進製程、3D IC與光連接。

「台灣有著全世界最強、最堅強的AI供應鏈。」台積電14日舉辦技術論壇，台積電業務開發資深副總經理暨副共同營運長張曉強以這句話點出台灣在AI產業鏈中的位置，也進一步說明，當AI需求從訓練走向推論，半導體產業將迎來下一波成長動能。

過去幾年，業界普遍預期全球半導體營收可能在2030年突破1兆美元。隨著AI需求快速升溫，張曉強認為，全球半導體營收達到這個規模的時間可能比原先預期更早。到了2030年，AI加上HPC（高效能運算）對半導體市場的貢獻可能達到50%；智慧手機仍會維持約20%的重要占比，車用、IoT、通訊等應用也會持續扮演關鍵角色。

《數位時代》整理張曉強在技術論壇中的三個觀察，從市場需求、晶片架構到終端應用，帶讀者看懂台積電如何判斷AI對半導體產業的下一階段影響。

觀察一：token飛輪啟動，推論將成AI需求最大推手

過去幾個月間，市場曾反覆討論AI是否已經出現泡沫，不過，從台積電的觀察來看，AI需求仍在持續升高。是什麼推動AI持續成長？張曉強給出的答案是：AI正從訓練走向推論，進入真正創造收入與商業價值的階段。

過去幾年，AI熱潮的核心多半集中在大型模型訓練。訓練需要龐大算力，但模型訓練完成後，若要真正進入企業流程、消費者服務與自動化任務，關鍵會轉向推論。使用者每一次提問、企業每一次呼叫模型、AI Agent每一次執行任務，都需要模型即時產生答案或行動，而這些過程都會消耗token。

「Token提升生產力，生產力創造價值，價值產生收入，收入再投入更多算力、創造更多token。」張曉強形容，這會形成一個自我強化的學習循環，也就是推動AI需求持續擴大的「飛輪」。簡單來說，如果AI真的能幫企業省時間、提高效率、創造收入，企業就會更願意花錢使用AI；用得越多，背後需要的推論算力就越大，雲端服務商也會繼續投資更多晶片與資料中心。

token經濟正在崛起，這是張曉強觀察客戶需求時最直接的感受。他提到，自己經常見客戶，「只有一個方向，就是（需求）越來越高」。

觀察二：從黃仁勳五層蛋糕往下切，「晶片層」還能再拆成三層

token推動AI需求持續成長，背後需要什麼技術支撐？輝達執行長黃仁勳曾用「五層蛋糕」形容AI產業結構，層層堆疊出AI基礎建設；而台積電看見的，則是其中「晶片」這一層內部，還有哪些技術細節仍在快速發展中。

「大家常用黃仁勳的『五層蛋糕』來描繪AI產業。第一層是電力，接著是晶片、資料中心、模型，最後是應用。」張曉強說：「但我是做晶片的，如果把『晶片』這一層放大來看，裡面看到的就不只是一層，而是很多層。」

他表示，晶片層內部至少有三個重要方向：第一是負責算力與能源效率的電晶體運算，第二是負責把不同晶片與記憶體整合起來的先進封裝與3DIC，第三則是解決資料傳輸瓶頸的高速連接。

第一層是先進邏輯運算，也就是台積電持續推進的先進製程。AI無論是訓練或推論，都需要更高效能與更高能源效率的運算晶片；當晶片必須在相同面積與功耗限制下提供更多算力，電晶體技術仍是最底層的競爭關鍵。

第二層是晶片整合。隨著AI從訓練走向推論，系統對低延遲、高頻寬記憶體存取的需求愈來愈高，單靠先進製程微縮已經不夠，必須把不同晶片更緊密地整合在一起。他表示：「未來不只是把不同晶片整合在一起，還要用3D的方式把多個運算單元堆疊起來。」

張曉強特別提到，現在AI架構普遍仰賴先進運算晶片，搭配CoWoS與HBM，但隨著推論應用擴大，市場會需要更低延遲、更高頻寬的記憶體存取方式。他表示，台積電已經開始與DRAM夥伴合作，未來希望透過3DIC技術，把DRAM直接堆疊到運算晶片上，以達到高頻寬、低延遲的存取效果。

第三層則是高速連接。張曉強表示：「談到運算，離不開電子；但談到訊號傳輸，離不開光子。」在AI資料中心裡，不只單顆晶片要算得快，晶片與晶片之間也必須以高頻寬、低延遲的方式連接。當資料量持續放大，用光訊號取代部分電訊號傳輸，就成為解決未來資料中心瓶頸的重要方向。

他特別強調：「大家要記住一個詞，叫COUPE，緊湊型通用光子引擎。」這是台積電提出的光子引擎技術，透過3DIC技術，將PIC（光子積體電路）與EIC（電子積體電路）垂直封裝在更靠近邏輯晶片的位置，目標是縮短訊號傳輸距離，提升晶片與晶片之間的資料傳輸效率。

延伸閱讀：台積電與索尼擬合資公司，搶攻「AI眼睛」影像感測器商機！鎖定自駕與機器人市場

觀察三：不只在資料中心，手機、智慧眼鏡與汽車也具備潛力

雖然目前AI晶片焦點集中在資料中心，但張曉強提醒，AI應用不會只停留在雲端，也會逐漸擴散到邊緣裝置。

他特別提到，最重要的邊緣裝置仍是手機。除了手機，智慧眼鏡也是潛力裝置。他指出，人類與外界互動最有效的訊息來源之一是視覺，因此智慧眼鏡有機會把使用者與資料中心的智慧連結起來。不過，要讓智慧眼鏡真正從笨重的裝置走向日常配戴，仍需要更好的運算、連接與低功耗顯示技術支撐。

車用則是另一個方向。張曉強指出，汽車過去幾年已經從以機械設備為主，轉向電子設備。電動車的電池與馬達逐漸標準化後，差異化會落在自動駕駛與車載娛樂體驗，而這些能力都建立在半導體之上。

至於物理AI與機器人，張曉強則把它視為半導體未來的新前沿。人形機器人需要視覺、感測、運動控制與運算能力，牽涉物理世界與虛擬世界的整合。這些應用目前仍在早期階段，但它們都指向同一個趨勢：AI運算正在從資料中心外溢到更多終端裝置，半導體需求也會跟著進入更多場景。

延伸閱讀：
陳立武做對了什麼？英特爾股價如何在一年多內翻漲近5倍？
00403A掛牌首日成交逾449億！這檔台股主動ETF在紅什麼？00403A成分股、配息懶人包

當GPU不再是唯一主角，記憶體為何躍上AI舞台中央？

過去，半導體的焦點多圍繞在晶片，例如CPU、GPU跟AI加速器等，市場普遍認為，晶片運算能力是左右科技產業發展速度的關鍵，但在進入生成式AI世代後，產業逐漸發現另一個事實：真正限制AI效能的瓶頸不是運算，而是資料能否快速被存取與傳輸。

從大型語言模型訓練，到AI推論、代理式工作流程（Agentic Workflow），甚至未來的機器人與自駕車，龐大的資料流量正持續推升對高頻寬、低延遲、高容量記憶體的需求，讓記憶體產業從過去相對標準化、以價格競爭為主的市場，逐漸轉變為AI基礎建設的重要核心。

「仔細觀察AI應用服務會發現，大多數工作負載都被頻寬限制。」美光科技全球業務執行副總裁Mike Cordano認為，記憶體是突破（頻寬）瓶頸的關鍵，也讓AI競賽從晶片算力升級到記憶體與儲存架構的系統級競爭。這樣的產業洞察，也正是Mike在歷經二十餘年的儲存產業資歷，加上四年半的創投生涯後，選擇加入美光的核心原因之一：在AI重塑產業結構的浪潮下，記憶體將成為這波成長最直接的動能所在。

從零組件供應商到策略夥伴，記憶體共創時代來臨

AI的崛起，正在改變記憶體廠商與客戶的關係。

過去，記憶體產品多是標準化元件，客戶關注的是價格、供貨與規格；合作模式也偏向短期採購與交易導向。然而隨著AI系統規模愈來愈大，從資料中心、雲端平台到終端裝置，記憶體已經成為決定系統效能的重要關鍵，也因如此，越來越多企業將記憶體視為「策略性資產」，而非單純零組件。

Mike表示：「現在，我們跟客戶合作的時間跨度改變了，在產品正式上市前三到四年便開始合作，從系統架構階段就共同規劃未來需求。」例如，美光科技與NVIDIA共同研發的資料中心所使用的低功耗記憶體，便是雙方提前多年展開深度合作（co-design）的成果。

值得特別注意的是，美光科技除從技術層面與晶片製造商等夥伴共創產品，也在需求層面與客戶進行密切合作，例如，將過去較無約束力、期限僅一年的長期協議（LTA）轉變成為期五年、條款更具約束力的策略性客戶協議（SCA），藉此掌握客戶的未來需求，進而在技術層面做更深度的合作。Mike坦言，深度協同設計是高成本的投入，美光的做法是先廣泛進行市場感知，理解不同場域的需求方向，再與生態系統中的夥伴們展開客製化合作。

從裝置導向轉為Token導向，AI浪潮重寫記憶體成長模式

除了合作模式改變，更大的典範轉移是需求的改變。

Mike解釋，過去記憶體需求跟PC、手機跟伺服器出貨量息息相關，但在AI新世代，推動記憶體需求成長的核心不再是設備數量，而是AI模型所產生的運算與資料消耗量。「AI產業逐漸走向以『Consumption』或『Token』為主的新經濟模式，每一次的模型運算都需要消耗大量的記憶體跟儲存資源，這意味著，即使設備銷量成長趨緩，記憶體需求仍可能持續上升。」

更重要的是，AI應用正從資料中心外擴至手機、PC、自駕車與機器人等場域，儘管不同場域對記憶體的需求不盡相同，但是，Mike認為：所有AI裝置都存在三項共同需求：更快的速度、更大的容量，以及更高的能源效率。

正如Mike在受訪時提到的：「我們最大的挑戰，是如何與客戶和整個生態系保持高度一致，一方面創造供給與產能，另一方面持續推動技術創新。」可以預期，在接下來的五年，記憶體產業面臨的挑戰不僅僅是擴展產能，而是如何與客戶共同規劃需求、同步投入技術創新，而這也是美光科技積極經營AI生態體系的原因。

總的來說，AI帶來的改變，不只是算力提升，而是重新定義整個運算架構：過去，記憶體被視為支援運算的基礎元件；現在，則是決定AI效能、能源效率與創新速度的關鍵資源；當產業競爭從晶片性能延伸到資料流動效率，從裝置數量轉向Token消耗量，記憶體的重要性也將隨之水漲船高，對美光科技來說，這將是其從供應商走向AI生態系核心夥伴的關鍵角色轉變。