「台灣有著全世界最強、最堅強的AI供應鏈。」台積電14日舉辦技術論壇,台積電業務開發資深副總經理暨副共同營運長張曉強以這句話點出台灣在AI產業鏈中的位置,也進一步說明,當AI需求從訓練走向推論,半導體產業將迎來下一波成長動能。
過去幾年,業界普遍預期全球半導體營收可能在2030年突破1兆美元。隨著AI需求快速升溫,張曉強認為,全球半導體營收達到這個規模的時間可能比原先預期更早。到了2030年,AI加上HPC(高效能運算)對半導體市場的貢獻可能達到50%;智慧手機仍會維持約20%的重要占比,車用、IoT、通訊等應用也會持續扮演關鍵角色。
《數位時代》整理張曉強在技術論壇中的三個觀察,從市場需求、晶片架構到終端應用,帶讀者看懂台積電如何判斷AI對半導體產業的下一階段影響。
觀察一:token飛輪啟動,推論將成AI需求最大推手
過去幾個月間,市場曾反覆討論AI是否已經出現泡沫,不過,從台積電的觀察來看,AI需求仍在持續升高。是什麼推動AI持續成長?張曉強給出的答案是:AI正從訓練走向推論,進入真正創造收入與商業價值的階段。
過去幾年,AI熱潮的核心多半集中在大型模型訓練。訓練需要龐大算力,但模型訓練完成後,若要真正進入企業流程、消費者服務與自動化任務,關鍵會轉向推論。使用者每一次提問、企業每一次呼叫模型、AI Agent每一次執行任務,都需要模型即時產生答案或行動,而這些過程都會消耗token。
「Token提升生產力,生產力創造價值,價值產生收入,收入再投入更多算力、創造更多token。」張曉強形容,這會形成一個自我強化的學習循環,也就是推動AI需求持續擴大的「飛輪」。簡單來說,如果AI真的能幫企業省時間、提高效率、創造收入,企業就會更願意花錢使用AI;用得越多,背後需要的推論算力就越大,雲端服務商也會繼續投資更多晶片與資料中心。
token經濟正在崛起,這是張曉強觀察客戶需求時最直接的感受。他提到,自己經常見客戶,「只有一個方向,就是(需求)越來越高」。
觀察二:從黃仁勳五層蛋糕往下切,「晶片層」還能再拆成三層
token推動AI需求持續成長,背後需要什麼技術支撐?輝達執行長黃仁勳曾用「五層蛋糕」形容AI產業結構,層層堆疊出AI基礎建設;而台積電看見的,則是其中「晶片」這一層內部,還有哪些技術細節仍在快速發展中。
「大家常用黃仁勳的『五層蛋糕』來描繪AI產業。第一層是電力,接著是晶片、資料中心、模型,最後是應用。」張曉強說:「但我是做晶片的,如果把『晶片』這一層放大來看,裡面看到的就不只是一層,而是很多層。」
他表示,晶片層內部至少有三個重要方向:第一是負責算力與能源效率的電晶體運算,第二是負責把不同晶片與記憶體整合起來的先進封裝與3DIC,第三則是解決資料傳輸瓶頸的高速連接。
第一層是先進邏輯運算,也就是台積電持續推進的先進製程。AI無論是訓練或推論,都需要更高效能與更高能源效率的運算晶片;當晶片必須在相同面積與功耗限制下提供更多算力,電晶體技術仍是最底層的競爭關鍵。
第二層是晶片整合。隨著AI從訓練走向推論,系統對低延遲、高頻寬記憶體存取的需求愈來愈高,單靠先進製程微縮已經不夠,必須把不同晶片更緊密地整合在一起。他表示:「未來不只是把不同晶片整合在一起,還要用3D的方式把多個運算單元堆疊起來。」
張曉強特別提到,現在AI架構普遍仰賴先進運算晶片,搭配CoWoS與HBM,但隨著推論應用擴大,市場會需要更低延遲、更高頻寬的記憶體存取方式。他表示,台積電已經開始與DRAM夥伴合作,未來希望透過3DIC技術,把DRAM直接堆疊到運算晶片上,以達到高頻寬、低延遲的存取效果。
第三層則是高速連接。張曉強表示:「談到運算,離不開電子;但談到訊號傳輸,離不開光子。」在AI資料中心裡,不只單顆晶片要算得快,晶片與晶片之間也必須以高頻寬、低延遲的方式連接。當資料量持續放大,用光訊號取代部分電訊號傳輸,就成為解決未來資料中心瓶頸的重要方向。
他特別強調:「大家要記住一個詞,叫COUPE,緊湊型通用光子引擎。」這是台積電提出的光子引擎技術,透過3DIC技術,將PIC(光子積體電路)與EIC(電子積體電路)垂直封裝在更靠近邏輯晶片的位置,目標是縮短訊號傳輸距離,提升晶片與晶片之間的資料傳輸效率。
觀察三:不只在資料中心,手機、智慧眼鏡與汽車也具備潛力
雖然目前AI晶片焦點集中在資料中心,但張曉強提醒,AI應用不會只停留在雲端,也會逐漸擴散到邊緣裝置。
他特別提到,最重要的邊緣裝置仍是手機。除了手機,智慧眼鏡也是潛力裝置。他指出,人類與外界互動最有效的訊息來源之一是視覺,因此智慧眼鏡有機會把使用者與資料中心的智慧連結起來。不過,要讓智慧眼鏡真正從笨重的裝置走向日常配戴,仍需要更好的運算、連接與低功耗顯示技術支撐。
車用則是另一個方向。張曉強指出,汽車過去幾年已經從以機械設備為主,轉向電子設備。電動車的電池與馬達逐漸標準化後,差異化會落在自動駕駛與車載娛樂體驗,而這些能力都建立在半導體之上。
至於物理AI與機器人,張曉強則把它視為半導體未來的新前沿。人形機器人需要視覺、感測、運動控制與運算能力,牽涉物理世界與虛擬世界的整合。這些應用目前仍在早期階段,但它們都指向同一個趨勢:AI運算正在從資料中心外溢到更多終端裝置,半導體需求也會跟著進入更多場景。
延伸閱讀:
陳立武做對了什麼?英特爾股價如何在一年多內翻漲近5倍?
00403A掛牌首日成交逾449億!這檔台股主動ETF在紅什麼?00403A成分股、配息懶人包
