9月初台灣舉辦2024國際半導體展（SEMICON Taiwan），可說是近年來最盛大、最熱鬧的一次展會。眾多重量級講者發表關鍵報告與產業動態，我也在此與大家分享我的3點觀察心得。
首先，在展前記者會時，日月光執行長吳田玉提及，在他40年職場生涯中，這是第一次看到硬體來不及供貨，趕不上軟體的強大需求。目前台灣各公司AI硬體接單都交不了貨，缺貨時間至少會持續2年，這是他在半導體產業中不曾見過的景象。
硬體增速趕不上軟體！為什麼？
原因一： AI「10倍速成長」
硬體趕不上軟體需求，過去確實少見，因為產業發展的大部分時間，都是殺手級應用難覓，但硬體產能很多，硬體即使缺貨，也都只有很短暫的時間。如今AI以10倍速成長，就算硬體不斷投資躍進，也是立即被軟體消耗掉。
原因二：後摩爾時代，限制硬體提升速度
硬體出現瓶頸，除了生成式AI進展太快，另一個關鍵原因是主宰半導體發展近60年的摩爾定律開始撞牆。過去晶片功能每1年半到2年就提升1倍，軟體應用即使不斷推進，硬體也大都能滿足軟體需求。
但如今進入後摩爾時代，製程發展到3奈米、2奈米後，線寬已達物理極限，功能增速減緩，需要整合更多技術，例如小晶片、2.5D、3D封裝、材料與光學等技術，也限制硬體提升的速度。
原因三：升級技術愈來愈難
硬體增速遇到另一個挑戰，是技術愈來愈難、投資金額加大，高階製程技術屏障愈墊愈高，如今全球只有台積電一家能跨過鴻溝，供應當然受限。
微軟Azure硬體系統和基礎設施副總裁Rani Borkar，也在大師論壇演講中提到，AI軟體發展增速，過去是每2年成長10倍，就算摩爾定律維持2年成長2倍，AI軟體增速也是硬體的5倍，這是硬體為何跟不上軟體的主因。
其次，硬體增速還要面對另一個大考驗。展會中幾乎每個講者都提出警告，當AI發展亟需高速運算，但高速運算逃不掉高耗電與散熱問題，這已成AI產業發展的天險，是需要共同面對並積極解決的問題。
展會期間，我也訪問台大前校長李嗣涔，他提到生成式AI的蓬勃進展至少引發3大憂慮，包括AI發展可能超過人類智慧，甚至出現取代或奴役人類的情況，其次是AI將大量取代白領階級的工作，造成白領失業等社會問題，最後是青少年大腦神經正處於發展階段，但AI可能形成「大腦外包」現象，對青少年的衝擊相當大。
因此，李嗣涔也預測，由於生成式AI需仰賴高速運算，但高速運算又太耗電，或許，電力會成為減緩AI發展的主要障礙。若人類無法降低AI耗電，或無法發展出更有效率的新能源或新技術，電力或許反而變成降低AI帶來危機或悲劇的解方。
最後，展會中另一個焦點則是高頻寬記憶體（HBM），台韓半導體產業也將因為AI時代進入合縱聯盟的新局面。
南韓2大記憶體龍頭三星和SK海力士，今年首次派出最高階主管李禎培及金柱善來台參加大師論壇，過去2大龍頭幾乎不曾同場出現，但為了此次台灣半導體展首度破例，也透露出一個全新產業競局正在展開。
台韓意外因AI破冰，台積結親SK海力士
過去，記憶體屬於標準產品，和邏輯晶片的關係並不明顯，也沒有必要將2種晶片封裝在一起，但AI伺服器系統愈搞愈大，晶片功能、面積、散熱及耗能問題愈來愈嚴重，將系統單晶片（SoC）與HBM封裝在一起，成為解決問題的必要手段。
因此，當輝達與台積電合作規畫AI伺服器系統時，透過輝達的AI GPU晶片，加上台積電的先進製程及先進封裝技術CoWoS，最後要將HBM與SoC晶片封裝在一起。也因為這個趨勢，HBM廠商必須和輝達的晶片設計與台積電的先進製程與封裝密切合作，記憶體與晶圓代工這2大產業因此被AI拉在一起，打破過去台、韓業者不相往來、獨立運作的模式。
在這種微妙的大趨勢中，台積電與輝達陣營優先選擇與SK海力士、美光合作，至於與台積電在晶圓代工上競爭的三星，當然就被擺在一邊。在先進製程與高階封裝的發展上，台積電成為主導半導體方向的領頭羊，也讓向來與台灣競爭多過合作的韓商，必須經常來台灣拜碼頭，例如SK海力士社長金柱善，就在論壇中說今年已來台灣10次了，原因就是與台積電緊密合作。
在此加碼另一個幕後故事。由於SK海力士與台積電密切合作，因此SK海力士很早就決定參與台灣半導體展，後來三星得知，也主動表達參與意願，甚至在大師論壇的座談部分，原本金柱善要和台積電共同營運長米玉傑同台討論，但由於三星也要求參加，後來金柱善就決定退出，最後由李禎培上場。2大韓商王不見王的死敵態度，由此可見一斑，但也可以從中看到半導體產業最新的競合關係。
延伸閱讀：氣冷、液冷、浸沒式三種散熱差在哪？一文看懂AI大商機：關鍵技術、概念股有哪些？
AI高速運算關鍵！CXL、DRAM、HBM記憶體差在哪？記憶體概念股有哪些？
