Semicon West 2024會場內，半導體業者以「高牆」形容用於AI的高效能運算面對的技術挑戰。兩堵巨牆橫在面前，必須跨越：在能源消耗方面，高耗電之牆擋住去路；而在AI相關資訊處理，記憶體高牆（memory wall）同樣令開發人員頭痛。
過去二十年，電腦運算能力成長了九萬倍；但記憶體頻寬相對只增長了30倍。生成式AI要傳送、處理文字、影音、編碼、翻譯等等各類的巨量資料，恰恰對上了記憶體之牆。近來引發業界關注的HBM高頻寬記憶體，正因AI需要面對如此衍生的需求而生。
多元整合潮流，颳進保守的車用領域
不管是晶圓製程向兩奈米以下更精細節點推進、或是 HBM 記憶晶片開發與量產、Infiniband或光傳導等等資料傳輸技術的推出，單一領域的技術演進已不足以滿足生成式AI爆炸性的全面性能需求。
日月光集團的William Chen就在主持封裝異質整合（heterogenious integration）議程時，以「封裝就是晶片」（The package is the chip）形容新一代的晶片定義已超越了傳統的晶片。
新近宣布或推出的輝達H100以及AMD的BI300都是明證。台積電的CoWos或是三星的Cube，都是以所謂 2.5D或3D的立體封包架構，將不同元件高度整合在「晶片」內。輝達熱賣的H100晶片內不僅是一個台積電4奈米、800億個電晶體的GPU，更搭配六個HBM 記憶晶片，而明年要交到客戶手中的輝達B100則近乎是將兩個完整晶片包在一起。
類似的多元整合潮流也正快速席捲汽車電子領域。此次Semicon West年會的智能行動（Smart Mobility）議程，其內容完全聚焦小晶片（chiplet）。
整個汽車業已在今年完全擁抱小晶片技術途徑，揚棄原本引擎控制、倒車、定速等各自分立的處理系統，而將不同功能的小晶片集積整合到一個車用的控制運算、通訊娛樂整合平台上。
汽車業向來在新技術取用上最保守謹慎、極度在乎安全，但在電動化、數位化、邁向自動駕駛等多重壓力下作此改變，Robert Bosch 公司 Crylle Brandon 操著濃厚的歐陸腔調感嘆：「我們都戰戰兢兢」。
抓住AI世紀機會，台廠必需全員動員
為能滿足AI、車旅等市場的高度緊迫需求，半導體產業也努力善用AI這個工具。不僅在場的車用電子業者提及用AI提高小晶片開發成效，台積電等代工製造業者也早已招聘晉用AI與機器學習人才協助確保運作順暢與品質。
而更上游的EDA設計工具系統廠商經驗更已證明，AI 可將原本花費以週計算的驗證時間縮短到數小時。連在Semicon West分享研發經驗的半導體材料企業，也不意外地將運用AI視為加快探索高效率半導體新一代材料的利器。
半導體業要抓住AI的世紀機會，更要克服迫在眉睫的 AI技術與營運挑戰，必需全員動員，由上游至下游，無一可置身事外。
台積電登高一呼，率台灣攻頂兆元美金產業
為順利將CoWoS系列佈局完成，確保晶片開發與量產順暢，台積電已號召成立3DFabric聯盟，將相關的夥伴聚攏入列。
台積電資深協理Lluis Paris對滿室業界人士秀出投影片，從EDA設計服務、智財權、記憶體、基板、以至外包測試等等領域的協作廠商，全數列入，務必溝通、行動有序。
台積電在異質整合這條不歸路佈下3DFabric聯盟這一步棋，正是2022年第四季以來，半導體業因應 ChatGPT語言模型問世而爆發AI高度成長的最佳寫照。
全體總動員，攻關突破，跨越技術與營運高牆，往2030年或2032年的兆元美金產業跨步。
《數位時代》長期徵稿，針對時事科技議題，需要您的獨特觀點，歡迎各類專業人士來稿一起交流。投稿請寄edit@bnext.com.tw，文長至少800字，請附上個人100字內簡介，文章若採用將經編輯潤飾，如需改標會與您討論。
（觀點文章呈現多元意見，不代表《數位時代》的立場）
責任編輯：李先泰
