眾星雲集,在台灣資訊業六月天空。
全球資訊業重頭戲「世界資訊科技大會」,今年首次由台灣主辦,包含微軟董事長蓋茲、思科執行長錢伯斯(John Chambers)、惠普執行長菲奧瑞娜(Carly Fiorina)和Linux小巨人紅帽(Redhat)執行長羅勃楊(Robert Young)等業界重量級人士,麻省理工學院的梭羅和德托羅斯、去年諾貝爾經濟學得主孟岱爾等知名學者,以及香港貿易發展局、美國政府電子商務諮詢委員會和英國電子商務部等政府部門負責人,以及少見的歐洲國家參加廠商代表,都將與會發表演講。預計在此次大會的重頭戲,仍將放在後PC時代的「通訊、網路、媒體」融合(convergence),台灣聽眾將可見到博大深遠的未來藍圖,當然,台灣的科技產業也將在這場變局中取得不少商機。
當然,有本土味的馬英九、施振榮和苗豐強,將代表我國出席。這等堅強卡司,堪稱今年度全球資訊業最豐富的活動,光是把與會代表所負責的公司價值加起來,至少超過二兆美金,這還沒有算入他們所能影響的決策和採購能力。
有趣的是,這場盛會也將是科技業「新經濟」、「舊經濟」的一場交會,其中「網路傳教士」之稱的錢伯斯與「道瓊指數最美麗CEO」的菲奧瑞娜,以及「小紅帽」楊與蓋茲的同台,更被視為焦點。錢伯斯就任五年,把思科的公司價值提昇了120倍,甚至超越微軟,是矽谷的新企業代表,40出頭的菲奧瑞娜則是要為矽谷最老的企業HP打拼「中興」大業;蓋茲與楊則同為公司股價暴跌而傷透腦筋,兩人力拼的未來戰場,則是電子商務企業軟體應用平台。其中微軟與思科更分別舉辦了各自的「會外會」,蓋茲與錢伯斯分別將與國內企業20與60位CEO交換「高峰意見」。
今年是台灣科技業的「奧斯卡」年,繼六月後,九月於圓山飯店又將有三場國際科技公司高峰聚會,新政府上台,是否意味著台灣要躍入另一個高成長跑道呢?台灣要走入國際社會,經濟實力是最佳工具,特別是深具國際競爭力的資訊電子業。一場九二一大地震下來,已讓全球體認台灣重要性。這一次把這麼多重要人物聚集在台灣,再加上他們所發表的願景,震撼力恐不亞於九二一。
從生成式AI訓練、推論,到代理式工作流程(Agentic Workflow)與未來的實體AI,資料流量正以指數級成長,讓記憶體從過去支援運算的配角躍升為決定AI效能與能源效率的關鍵角色。
全球知名的半導體與微電子技術分析機構TechInsights指出,AI競爭正逐漸從晶片算力擴展到記憶體架構設計能力,加速「Computational Memory」等新架構興起;在這波浪潮中,深耕記憶體與儲存技術數十年的美光科技,正與關鍵夥伴展開深度協同設計,包含攜手NVIDIA共同開發適用於新世代資料中心的低功耗記憶體技術,在AI基礎建設的新賽局中成為不可或缺的關鍵。
當GPU不再是唯一主角,記憶體為何躍上AI舞台中央?
過去,半導體的焦點多圍繞在晶片,例如CPU、GPU跟AI加速器等,市場普遍認為,晶片運算能力是左右科技產業發展速度的關鍵,但在進入生成式AI世代後,產業逐漸發現另一個事實:真正限制AI效能的瓶頸不是運算,而是資料能否快速被存取與傳輸。
從大型語言模型訓練,到AI推論、代理式工作流程(Agentic Workflow),甚至未來的機器人與自駕車,龐大的資料流量正持續推升對高頻寬、低延遲、高容量記憶體的需求,讓記憶體產業從過去相對標準化、以價格競爭為主的市場,逐漸轉變為AI基礎建設的重要核心。
「仔細觀察AI應用服務會發現,大多數工作負載都被頻寬限制。」美光科技全球業務執行副總裁Mike Cordano認為,記憶體是突破(頻寬)瓶頸的關鍵,也讓AI競賽從晶片算力升級到記憶體與儲存架構的系統級競爭。這樣的產業洞察,也正是Mike在歷經二十餘年的儲存產業資歷,加上四年半的創投生涯後,選擇加入美光的核心原因之一:在AI重塑產業結構的浪潮下,記憶體將成為這波成長最直接的動能所在。
從零組件供應商到策略夥伴,記憶體共創時代來臨
AI的崛起,正在改變記憶體廠商與客戶的關係。
過去,記憶體產品多是標準化元件,客戶關注的是價格、供貨與規格;合作模式也偏向短期採購與交易導向。然而隨著AI系統規模愈來愈大,從資料中心、雲端平台到終端裝置,記憶體已經成為決定系統效能的重要關鍵,也因如此,越來越多企業將記憶體視為「策略性資產」,而非單純零組件。
Mike表示:「現在,我們跟客戶合作的時間跨度改變了,在產品正式上市前三到四年便開始合作,從系統架構階段就共同規劃未來需求。」例如,美光科技與NVIDIA共同研發的資料中心所使用的低功耗記憶體,便是雙方提前多年展開深度合作(co-design)的成果。
值得特別注意的是,美光科技除從技術層面與晶片製造商等夥伴共創產品,也在需求層面與客戶進行密切合作,例如,將過去較無約束力、期限僅一年的長期協議(LTA)轉變成為期五年、條款更具約束力的策略性客戶協議(SCA),藉此掌握客戶的未來需求,進而在技術層面做更深度的合作。Mike坦言,深度協同設計是高成本的投入,美光的做法是先廣泛進行市場感知,理解不同場域的需求方向,再與生態系統中的夥伴們展開客製化合作。
從裝置導向轉為Token導向,AI浪潮重寫記憶體成長模式
除了合作模式改變,更大的典範轉移是需求的改變。
Mike解釋,過去記憶體需求跟PC、手機跟伺服器出貨量息息相關,但在AI新世代,推動記憶體需求成長的核心不再是設備數量,而是AI模型所產生的運算與資料消耗量。「AI產業逐漸走向以『Consumption』或『Token』為主的新經濟模式,每一次的模型運算都需要消耗大量的記憶體跟儲存資源,這意味著,即使設備銷量成長趨緩,記憶體需求仍可能持續上升。」
更重要的是,AI應用正從資料中心外擴至手機、PC、自駕車與機器人等場域,儘管不同場域對記憶體的需求不盡相同,但是,Mike認為:所有AI裝置都存在三項共同需求:更快的速度、更大的容量,以及更高的能源效率。
正如Mike在受訪時提到的:「我們最大的挑戰,是如何與客戶和整個生態系保持高度一致,一方面創造供給與產能,另一方面持續推動技術創新。」可以預期,在接下來的五年,記憶體產業面臨的挑戰不僅僅是擴展產能,而是如何與客戶共同規劃需求、同步投入技術創新,而這也是美光科技積極經營AI生態體系的原因。
總的來說,AI帶來的改變,不只是算力提升,而是重新定義整個運算架構:過去,記憶體被視為支援運算的基礎元件;現在,則是決定AI效能、能源效率與創新速度的關鍵資源;當產業競爭從晶片性能延伸到資料流動效率,從裝置數量轉向Token消耗量,記憶體的重要性也將隨之水漲船高,對美光科技來說,這將是其從供應商走向AI生態系核心夥伴的關鍵角色轉變。
