美光衝刺AI,看好HBM記憶體年複合成長率衝50%!台灣將是先進封裝重心
美光衝刺AI,看好HBM記憶體年複合成長率衝50%!台灣將是先進封裝重心

記憶體大廠美光(Micron)認為,記憶體最壞的情況已經過去,接下來將全力投入生成式AI帶動的記憶體市場。台灣美光董事長盧東暉表示,台灣將是美光先進封裝的研發中心,也是美光全球唯一進行先進封裝的據點。其中,與AI高度相關的HBM高頻寬記憶體,預計至2025年年複合成長率將直衝50%。

台灣美光董事長盧東暉及美光先進封裝技術開發處副總裁Akshay Singh
圖/ 邱品蓉攝影

生成式AI帶來大把商機,記憶體將在其中扮演關鍵角色,再厲害的GPU(繪圖處理器),如果沒有透過記憶體儲存數據亦無法運作。美光副總裁暨先進封裝主管Akshay Singh就指出,當前客戶最在乎的,就是記憶體密度。

生成式AI帶動HBM需求!美光1-Beta讓散熱更佳

HBM指的是將DRAM像積木一樣層層堆疊,再透過先進封裝的方式包起來,使其密度增加、但體積維持不變甚至更小,以此達到更好的儲存效果。盧東暉表示,雖然聽起來很簡單,但技術上卻是相當複雜。

盧東暉表示,先前美光已經領先業界,推出24GB的全新HBM3 Gen 2高頻寬產品,符合當前AI爆發需要大量快速運算的需求。目前該產品已經送樣,預期2024年第一季將開始量產,每瓦效能較前幾代產品提升了2.5倍。

台灣美光董事長盧東暉
台灣美光董事長盧東暉表示,台灣將是美光先進封裝的研發中心,也是美光全球唯一進行先進封裝的據點。
圖/ 邱品蓉攝影

Akshay指出,HBM3 Gen 2由於採用最先進製程1-beta,目前只有將8層的DRAM堆疊起來,和競爭對手還在使用1-alpha因此必須堆疊12層相比,由於層數較少,具備散熱效果較佳的優勢。未來則會加重和晶圓代工大廠的合作,共同推出解決方案。

無論是超微(AMD)最新的MI300系列還是輝達(NVIDIA)剛推出GPU產品GH200,HBM的數量都達到前所未有的多。Akshay補充,雖然當HBM還在發展初期,但爆發力強。預期至2025年,用於生成式AI和機器學習的HBM,年複合成長率將達到50%。

台灣將成HBM生產基地!美光還要帶本土供應商出海

台灣在美光的全球策略中,將是先進封裝的研發和生產基地。Akshay表示,台灣掌握了全球七成的半導體製造,也擁有先進邏輯晶片技術,加上生態系完整,於美光未來布局中扮演重要角色。

美光先進封裝技術開發處副總裁Akshay Singh
美光副總裁暨先進封裝主管Akshay Singh認為HBM爆發力強,預期至2025年,用於生成式AI和機器學習的HBM,年複合成長率將達到50%。
圖/ 邱品蓉攝影

以DRAM技術進程來看,目前1-beta於去年十月先於日本生產,今年也已經導入美光台中A3廠區進行量產。盧東暉表示,預期未來最先進的1-gamma製程,也會在台灣生產。

延伸閱讀:美光1-gamma技術前進日本!獲15億美元補助,生產次世代記憶體晶片

盧東暉也指出,美光將在9月底首次在台灣舉辦供應商大會,希望能串連台灣本土材料、化學品、零組件和設備等供應商,藉由美光的認證機制,協助供應商前往美國、日本和其他海外市場,協助眾多台灣供應鏈一同出海,強化和本土供應鏈間的連結。

責任編輯:林美欣

往下滑看下一篇文章
AI 同事愈來愈多怎麼管?Going Cloud 用「多代理系統」,助企業打造最強營運大腦
AI 同事愈來愈多怎麼管?Going Cloud 用「多代理系統」,助企業打造最強營運大腦

ChatGPT、Gemini、Claude 等 AI 通用工具問世後,「AI」無疑成了現今全球最熱門的關鍵字。儘管許多企業已經開始導入相關應用,多數卻仍停留在文書輔助、單一聊天機器人(Chatbot)運用等單點階段。但隨著商業環境快速變化、缺工日益嚴峻,企業需要的不再只是一個會回答問題的對話框,而是具備「自主決策與行動執行」能力的「代理式 AI」(Agentic AI)。

Going Cloud 和 IDC 合作發布的《多代理系統崛起 打造敏捷韌性企業》報告便指出,如今「AI First」時代來臨,企業的 AI 應用正從輔助性質走向自主營運,有 80% 的企業期望藉此提升生產力,70% 的企業希望能更輕鬆處理複雜任務,還有 66% 的企業期望透過多模型來提升整體效能。

代理式 AI 愈來愈多,必須納入組織管理

但究竟什麼是「代理式 AI」?

「過去人們使用生成式 AI 時,需要一步步下達明確指令,但現在使用者只要賦予代理式 AI(Agentic AI)明確目標,它就能自己理解前因後果、進行推演,甚至能去呼叫 API 完成任務。」Going Cloud 總經理黃柏淞點出差異。
而當企業內部的代理式 AI 日益增加,比方說,人資部門有專屬 AI、業務部門有報價 AI、法務部門有合約審閱 AI,跨部門協作的複雜度也隨之飆升,「如果你是管理者,你就會意識到,必須把 AI 當成一個人,納入組織裡來管理。」黃柏淞強調,能統籌、指揮多個 AI 代理協作的「多代理系統」(Multi-Agent System, MAS),正是為了解決這個痛點而生。

簡單來說,MAS 就像虛擬的企業總部,負責協調、治理負責不同任務的 AI 代理、工具和功能模組。在讓 AI 自主決策的同時,各個 AI 代理間也能共享資訊、協調分工。MAS 還具備極佳的擴展性和分散性,企業可以依照業務需求,隨時新增、更改 AI 代理,能大幅提升營運韌性。

雖然企業普遍意識到,代理式 AI 已經蔚為風潮,但實際部署時,仍面臨諸多挑戰。《多代理系統崛起 打造敏捷韌性企業》報告便顯示,資安疑慮、預算限制、缺乏 IT 支援分別是企業最擔憂的三大問題,「企業最擔心串聯多個 AI 代理時,要是權限沒控管好,很容易有機敏資料外洩的風險。」黃柏淞提到,在此情形下,Going Cloud 推出了以「分層式多代理架構」為核心的解決方案。系統會由一個「主管代理」(Supervisor Agent)作為主要決策層,底層則串聯了各個負責單一任務的「任務代理」(Task Agents)。

以 Going Cloud 服務的大型金融企業為例,假設一位 VIP 客戶登入銀行 APP,詢問 AI 客服:「我想申請房貸,請問現在利率多少?另外,請幫我評估把我目前的科技股基金贖回當作頭期款適不適合?」如果是傳統的聊天機器人,可能會因為問題太複雜直接轉接人工客服。但在 Going Cloud 的分層式 MAS 架構裡,「主管代理」接收到任務後,會先拆解再指派負責「房貸利率」的「任務代理」,去後台抓取客戶的信用評分和最新房貸專案。同時,這位虛擬主管還會指派「理財分析」的「任務代理」,去檢視客戶最近科技股基金的績效並預測市場。最後,再由「主管代理」統整資訊,一併給出一份完整且客製的財務建議,「分層式 MAS 能確保整個過程的指令被清楚傳遞,而且因為權限分層管理,房貸 Agent 不會碰到不該碰的理財資料,符合金融業的風險控管與合規要求。」黃柏淞說。

目前 Going Cloud 已經協助知名金融機構導入 MAS 架構。以實際成效來看,多代理客服平台能降低 50% 以上的人工客服工作負擔,並讓回覆使用者問題的平均時間減少 60% 以上;FAQ 知識導向與 API 資料調用的正確率,在調用得當的情況下,也都達到9成以上的成功率。黃柏淞指出,金融、製造、顧問等有複雜跨部門協作需求的大型企業,都是亟需採用代理式 AI 的產業。

#0 AI同事愈來愈多怎麼管?Going Cloud用「多代理系統」,助企業打造最強營運大腦
提到目前與台灣領先金融集團的合作進程,黃柏淞表示因為金融機構的特殊性,需要縝密的全方位服務,從前期討論到技術導入,大約需要半年到九個月的時間。
圖/ 數位時代

懂雲也懂企業痛點,助員工無痛升級「AI 小組長」

但為什麼 Going Cloud 能為企業打造出如此高效的代理式 AI 底層架構?一方面,Going Cloud 先前服務過亞洲最大 AI 多媒體科技集團科科科技(KKCompany Technologies),奠定具備理解和服務大型企業的經驗,且自 2022 年創立起,就鎖定服務架構最複雜的大型企業市場。同時,Going Cloud 是全台首家榮獲 AWS 生成式 AI 服務能力認證及 ISO27001、ISO27701 雙重國際驗證的雲端產業專家,此成就彰顯 Going Cloud 在堅實的資訊安全基礎上,深化了對個人資料保護的承諾,為客戶提供符合國際標準的資料保障,強化雲端服務領導地位。另外,Going Cloud 還能為企業量身打造底層 AI 平台,提供 AI 策略方針定調、雲端架構設計、Agent 任務規劃、效能優化等一站式服務。

對於準備跨入「AI 商用階段」的企業,黃柏淞建議,釐清應用場景,比追求最新技術更重要,「唯有清晰定義痛點,才能讓強大的 MAS 平台真正落地。」
他特別提到,導入 MAS 系統不只是 IT 部門的責任,其實更像企業的升級轉型,「未來的知識工作者,不能只是單純『接球就打』,每個人都將成為『小組長』或『專案經理』。」例如員工不必再親自打開 excel 敲公式、解讀報表,應該要學著指派手下的「數位同事」去執行。員工的核心價值,將從過去繁瑣、重複性任務的執行,轉移到前期的目標定義、流程規劃,以及後期的決策判斷和審核把關。

AI 技術飛速推進,企業間的競爭已從「要不要用 AI?」,升級成「如何管理與協作多個 AI?」。透過建構靈活、安全且具高擴展性的多代理系統,企業不僅能解放員工的生產力,更能在瞬息萬變的市場中,打造敏捷、韌性兼具的營運大腦。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
AI全球100+台灣20
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓