遠傳資訊長胡德民：AI轉型第一步不是買GPU，從高頻問題下手，1,000人用就是成果|數位時代 BusinessNext

電信業AI轉型第一步不是買GPU！遠傳資訊長胡德民：先解高頻問題，1,000人用就是董事會的成就

遠傳資訊長胡德民談 AI 轉型方法論：不靠砸錢買設備，而是從第一線高頻問題切入，逐步建立數據治理與可複製成效。

找出既有架構下的轉型路徑

胡德民曾任台灣微軟專家技術部暨微軟技術中心總經理，2021 年 8 月轉戰遠傳，出任資訊長暨執行副總經理，同時掌管資訊系統建置與企業數位轉型推動。他形容兩種職場的落差：「在外商，沒有機會去牽涉到財務報表」，但加入遠傳後必須直接面對董事會與財報壓力。

電信業靠著用戶每月固定繳費維持現金流，欠費即可斷話的機制也讓壞帳風險相對可控，卻也讓胡德民必須在「既有的人力、既有的成本結構、既有的系統」中找出創新方法，而非靠額外資源砸錢轉型。

此外，遠傳投入 AI 轉型的根本動機，還有來自電信本業的生存壓力。九百萬用戶與超過七百家門市的龐大維運需求，是遠傳必須持續優化效率的基本盤；而 499 元低資費之亂已逼退兩家電信業者，讓胡德民直言：「當產業改變時，不改變就是最大的風險。」對遠傳而言，AI 不是錦上添花的選配工具，而是攸關生存的必要投資。

胡德民也指出，企業導入 AI 時常見的誤區：「AI 伺服器可以買、GPU 可以買，但 AI 的成效跟轉型不能買」。花錢只是轉化過程的起手式，後續仍須面對組織意識、場景探索與數據累積等長期工程。

先解高頻問題，數據治理是 AI 能否落地的關鍵

胡德民提出的方法論是：先解決第一線的高頻問題，再談董事會層級的大議題。他將企業任務分為「窄而深」與「寬而淺」兩類：前者如 ESG 供應商盤查、合約審閱等，知識範圍雖窄但操作頻繁，AI 能將原本耗時 4 小時的工作縮短至 5 至 10 分鐘；後者如人資、法務諮詢，問題分散但需兼顧辨識與回答的雙重準確度，挑戰更高。

數據治理則是另一道關卡。遠傳需整合超過 400 套核心系統、6,000 多台主機的數據，才能讓 AI 真正理解企業營運全貌。胡德民也透露，盤點公司內部 AI 流程數量時意外發現「3,700 隻」AI 自動化流程正在運作，促使團隊著手建立治理框架，避免 AI 應用在缺乏規範下野蠻生長。

在對外應用上，遠傳將內部 AI 能力打包為「遠傳智靈」平台，並延伸至打詐預警、friDay 影音的個人化推薦、智慧城市充電樁維運，以及與淡江大學合作打造 AI 雲端校園等場景，逐步將內部驗證過的 AI 能力轉化為對外輸出的商業服務。

先求小勝，再談變現

胡德民強調，AI 投資能否在財報上產生效益，是企業導入過程中最容易被忽略、卻最受董事會重視的一環。他提出具體建議：從小場景切入解決實際問題，數據規模決定 AI 應用的天花板，並將每項應用成果量化——「一個小場景能夠 1,000 名員工使用，就是董事會值得去邀功的成就」。

對胡德民而言，AI 最終是一面鏡子：企業在導入過程中必須改變的不只是工具，而是組織自身的意識與流程。遠傳 2025 年全年合併營收達 1,103 億元、每股盈餘（EPS）3.81 元，雙雙創下歷史新高，某種程度印證了這條路徑的成效。能力終將創造價值，但這條路需要從一個個高頻問題開始，逐步累積成可複製的方法論。

從生成式AI訓練、推論，到代理式工作流程（Agentic Workflow）與未來的實體AI，資料流量正以指數級成長，讓記憶體從過去支援運算的配角躍升為決定AI效能與能源效率的關鍵角色。

全球知名的半導體與微電子技術分析機構TechInsights指出，AI競爭正逐漸從晶片算力擴展到記憶體架構設計能力，加速「Computational Memory」等新架構興起；在這波浪潮中，深耕記憶體與儲存技術數十年的美光科技，正與關鍵夥伴展開深度協同設計，包含攜手NVIDIA共同開發適用於新世代資料中心的低功耗記憶體技術，在AI基礎建設的新賽局中成為不可或缺的關鍵。

當GPU不再是唯一主角，記憶體為何躍上AI舞台中央？

過去，半導體的焦點多圍繞在晶片，例如CPU、GPU跟AI加速器等，市場普遍認為，晶片運算能力是左右科技產業發展速度的關鍵，但在進入生成式AI世代後，產業逐漸發現另一個事實：真正限制AI效能的瓶頸不是運算，而是資料能否快速被存取與傳輸。

從大型語言模型訓練，到AI推論、代理式工作流程（Agentic Workflow），甚至未來的機器人與自駕車，龐大的資料流量正持續推升對高頻寬、低延遲、高容量記憶體的需求，讓記憶體產業從過去相對標準化、以價格競爭為主的市場，逐漸轉變為AI基礎建設的重要核心。

「仔細觀察AI應用服務會發現，大多數工作負載都被頻寬限制。」美光科技全球業務執行副總裁Mike Cordano認為，記憶體是突破（頻寬）瓶頸的關鍵，也讓AI競賽從晶片算力升級到記憶體與儲存架構的系統級競爭。這樣的產業洞察，也正是Mike在歷經二十餘年的儲存產業資歷，加上四年半的創投生涯後，選擇加入美光的核心原因之一：在AI重塑產業結構的浪潮下，記憶體將成為這波成長最直接的動能所在。

從零組件供應商到策略夥伴，記憶體共創時代來臨

AI的崛起，正在改變記憶體廠商與客戶的關係。

過去，記憶體產品多是標準化元件，客戶關注的是價格、供貨與規格；合作模式也偏向短期採購與交易導向。然而隨著AI系統規模愈來愈大，從資料中心、雲端平台到終端裝置，記憶體已經成為決定系統效能的重要關鍵，也因如此，越來越多企業將記憶體視為「策略性資產」，而非單純零組件。

Mike表示：「現在，我們跟客戶合作的時間跨度改變了，在產品正式上市前三到四年便開始合作，從系統架構階段就共同規劃未來需求。」例如，美光科技與NVIDIA共同研發的資料中心所使用的低功耗記憶體，便是雙方提前多年展開深度合作（co-design）的成果。

值得特別注意的是，美光科技除從技術層面與晶片製造商等夥伴共創產品，也在需求層面與客戶進行密切合作，例如，將過去較無約束力、期限僅一年的長期協議（LTA）轉變成為期五年、條款更具約束力的策略性客戶協議（SCA），藉此掌握客戶的未來需求，進而在技術層面做更深度的合作。Mike坦言，深度協同設計是高成本的投入，美光的做法是先廣泛進行市場感知，理解不同場域的需求方向，再與生態系統中的夥伴們展開客製化合作。

從裝置導向轉為Token導向，AI浪潮重寫記憶體成長模式

除了合作模式改變，更大的典範轉移是需求的改變。

Mike解釋，過去記憶體需求跟PC、手機跟伺服器出貨量息息相關，但在AI新世代，推動記憶體需求成長的核心不再是設備數量，而是AI模型所產生的運算與資料消耗量。「AI產業逐漸走向以『Consumption』或『Token』為主的新經濟模式，每一次的模型運算都需要消耗大量的記憶體跟儲存資源，這意味著，即使設備銷量成長趨緩，記憶體需求仍可能持續上升。」

更重要的是，AI應用正從資料中心外擴至手機、PC、自駕車與機器人等場域，儘管不同場域對記憶體的需求不盡相同，但是，Mike認為：所有AI裝置都存在三項共同需求：更快的速度、更大的容量，以及更高的能源效率。

正如Mike在受訪時提到的：「我們最大的挑戰，是如何與客戶和整個生態系保持高度一致，一方面創造供給與產能，另一方面持續推動技術創新。」可以預期，在接下來的五年，記憶體產業面臨的挑戰不僅僅是擴展產能，而是如何與客戶共同規劃需求、同步投入技術創新，而這也是美光科技積極經營AI生態體系的原因。

總的來說，AI帶來的改變，不只是算力提升，而是重新定義整個運算架構：過去，記憶體被視為支援運算的基礎元件；現在，則是決定AI效能、能源效率與創新速度的關鍵資源；當產業競爭從晶片性能延伸到資料流動效率，從裝置數量轉向Token消耗量，記憶體的重要性也將隨之水漲船高，對美光科技來說，這將是其從供應商走向AI生態系核心夥伴的關鍵角色轉變。