人人搶GPU,為何CPU需求突然爆了?一篇看懂AI代理時代真正的算力瓶頸
人人搶GPU,為何CPU需求突然爆了?一篇看懂AI代理時代真正的算力瓶頸

過去幾年裡,能夠提供算力的GPU(圖形處理器)幾乎吸引了科技界對AI基礎設施的全部目光。但近期AMD、英特爾都在財報會議上透露,CPU(中央處理器)業務的成長超乎他們的預期。隨著邁入AI代理時代、對愈來愈複雜的任務,AI需要的不再只是運算能力,更需要拆解任務、安排流程、調度工具,使擅長這些能力的CPU再次回到了舞台上。

根據《華爾街日報》報導,半導體IP龍頭Arm(安謀)就在近日的發表會上,端出一款為AI而生的全新CPU晶片。「人們認為CPU已經過時了。」執行長哈斯(Rene Haas)向觀眾表示,「隨著AI技術快速發展,我們需要愈來愈多CPU,大量的CPU。」

AI代理時代來臨,為何CPU重新受到重視?

關鍵一:AI運作模式出現根本改變

過去的AI主要以聊天機器人為代表,其運作邏輯相對單純:使用者輸入問題,由CPU進行基本處理後交由GPU完成推理,再將結果回傳。這種一個口令一個動作的互動模式,計算重心集中在GPU。

但到了代理AI時代,任務往往更為複雜,會被拆解為多個子任務,由多個代理同時執行,過程中可能會不斷呼叫工具、查詢資料庫撰寫與執行程式,甚至進行多輪自我反思與修正。這些涉及任務安排、資源調度與系統互動的工作,幾乎全落在CPU身上。

喬治亞理工學院和英特爾發表的一份研究指出,在這類AI代理工作負載中,CPU甚至可能占據整體延遲的過半比例,成為真正影響效率的關鍵環節。

英特爾 (Intel) 執行長陳立武
Intel近日也對外透露,CPU今年需求回暖,再次變得火熱。
圖/ Cisco

延伸閱讀:Arm 35年來首度推出自研CPU!跨入晶片市場卻說「不是來搶客戶的」,這盤棋怎麼下?

關鍵二:算力需求從講求爆發力轉為耐久賽

另外,聊天機器人的運算需求雖然龐大,但多集中於短時間內完成的推理或訓練任務。相較之下,AI代理需要長時間作業,甚至同時啟動多個任務流程。以前可能是一個偶爾呼叫AI,要求解答幾個問題,現在可能同時運行超過10個AI代理長時間作業。

例如OpenAI創始成員卡帕西(Andrej Karpathy)今年3月上旬發表的自動研究代理AutoResearch,便需要持續運行一整晚或更長時間;Anthropic Claude Code產品負責人切爾尼(Boris Cherny)曾分享,他日常工作中會同時開著複數Claude Code AI代理寫程式。

這種長時間的AI需求,直接推升了CPU的需求規模。哈斯指出,隨著AI代理能以遠高於人類的速度產生與處理請求,資料中心對CPU核心的需求可能在短時間內成長數倍,甚至供不應求也不奇怪。英特爾、AMD等CPU廠商也在財報與公開談話中承認,先前低估了這波需求的速度與規模。

lisa su
蘇姿丰在財報會議上指出,x86處理器在AI代理的工作負載上具有特別優勢。
圖/ Six Five Summit

AMD執行長蘇姿丰表示,CPU業務的成長超乎預期,看好2026年伺服器CPU市場有兩位數成長;英特爾財務長大衛.津斯納(David Zinsner)則認為,今年CPU又變得非常火熱。

延伸閱讀:曾被封「在富士山命中東京的縫衣針」,Nikon為何最終連EUV光刻機都造不出來?

AMD、英特爾都喊CPU需求正旺

當AI能力的關鍵從生成答案的準確度,轉變為衡量能否實際完成任務,整體效能便不再取決於單一晶片,而是取決於整個系統如何協同運作。在這樣的架構下,GPU仍負責高強度的推理計算,但CPU則成為串聯各個環節的中樞,負責決定何時呼叫模型、如何分配任務、以及如何與外部世界互動。

這或許也是為何輝達近年都開始強化自家CPU產品,甚至推出不搭載GPU的純CPU伺服器配置。Vera CPU便是輝達專為AI代理工作負載所打造的次世代處理器。在AI從訓練轉向推理、再進一步邁向代理化的過程中,CPU不再只是輔助角色,而是支撐整個系統運作的基礎設施。

當AI從被動回應問題的工具,演變為能主動執行任務的代理,運算需求比拼爆發力的短跑,轉變為重視長時間運轉效能的馬拉松。儘管GPU仍然是這股AI浪潮中最耀眼的明星,真正影響AI能否落地的,則是一度遭到忽視,如今再次變得不可或缺的CPU。

延伸閱讀:
Claude送免費額度!這三種方案都能領,怎麼領?要注意什麼?教學一次看
系統刷掉履歷也沒關係?哈佛研究「一句話」神助攻,她靠執著拿到Google夢幻職缺

資料來源:華爾街日報UncoverAlpha

本文初稿為AI編撰,整理.編輯/ 陳建鈞

往下滑看下一篇文章
五十年零售老店的 AI 轉型:良興攜手 Data-DI,打造專屬 AI Agent 賦能組織升級與知識傳承
五十年零售老店的 AI 轉型:良興攜手 Data-DI,打造專屬 AI Agent 賦能組織升級與知識傳承

1973 年,良興從台北光華商場一間 50 坪的電子零件行起家,半個世紀後蛻變為年營收破十億、毛利率 18% 的全通路 3C 品牌。不過,伴隨規模擴張帶來的不只是成長,還有日益加劇的管理摩擦。門市遍布全台、品項高達近萬筆,加上跨部門協作頻繁,行政耗損與知識傳承的缺口,成為這家老字號邁向下一階段的隱形天花板。

良興總經理賴志達回顧,從電子零件跨入電商、從線下擴張到 OMO 全通路、再到會員深度經營,作為 3C 零售業者,良興每一波轉型都走在同業前面。「現在輪到 AI 了。如何做到人機協作、AI 賦能,就是良興第五波轉型的核心命題。」

AI 自動化,從行政細節釋放組織戰力

轉型需要夥伴,而賴志達評估合作夥伴的標準很明確:技術能力是基本,產業知識(Domain Know-how)的深度是關鍵,回饋速度更是最終決定因素。2025 年的未來商務展上,良興選擇攜手 Data-DI,看重的正是其「策略諮詢 + AI 產品 + 落地陪跑」三軌並行的實施能力。

很快的,良興與 Data-DI 合作的第一個專案,就落在最耗費人力、卻最常被忽視的環節:會議記錄。「會議如果沒有產值、沒有效果,對企業很傷!」賴志達說,他每天參加許多會議,但跨單位協作的會議記錄長期依賴人工聆聽與逐字整理,常出現人名誤植、決策遺漏、行動項目無人追蹤,讓會議效果大打折扣。

數智聚(良興)_1.JPG
良興總經理賴志達
圖/ 數位時代

為了解決會議記錄的痛點,Data-DI 業務副總包威棣指出,在導入工具以前,團隊須先釐清三件事:場景是否具備落地價值、哪些流程節點適合 AI 介入,以及以終為始地掌握客戶真正想要的輸出樣貌。這些看似基本的提問,都決定 AI 能否精準落地。

確認方向後,良興與 Data-DI 成功導入 AI 會議記錄自動化系統,透過模糊比對技術校正語音辨識誤差,並將生成的雙版本報告直接回存至既有資料庫,不僅將行政人員從重複性作業中釋放,也為後續的 AI 應用奠定扎實的系統整合基礎。

賴志達分享,現在他去外部開會也會用這個工具,運用 AI 把錄音轉文字、再整理成簡報,很快就能完成,更令外部夥伴驚艷。「我認為這是很成功的案子!也提醒想做 AI 的老闆們,與其急著搞大架構,不如先從小工具讓公司嘗試 AI,建立理解和認同。」

AI 把資深員工大腦轉化為資產

補完行政效率的缺口後,良興接著切入更深層的營運核心:知識傳承。過去,頂尖銷售經驗長期鎖在少數資深員工身上,新人培訓耗時三個月,員工離職即帶走知識資本。與此同時,網路資訊發達,消費者進店前早已掌握基本規格,3C 通路門市人員要如何發揮更多價值?「我要門市的人不是死背規格,而是面對客人時,能用客人能理解的方式對話。」賴志達說。

為此,Data-DI 協助良興建置 AI 門市教育訓練系統。系統透過六大自動化關卡,串接教材生成、審核上架、AI 銷售對練與成績回報,主管僅需在核心節點審核;員工透過手機語音對練,系統依口吻、專業度、回應力等維度自動評分。賴志達表示,目標是將新人培訓期縮短至一個月,讓數十年累積的銷售智慧轉化為可複製、可傳承的企業資產。

然而,要讓這套系統真正運作,得先解決兩個根本問題:資料從哪裡來?以及訓練如何更準確?

「以前大數據時代,講的是資料要大、全、細、實;現在 AI 要做到的是準(準確)、合(合乎場景)。」包威棣說。良興不同廠商提供的素材品質參差不齊,Data-DI 除了整合內部資料,也補充加入外部市場評測內容以填補空缺,再透過人員審核機制過濾雜訊,搭配 agent 架構的多層步驟與知識限定,確保系統能精準提煉對應品類的訓練素材。

數智聚(良興)_2.JPG
Data-DI 業務副總包威棣
圖/ 數位時代

賴志達則看得更遠:「這些教育訓練的內容,也將成為公司未來訓練機器人很好的原料。」

Data-DI 陪跑型顧問,帶領企業 AI 轉型

良興與 Data-DI 合作的兩個專案中,雙方共同克服了長提示詞邏輯混亂、AI 幻覺污染知識庫、逐字稿讀取逾時等技術難題。邁向下一步,賴志達表示,公司各部門很早就建置 Power BI 報表,但數據豐富不等於決策清晰。「數據是土壤,如果沒有梳理,就沒有用了。」因此,他的下一個目標是活化數據資本、推動行銷自動流,以精實的人力持續驅動成長。

數智聚(良興)_3.jpg
良興攜手 Data-DI 推動 AI 落地,以小步快跑模式為企業創造變革。
圖/ 數位時代

包威棣則從顧問視角歸納兩個觀察:AI 導入需要高層認同、由上而下推進,像賴志達這樣持續引領良興走在業界前端的決策者,就是不可或缺的推手;而單點工具的價值,終究要累積成組織體質的轉變才算真正落地。「就像會議記錄改變了會議當責的結構,人員訓練改變了知識傳承的方式。從點狀應用走向企業變革,這種決策思路才是 AI 真正深入落地產生價值的關鍵。」

最後,對於仍在觀望AI應用的企業,他則建議:「未來 AI 導致的落差只會愈來愈大,人會變成超級工作者,企業會變成超級企業。開始做就對了,先做一個三個月的小任務,降低落差、再急起追上。」從痛點切入、小步快跑,讓組織在實作中累積對 AI 的理解與信任,這正是 Data-DI 的陪跑哲學。

有關更多 Data-DI 相關資訊,請查詢網站:https://www.data-di.com/

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
代理式商務連動百兆商機
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓