人人搶GPU,為何CPU需求突然爆了?一篇看懂AI代理時代真正的算力瓶頸
人人搶GPU,為何CPU需求突然爆了?一篇看懂AI代理時代真正的算力瓶頸

過去幾年裡,能夠提供算力的GPU(圖形處理器)幾乎吸引了科技界對AI基礎設施的全部目光。但近期AMD、英特爾都在財報會議上透露,CPU(中央處理器)業務的成長超乎他們的預期。隨著邁入AI代理時代、對愈來愈複雜的任務,AI需要的不再只是運算能力,更需要拆解任務、安排流程、調度工具,使擅長這些能力的CPU再次回到了舞台上。

根據《華爾街日報》報導,半導體IP龍頭Arm(安謀)就在近日的發表會上,端出一款為AI而生的全新CPU晶片。「人們認為CPU已經過時了。」執行長哈斯(Rene Haas)向觀眾表示,「隨著AI技術快速發展,我們需要愈來愈多CPU,大量的CPU。」

AI代理時代來臨,為何CPU重新受到重視?

關鍵一:AI運作模式出現根本改變

過去的AI主要以聊天機器人為代表,其運作邏輯相對單純:使用者輸入問題,由CPU進行基本處理後交由GPU完成推理,再將結果回傳。這種一個口令一個動作的互動模式,計算重心集中在GPU。

但到了代理AI時代,任務往往更為複雜,會被拆解為多個子任務,由多個代理同時執行,過程中可能會不斷呼叫工具、查詢資料庫撰寫與執行程式,甚至進行多輪自我反思與修正。這些涉及任務安排、資源調度與系統互動的工作,幾乎全落在CPU身上。

喬治亞理工學院和英特爾發表的一份研究指出,在這類AI代理工作負載中,CPU甚至可能占據整體延遲的過半比例,成為真正影響效率的關鍵環節。

英特爾 (Intel) 執行長陳立武
Intel近日也對外透露,CPU今年需求回暖,再次變得火熱。
圖/ Cisco

延伸閱讀:Arm 35年來首度推出自研CPU!跨入晶片市場卻說「不是來搶客戶的」,這盤棋怎麼下?

關鍵二:算力需求從講求爆發力轉為耐久賽

另外,聊天機器人的運算需求雖然龐大,但多集中於短時間內完成的推理或訓練任務。相較之下,AI代理需要長時間作業,甚至同時啟動多個任務流程。以前可能是一個偶爾呼叫AI,要求解答幾個問題,現在可能同時運行超過10個AI代理長時間作業。

例如OpenAI創始成員卡帕西(Andrej Karpathy)今年3月上旬發表的自動研究代理AutoResearch,便需要持續運行一整晚或更長時間;Anthropic Claude Code產品負責人切爾尼(Boris Cherny)曾分享,他日常工作中會同時開著複數Claude Code AI代理寫程式。

這種長時間的AI需求,直接推升了CPU的需求規模。哈斯指出,隨著AI代理能以遠高於人類的速度產生與處理請求,資料中心對CPU核心的需求可能在短時間內成長數倍,甚至供不應求也不奇怪。英特爾、AMD等CPU廠商也在財報與公開談話中承認,先前低估了這波需求的速度與規模。

lisa su
蘇姿丰在財報會議上指出,x86處理器在AI代理的工作負載上具有特別優勢。
圖/ Six Five Summit

AMD執行長蘇姿丰表示,CPU業務的成長超乎預期,看好2026年伺服器CPU市場有兩位數成長;英特爾財務長大衛.津斯納(David Zinsner)則認為,今年CPU又變得非常火熱。

延伸閱讀:曾被封「在富士山命中東京的縫衣針」,Nikon為何最終連EUV光刻機都造不出來?

AMD、英特爾都喊CPU需求正旺

當AI能力的關鍵從生成答案的準確度,轉變為衡量能否實際完成任務,整體效能便不再取決於單一晶片,而是取決於整個系統如何協同運作。在這樣的架構下,GPU仍負責高強度的推理計算,但CPU則成為串聯各個環節的中樞,負責決定何時呼叫模型、如何分配任務、以及如何與外部世界互動。

這或許也是為何輝達近年都開始強化自家CPU產品,甚至推出不搭載GPU的純CPU伺服器配置。Vera CPU便是輝達專為AI代理工作負載所打造的次世代處理器。在AI從訓練轉向推理、再進一步邁向代理化的過程中,CPU不再只是輔助角色,而是支撐整個系統運作的基礎設施。

當AI從被動回應問題的工具,演變為能主動執行任務的代理,運算需求比拼爆發力的短跑,轉變為重視長時間運轉效能的馬拉松。儘管GPU仍然是這股AI浪潮中最耀眼的明星,真正影響AI能否落地的,則是一度遭到忽視,如今再次變得不可或缺的CPU。

延伸閱讀:
Claude送免費額度!這三種方案都能領,怎麼領?要注意什麼?教學一次看
系統刷掉履歷也沒關係?哈佛研究「一句話」神助攻,她靠執著拿到Google夢幻職缺

資料來源:華爾街日報UncoverAlpha

本文初稿為AI編撰,整理.編輯/ 陳建鈞

往下滑看下一篇文章
健細胞科技攜手中興大學,推出「Cancell Insight」醫療AI 輔助決策平台,消弭醫療數位鴻溝
健細胞科技攜手中興大學,推出「Cancell Insight」醫療AI 輔助決策平台,消弭醫療數位鴻溝

為打破醫療 AI 高昂的算力與人力門檻,健細胞科技與國立中興大學資管系蔡孟勳教授團隊產學合作,正式推出「Cancell Insight 醫療 AI 模型平台」(https://insight.cancell.ai)。該平台以 SaaS(軟體即服務)模式提供一站式託管,讓先進的醫療 AI 資源不再侷限於大型醫學中心,有效消弭基層與城鄉間的醫療數位鴻溝。

軟體硬實力:打通 AI 落地最後一哩路

過去,許多由學術或生技單位開發的優秀模型因缺乏部署工具,往往淪為「實驗室孤兒」;而中小型醫院也常因 IT 建置成本對 AI 望之卻步。

健細胞科技創辦人周子堯Victor憑藉其UIUX規劃、程式開發技術背景,親自領軍AI 模型研發團隊,建構 Cancell Insight 平台。他強調,智慧醫療落地必須具備「無感化部署」、「持續性反覆運算」與「大眾化使用」三大要素。Cancell Insight 包辦了從數據清潔、標註到模型訓練與部署的底層工程,醫療機構僅需提供去識別化數據,繁瑣技術難題全由平台解決,讓 AI 真正回歸醫療「輔助」本質。

專為高壓臨床環境設計,七大核心優勢重新定義臨床運作效率

健細胞科技
Cancell Insight提供涵蓋數據清洗、精準標註、模型訓練至部署託管的一站式解決方案
圖/ 健細胞科技

【行動化與 LINE 整合】 支援 LINE 一鍵登入,醫師可直接透過官方帳號上傳檔案呼叫模型並查閱紀錄,實現真正的醫療行動化。

【隨選模型與高相容性】 提供多元 AI 模型庫供彈性訂閱。每組模型具備獨立 API Key,可無縫串接醫院現有 HIS 系統或 APP。

【團隊協作共享】 首創以「團隊」為服務單位,跨科別成員可同步共享模型權限、數據分析與歷史紀錄,提升研究協調效率。

【自動化數據處理】 支援模板批次上傳,內建自動校準系統,若格式不符將自動轉檔、去識別化與重構,大幅解放 IT 人力。

【雙模態 AI 解析】 深度整合 Dr.Cell AI (Gemini) 多模態能力,不僅輸出預測結果,更提供進階臨床解說與治療準則問答,提升決策參考價值。

堅守醫療嚴謹性,推動醫療平權與永續商業價值

在追求科技創新的同時,Cancell Insight 嚴格把關醫療安全性。平台所有 AI 模型輸出結果均定位為「臨床決策輔助」與「研究檢測輔助」,透過「非直面病患」的機制,確保所有 AI 建議皆由專業醫療人員進行最終判讀。

透過 SaaS 專案訂閱模式,Cancell Insight 成功以合理經費取代了傳統的高額硬體採購,讓中小型醫院與偏鄉診所也能具備同等的診斷實力,落實真正的醫療平權。對研發端而言,平台不僅是加速醫療科技商用化、縮短變現週期的推進器,其高度結合日常工作流的特性,更有效減少了醫護的行政負荷,緩解當前醫療量能短缺的危機。

【進階部署】啟動臨床試驗,Docker 地端部署確保資安與時效

為進一步驗證臨床效益並符合醫療機構對資訊安全的高標準,Cancell Insight 即將與各大醫療機構攜手展開「臨床研究計畫」。針對有高度資安控管需求的醫院,平台提供彈性的 Docker 地端模型部署(On-premise Deployment) 方案。第一線的醫師與護理師可直接在院內本機端快速啟動 AI 模型,安全地注入病患臨床數據後,即可「零時差」取得預測結果。此舉不僅確保了敏感醫療數據「不出院」,完美符合嚴格的醫療法規與病患隱私要求,更能實際驗證 Cancell Insight 在真實高壓的臨床場域中,能即時、有效地提供精準的決策輔助。

健細胞科技
部署輕量化模型於地端,支援離線模式使用模型,完善保護企業敏感資料
圖/ 健細胞科技

展望未來,擴大智慧醫療生態圈

透過 SaaS 模式取代高額硬體採購,Cancell Insight 致力落實醫療平權。未來,健細胞科技將以此平台為樞紐,尋求跨界深度合作:

醫療機構: 提供各級別醫院隨選即用的 AI 助理及地端部署選項。
學術/生技: 協助實驗室模型落地,並優化新藥研發與臨床試驗的數據處理效率。
商業保險: 整合 AI 評估工具,提供更精準的健康管理與風險控管服務。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
AI全球100+台灣20
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓