白話科技|NPU是什麼?跟CPU、GPU差別是?圖解AI PC最重要關鍵字
白話科技|NPU是什麼?跟CPU、GPU差別是?圖解AI PC最重要關鍵字

在挑選電腦時,一些消費者會比較各機種的CPU擁有多少個核心,對於電玩遊戲較講究的,則偏好搭載GPU的機型,以追求更精緻的視覺效果、更流暢的操作體驗。

隨著邁入「AI PC元年」,各筆電廠相繼推出自家的AI PC,而業者在介紹產品效能時,不時會提到「NPU」一詞。究竟NPU是什麼,和CPU、GPU有哪些不同?各科技廠目前在NPU發展又是如何?

CPU、GPU、NPU快速看懂!都是處理器,到底差在哪?

用比喻來解釋CPU、GPU、NPU的差別,可以想像CPU是能力高強的「博士生」,可解決複雜且多樣的任務,但只能照順序一次解決一個問題;GPU是一群「數學系大學生」,擅長加減乘除,可以同時處理大量的運算工作(平行運算);NPU則是專攻AI運算一技之長的「技職生」,遍布在AI PC、AI手機、智慧穿戴等各種裝置中。

以下針對CPU、GPU、NPU分別來介紹:

CPU 中央處理器(Central Processing Unit)

CPU被視為是電腦的「大腦」,負責執行作業系統、應用程式運作所需的命令與程序,也是決定程式執行速度的關鍵,不論是瀏覽網頁或處理文書作業,都會受到CPU效能的影響。

英特爾(Intel)及超微(AMD)是生產CPU的領導業者,根據市調機構Jon Peddie Research報告指出,2024年第一季內建顯示卡的PC CPU市場,英特爾維持領先地位拿下82%市占率,超微則是18%。

GPU 圖形處理器(Graphics Processing Unit)

自1990年代電玩遊戲興起,由於遊戲畫面同時要顯示成千上萬個像素,每個像素又都有自己的色彩、光線強度及移動變化,原為通用運算設計的CPU在運算上變得難以負荷。於是,專長於繪圖運算的GPU應運而生。

在硬體架構上,GPU具有數百至數千個算數邏輯單元(Arithmetic Logic Unit,ALU),得以處理眾多平行執行的數學運算,加快繪圖渲染、影片編碼解碼等處理,也格外適合執行AI的深度學習演算法,GPU因而在AI浪潮下大放異彩。

輝達(NVIDIA)是GPU領域的開創者及龍頭,1999年發售的「GeForce 256」被譽為「世界上第一款GPU」。2007年,輝達推出便於GPU加速運算的CUDA軟體架構。據研調公司TechInsights分析,輝達2023年的資料中心GPU出貨量市占率高達98%,遠超英特爾、超微等對手。

NVIDIA_Geforce_256.jpg
世界上第一個GPU「GeForce 256」。
圖/ 維基百科

NPU 神經網路處理器(Neural-network Processing Unit)

GPU扮演資料中心、AI伺服器不可或缺的要角,不過邊緣運算浪潮下日趨火紅的NPU,則是專門為加速裝置端的AI運算所打造。

NPU具有兩大技術特點: 第一個是模擬人類神經網路的運作方式,同樣擅長平行運算處理,並適當地分配晶片內的「任務流」,減少閒置的運算資源

第二個是經由「近記憶體運算」 (將處理器盡量靠近DRAM,以減少資料的傳輸延遲以及功率消耗) 或「記憶體內運算」 (將簡單的邏輯運算移至記憶體陣列中) ,實現儲存及運算的一體化,降低運算過程的能耗、加快存取速度,從而提升AI運算的執行速度和效率

相較於CPU及GPU,低功耗、高效能的NPU格外適合處理裝置端的AI推論任務,包括影像辨識、自然語言處理、物件偵測等應用。

近年,各大PC及手機晶片廠為提升AI運算能力,紛紛在晶片設計中納入NPU,並有不少新創搶進NPU領域,較早投入的企業,包括國內的耐能智慧、中國的寒武紀、以色列的Hailo、南韓的DeepX等。

如何決定要使用CPU、GPU或NPU?

CPU、GPU、NPU各有所長,並且相輔相成,對於裝置端的AI PC、AI手機晶片,通常藉由將三者整合為系統單晶片(SoC)的方式,提高能源效率及效能。

英特爾去年發表Core Ultra晶片(代號「Meteor Lake」)時,便直言「這是40年來PC處理器架構上最大的躍進」,因為這是該公司首次將NPU整合到系統單晶片設計中。NPU專門處理特定的AI工作負載,便可將CPU及GPU用於執行其他任務。

英特爾Meteor Lake .jpg
英特爾Core Ultra晶片(代號Meteor Lake),首次將NPU整合到系統單晶片設計中。
圖/ 英特爾

晶片大廠高通在其部落格一篇針對NPU的專文介紹則提到,CPU適合用於低延遲、順序性的小型模型運算,GPU擅長高精準度的圖像處理平行運算,NPU則可透過低功耗達到穩定的高性能AI運算,持續運行LLM(大型語言模型)、LVM(大型視覺模型)等模型。

NPU廠商|主要PC、手機晶片廠NPU發展最新動態

如果說NPU是AI的專用引擎,TOPS便是衡量這個引擎馬力的單位,根據微軟對「Copilot+PC」的規格要求,需符合NPU算力不少於40TOPS的規格,掀起了新一波PC處理器效能大戰,也料將成為消費者選購AI PC的一大指標。

延伸閱讀:AI PC中常見的TOPS是什麼?1TOPS是多少算力?TOPS越大越好嗎?

英特爾

英特爾即將在今年9月上市的Lunar Lake,NPU算力達到48 TOPS,相較前一代Meteor Lake處理器的11.5TOPS提升3倍。

Intel NPU growth.jpg
英特爾技術人員於5月底在台舉行的Intel Tech Tour中,介紹英特爾2018年至2024年每一代NPU的每秒兆次操作(TOPs)算力增長
圖/ 孫嘉君攝影

超微

超微執行長蘇姿丰在2024台北國際電腦展上,端出第3代Ryzen AI處理器,NPU算力高達50 TOPS,在目前的NPU算力競爭暫居領先。根據超微秀出的數據,其性能表現超越高通Snapdragon X Elite、英特爾Lunar Lake以及蘋果的M4晶片。

高通

至於在Copilot+PC最早鳴槍起跑、推出首波產品的高通,Snapdragon X Elite的NPU算力則是45 TOPS。

qualcomm computex npu.jpg
高通執行長艾蒙(Cristiano Amon)於2024台北國際電腦展專題演講,提及NPU在現今AI運算的重要性
圖/ 孫嘉君攝影

高通資深副總裁暨行銷長麥奎爾(Don McGuire)先前接受《數位時代》專訪指出,即使競爭對手未來推出TOPS更強的NPU,高通仍有產品領先的優勢,將會持續跟微軟合作,提升客製化程度。

聯發科

聯發科於2023年底推出的天璣9300,其NPU效能已達到48 TOPS,而今年10月即將發布的新一代天璣9400,預期將會更進一步推升NPU算力。

蘋果

蘋果於今年5月的發布會中,出乎外界預料地將新一代M4晶片,首發於最新的iPad Pro,NPU算力為38 TOPS,尚未達微軟Copilot+PC的40 TOPS門檻。

在MacBook筆電方面,外媒預期,蘋果將在2024年內將MacBook Pro更新到M4系列晶片,至於MacBook Air則因為剛升級至M3晶片不久,預計需留待明年春季才會更新。

延伸閱讀:IBM一通電話,意外成日本挑戰2奈米契機!Rapidus能成全村希望嗎?2關鍵決定成敗

資料來源:Digital Trends英特爾AWS高通

責任編輯:林美欣

本文不授權媒體夥伴轉載

往下滑看下一篇文章
資安齊發!合勤集團三品牌同台,展現整合防禦實力
資安齊發!合勤集團三品牌同台,展現整合防禦實力

資安已成企業營運的基本保障,合勤集團整合旗下兆勤科技、黑貓資訊與勤晁科技,打造從基礎設施到智慧防護的完整資安體系,助企業穩健邁向AI新時代。

隨著企業加速推動數位轉型、駭客持續進化攻擊手法,資安早已不是可有可無的保險,而是企業日常營運的「剛性需求」。看準資安市場商機,合勤集團(Zyxel Group)近年來積極透過旗下3家子公司—兆勤科技、黑貓資訊與勤晁科技佈局資安防線。在日前登場的CYBERSEC 2025台灣資安大會上,更以「資安特勤,偕同出擊」為主題,展示一個涵蓋AI 驅動的雲地整合防禦、智慧資安維運服務到高規格跨域網路安全與加解密的完整防禦體系,不僅吸引大批與會者駐足,成為展場人氣最旺的攤位之一,更充分展現合勤集團在資安領域的強勁實力與市場吸引力。

兆勤科技祭出雙軌策略,助攻中小企業資安升級

根據統計,2024年的目標式勒索資安事件,高達90%是以中小企業為攻擊目標,顯見,資安防護不再是大型企業才需要關注的課題,中小企業的資安需求同樣迫切且不容忽視。

「然而,中小企業因為缺乏資安專業人才及預算有限,不易做好資安管理,再加上近年來網路攻擊手法多變且複雜,更加深應對威脅的難度,」兆勤科技總經理蔡明見一語道出中小企業的資安挑戰。為此,兆勤科技祭出「簡化管理、強化服務能量」的雙軌策略,持續精進雲端網路安全解決方案,讓中小企業能夠以最少資源完成資安佈署工作。

在簡化管理上,兆勤科技以Nebula雲端管理平台為核心,透過以下3大機制,達到簡化管理負擔的目標。首先,在Nebula平台導入雲地共融技術,讓雲地兩端的安全策略及網路設定可以同步,突破傳統網路設備管理模式只能本地或雲端二選一的限制,也為企業網路管理提供更多彈性,企業可以先採用本地管理,待習慣雲端操作時,再一鍵轉移到雲端,無需重新配置、也不需更換設備,大幅降低轉型門檻,打造跨平台的一致性防護。

合勤科技
兆勤科技總經理蔡明見
圖/ 數位時代

其次,Nebula平台除了可以集中管理防火牆、交換器、無線AP等各個網路設備,設定介面亦相當簡單好操作,透過各種方式例如:事先預設基礎設定、掃描條碼即可將設備加入網路等,讓使用者即便不是專業IT人員,可以輕鬆完成設定、掌握整體網路狀態,大幅降低學習門檻與提高管理效率。

第三、Nebula平台可以自動接收韌體更新與漏洞修補程式,避免因人力不足而忽略系統維護與更新的風險。

在強化服務能量上,兆勤科技積極輔導經銷或通路夥伴建立服務能量,滿足中小企業對網路代管服務的需求。「這是能為中小企業、夥伴與兆勤創造3贏的做法,」蔡明見說明,藉由Nebula平台可以遠端管理的特性,使經銷或通路夥伴能夠一次管理上百個客戶的網路設備,並以訂閱制收取服務費用,成功由傳統硬體銷售轉型為網路代管服務提供者,同時也讓中小企業得以使用網路代管服務,近來,兆勤更推出pay-as-you-go金流方案,協助夥伴降低資金壓力,加速拓展服務市場。

黑貓資訊破除IT與資安斷層,強化內部防禦

合勤集團旗下專注於資安顧問及託管服務的黑貓資訊,自2017年由合勤投控公司資安部門分拆出來後,便聚焦在解決企業 IT 與資安協同作業的挑戰。「企業內網管理的盲點有很多,但IT與資安的協作斷層,是目前最常見也最迫切要解決的問題,」黑貓資訊總經理游政卿說。

IT與資安雖然密不可分,但實務上,企業通常將IT與資安劃分成2個團隊,且彼此的工作重點也不相同,IT 團隊專注資源調度、確保系統穩定與效能,資安團隊則忙於應對警報和威脅,這種分工模式不只讓攻擊者有機可乘,更會令IT團隊誤以為資安只會加重工作負擔。

合勤科技
黑貓資訊總經理游政卿
圖/ 數位時代

「資安的價值,應該從協助IT部門解決問題開始,而不是增加負擔。」游政卿強調,因此,資安團隊首先要做的就是「與IT同在」,從理解IT團隊的需求、解決痛點到取得信任,雙方才能進一步協作,共同應對日益複雜的網路威脅。

以IT資產盤點為例,這是IT團隊相當重要又很耗時費力的工作,而資安團隊可以透過端點安全解決方案(EDR)進行資產盤點,先協助IT團隊掌握所有終端設備的型號、使用狀況與更新需求,再延伸到端點安全防護議題,如此不僅減輕IT負擔,也讓資安建置更具體有感。

除了IT與資安的協作斷層外,包括資產與風險能見度不足、過度依賴邊界防禦,忽略內部橫向移動的風險、以傳統基於特徵碼的靜態防禦機制為主,無法有效應對快速變化的動態威脅、對於第三方軟硬體與的安全把關不足等,亦是企業內網管理常見的盲點。

對此,黑貓資訊憑藉深厚技術底蘊,自主研發多元資安解決方案與服務。在解決方案端,推出在如同樂隊指揮家的智慧XDR防護平台,可協調整合多源資安日誌,並結合AI技術大幅提昇威脅偵測的精準度,亦有可部署於地端(On-premise)的SIEM 解決方案,滿足企業對資料落地、合規與客製化的需求。在服務端,不僅提供24 X7全年無休的MDR/SIEM/SOC 託管式監控服務,更同步提供滲透測試、弱點掃描、供應鏈風險檢測等服務。

值得一提的是,黑貓資訊目前正積極申請ISO 17025資通安全檢測實驗室認證,導入NIST SP 800-115測試流程,協助企業確保所導入的資安方案具備可驗證性與國際標準接軌能力。

在數位轉型成為企業生存關鍵的當下,資安已成為業務穩定與品牌信任的保證。合勤集團透過兆勤科技的雲地整合資安服務、黑貓資訊的智慧防護與專業服務,以及勤晁科技的高規安全方案「偕同出擊」,建構出一條完整而具彈性的資安防線,讓不同需求的客戶都能享有最合適與全面的資安保障,更有信心邁向AI新時代。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
AI全球100+台灣50
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓