在挑選電腦時，一些消費者會比較各機種的CPU擁有多少個核心，對於電玩遊戲較講究的，則偏好搭載GPU的機型，以追求更精緻的視覺效果、更流暢的操作體驗。
隨著邁入「AI PC元年」，各筆電廠相繼推出自家的AI PC，而業者在介紹產品效能時，不時會提到「NPU」一詞。究竟NPU是什麼，和CPU、GPU有哪些不同？各科技廠目前在NPU發展又是如何？
NPU處理器用在哪？CPU、GPU、NPU，到底差在哪？
用比喻來解釋CPU、GPU、NPU的差別，可以想像CPU是能力高強的「博士生」，可解決複雜且多樣的任務，但只能照順序一次解決一個問題；GPU是一群「數學系大學生」，擅長加減乘除，可以同時處理大量的運算工作（平行運算）；NPU則是專攻AI運算一技之長的「技職生」，遍布在AI PC、AI手機、智慧穿戴等各種裝置中。
以下針對CPU、GPU、NPU分別來介紹：
CPU 中央處理器（Central Processing Unit）
CPU被視為是電腦的「大腦」，負責執行作業系統、應用程式運作所需的命令與程序，也是決定程式執行速度的關鍵，不論是瀏覽網頁或處理文書作業，都會受到CPU效能的影響。
英特爾（Intel）及超微（AMD）是生產CPU的領導業者，根據市調機構Jon Peddie Research報告指出，2024年第一季內建顯示卡的PC CPU市場，英特爾維持領先地位拿下82%市占率，超微則是18%。
GPU 圖形處理器（Graphics Processing Unit）
自1990年代電玩遊戲興起，由於遊戲畫面同時要顯示成千上萬個像素，每個像素又都有自己的色彩、光線強度及移動變化，原為通用運算設計的CPU在運算上變得難以負荷。於是，專長於繪圖運算的GPU應運而生。
在硬體架構上，GPU具有數百至數千個算數邏輯單元（Arithmetic Logic Unit，ALU），得以處理眾多平行執行的數學運算，加快繪圖渲染、影片編碼解碼等處理，也格外適合執行AI的深度學習演算法，GPU因而在AI浪潮下大放異彩。
輝達（NVIDIA）是GPU領域的開創者及龍頭，1999年發售的「GeForce 256」被譽為「世界上第一款GPU」。2007年，輝達推出便於GPU加速運算的CUDA軟體架構。據研調公司TechInsights分析，輝達2023年的資料中心GPU出貨量市占率高達98%，遠超英特爾、超微等對手。
NPU 神經網路處理器（Neural-network Processing Unit）
GPU扮演資料中心、AI伺服器不可或缺的要角，不過邊緣運算浪潮下日趨火紅的NPU，則是專門為加速裝置端的AI運算所打造。
NPU具有兩大技術特點： 第一個是模擬人類神經網路的運作方式，同樣擅長平行運算處理，並適當地分配晶片內的「任務流」，減少閒置的運算資源 。
第二個是經由「近記憶體運算」 （將處理器盡量靠近DRAM，以減少資料的傳輸延遲以及功率消耗） 或「記憶體內運算」 （將簡單的邏輯運算移至記憶體陣列中） ，實現儲存及運算的一體化，降低運算過程的能耗、加快存取速度，從而提升AI運算的執行速度和效率 。
相較於CPU及GPU，低功耗、高效能的NPU格外適合處理裝置端的AI推論任務，包括影像辨識、自然語言處理、物件偵測等應用。
近年，各大PC及手機晶片廠為提升AI運算能力，紛紛在晶片設計中納入NPU，並有不少新創搶進NPU領域，較早投入的企業，包括國內的耐能智慧、中國的寒武紀、以色列的Hailo、南韓的DeepX等。
如何決定要使用CPU、GPU或NPU？
CPU、GPU、NPU各有所長，並且相輔相成，對於裝置端的AI PC、AI手機晶片，通常藉由將三者整合為系統單晶片（SoC）的方式，提高能源效率及效能。
英特爾去年發表Core Ultra晶片（代號「Meteor Lake」）時，便直言「這是40年來PC處理器架構上最大的躍進」，因為這是該公司首次將NPU整合到系統單晶片設計中。NPU專門處理特定的AI工作負載，便可將CPU及GPU用於執行其他任務。
晶片大廠高通在其部落格一篇針對NPU的專文介紹則提到，CPU適合用於低延遲、順序性的小型模型運算，GPU擅長高精準度的圖像處理平行運算，NPU則可透過低功耗達到穩定的高性能AI運算，持續運行LLM（大型語言模型）、LVM（大型視覺模型）等模型。
NPU廠商｜主要PC、手機晶片廠NPU發展最新動態
如果說NPU是AI的專用引擎，TOPS便是衡量這個引擎馬力的單位，根據微軟對「Copilot+PC」的規格要求，需符合NPU算力不少於40TOPS的規格，掀起了新一波PC處理器效能大戰，也料將成為消費者選購AI PC的一大指標。
英特爾
英特爾即將在今年9月上市的Lunar Lake，NPU算力達到48 TOPS，相較前一代Meteor Lake處理器的11.5TOPS提升3倍。
超微
超微執行長蘇姿丰在2024台北國際電腦展上，端出第3代Ryzen AI處理器，NPU算力高達50 TOPS，在目前的NPU算力競爭暫居領先。根據超微秀出的數據，其性能表現超越高通Snapdragon X Elite、英特爾Lunar Lake以及蘋果的M4晶片。
高通
至於在Copilot+PC最早鳴槍起跑、推出首波產品的高通，Snapdragon X Elite的NPU算力則是45 TOPS。
高通資深副總裁暨行銷長麥奎爾（Don McGuire）先前接受《數位時代》專訪指出，即使競爭對手未來推出TOPS更強的NPU，高通仍有產品領先的優勢，將會持續跟微軟合作，提升客製化程度。
聯發科
聯發科於2023年底推出的天璣9300，其NPU效能已達到48 TOPS，而今年10月即將發布的新一代天璣9400，預期將會更進一步推升NPU算力。
蘋果
蘋果於今年5月的發布會中，出乎外界預料地將新一代M4晶片，首發於最新的iPad Pro，NPU算力為38 TOPS，尚未達微軟Copilot+PC的40 TOPS門檻。
在MacBook筆電方面，外媒預期，蘋果將在2024年內將MacBook Pro更新到M4系列晶片，至於MacBook Air則因為剛升級至M3晶片不久，預計需留待明年春季才會更新。
資料來源：Digital Trends、英特爾、AWS、高通
責任編輯：林美欣
本文不授權媒體夥伴轉載
