在挑選電腦時,一些消費者會比較各機種的CPU擁有多少個核心,對於電玩遊戲較講究的,則偏好搭載GPU的機型,以追求更精緻的視覺效果、更流暢的操作體驗。
隨著邁入「AI PC元年」,各筆電廠相繼推出自家的AI PC,而業者在介紹產品效能時,不時會提到「NPU」一詞。究竟NPU是什麼,和CPU、GPU有哪些不同?各科技廠目前在NPU發展又是如何?
CPU、GPU、NPU快速看懂!都是處理器,到底差在哪?
用比喻來解釋CPU、GPU、NPU的差別,可以想像CPU是能力高強的「博士生」,可解決複雜且多樣的任務,但只能照順序一次解決一個問題;GPU是一群「數學系大學生」,擅長加減乘除,可以同時處理大量的運算工作(平行運算);NPU則是專攻AI運算一技之長的「技職生」,遍布在AI PC、AI手機、智慧穿戴等各種裝置中。
以下針對CPU、GPU、NPU分別來介紹:
CPU 中央處理器(Central Processing Unit)
CPU被視為是電腦的「大腦」,負責執行作業系統、應用程式運作所需的命令與程序,也是決定程式執行速度的關鍵,不論是瀏覽網頁或處理文書作業,都會受到CPU效能的影響。
英特爾(Intel)及超微(AMD)是生產CPU的領導業者,根據市調機構Jon Peddie Research報告指出,2024年第一季內建顯示卡的PC CPU市場,英特爾維持領先地位拿下82%市占率,超微則是18%。
GPU 圖形處理器(Graphics Processing Unit)
自1990年代電玩遊戲興起,由於遊戲畫面同時要顯示成千上萬個像素,每個像素又都有自己的色彩、光線強度及移動變化,原為通用運算設計的CPU在運算上變得難以負荷。於是,專長於繪圖運算的GPU應運而生。
在硬體架構上,GPU具有數百至數千個算數邏輯單元(Arithmetic Logic Unit,ALU),得以處理眾多平行執行的數學運算,加快繪圖渲染、影片編碼解碼等處理,也格外適合執行AI的深度學習演算法,GPU因而在AI浪潮下大放異彩。
輝達(NVIDIA)是GPU領域的開創者及龍頭,1999年發售的「GeForce 256」被譽為「世界上第一款GPU」。2007年,輝達推出便於GPU加速運算的CUDA軟體架構。據研調公司TechInsights分析,輝達2023年的資料中心GPU出貨量市占率高達98%,遠超英特爾、超微等對手。
NPU 神經網路處理器(Neural-network Processing Unit)
GPU扮演資料中心、AI伺服器不可或缺的要角,不過邊緣運算浪潮下日趨火紅的NPU,則是專門為加速裝置端的AI運算所打造。
NPU具有兩大技術特點: 第一個是模擬人類神經網路的運作方式,同樣擅長平行運算處理,並適當地分配晶片內的「任務流」,減少閒置的運算資源 。
第二個是經由「近記憶體運算」 (將處理器盡量靠近DRAM,以減少資料的傳輸延遲以及功率消耗) 或「記憶體內運算」 (將簡單的邏輯運算移至記憶體陣列中) ,實現儲存及運算的一體化,降低運算過程的能耗、加快存取速度,從而提升AI運算的執行速度和效率 。
相較於CPU及GPU,低功耗、高效能的NPU格外適合處理裝置端的AI推論任務,包括影像辨識、自然語言處理、物件偵測等應用。
近年,各大PC及手機晶片廠為提升AI運算能力,紛紛在晶片設計中納入NPU,並有不少新創搶進NPU領域,較早投入的企業,包括國內的耐能智慧、中國的寒武紀、以色列的Hailo、南韓的DeepX等。
如何決定要使用CPU、GPU或NPU?
CPU、GPU、NPU各有所長,並且相輔相成,對於裝置端的AI PC、AI手機晶片,通常藉由將三者整合為系統單晶片(SoC)的方式,提高能源效率及效能。
英特爾去年發表Core Ultra晶片(代號「Meteor Lake」)時,便直言「這是40年來PC處理器架構上最大的躍進」,因為這是該公司首次將NPU整合到系統單晶片設計中。NPU專門處理特定的AI工作負載,便可將CPU及GPU用於執行其他任務。
晶片大廠高通在其部落格一篇針對NPU的專文介紹則提到,CPU適合用於低延遲、順序性的小型模型運算,GPU擅長高精準度的圖像處理平行運算,NPU則可透過低功耗達到穩定的高性能AI運算,持續運行LLM(大型語言模型)、LVM(大型視覺模型)等模型。
NPU廠商|主要PC、手機晶片廠NPU發展最新動態
如果說NPU是AI的專用引擎,TOPS便是衡量這個引擎馬力的單位,根據微軟對「Copilot+PC」的規格要求,需符合NPU算力不少於40TOPS的規格,掀起了新一波PC處理器效能大戰,也料將成為消費者選購AI PC的一大指標。
英特爾
英特爾即將在今年9月上市的Lunar Lake,NPU算力達到48 TOPS,相較前一代Meteor Lake處理器的11.5TOPS提升3倍。
超微
超微執行長蘇姿丰在2024台北國際電腦展上,端出第3代Ryzen AI處理器,NPU算力高達50 TOPS,在目前的NPU算力競爭暫居領先。根據超微秀出的數據,其性能表現超越高通Snapdragon X Elite、英特爾Lunar Lake以及蘋果的M4晶片。
高通
至於在Copilot+PC最早鳴槍起跑、推出首波產品的高通,Snapdragon X Elite的NPU算力則是45 TOPS。
高通資深副總裁暨行銷長麥奎爾(Don McGuire)先前接受《數位時代》專訪指出,即使競爭對手未來推出TOPS更強的NPU,高通仍有產品領先的優勢,將會持續跟微軟合作,提升客製化程度。
聯發科
聯發科於2023年底推出的天璣9300,其NPU效能已達到48 TOPS,而今年10月即將發布的新一代天璣9400,預期將會更進一步推升NPU算力。
蘋果
蘋果於今年5月的發布會中,出乎外界預料地將新一代M4晶片,首發於最新的iPad Pro,NPU算力為38 TOPS,尚未達微軟Copilot+PC的40 TOPS門檻。
在MacBook筆電方面,外媒預期,蘋果將在2024年內將MacBook Pro更新到M4系列晶片,至於MacBook Air則因為剛升級至M3晶片不久,預計需留待明年春季才會更新。
資料來源:Digital Trends、英特爾、AWS、高通
責任編輯:林美欣
本文不授權媒體夥伴轉載