黃仁勳首曝光「DPU」,3年內運算力要提升千倍!NVIDIA助資料中心迎接AI時代

2020.10.08 by
簡永昌
黃仁勳首曝光「DPU」,3年內運算力要提升千倍!NVIDIA助資料中心迎接AI時代
James Huang 攝影
NVIDIA今年的GTC大會中,黃仁勳端出了資料處理器(DPU),並稱它是繼CPU、GPU後的重要計算支柱之一,為什麼他會這樣認為?

「資料中心已經成為全新的運算單位,」NVIDIA執行長黃仁勳在今年GTC演講中,用這句話點出資料中心在未來的重要地位。他也同時宣布NVIDIA將推出全新的處理器:DPU(資料處理器,Data Processing Unit),滿足在網路、儲存以及資料安全上能有突破性的效能表現,黃仁勳更稱DPU是未來繼CPU、GPU後的重要計算支柱之一。

首揭產品圖,2023年將有1000倍算力提升

這次黃仁勳也首次揭露了DPU的產品跟未來藍圖。即將在2021年先推出BlueField-2 DPU及內建GPU的BlueField-2X DPU,且到了2023年第四代的DPU將會加入了CUDA、NVIDIA AI,加速內網路運算的願景,「屆時運算力更將跨進1000倍」。唯目前NVIDIA尚未揭露採用的製成是台積電或是三星。

黃仁勳也揭露了NVIDIA DPU的藍圖,並表示到了2023年第四代的產品,運算力更將跨進1000倍。
螢幕截圖

而兩顆DPU的應用場景又有何差異?以BlueField-2 DPU來看,主要能應付網路伺服器在處理需要被加密的使用者資料等,NVIDIA也表示,單一個BlueField-2 DPU能為同一個資料中心提供原本需要125個CPU核心的服務,也正因為如此,能釋放出CPU核心來處理其他應用;至於內建GPU的BlueField-2X DPU,則能應用在利用AI處理詐騙行為的線上金融交易等場景,不僅DPU能針對資訊安全進行處理,也能利用GPU進行相關分析。

NVIDIA BlueField-2 DPU主要能應付網路伺服器在處理需要被加密的使用者的資料。
螢幕截圖

GTC會議上也展示了一段影片,比較採用BlueField-2 DPU跟傳統CPU的伺服器,當受到駭客攻擊的時候,BlueField-2 DPU能仍讓使用者進行工作上的操作不受影響,這是因為伺服器中的DPU能協助分散CPU的工作量、處理安全防護等問題,讓CPU能專心提供使用者的應用需求;而採用CPU的伺服器使用者則因為必須要全力阻擋駭客的攻擊,做好安全防護而無法同時提供遠端使用者的運算需求,造成有些延遲的狀況。

內建GPU的BlueField-2X DPU,則能應用在包括線有利用AI處理詐騙行為的線上金融交易等場景。
螢幕截圖

NVIDIA也表示,目前包括華碩、廣達、富士通及技嘉等伺服器製造商,都計畫將NVIDIA DPU整合至其企業伺服器產品中,實現過去無法達到的安全及運算水準。

究竟何謂「資料處理器」?

過去較常聽到的CPU是「中央處理器」,主要功能就是解釋電腦的指令以及處理電腦軟體中的資料,包括資料的加解密、封包壓縮以及安全等;而隨著人工智慧(AI)的時代到來,不少運算的處理都跟圖像有關,因此GPU(圖形處理器)也跟著誕生,能用來做功能強大的圖形處理,也是推動資料中心運算效能提升,或是電競遊戲光影追蹤技術的主要來源。

當資料中心處理的資訊越來越複雜的同時,CPU的運算力將可能無法負荷,也因此NVIDIA推出了DPU(資料處理器)來協助CPU解決算力的問題。
shutterstock

但現在,伺服器要處理的資料日益增多,除了原有的加解密、封包壓縮外,加速器(accelerator)也讓伺服器要處理的資料量變得更龐大,就會造成原有CPU在處理安全能力表現上出現瓶頸。如果有了DPU的出現,就可以先在DPU將大量的資訊先做消化,接著再傳遞給CPU做其他的分配,如此一來能減少CPU約30%的消耗。

此外,DPU基於高性能、靈活及可編程等優點,可以在機器學習、AI、電信及儲存等應用上大幅提升性能,對於實現接下來雲端計算的應用相對重要。

強強聯手,系統跟硬體整合加速企業創新服務開發

隨著這次DPU的推出,NVIDIA也宣布將與VMWare合作,基於機器學習、AI及以材料為中心應用的需求等,建構新一代混合雲架構,提供企業相關AI運算服務。同時還將為所有企業工作負載提供擴展至AI以外的應用加速,同時透過全新架構提供額外安全層,減少從CPU到SmartNIC和可編程設計DPU的關鍵資料中心服務。

NVIDIA以硬體商的角色與系統商VMWare攜手合作,透過強大的運算跟VMWare虛擬化的優勢,要協助企業能發展更多AI的應用以及加速創新產品的開發。
NVIDIA提供

會有這樣的強強聯手,主要是因為NVIDIA是作為硬體的供應商,而VMware則是作為系統的供應商,在全球有超過7成的企業採用VNware的平台,透過VMWare虛擬化的強項,搭配NVIDIA的DPU在運算上的表現,協助企業發展AI的應用以及各種創新研發。

VMWare就透露,目前採用這套解決方案的業者包括醫療院所,面對AI開始在醫生診斷過程中扮演重要角色,以及遠端醫療的需求大幅提升,這套解決方案就有助於醫生提供病患更快速、安全的治療方案。

「AI的時代已經到來,」黃仁勳說,「而NVIDIA也會積極朝這個新型態的運算模式全力發展。」

責任編輯:錢玉紘

延伸閱讀

每日精選科技圈重要消息