生態圈再擴大!NVIDIA宣布啟動AI LaunchPad計畫,要幫企業簡化AI開發工作
生態圈再擴大!NVIDIA宣布啟動AI LaunchPad計畫,要幫企業簡化AI開發工作

人工智慧(AI)應用正在不同產業領域遍地開花,其中的重要玩家NVIDIA,近年不僅積極開發AI各項應用技術,也正著力拓展AI應用生態圈,今(22)日更宣布啟動AI LaunchPad計畫。

NVIDIA AI LaunchPad
圖/ NVIDIA

回顧到NVIDIA在6月初宣布推出Base Command平台,以雲端代管解決方案的方式進行部署,同時具備加速運算,可降低管理AI工作流程的難度,讓人工智慧專案從原型(Prototypes)推進到量產階段,降低管理AI工作流程的難度。那麼最新發表的,AI LaunchPad又想達到什麼目的?

NVIDIA攜手混合雲供應商,簡化企業開發AI生命週期

「在邁向物聯網時代之際,在邊緣部署和管理AI應用軟體,都是企業面臨的挑戰。」除此之外,NVIDIA企業運算部門負責人Manuvir Das指出,企業應用AI需要簡單、全面的解決方案,要能夠快速取用各種可即時部署、打造AI工具所需的資源。

而AI LaunchPad計畫,就是要讓企業能夠透過混合雲供應商直接採用NVIDIA支援的基礎設施和軟體,藉此將可進一步簡化AI訓練、開發的週期,讓企業打造AI應用更簡單!

NVIDIA指出,AI LaunchPad將藉由Ampere GPU和Bluefield DPU架構來驅動,同時加速AI工作運行負載,也能藉DPU的一臂之力,帶來安全性和隔離性的效能強化。

在這項計畫中,全球第一大的網路資料中心(IDC)供應商Equinix將率先加入,並提供以NVIDIA驅動的混合雲解決方案。從資料中心訓練到邊緣的全面部署,藉由Equinix基礎設施,企業即可在幾分鐘內訪問所有NVIDIA的所有資源。

equinix data center dc12_2
Equinix將是AI LaunchPad計畫首個合作夥伴。
圖/ Equinix官網

據悉,Equinix目前在全球設有超過220個資料中心;而企業為了要構建更準確的AI模型,應用程式也越來越仰賴於公有雲和企業資料中心的外部資料。藉由AI Launchpad,Equinix企業客戶便可在Fabric分布式基礎架構上,安全且高速地訪問Equinix的全球生態系統,同時也能隨時訪問NVIDIA軟體和NVIDIA認證的基礎設施服務。進一步來看,Equinix客戶將可在NVIDIA Base Command平台上使用DGX SuperPOD超級電腦託管服務。

Equinix指出,汽車產業是其應用最大主力客戶之一。在去年,德國汽車科技公司大陸集團(Continental)早已搭建了以50多個NVIDIADGX系統而成的超級電腦資料中心,運用DGX POD可為汽車製造商開發自動駕駛技術;再透過Equinix資料中心中部署的NVIDIA DGX系統,開發團隊就能隨時隨地訪問資料資源。

20200728-supercomputer-img-supercomputer
大陸集團Continental使用 NVIDIA DGX 系統搭建用於車輛的人工智慧系統訓練超級電腦。

NVIDIA強調,AI LaunchPad上關鍵解決方案就是AI Enterprise套件,此款AI與資料分析軟體可在VMware vSphere和NVIDIA Certified認證系統上運行,讓企業輕鬆地在Equnix資料中心部署AI,可應對大型複雜的訓練和機器學習工作,像是醫療照護領域的進階診斷、製造業的智慧工廠與金融服務領域的詐欺偵測。

解決方案同步上線,Fleet Command帶來什麼解方?

與此同時,AI LaunchPad計畫最先行的解決方案Fleet Command平台也同步上線,企業可藉由NVIDIA認證系統造訪該混合雲託管AI服務平台,進一步解決部署和管理AI應用軟體的安全問題。

同時,Fleet Command可以和先前已推出的Base Command平台結合,讓企業快速將AI專案從原型轉至生產階段,同時也能快速構思、部署和管理人工智慧應用。

NVIDIA Fleet Command
NVIDIA Fleet Command平台。
圖/ NVIDIA

NVIDIA 指出,Fleet Command的遠程管理軟體可讓企業安全地部署和管理AI應用程式,卻不會犧牲邊緣計算的即時處理能力;同時,也能減輕公司的IT負擔,讓使用者可以隨時隨地快速安裝、更新和管理軟體。

以NVIDIA提出的應用佈局來看,Fleet Command的最早應用將涵蓋零售、醫療保健和物流以及相關的軟體公司。

舉例來說,像是全球擁有700多個配送中心的零售物流公司Bollore Logistics,目前也正藉由Fleet Command來部署、管理AI應用軟體;人工智慧顧問公司Data Monsters也為飲料廠商部署管理軟體,運用電腦視覺來捕捉飲料罐體的缺陷,在第一時間就能通知員工。

Data Monsters指出,Fleet Command可以為大規模的運算資源提供統一的安全部署和管理,包括硬體資源配置、自動化部署和監控;其中也提供與NVIDIA GPU Cloud的整合,藉由軟體容器和深度神經網路(DNN),這些功能可以無縫地擴展邊緣AI應用軟體。

責任編輯:蕭閔云

最新6月號雜誌《高價值企業100強》馬上購:傳送門
單期「電子雜誌」輕鬆讀:傳送門

關鍵字: #Nvidia
往下滑看下一篇文章
以晶片的一瓦算力開啟AI新架構!耐能智慧從邊緣到核心,打造臺灣主權算力新典範
以晶片的一瓦算力開啟AI新架構!耐能智慧從邊緣到核心,打造臺灣主權算力新典範

當全球聚光燈都匯集在那動輒使用上萬顆圖形處理器(Graphics Processing Unit, GPU)、耗能堪比核電廠的資料中心時,另一場關乎AI永續發展的運算革命正悄悄發生。這場革命的核心,是如何以更低能耗、更高效率的方式支撐下一世代的人工智慧。而耐能智慧(Kneron)正是這場轉變的推動者之一。

早在2015年,當多數企業仍沉浸在雲端運算帶來的紅利時,耐能智慧創辦人暨執行長劉峻誠便選擇了「邊緣運算」之路的賽道,投入AI系統單晶片(System-on-Chip, SoC)與神經網路處理器(Neural Processing Unit, NPU)的開發。「如果 GPU 是需要龐大設備才能運行的錄影帶,中央處理器(Central Processing Unit, CPU)是性能平庸的 影音光碟(Video Compact Disc, VCD),那麼 NPU 就是能在輕薄裝置中高效運算的 MP3。」劉峻誠用一個簡單的譬喻如此描述著,這不只是晶片製程的改進,而是從架構層重新定義AI運算的方式。

十年磨一劍,如今耐能智慧的NPU晶片已成功進入物聯網、安防、車用與伺服器等不同領域。從智慧水表、穿戴裝置到車用語音系統,乃至企業伺服器與工業應用,都能在有限功耗下執行即時AI運算。合作夥伴從國內上市櫃企業到歐美等地的國際大型企業,都能看見耐能智慧身影,「我們從GPU、CPU進不去的地方出發,讓晶片像樂高積木一樣,從只需一顆晶片的穿戴式裝置,到需要多顆晶片的伺服器,都能使用我們的晶片。」劉峻誠說。

面對算力與能源雙重瓶頸,耐能智慧以新架構迎戰生成式AI時代

面對終端AI應用面臨的「資料流衝突」瓶頸,耐能智慧創辦人暨執行長劉峻誠指出,新世代AI運算不再只屬於
面對終端AI應用面臨的「資料流衝突」瓶頸,耐能智慧創辦人暨執行長劉峻誠指出,新世代AI運算不再只屬於雲端,必須開發能兼容多模態資料並在低功耗環境下運行的自主架構。
圖/ 數位時代

「語言模型和影像模型的資料處理方式完全不同,」劉峻誠解釋到,語言模型要短時間內處理大量資料,但影像模型則需要長時間、連續的低流量傳輸。而傳統AI架構無法同時兼容這兩種特性,這造成了終端AI應用面臨「資料流衝突」的瓶頸。也正是在這樣的挑戰下,成為耐能智慧下一階段的技術突破口。生成式AI不再只屬於雲端,運算正快速轉移至終端,從智慧家庭到醫療、車用、製造現場,都迫切需要能在低功耗環境下即時運行的AI系統。

但更大的壓力來自能源現實與國家安全。劉峻誠表示,GPU架構的能耗與散熱需求驚人,一個大型AI資料中心每年電費可高達60億美元,碳排放量更是巨獸等級。「如果繼續用GPU支撐生成式AI,將會對淨零碳排的目標帶來嚴重衝擊。」劉峻誠坦言並進一步指出,臺灣雖是全球GPU製造重鎮,但本地可用算力有限。「我們製造了全世界近8成的GPU,卻沒有自己的算力,」他語帶無奈,「如果國家級AI應用仍須仰賴境外基礎設施,國家的核心技術與自主權將受制於人,不利於在AI時代掌握主導地位。」

因應這場可能產生的算力主權的危機,耐能智慧決定以「多模態資料流衝突」與「低碳永續算力」這兩項挑戰為目標,開發新世代AI晶片架構。為加速這場技術革命並將臺灣的自主架構推向國際,耐能智慧投入全新晶片KL1140的開發,並成功得到由經濟部產業發展署推動的「驅動國內IC設計業者先進發展補助計畫」(以下簡稱晶創IC補助計畫)的支持。該計畫在國科會協調與經濟部及相關部會共同合作所提出「晶片驅動臺灣產業創新方案」的框架下,以實質政策補助鼓勵業者布局AI、高效能運算或新興應用等高值化領域的關鍵技術,提升臺灣IC設計產業的國際競爭力與韌性。

從晶片創新到主權AI,晶創IC補助計畫助攻耐能跨入新戰場

耐能智慧透過經濟部「晶創 IC 補助計畫」加速開發的 AI 晶片 KL1140,其效能與能耗表現均顯
耐能智慧透過經濟部「晶創 IC 補助計畫」加速開發的 AI 晶片 KL1140,其效能與能耗表現均顯著提升。
圖/ 數位時代

「KL1140最大的突破在於多模態資料處理架構的創新。」劉峻誠直言其中關鍵。在晶創IC補助計畫的挹注下,耐能智慧得以加速開發新一代晶片,這不僅是十年研發累積的成果,更是政策資源與技術創新的結合,象徵著臺灣在AI架構自主化道路上的重要里程碑。

這項架構革新,使KL1140在效能與能效上都達到顯著飛躍。相較於前一代產品,效能提升6至8倍、能耗比提升10倍、體積縮小至四分之一;以往需10瓦才能運行的任務,現在僅需1瓦即可完成。「你看GPU要加風扇、要水冷,而我們不用,」他笑著說,而這就是低功耗的力量。

這樣的設計,使KL1140成為真正能落地的AI晶片,既可部署於穿戴、車用與工業場域,也能堆疊成伺服器模組,實現了靈活的異構運算(Heterogeneous Computing)基礎建設。透過晶創IC補助計畫的協助,耐能智慧不僅強化晶片設計,更能整合模組、子系統與軟體生態,打造可供企業與政府使用的在地AI解決方案,邁向「AI基礎建設提供者」的新定位。劉峻誠也透露,目前KL1140晶片已開始導入國際主權AI專案,協助能源與環境條件嚴苛的地區,利用該晶片低功耗與高算力的特性,順利發展AI自主。

「我們不是在打造更大的GPU,而是在打造更聰明的AI,」劉峻誠強調。「主權AI的關鍵不只是算力自主,更是能源自主。」他認為,晶創IC補助計畫的核心價值在於讓臺灣的IC設計業者能從單一產品開發,邁向整體系統構建,具備定義新架構、主導新標準的能力。KL1140晶片的問世,不僅讓耐能智慧從邊緣運算邁入AI 核心基礎建設的新格局,更代表臺灣在全球生成式AI時代中,擁有以低功耗、高自主性技術參與未來競局的關鍵實力。

從製造到定義,臺灣AI自主的新起點

在生成式AI帶動的新一輪技術競賽中,算力的分配將決定未來世界的科技秩序。劉峻誠認為,臺灣若要在這場變局中保持主導權,必須擁有能自我定義的架構與技術。「我們不只是為企業造晶片,而是在為國家建算力。」他說。從十年前堅持走上邊緣運算的冷門之路,到今日以KL1140晶片開啟主權AI的新典範,耐能智慧的發展軌跡正體現了臺灣IC設計產業的潛力與決心。未來,耐能智慧將持續推動更高能效、更高彈性的AI架構,讓臺灣不僅能製造世界的晶片,更能定義世界的智慧。

|企業小檔案|
- 企業名稱:耐能智慧
- 創辦人:劉峻誠
- 核心技術:專注邊緣AI SoC專用處理器研發
- 資本額:新台幣6億7520萬元

|驅動國內IC設計業者先進發展補助計畫簡介|
由國科會協調經濟部及相關部會共同合作,所提出「晶片驅動臺灣產業創新方案」,目標在於藉由半導體與生成式AI的結合,帶動各行各業的創新應用,並強化臺灣半導體產業的全球競爭力與韌性。在此政策框架下,經濟部產業發展署執行「驅動國內IC設計業者先進發展補助計畫」,以實質政策補助,於113年鼓勵國內業者往 AI、高效能運算、車用或新興應用等高值化領域之「16奈米以下先進製程」或「具國際高度信任之優勢、特殊領域」布局,以避開中國大陸在成熟製程的低價競爭,並提升我國IC設計產業價值與國際競爭力。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
進擊的機器人
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓