NVIDIA執行長黃仁勳:Google TPU在內的AI晶片都有其侷限性
NVIDIA執行長黃仁勳:Google TPU在內的AI晶片都有其侷限性
2018.05.30 | Google

NVIDIA執行長黃仁勳出席技術大會(GTC)之後的記者會強調,「人工智慧的世界很大,我們的焦點不是手機等物聯網產品,而是大規模的雲端資料中心。」

黃仁勳還指出包括Google TPU在內的各種AI專用晶片都有其侷限性,「NVIDIA致力於一般用途的通用GPU,可以用在任何的神經網絡上,而非僅有CNN網絡上。」

記者參與了大會演說和記者會後,僅有一個感想:就是不要再拿Google TPU類比NVIDIA GPU了。

不要再拿Google TPU比較NVIDIA GPU

因為兩者不僅從專用與通用AI晶片本質不同,發展取向也不同,Google TPU就算已經發展到第三代,重心還是圍繞自家產品與服務,和NVIDIA成為每個地方(everywhere)與多功能的發展取向不同。

NVIDIA要以其開放合作的精神,進攻10億美元的超級運算產業,鞏固包括Google在內的大規模與高速運算資料中心客戶,或成為醫療、自駕車領域夥伴的處理器平台,對於虛擬貨幣挖礦與自駕車感測器等領域晶片不感興趣。

看好高端資料中心產品,售價達1200萬台幣的DGX-2

NVIDIA並未走向FPGA與ASIC等專用晶片研發,而是持續投入更高運算效能的GPU產品,被黃仁勳稱為「世界上最強的,有史以來最大的GPU」的NVIDIA DGX-2系統。

這個史上最強的GPU主要在於GPU「雙向傳輸」技術NVLink Switch的突破。NVIDIA利用此技術將把16個GPU連結為單一且都可1對1點雙向傳輸的GPU。「若相比五年前的AlexNet採用GTX 580s系統需要六天的訓練時間,使用此產品僅需要18分鐘,在五年內,速度提升500倍。」黃仁勳說。「訓練時間大幅度縮短,在推論部分將推論延遲縮短到1.1毫秒,推論速度為每秒6250個影像。」

NVIDIA DGX-2重達350磅,單手難以舉起,每個GPU都可以用每秒300GB的速度運算,也是世界上第一個2PFLOPS (petaFLOPS,等於每秒1千萬億次的浮點運算)系統。那售價呢?黃仁勳指出,NVIDIA DGX-2效能略等於300萬台雙CPU伺服器,前者售價為39.9萬美元,後者成本高達300萬美元。

四家頂尖伺服器廠商包括聯想、雲達(QCT)、美超微(Supermicro)與緯穎 (Wiwynn)等伺服器廠都已推出基於DGX-2設計的系統,而富士康、英業達、廣達與緯創正開發中。

看淡挖礦市場:虛擬貨幣市場僅是額外的紅利

相較於資料中心產品的熱烈推銷,黃仁勳對於近來竄紅的挖礦需求看得很淡。受到挖礦熱潮影響,NVIDIA GPU市場價格水漲船高,Susquehanna分析師 Christopher Rolland 曾指出GPU市價較官方售價高出40%~70%,NVIDIA公布的2018年第一季財報時也指出挖礦GPU營收為2.89億美元。

不過NVIDIA並未看重這種「來得快,去得也快」的挖礦財,不僅會中對於加密貨幣隻字未提,黃仁勳還強調,「虛擬貨幣市場對我們來說本來就是額外的紅利(Bonus),因此如果沒有也沒有關係,我們在其他市場成長性很高。」

「GPU價格走跌對我們來說是好事,過於昂貴的GPU會導致電競玩家無法負擔,我們的GPU是專為電競玩家打造的。」黃仁勳說。

由於加密貨幣價格波動大,讓挖礦GPU需求起伏不定,礦工在乎的是GPU C/P值品牌忠誠度低,加上比特大陸等廠商紛紛ASIC等挖礦專用晶片市場,這些都是NVIDIA看淡挖礦需求的背後主因。

NVIDIA不會研發車用光達晶片

而在自駕車領域,NVIDIA也一貫維持其「通用」的精神,強攻NVIDIA DRIVE Xavier平台,但不會進軍光達晶片等專用垂直領域。

光達(Lidar)成本是自駕車感測硬體最高的部分,現今的機械式64線光達價格達8萬美元以上,業界認為若機械式光達晶片化後,價格將有機會低至500美元,意法半導體與Intel紛紛加入研發行列。

黃仁勳很明確地指出,「我們不會投入資源研發光達晶片」。

黃仁勳指出,人類利用耳朵、眼睛與皮膚等多重感官,精準感受這個世界,自駕車也雷同,需要多種感測器相輔相成,舉例來說,雷達對於移動(Motion)的感測很好,但解析度不夠高,光達可以看很遠,但解析度低,而照相機解析度高,但易受光影與氣候影響。因此NVIDIA會截長補短和廠商共同合作,把多種感測器融合在NVIDIA產品裡。

關鍵字: #Google #Nvidia
往下滑看下一篇文章
不只給場域、更助攻海外!桃園如何助思納捷做大智慧能源管理版圖?
不只給場域、更助攻海外!桃園如何助思納捷做大智慧能源管理版圖?

隨著全球淨零轉型浪潮持續推進,企業不僅要許下減碳承諾,更得拿出可以被量測、驗證的實際成果,這也驅使企業加速導入智慧能源管理系統。早在 2017 年便投入此領域的思納捷,從桃園出發,透過工業園區與公共建築等在地場域的部署經驗,持續打磨技術與解決方案,隨後更在桃園市政府青年事務局「桃園天際線加速器」協助下,逐步將市場版圖延伸至海外。如今,思納捷全球累積超過 1,000 個應用實績,不僅成功將台灣智慧能源解方推向海外,更成為全球企業推動綠色轉型不可或缺的關鍵夥伴。

從桃園場域開始淬鍊:思納捷把「失敗經驗」變成難以複製的競爭力

思納捷總經理莊棨椉原先在資策會從事能源與物聯網相關研究,當時,他從歐美市場發展看見智慧能源管理的趨勢,於是,團隊從資策會獨立出來、成立思納捷,將過去累積的研發能量帶向市場。而技術落地第一站,就是從工業聚落密集的桃園開始,思納捷運用 IoT 技術管理工業園區的路燈、空氣品質、排水與交通等公共設施與環境,也進一步走進園區工廠,協助企業掌握與管理用電。

然而,從研究機構走向市場後,莊棨椉很快發現,「做得出來」與「真的能用」之間,還隔著一段不小的距離。許多從技術角度來看完全可行的做法,在進入真實場域後,反而出現各種從未想過的問題。

舉例來說,在幼獅工業園區部署智慧路燈時,思納捷原本採用 Mesh Wi-Fi 網狀網路,讓路燈彼此串聯、逐站傳遞訊號,沒想到實際上線後,路樹上的枝葉竟然擋住了訊號,造成通訊不穩定。為此,團隊重新調整架構,採用 NB-IoT 方式,讓每支路燈直接透過電信網路傳輸資料,降低環境遮蔽物對通訊的影響。

類似的「踩坑」經驗也發生在澎湖馬公港。思納捷與合作夥伴共同佈建智慧路燈,採用 PLC 電力線通訊技術,明明在實驗室與一般道路測試都沒有問題,到了港區卻完全無法傳輸訊號。團隊一路追查才發現,原來地下線路早已受到鹽害侵蝕,為此重新抽換線材,才讓系統得以正常運作。

串設備、整數據、AI 自主管理:思納捷打造 24 小時能源總管

「每一次踩坑,都讓團隊更清楚不同技術的適用邊界,也讓下一次部署少走一段彎路,」莊棨椉說,思納捷運用近十年來走進不同場域、解決各種意外狀況所累積的實戰經驗,形塑出 3 大產品特色。

第一,是物聯網裝置串接能力。
目前思納捷已能串接超過 1,000 種設備,涵蓋電表、水表、空調、冰水主機等不同類型,支援數量為全台最多。無論企業使用何種廠牌的設備,都能快速介接至思納捷的平台,降低設備整合門檻。

第二,是將數據與場域 Know-how 轉化為管理模組,讓企業可以「隨選即用」。
思納捷將多年累積的數據與經驗,轉化為超過 20 種應用模組,企業可以依需求持續擴充功能,一改過去可能要導入多套解決方案,才能管理不同設備的系統孤島問題。

舉例來說,某電子元件代理商在導入思納捷解決方案後,管理人員只要透過一支手機,就能掌握辦公大樓各樓層的設備運轉狀況,包括用電、用水、會議室、電動車充電樁到空調系統。不僅大幅提升管理效率,也能進一步掌握實際用電需求、降低能源耗用,並據此調降契約容量,每月節省約百萬元的電費成本。

第三,是讓能源與設備管理從人工管理走向 AI 自主管理。
思納捷以自家大數據為基礎,結合 AI 提升系統自主判斷與調控能力,持續優化能源管理的成效。「我們的目標,就是打造 24 小時雲端 AI 總管,讓系統可以自己判斷和調整,讓設備隨時維持在最佳運轉狀態,避免造成不必要的能源浪費,」莊棨椉強調。

出海前先看懂市場:桃園天際線加速器降低新創試錯成本

隨著產品逐漸成熟,思納捷也開始把目光投向海外,而進駐桃園天際線加速器,則為團隊提供一個以更低成本探索海外市場、驗證發展方向的機會。

莊棨椉表示,透過加速器安排的韓國、新加坡等國際交流,思納捷得以接觸不同市場的潛在客戶、創投與投資者,了解當地產業環境與實際需求,也能與在地新創交流創業與市場拓展經驗;國際經驗的獲取與海外拓點,都是成本極高的決策,藉由這些機會,思納捷得以用較低成本,去了解國際市場的可能性與風險。

此外,加速器也會安排專業業師分享國際市場經驗,從不同角度刺激團隊思考,重新檢視既有商業模式與海外布局策略。例如,曾經有業師與莊棨椉逐項分析海外上市必須具備的條件,讓他重新盤點公司現階段的優勢與不足,也進一步思考什麼才是最適合思納捷的成長路徑。

「加速器讓我們有機會多看、多聽、多接觸。」莊棨椉說。這些交流的價值,不只是認識多少潛在客戶,而是讓團隊在真正投入大量人力與資金以前,先釐清當地究竟有沒有市場、客戶需求是否成熟,以及既有產品與商業模式能不能直接複製。過去許多只能透過資料或想像判斷的問題,如今都能透過實際走進市場、接觸第一線業者取得更多資訊,降低走錯路的風險與試錯成本。

對思納捷而言,加速器帶來最關鍵的幫助是,透過市場探索、業師輔導與資源媒合,讓團隊在真正投入之前,有更多機會看懂市場、驗證方向,再決定下一步怎麼走。對資源有限的新創而言,這種「先驗證、再投入」的過程,反而能降低海外布局的機會成本,讓每一步走得更精準。

展望下一階段,思納捷團隊將持續聚焦校園、園區、建築與工廠四大場域,持續深化應用,讓「24 小時能源與機電設備雲端 AI 總管」的概念在更多場景落地,同時,當既有台商客戶前往海外設廠、有智慧能源管理需求時,思納捷也會跟隨客戶腳步提供服務。莊棨椉認為,唯有先把技術與服務做深,建立可複製的成熟模式,未來才有機會將台灣累積的智慧能源管理經驗帶向更大的國際市場。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
一次搞懂工業AI
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓