NVIDIA執行長黃仁勳:Google TPU在內的AI晶片都有其侷限性
NVIDIA執行長黃仁勳:Google TPU在內的AI晶片都有其侷限性
2018.05.30 | Google

NVIDIA執行長黃仁勳出席技術大會(GTC)之後的記者會強調,「人工智慧的世界很大,我們的焦點不是手機等物聯網產品,而是大規模的雲端資料中心。」

黃仁勳還指出包括Google TPU在內的各種AI專用晶片都有其侷限性,「NVIDIA致力於一般用途的通用GPU,可以用在任何的神經網絡上,而非僅有CNN網絡上。」

記者參與了大會演說和記者會後,僅有一個感想:就是不要再拿Google TPU類比NVIDIA GPU了。

不要再拿Google TPU比較NVIDIA GPU

因為兩者不僅從專用與通用AI晶片本質不同,發展取向也不同,Google TPU就算已經發展到第三代,重心還是圍繞自家產品與服務,和NVIDIA成為每個地方(everywhere)與多功能的發展取向不同。

NVIDIA要以其開放合作的精神,進攻10億美元的超級運算產業,鞏固包括Google在內的大規模與高速運算資料中心客戶,或成為醫療、自駕車領域夥伴的處理器平台,對於虛擬貨幣挖礦與自駕車感測器等領域晶片不感興趣。

看好高端資料中心產品,售價達1200萬台幣的DGX-2

NVIDIA並未走向FPGA與ASIC等專用晶片研發,而是持續投入更高運算效能的GPU產品,被黃仁勳稱為「世界上最強的,有史以來最大的GPU」的NVIDIA DGX-2系統。

這個史上最強的GPU主要在於GPU「雙向傳輸」技術NVLink Switch的突破。NVIDIA利用此技術將把16個GPU連結為單一且都可1對1點雙向傳輸的GPU。「若相比五年前的AlexNet採用GTX 580s系統需要六天的訓練時間,使用此產品僅需要18分鐘,在五年內,速度提升500倍。」黃仁勳說。「訓練時間大幅度縮短,在推論部分將推論延遲縮短到1.1毫秒,推論速度為每秒6250個影像。」

NVIDIA DGX-2重達350磅,單手難以舉起,每個GPU都可以用每秒300GB的速度運算,也是世界上第一個2PFLOPS (petaFLOPS,等於每秒1千萬億次的浮點運算)系統。那售價呢?黃仁勳指出,NVIDIA DGX-2效能略等於300萬台雙CPU伺服器,前者售價為39.9萬美元,後者成本高達300萬美元。

四家頂尖伺服器廠商包括聯想、雲達(QCT)、美超微(Supermicro)與緯穎 (Wiwynn)等伺服器廠都已推出基於DGX-2設計的系統,而富士康、英業達、廣達與緯創正開發中。

看淡挖礦市場:虛擬貨幣市場僅是額外的紅利

相較於資料中心產品的熱烈推銷,黃仁勳對於近來竄紅的挖礦需求看得很淡。受到挖礦熱潮影響,NVIDIA GPU市場價格水漲船高,Susquehanna分析師 Christopher Rolland 曾指出GPU市價較官方售價高出40%~70%,NVIDIA公布的2018年第一季財報時也指出挖礦GPU營收為2.89億美元。


不過NVIDIA並未看重這種「來得快,去得也快」的挖礦財,不僅會中對於加密貨幣隻字未提,黃仁勳還強調,「虛擬貨幣市場對我們來說本來就是額外的紅利(Bonus),因此如果沒有也沒有關係,我們在其他市場成長性很高。」

「GPU價格走跌對我們來說是好事,過於昂貴的GPU會導致電競玩家無法負擔,我們的GPU是專為電競玩家打造的。」黃仁勳說。

由於加密貨幣價格波動大,讓挖礦GPU需求起伏不定,礦工在乎的是GPU C/P值品牌忠誠度低,加上比特大陸等廠商紛紛ASIC等挖礦專用晶片市場,這些都是NVIDIA看淡挖礦需求的背後主因。

NVIDIA不會研發車用光達晶片

而在自駕車領域,NVIDIA也一貫維持其「通用」的精神,強攻NVIDIA DRIVE Xavier平台,但不會進軍光達晶片等專用垂直領域。

光達(Lidar)成本是自駕車感測硬體最高的部分,現今的機械式64線光達價格達8萬美元以上,業界認為若機械式光達晶片化後,價格將有機會低至500美元,意法半導體與Intel紛紛加入研發行列。


黃仁勳很明確地指出,「我們不會投入資源研發光達晶片」。

黃仁勳指出,人類利用耳朵、眼睛與皮膚等多重感官,精準感受這個世界,自駕車也雷同,需要多種感測器相輔相成,舉例來說,雷達對於移動(Motion)的感測很好,但解析度不夠高,光達可以看很遠,但解析度低,而照相機解析度高,但易受光影與氣候影響。因此NVIDIA會截長補短和廠商共同合作,把多種感測器融合在NVIDIA產品裡。

關鍵字: #Google #Nvidia
往下滑看下一篇文章
AI 時代的創新華爾滋:中華電信用「數位韌性 × 智慧驅動 × 永續未來」賦能產業邁向AI大未來
AI 時代的創新華爾滋:中華電信用「數位韌性 × 智慧驅動 × 永續未來」賦能產業邁向AI大未來

Google 近日推出 Gemini 3 模型,再次把生成式 AI 的技術邊界往前推了一大步。在全球 AI 競賽全面加速的此刻,市場關注的已不只是模型能力,還有 AI 將如何重塑產業版圖?又會帶來哪些結構性變化?

在 2025 Meet Taipei 全球創業趨勢論壇上,中華電信投資事業處副總經理陳元凱以「AI 華爾滋:中華電信如何帶領產業舞出創新韌性新篇章」為題,分享中華電信如何在 AI 浪潮下重新定位自己——不只是基礎建設的提供者,更是引領台灣產業邁向 AI 時代的領舞者。

AI 趨勢下的三大支柱:從領先電信商到 AI 轉型夥伴

「AI 是當下最具前景、最能推動創新的力量。」陳元凱一開場便指出,從 2025 年全球募資趨勢可以明顯看到,AI 的投資焦點正開始從模型與基礎建設,轉向更貼近產業場景的應用層面,如:AI Agent、工業自動化、無人機等各種創新應用。

面對這股趨勢浪潮,中華電信作為市值逾兆元、台灣最大行動與寬頻服務供應商,不僅要思考「如何讓自身轉型速度跟上 AI 時代」,更須以宏觀視野,將自身的 AI 實戰經驗轉化成可複製的方法論,協助個人家庭用戶、企業客戶、海外台商以及跨國全球企業一起邁向以 AI 賦能的未來。

為此,中華電信提出三大支柱,第一根支柱:數位韌性,打造最可靠且無所不在的網路環境。第二根支柱:智慧驅動,透過 AI Factory 與內外部創新,加速企業 AI 轉型的腳步。第三根支柱:永續未來,將能源轉型、ESG 與循環經濟納入核心策略,持續向淨零碳排邁進。

數位韌性:以「海地星空」四層網路打底,打造具備 AI 韌性的寬頻網路基礎設施

數位韌性,是指提供可信賴的連網能力,這是所有 AI 應用的基礎,有了穩定的網路,資料才能更大量、更快速且安全的流動。陳元凱在演講中特別強調,中華電信近年的核心策略之一,就是打造足以支撐 AI 時代大量資料流動需求的「數位韌性」,並具體落實在海、地、星、空四層網路架構上。

在海底,中華電信已投資興建 14 條國際海纜和 10 條國內海纜,讓台灣能穩定連結到美國、日本、歐洲、東南亞等地,這是台灣面向全球的資訊主幹線。在台灣地面,中華電信一方面持續擴大光纖、4G、5G 的部署,另一方面也以微波系統補強山區、偏鄉或其他特殊地區的通訊服務,讓網路真正做到連得上、連得穩。同時,展望未來 AI 時代的網路需求,積極投入 IOWN 次世代全光化網路的前瞻布局。

再往上走向天空,中華電信導入 OneWeb 的低軌衛星(LEO),作為地面通訊中斷時的即時備援。而在低軌衛星之外,還有 ST-2 高軌衛星(GEO)、Astranis 的微型高軌衛星及 SES O3b 中軌衛星(MEO),打造出整合高中低多軌道衛星的新世代衛星通訊網路,確保台灣在任何環境下都能維持穩定連線。

智慧驅動:用 AI Factory 平台加速企業導入智慧應用

透過由「海、地、星、空」打造的高密度通訊網絡,中華電信建構出真正的數位韌性,確保企業在任何情境下都能保持連線不中斷。並以此為基礎,向上發展出第二根支柱智慧驅動,並以自主研發的 AI Factory 平台,加速賦能產業智慧轉型。

AI Factory 平台共分為三層,最底層為資源平台,以 hicloud AI 算力雲提供運算、儲存等資源 ,讓企業能以更低成本、更高效率取得 AI 所需的算力。中層是模型訓練與推論平台,中華電信整合 AI 算法、DeepFlow 平台,提供開發者一站式模型訓練、微調、推論等服務,有效縮短模型開發時間。最上層則是 AI 服務平台,中華電信將經過內部驗證與外部協作的 AI 應用,轉化為可快速導入的解決方案,讓企業不必從零開始,大幅降低導入門檻。

陳元凱進一步說明,中華電信如何運用「內服」與「外用」兩大策略,打造可快速複製並導入的 AI 解決方案。「內服」指的是,中華電信將 AI 導入(如人力資源、行銷、網路維運等)內部營運流程,透過實際運作驗證可行性,再將這些「經過實戰驗證」的模式,轉化為外部可用的解決方案。

舉例來說,智慧客服中心導入 AI Agent 協助客服人員快速查找資料,使知識檢索有效提升效率逾 44% ,並同步提升線上客服整體滿意度。智慧門市則透過 AI 重新優化櫃台作業與案件檢核流程,不僅讓門市客戶整體等候時間縮短 23%,也提高案件檢核效率 33%。這些成果證明 AI 對提升作業效率的實質效益,更成為可直接輸出給企業客戶的最佳範例。

從內部創業到外部生態:串起台灣 AI 的創新動能

除了打造企業所需的 AI 解決方案之外,中華電信也不遺餘力推動 AI 創新創業生態系,策略做法則是從內部創新以及外部合作兩個方向著手,持續挖掘企業真正需要的 AI 創新解決方案。

在內部創新面向,中華電信積極培育內部創業文化,鼓勵員工成為「內部創業者」,並提供相應資源支持員工將創新想法落地,今(2025)年 10 月成立、專注於 GenAI 服務的中華創智國際(CHT InventAI),便是第一個正式從內部孵化育成的 AI 新創公司。第二家聚焦邊緣(Edge AI)與智慧影像的新創團隊,也將在 2026 年正式落地。這代表中華電信不僅是擁抱 AI,更將其視為可以獨立成長的戰略事業體。

在外部創新合作面向,中華電信持續打造更開放的創新生態系來加速 AI 應用的擴散。從 2018 年啟動台灣首個由電信業主導的 5G 加速器以來,至今已陪跑超過 80 支新創團隊,其中有兩家成功上市。未來,中華電信仍將持續透過加速器與新創一起共創新解方,成為企業邁向 AI 的重要推力。

陳元凱在演講最後強調:「AI 發展才正要起步。」在這波浪潮中,中華電信將以電信服務、企業解決方案及成長型投資(M&A)組成的 AI 飛輪,持續站在最前線引領創新,希望透過 AI 飛輪的轉動,不僅推動中華電信自身成長,更能帶動台灣企業積極擁抱 AI,共同進入 AI 加速的大未來。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
進擊的機器人
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓