NVIDIA執行長黃仁勳：Google TPU在內的AI晶片都有其侷限性|數位時代 BusinessNext

NVIDIA執行長黃仁勳出席技術大會(GTC)之後的記者會強調，「人工智慧的世界很大，我們的焦點不是手機等物聯網產品，而是大規模的雲端資料中心。」

黃仁勳還指出包括Google TPU在內的各種AI專用晶片都有其侷限性，「NVIDIA致力於一般用途的通用GPU，可以用在任何的神經網絡上，而非僅有CNN網絡上。」

記者參與了大會演說和記者會後，僅有一個感想：就是不要再拿Google TPU類比NVIDIA GPU了。

不要再拿Google TPU比較NVIDIA GPU

因為兩者不僅從專用與通用AI晶片本質不同，發展取向也不同，Google TPU就算已經發展到第三代，重心還是圍繞自家產品與服務，和NVIDIA成為每個地方（everywhere）與多功能的發展取向不同。

NVIDIA要以其開放合作的精神，進攻10億美元的超級運算產業，鞏固包括Google在內的大規模與高速運算資料中心客戶，或成為醫療、自駕車領域夥伴的處理器平台，對於虛擬貨幣挖礦與自駕車感測器等領域晶片不感興趣。

看好高端資料中心產品，售價達1200萬台幣的DGX-2

NVIDIA並未走向FPGA與ASIC等專用晶片研發，而是持續投入更高運算效能的GPU產品，被黃仁勳稱為「世界上最強的，有史以來最大的GPU」的NVIDIA DGX-2系統。

這個史上最強的GPU主要在於GPU「雙向傳輸」技術NVLink Switch的突破。NVIDIA利用此技術將把16個GPU連結為單一且都可1對1點雙向傳輸的GPU。「若相比五年前的AlexNet採用GTX 580s系統需要六天的訓練時間，使用此產品僅需要18分鐘，在五年內，速度提升500倍。」黃仁勳說。「訓練時間大幅度縮短，在推論部分將推論延遲縮短到1.1毫秒，推論速度為每秒6250個影像。」

NVIDIA DGX-2重達350磅，單手難以舉起，每個GPU都可以用每秒300GB的速度運算，也是世界上第一個2PFLOPS (petaFLOPS，等於每秒1千萬億次的浮點運算）系統。那售價呢？黃仁勳指出，NVIDIA DGX-2效能略等於300萬台雙CPU伺服器，前者售價為39.9萬美元，後者成本高達300萬美元。

四家頂尖伺服器廠商包括聯想、雲達(QCT)、美超微(Supermicro)與緯穎 (Wiwynn)等伺服器廠都已推出基於DGX-2設計的系統，而富士康、英業達、廣達與緯創正開發中。

看淡挖礦市場：虛擬貨幣市場僅是額外的紅利

相較於資料中心產品的熱烈推銷，黃仁勳對於近來竄紅的挖礦需求看得很淡。受到挖礦熱潮影響，NVIDIA GPU市場價格水漲船高，Susquehanna分析師 Christopher Rolland 曾指出GPU市價較官方售價高出40%~70%，NVIDIA公布的2018年第一季財報時也指出挖礦GPU營收為2.89億美元。

不過NVIDIA並未看重這種「來得快，去得也快」的挖礦財，不僅會中對於加密貨幣隻字未提，黃仁勳還強調，「虛擬貨幣市場對我們來說本來就是額外的紅利（Bonus），因此如果沒有也沒有關係，我們在其他市場成長性很高。」

「GPU價格走跌對我們來說是好事，過於昂貴的GPU會導致電競玩家無法負擔，我們的GPU是專為電競玩家打造的。」黃仁勳說。

由於加密貨幣價格波動大，讓挖礦GPU需求起伏不定，礦工在乎的是GPU C/P值品牌忠誠度低，加上比特大陸等廠商紛紛ASIC等挖礦專用晶片市場，這些都是NVIDIA看淡挖礦需求的背後主因。

NVIDIA不會研發車用光達晶片

而在自駕車領域，NVIDIA也一貫維持其「通用」的精神，強攻NVIDIA DRIVE Xavier平台，但不會進軍光達晶片等專用垂直領域。

光達（Lidar）成本是自駕車感測硬體最高的部分，現今的機械式64線光達價格達8萬美元以上，業界認為若機械式光達晶片化後，價格將有機會低至500美元，意法半導體與Intel紛紛加入研發行列。

黃仁勳很明確地指出，「我們不會投入資源研發光達晶片」。

黃仁勳指出，人類利用耳朵、眼睛與皮膚等多重感官，精準感受這個世界，自駕車也雷同，需要多種感測器相輔相成，舉例來說，雷達對於移動（Motion）的感測很好，但解析度不夠高，光達可以看很遠，但解析度低，而照相機解析度高，但易受光影與氣候影響。因此NVIDIA會截長補短和廠商共同合作，把多種感測器融合在NVIDIA產品裡。

隨著生成式 AI 與 AI Agent 的快速發展，企業導入 AI 應用，早已不是「要不要」的是非題，而是「如何選對解決方案」的決策題。

以 AI 客服為例，市場上雖然有眾多解決方案，但真正能夠拉開差距的，不是技術本身，而是對產業場景、服務流程與顧客需求的理解，這是決定AI 能否改善營運效率、提升顧客體驗，並創造實際商業價值的關鍵。

深耕客服領域多年的宏華國際，憑藉著長期累積的第一線服務經驗，以及對產業應用場景的深刻洞察，打造出適用多元產業的 AI 客服代理人，透過將客服經驗模組化、場景化，協助企業降低 AI 導入門檻與試錯成本，讓 AI 不只是技術工具，而是真正能快速落地、創造營運效益的虛擬助手。

有溫度的 AI 服務，成為企業競爭力的新關鍵

宏華國際資深技術顧問李宗遠指出，對企業、尤其是服務業而言，客服的價值早已不只是接聽電話或回覆訊息，而是建立顧客信任、優化服務體驗的重要平台。透過客服，企業不僅能維持對外溝通的一致性與完整性，也能延伸服務時間與服務範圍，進而即時掌握顧客需求，有效承接每一次商機。

然而，過去要打造全天候客服，企業往往需要投入大量人力與管理成本。如今，AI大幅降低了建置與維運成本，24 小時服務不再是大企業的專利。透過 AI 客服代理人，即使是資源有限的中小企業，也能在不額外增加人力的前提下，快速建立客服機制，提供更貼心、更有溫度的服務，而這也將成為未來服務業的重要競爭力。

以餐飲業為例，消費者有聚餐需求時，通常會透過網路訂位系統同時向多家餐廳預約，等到接近用餐日時，再做出最終選擇。此時，餐飲業者若能在網路訂位流程中整合 AI 客服代理人，主動提供完整且貼心的一條龍服務，例如：推薦適合餐點、提醒停車資訊、確認特殊飲食需求，甚至提前規劃包廂與慶生活動等，讓顧客到店前就有好的服務體驗，自然有機會打動顧客的心、成為最終選擇。

李宗遠認為，AI 的價值不只是提升效率，更在於協助企業打造更有溫度的服務，這不僅有助於降低臨時取消率、提升訂單轉換率與顧客黏著度，更能建立差異化競爭優勢，讓 AI 從工具真正成為企業夥伴。

AI 客服下一階段，比的不是技術，而是誰更懂服務場景

然而，AI 要打造有溫度的服務，關鍵不在於採用了哪些技術，而是 AI 能否真正理解不同產業的服務場景與顧客需求。為此，宏華將多年來服務不同產業、不同場景所累積的第一線經驗，轉化為開發 AI 客服代理人的重要基礎，讓 AI 不只是回答問題，更能理解企業的服務流程，以及客戶的情緒與潛在需求，提供更貼近人性的互動體驗。

李宗遠認為，宏華 AI 客服代理人可以為企業帶來三項價值。第一項是將原本仰賴人工處理的流程自動化。AI 客服代理人不僅能線上服務客戶，完成訂位、預約、報修等流程，還能自動執行後續作業，例如：生成維修派工單，並通知師傅前往服務。

第二項則是優化顧客體驗。AI 客服代理人以多模態 AI 作為核心，可以進行語音、文字與影像的互動，因此，顧客透過電話、LINE、社群平台、網站或實體門市等留下的互動記錄，都能整合至同一平台，避免在服務過程中產生斷點。

第三項是延長服務時間與擴大服務範圍，承接更多商機。AI 客服代理人支援國語、台語、英語 24 小時應答，無論顧客在任何時間、透過何種管道聯絡，甚至使用外語，都能獲得即時回覆。

十多年客服經驗，如何成為宏華 AI 的護城河？

當 AI 客服的技術能力逐漸成熟，真正難以複製的，不是模型，而是背後累積的服務經驗，而這正是宏華最大的競爭力。

宏華國際新事業處協理曾世忠指出，宏華國際深耕客服領域超過十年，累積全台數一數二的服務量能與顧客互動經驗。從客服、門市到到府服務，這些第一線服務經驗，不僅讓團隊更理解真實客服情境，也更熟悉不同產業的服務流程與需求，成為 AI 客服代理人得以持續優化的關鍵。

這些第一線經驗讓宏華非常清楚顧客互動過程中的各種變數，包括臨時修改需求、跳躍式提問、說話帶有情緒等。曾世忠表示，真實世界的客服互動很少按照既定腳本進行，許多AI在面對顧客突然改變想法或偏離原本的對話流程時，容易陷入重複問答或無法理解語意的困境，進而影響使用體驗。
也正因此，宏華訓練的不只是 AI 的智商（知識理解、順暢對話），更重視服務情商（情緖分析），讓 AI 能理解對話情境、顧客情緒與需求變化，可以「秒問秒答、邊聽邊想」，而非只是依照固定腳本機械式回應。

除了理解真實客服互動情境外，長期服務不同產業客戶的經驗，也讓宏華更了解各產業面臨的服務情境與需求差異，並將這些產業 Know-how 模組化，發展出餐飲、技術服務、專業服務等產品包，企業只要完成需求完成設定，便能快速導入，大幅降低建置時間與試錯成本。

「AI Agent 的價值不只是協助企業服務客戶，更將成為企業營運的重要基礎設施。」曾世忠認為，未來，AI Agent 除了協助企業回應外部客戶需求，也將進一步應用於員工服務、人資諮詢等內部場景，成為串聯企業內外部溝通的重要角色。而宏華國際也將持續投入相關技術發展，協助企業在 AI 時代建立更穩定、更具韌性的營運能力。