NVIDIA執行長黃仁勳:Google TPU在內的AI晶片都有其侷限性
NVIDIA執行長黃仁勳:Google TPU在內的AI晶片都有其侷限性
2018.05.30 | Google

NVIDIA執行長黃仁勳出席技術大會(GTC)之後的記者會強調,「人工智慧的世界很大,我們的焦點不是手機等物聯網產品,而是大規模的雲端資料中心。」

黃仁勳還指出包括Google TPU在內的各種AI專用晶片都有其侷限性,「NVIDIA致力於一般用途的通用GPU,可以用在任何的神經網絡上,而非僅有CNN網絡上。」

記者參與了大會演說和記者會後,僅有一個感想:就是不要再拿Google TPU類比NVIDIA GPU了。

不要再拿Google TPU比較NVIDIA GPU

因為兩者不僅從專用與通用AI晶片本質不同,發展取向也不同,Google TPU就算已經發展到第三代,重心還是圍繞自家產品與服務,和NVIDIA成為每個地方(everywhere)與多功能的發展取向不同。

NVIDIA要以其開放合作的精神,進攻10億美元的超級運算產業,鞏固包括Google在內的大規模與高速運算資料中心客戶,或成為醫療、自駕車領域夥伴的處理器平台,對於虛擬貨幣挖礦與自駕車感測器等領域晶片不感興趣。

看好高端資料中心產品,售價達1200萬台幣的DGX-2

NVIDIA並未走向FPGA與ASIC等專用晶片研發,而是持續投入更高運算效能的GPU產品,被黃仁勳稱為「世界上最強的,有史以來最大的GPU」的NVIDIA DGX-2系統。

這個史上最強的GPU主要在於GPU「雙向傳輸」技術NVLink Switch的突破。NVIDIA利用此技術將把16個GPU連結為單一且都可1對1點雙向傳輸的GPU。「若相比五年前的AlexNet採用GTX 580s系統需要六天的訓練時間,使用此產品僅需要18分鐘,在五年內,速度提升500倍。」黃仁勳說。「訓練時間大幅度縮短,在推論部分將推論延遲縮短到1.1毫秒,推論速度為每秒6250個影像。」

NVIDIA DGX-2重達350磅,單手難以舉起,每個GPU都可以用每秒300GB的速度運算,也是世界上第一個2PFLOPS (petaFLOPS,等於每秒1千萬億次的浮點運算)系統。那售價呢?黃仁勳指出,NVIDIA DGX-2效能略等於300萬台雙CPU伺服器,前者售價為39.9萬美元,後者成本高達300萬美元。

四家頂尖伺服器廠商包括聯想、雲達(QCT)、美超微(Supermicro)與緯穎 (Wiwynn)等伺服器廠都已推出基於DGX-2設計的系統,而富士康、英業達、廣達與緯創正開發中。

看淡挖礦市場:虛擬貨幣市場僅是額外的紅利

相較於資料中心產品的熱烈推銷,黃仁勳對於近來竄紅的挖礦需求看得很淡。受到挖礦熱潮影響,NVIDIA GPU市場價格水漲船高,Susquehanna分析師 Christopher Rolland 曾指出GPU市價較官方售價高出40%~70%,NVIDIA公布的2018年第一季財報時也指出挖礦GPU營收為2.89億美元。

不過NVIDIA並未看重這種「來得快,去得也快」的挖礦財,不僅會中對於加密貨幣隻字未提,黃仁勳還強調,「虛擬貨幣市場對我們來說本來就是額外的紅利(Bonus),因此如果沒有也沒有關係,我們在其他市場成長性很高。」

「GPU價格走跌對我們來說是好事,過於昂貴的GPU會導致電競玩家無法負擔,我們的GPU是專為電競玩家打造的。」黃仁勳說。

由於加密貨幣價格波動大,讓挖礦GPU需求起伏不定,礦工在乎的是GPU C/P值品牌忠誠度低,加上比特大陸等廠商紛紛ASIC等挖礦專用晶片市場,這些都是NVIDIA看淡挖礦需求的背後主因。

NVIDIA不會研發車用光達晶片

而在自駕車領域,NVIDIA也一貫維持其「通用」的精神,強攻NVIDIA DRIVE Xavier平台,但不會進軍光達晶片等專用垂直領域。

光達(Lidar)成本是自駕車感測硬體最高的部分,現今的機械式64線光達價格達8萬美元以上,業界認為若機械式光達晶片化後,價格將有機會低至500美元,意法半導體與Intel紛紛加入研發行列。

黃仁勳很明確地指出,「我們不會投入資源研發光達晶片」。

黃仁勳指出,人類利用耳朵、眼睛與皮膚等多重感官,精準感受這個世界,自駕車也雷同,需要多種感測器相輔相成,舉例來說,雷達對於移動(Motion)的感測很好,但解析度不夠高,光達可以看很遠,但解析度低,而照相機解析度高,但易受光影與氣候影響。因此NVIDIA會截長補短和廠商共同合作,把多種感測器融合在NVIDIA產品裡。

關鍵字: #Google #Nvidia
往下滑看下一篇文章
核保、理賠、客服全面AI化:富邦人壽導入「三大智能助理」升級保險服務鏈
核保、理賠、客服全面AI化:富邦人壽導入「三大智能助理」升級保險服務鏈

近年談 AI 轉型的金融業者不少,多半從技術切入,闡述架構藍圖與導入策略。富邦人壽則選擇從行政端著手,先問哪個場景最攸關保戶,再決定 AI 該往哪裡導入。「關鍵在於回歸以人為本的核心,專注於客戶體驗。」保單行政處處主管蔡佳蓉副總經理指出,核保、理賠與客服,是服務價值鏈中與保戶互動最直接的三大關鍵,自然成為富邦人壽 AI 布局的起點。

以 AI 賦能核保,審查時間省六成

開始一張保單的旅程,核保是第一步,攸關保戶是否能儘速取得保障。投保過程中,若涉及既有病史或體況,核保便須介入評估,綜合審視商品條款、投保規則與法律規範,以決定是否承保,可說是一項高度專業的決策工程。

「以一份新契約為例,客戶的病歷資料可能厚達百頁。核保員得逐頁翻找診斷紀錄、用藥史與手術紀錄,判斷其對承保的影響。但大多數核保人員並不具備醫護背景,這方面的專業判斷力全靠長期經驗積累,導致傳統作業十分耗時。」蔡佳蓉解釋。

為此,富邦人壽建構「核保智能助理」,運用生成式 AI 摘要病歷,解決過往判讀大量專業英文病歷的痛點。這可不是把資料丟進 AI 資料庫就好——蔡佳蓉分享,導入過程中的挑戰之一,是為特種個資去識別化,需先透過個資遮罩工具處理病歷;此外,針對 AI 常見的「幻覺」風險,團隊也反覆調校提示詞,讓摘要報告力求精準正確。

她強調, AI 定位為「初篩與重點整理」的助手,最終決策權仍歸於核保員。透過 AI 摘要、核保員決策的人機協作模式,體況審查平均作業時間成功從 40 分鐘縮短至 15 分鐘,核保效率提升六成,讓核保同仁能將心力集中於高風險案件與例外處理。

以 AI 輔助判讀,加速理賠條款今昔對照

同樣面對大量資料判讀挑戰的,還有理賠。理賠是保險公司實踐承諾、展現服務價值的重要時刻,但隨著醫療技術不斷進步,許多保單條款當年訂定的手術項目,到了今天可能已發展出全新的治療方式。理賠人員需要從大量醫療資料中,判斷新技術是否符合條款約定,過程相當耗時,也需要高度的醫療專業知識。

對此,富邦人壽導入「理賠智能助理」,整合醫療資訊與內部顧問醫師的專業意見,協助理賠人員快速比對保單條款與客戶所接受治療的對應關係。例如,當醫療科技演進產生新的手術方式時,AI 可協助理賠人員快速了解該疾病與手術的進行方式,並檢索相關條款與內部規則,提供理賠判斷建議,縮短過去需逐一查找資料的時間。此外,系統亦能協助摘錄擷取診斷書、病理報告及醫療費用單據等理賠文件審核重點,大幅縮短人工判讀比對時間,讓理賠人員更專注於專業判斷與保戶溝通,加速理賠服務效率與一致性。

客戶服務處處主管張婉茹指出:「AI 除了加速理賠作業,也能將資深理賠人員的專業經驗與判斷邏輯濃縮為高效吸收的知識庫,協助新進同仁快速掌握案件重點與判斷依據,縮短學習曲線,並提升理賠判斷的一致性與品質。」透過 AI 助理減輕資料整理的負擔,理賠人員得以將精力回歸專業決策與客戶溝通。

以 AI 客服加速分流,前線服務更到位

在核保與理賠之外,最大量的服務場景是客服。張婉茹表示,隨著數位原生世代逐漸成為保戶主力,客戶傾向先自主操作解決問題,不會直接撥打電話;一旦選擇撥打電話,就代表問題已超出自助服務能處理的範圍。

對此,AI 客服的導入,不只是回答問題,更是協助客戶找到最適合服務管道的「智慧導航員」。「我們是第一線面對客戶,因此 AI 客服最重要的不是回答得多,而是回答得正確。」張婉茹表示,富邦人壽在設計上特別重視回答來源的可信度,透過既有知識庫與 FAQ 資料治理機制,讓 AI 優先扮演「理解需求、引導服務」的角色,確保保戶獲得正確且一致的資訊。

事實上,富邦人壽的文字客服早於大型語言模型盛行前便已上線,目前文字客服平均每月處理超過六萬則訊息,智能助理能即時理解客戶需求,將保單查詢、資料變更等簡易服務導引至 App 或線上平台快速完成;面對理賠、保單變更或保障內容等較複雜的需求,則由真人客服接手提供專業協助。讓簡單問題快速解決、複雜問題由專人服務,將有限的人力資源投入最需要專業與溫度的服務情境,讓分流機制發揮實際成效。

從核保員手中的病歷、理賠人員桌上的單據,到線上客服的迅速回應,富邦人壽的 AI 布局,始終緊貼第一線作業現場。張婉茹表示,科技發展不一定要一次 end to end 全到位,應該是不停小步快跑,慢慢把應用場景擴大。去年底推出的全新富邦人壽 App,將「簡單、貼心、隨行」的理念落實在使用者介面體驗上,就是一次階段性集大成的成果。

但無論 AI 如何加速資料判讀、優化流程,專業判斷與服務溫度仍是機器無法取代的核心。「要有專業,才能判斷 AI 的產出品質。」富邦人壽兩位主管也強調,科技迅速發展下,富邦人壽導入 AI,不是要取代核保員、理賠人員或客服人員,而是希望讓每一位同仁把時間花在最有價值的地方。當AI承接了流程中繁瑣的資料負荷,人員就能更專注在判斷、溝通與服務,讓同仁的專業與心力回歸到最需要判斷力與人情味的溝通之上,這才是真正以客戶為中心的 AI 轉型。也是富邦人壽實現「AI Everywhere」的旅途上不忘的目標。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
台達電全解讀
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓