NVIDIA執行長黃仁勳：Google TPU在內的AI晶片都有其侷限性|數位時代 BusinessNext

NVIDIA執行長黃仁勳出席技術大會(GTC)之後的記者會強調，「人工智慧的世界很大，我們的焦點不是手機等物聯網產品，而是大規模的雲端資料中心。」

黃仁勳還指出包括Google TPU在內的各種AI專用晶片都有其侷限性，「NVIDIA致力於一般用途的通用GPU，可以用在任何的神經網絡上，而非僅有CNN網絡上。」

記者參與了大會演說和記者會後，僅有一個感想：就是不要再拿Google TPU類比NVIDIA GPU了。

不要再拿Google TPU比較NVIDIA GPU

因為兩者不僅從專用與通用AI晶片本質不同，發展取向也不同，Google TPU就算已經發展到第三代，重心還是圍繞自家產品與服務，和NVIDIA成為每個地方（everywhere）與多功能的發展取向不同。

NVIDIA要以其開放合作的精神，進攻10億美元的超級運算產業，鞏固包括Google在內的大規模與高速運算資料中心客戶，或成為醫療、自駕車領域夥伴的處理器平台，對於虛擬貨幣挖礦與自駕車感測器等領域晶片不感興趣。

看好高端資料中心產品，售價達1200萬台幣的DGX-2

NVIDIA並未走向FPGA與ASIC等專用晶片研發，而是持續投入更高運算效能的GPU產品，被黃仁勳稱為「世界上最強的，有史以來最大的GPU」的NVIDIA DGX-2系統。

這個史上最強的GPU主要在於GPU「雙向傳輸」技術NVLink Switch的突破。NVIDIA利用此技術將把16個GPU連結為單一且都可1對1點雙向傳輸的GPU。「若相比五年前的AlexNet採用GTX 580s系統需要六天的訓練時間，使用此產品僅需要18分鐘，在五年內，速度提升500倍。」黃仁勳說。「訓練時間大幅度縮短，在推論部分將推論延遲縮短到1.1毫秒，推論速度為每秒6250個影像。」

NVIDIA DGX-2重達350磅，單手難以舉起，每個GPU都可以用每秒300GB的速度運算，也是世界上第一個2PFLOPS (petaFLOPS，等於每秒1千萬億次的浮點運算）系統。那售價呢？黃仁勳指出，NVIDIA DGX-2效能略等於300萬台雙CPU伺服器，前者售價為39.9萬美元，後者成本高達300萬美元。

四家頂尖伺服器廠商包括聯想、雲達(QCT)、美超微(Supermicro)與緯穎 (Wiwynn)等伺服器廠都已推出基於DGX-2設計的系統，而富士康、英業達、廣達與緯創正開發中。

看淡挖礦市場：虛擬貨幣市場僅是額外的紅利

相較於資料中心產品的熱烈推銷，黃仁勳對於近來竄紅的挖礦需求看得很淡。受到挖礦熱潮影響，NVIDIA GPU市場價格水漲船高，Susquehanna分析師 Christopher Rolland 曾指出GPU市價較官方售價高出40%~70%，NVIDIA公布的2018年第一季財報時也指出挖礦GPU營收為2.89億美元。

不過NVIDIA並未看重這種「來得快，去得也快」的挖礦財，不僅會中對於加密貨幣隻字未提，黃仁勳還強調，「虛擬貨幣市場對我們來說本來就是額外的紅利（Bonus），因此如果沒有也沒有關係，我們在其他市場成長性很高。」

「GPU價格走跌對我們來說是好事，過於昂貴的GPU會導致電競玩家無法負擔，我們的GPU是專為電競玩家打造的。」黃仁勳說。

由於加密貨幣價格波動大，讓挖礦GPU需求起伏不定，礦工在乎的是GPU C/P值品牌忠誠度低，加上比特大陸等廠商紛紛ASIC等挖礦專用晶片市場，這些都是NVIDIA看淡挖礦需求的背後主因。

NVIDIA不會研發車用光達晶片

而在自駕車領域，NVIDIA也一貫維持其「通用」的精神，強攻NVIDIA DRIVE Xavier平台，但不會進軍光達晶片等專用垂直領域。

光達（Lidar）成本是自駕車感測硬體最高的部分，現今的機械式64線光達價格達8萬美元以上，業界認為若機械式光達晶片化後，價格將有機會低至500美元，意法半導體與Intel紛紛加入研發行列。

黃仁勳很明確地指出，「我們不會投入資源研發光達晶片」。

黃仁勳指出，人類利用耳朵、眼睛與皮膚等多重感官，精準感受這個世界，自駕車也雷同，需要多種感測器相輔相成，舉例來說，雷達對於移動（Motion）的感測很好，但解析度不夠高，光達可以看很遠，但解析度低，而照相機解析度高，但易受光影與氣候影響。因此NVIDIA會截長補短和廠商共同合作，把多種感測器融合在NVIDIA產品裡。

2026台灣設計展於9月24日至10月11日在桃園登場，以「桃園流」為主題，結合千塘之鄉的水文地景、國門之都的航空與物流優勢、多元族群文化匯流，以及 AI 科技應用，展現城市運轉的動態美學。

其中，為提供民眾不同於以往的互動體驗，AIoT 智慧感知大數據平台服務商棋苓（Chylyng）推出全展區 AI 穿戴互動體驗「FLOW CHECK」。參觀者配戴主辦單位提供的智慧手環後，可沿著展場動線於不同站點進行互動。即使多人同時參與，每位參觀者仍可依照不同的路徑、選擇與互動節奏完成體驗；系統並依據互動過程與結果，即時生成專屬的 Flowmomo 數位卡牌，讓參觀者儲存並帶走屬於自己的展覽體驗紀錄。

看似簡單的手環互動，背後其實是一套整合穿戴裝置、即時感測、場域互動、資料處理與雲端服務的完整系統。尤其在大型公開展覽環境中，不僅必須因應大量參觀者於短時間內同時使用，也必須確保從手環感測、站點互動、資料傳輸到最終結果產出的每一個環節，都能維持即時且穩定的服務品質。

棋苓以自主開發的 Eleplo AIoT Platform 為技術核心，整合穿戴裝置、感測設備、人員與資產定位，以及即時事件與資料管理，並負責建構 FLOW CHECK 的手環互動邏輯、站點應用、卡牌生成及參觀者操作介面。

專業分工合作：諾德資訊坐鎮後端，撐住大型公開展覽的服務韌性

為了讓系統從開發與測試環境順利進入大型公開場域，並進一步提升正式服務的可用性、資安與系統韌性，諾德資訊與棋苓採取專業分工合作。棋苓聚焦於 AIoT 平台、穿戴應用及使用者體驗；諾德資訊則負責後端基礎架構、正式環境部署、壓力測試、高可用性驗證，以及服務上線後的系統與流量監控。

由於展場現地部署時間僅有兩天，雙方將大量驗證工作提前至開展前完成。諾德資訊於正式開展前約一個月即建置專用測試環境，讓棋苓的應用服務提早與正式營運架構整合，並進行壓力測試、高可用性驗證及異常情境測試，使原本必須於現場進行的系統驗證工作大幅提前完成。

諾德資訊業務開發經理邱柏瑞表示：「FLOW CHECK 的挑戰在於大量參觀者可能集中於同一時段使用手環，因此除了確保服務穩定之外，也必須辨識進入系統的流量究竟來自真人使用者、合法自動化程式、AI Bot 或惡意攻擊，並透過即時監控及早發現異常。」為此，諾德資訊導入 IntelliFend Bot Management，協助辨識真人使用者、合法自動化及異常機器人流量，並於展覽公開服務期間透過遠端監控，持續掌握主機、資料庫、應用服務及外部流量狀態。

此外，為驗證系統在大型展覽情境下的承載能力，正式展出前，諾德資訊亦協助棋苓進行大規模壓力測試，模擬最高約 3 萬人同時使用的流量情境，提前觀察系統資源使用狀況、服務反應與可能的效能臨界點，並據此進行相關調校。

透過棋苓在 AIoT、智慧穿戴與互動應用上的技術能力，以及諾德資訊在正式營運環境、資安、壓力測試與維運監控上的經驗，雙方在展覽正式開放前，即完成從應用層到基礎架構的完整驗證，讓 FLOW CHECK 能夠在大型公開場域中穩定提供即時的 AI 穿戴互動體驗。

AI加速開發腳步，但也增加「上線」考驗

從生成式AI到代理式AI，軟體開發速度快速提升，過去需要長時間才能完成的產品原型（Prototype）與概念性驗證（PoC）專案，現在可以很快完成驗證，讓軟體商有更多時間跟資源投入客戶需求、產品創意與使用體驗。

但是，從PoC走到Production，面對的是完全不同的考驗。
諾德資訊技術長張家榮解釋，進入正式環境（Production）後，軟體服務必須面對真實使用者的流量、不同客戶的IT環境、計算資源擴充、資料庫負載、網路連線、資安攻擊，以及服務異常時的切換與處理，就算在壓力測試時表現正常的系統，也可能在Production的時候出現問題。

更值得特別注意的是，AI不只讓開發者更快，也讓攻擊者發現漏洞的速度加快；過去，服務上線後還有時間慢慢觀察、修正，現在，服務一上線，可能很快就遭到掃描甚至攻擊。

也因如此，軟體商、系統整合商選擇基礎架構夥伴的條件開始改變，從過去關注功能與價格轉向：產品能不能順利上線？出了問題誰來處理？面對流量變化與資安風險，服務能不能持續運作？

張家榮表示：「諾德資訊可以提供從公有雲、私有雲、地端、邊緣運算、主機代管、網路，到維運與監控等服務，讓軟體夥伴可以將資源集中在應用與客戶需求，無須擔憂Production議題。」

不僅提供資源，諾德資訊將Production變成一項服務

而這也是諾德資訊會提出「Production as a Service」的原因：不是在提供另一種雲端或主機服務，而是將軟體從開發走向正式營運所需的Production流程，轉化成可以被專業分工、驗證與持續維運的一項服務。

「Production as a Service不是單純把主機或雲端資源租給客戶，而是共同檢視這套軟體能不能順利上線與正常營運。」邱柏瑞表示。

實際做法包括，在上線前協助檢視架構，建立與正式環境相近的測試環境，確認系統正常狀態、最大承載量與資源需求，並驗證高可用性、資安、備援及服務切換機制；上線後則持續監看服務狀態、容量與流量，及早發現異常並處理。

諾德資訊之所以有這樣的服務能力，可以歸結為三點：

第一，長期累積的基礎架構與維運經驗，目前，諾德資訊同時服務的客戶數近30家，應用情境涵蓋IoT、購物平台、遊戲、音樂等不同類型的軟體服務。

第二，諾德資訊將每一個客戶遇到的問題與解決方案收攏至知識庫，讓團隊成員可以快速處理、借鏡，滿足客戶需求。

第三，依循ITIL的維運精神，並具備ISO 27001等資安相關認證，將服務流程、操作紀錄、備份、監控與異常處理等機制內化到服務之中。

這也是諾德資訊與單純提供雲端、IDC或主機代管服務的業者之間的最大差異：交付的不僅是基礎設施，而是讓服務持續運作的能力。面對客戶同時使用公有雲、私有雲、地端與邊緣運算環境，諾德資訊另以 MQloud 提供統一管理，把網路、防火牆、流量、監控與帳務收進同一套平台，降低跨環境營運的複雜度。

「軟體商負責開發，就像晶片設計公司；諾德資訊則負責協助完成測試、製程調整與正式生產，讓產品真正走向市場，希望成為『軟體界的台積電』。」張家榮如是說道。

展望未來，諾德資訊將持續深化 Production as a Service，成為軟體公司從上線到長期營運的夥伴。自構想階段起即與軟體商共同討論架構，於測試階段協助驗證，於準備上市時承接正式環境，上線後則持續守住流量、資安與服務韌性。軟體開發者與 SaaS 業者可將資源集中於產品與客戶，完整基礎架構與 24×7 維運則由諾德資訊端到端承接。