ChatGPT是超棒的老師,不能小看中國!黃仁勳炫風來台還說了什麼?完整QA一次看
ChatGPT是超棒的老師,不能小看中國!黃仁勳炫風來台還說了什麼?完整QA一次看

輝達(NVIDIA)執行長黃仁勳於5月30日時接受全球分析師及媒體問答,針對AI、自駕車等先進科技趨勢科技發展給出回答。《數位時代》整理出當天的精彩片段。

AI市場會大於自駕車市場,黃仁勳:安全性也很重要

Q:NVIDIA如何看待類比運算對人工智慧運算的影響,例如在記憶體中進行類比運算?這一個趨勢會不會重新定義數位運算的架構?

黃仁勳(以下簡稱黃): 資訊產業可以蓬勃發展的主要原因就是因為軟體,從IBM System/360到x86 CPU,再到ARM CPU,所有的運算系統都是可編程的,軟體是讓這個行業如此豐富的原因,所以最重要的就是軟體要能夠被編碼。

NVIDIA共同創辦人暨執行長黃仁勳
輝達(NVIDIA)執行長黃仁勳於5月30日時接受全球分析師及媒體問答
圖/ 蔡仁譯攝影

Q:您認為未來AI的發展途徑為何?

黃: 我認為這要分成先進應用和先進產業兩個部分來回答。首先,在應用的部分,主要是將人類無法預測和分析的複雜問題,透過轉寫軟體程式來解決。

我最喜歡的兩種應用分別是透過AI幫助人類找到新藥物來克服疾病,以及分析和預測氣候變遷,我們能透過人工智慧找到答案。

其次,在產業部分,AI現在只存在於雲端和人工智慧超級電腦,未來會延伸到每一個雲端當中。不過,我對另外兩個領域也很感興趣,一個就是將人工智慧應用在企業端,像HGX H100這樣的伺服器可以在如金融、零售等任何公司中。

另一個就是人工智慧在重工業中的應用,包含汽車、製造業、倉庫和電池工廠等,都是重工業領域,重工業也是全世界最大的行業之一。

Nvidia
黃仁勳表示,未來AI會大量被應用在重工業,例如汽車、製造業和電池廠。
圖/ shutterstock

Q:您如何看待AI模型訓練、推論(inference)兩個部分的運算架構發展?雖然現在你提供的架構兩個都可行,但未來是否會有一段時間人們將耗費大量時間和金錢,著重在訓練部分的開發?

黃: 如果你在資料中心裡面耗費8至9成的時間訓練AI模型、僅有1成時間拿來推論,意味著資料中心已經變成一個AI工廠。

當然也可以使用HGX H100電腦進行推論。不過根據內容不同,AI推論的對象可能會從圖像、文字、蛋白質到影像,而根據不同的推論任務,也會需要不同種類的處理器。

就像在傳統計算中一樣,不同的應用場景需要不同大小的伺服器。在這個新的加速計算世界中,我們也會有完全相同的情況,這就是為何NVIDIA有這麼多不同版本的GPU。

Q:你覺得AI還能如何幫助遊戲開發?

黃: AI就是我最愛的機器人,它其實是一個遊戲,非玩家角色NPC。未來世界上將有數十億、數萬億的NPC,他們將會很聰明,會有自己的故事、遊戲的情境在腦海裡,而且他們會互相互動。他們可以很容易地前往各地。另外,他們都會說不同的語言,也有不同口音,所以你將能夠輕鬆地互動,創造虛擬世界也會容易得多。

Q:相較AI市場,您對於自駕車晶片市場有什麼看法?自駕車晶片市場是否會比AI還大呢?

黃: 每年只有1億輛汽車被製造,然而,AI是數位的,這個市場在產生虛擬資訊,部署在雲端,所有這些AI都在雲端,所以數量無限,這就是為什麼這個市場會比汽車市場更大。

自動駕駛市場將會非常棒,每一輛汽車都會擁有非常優秀的電腦,而且這些電腦會保護你的安全,因此須處理很多關於安全的演算法,非常困難。但無論如何,每一輛汽車都將擁有非常強大的電腦,我對此感到非常興奮。

Q:請問您對於減少未來資料中心能耗的看法是什麼?

黃: CPU不斷升級的日子已經結束了,現在我們在世界上的雲端有數億個CPU,而工作負載一直在增加。如果我們增加更多的CPU,功耗就會繼續增加。所以我們必須加速運算,這非常重要。

在我們公司,我們盡可能地加速所有東西,現在雲端廠商也都知道他們要盡可能加速運算。如果你聽過Microsoft Build,有一些關於資料處理的加速的演講。改善是的過程是量級,所以如果你把計算時間減少,運算速度加快10倍、20倍甚至是100倍,當然就節省了功耗並更快速完成工作。這是今天運算的核心問題。我們必須加速運算,否則結果無法永續。

Q:先前馬斯克曾公開指出,生成式AI將對社會造成巨大風險,您如何看待?

黃: AI有著巨大的好處,當然也會伴隨著風險。但別忘了,AI最終將會是一項產品或服務,科技無法幫助人類除非它變成產品或服務,而產品和服務都應具備安全性且被規管,就像你吃的維他命、喝的咖啡一樣。

馬斯克.jpg
黃仁勳認為,AI未來的安全性很重要,應該要如食物、藥品一樣被規管。
圖/ pixabay

AI未來將會有很多產品或服務型態,無論是用在醫療、交通、製造、零售、金融服務、保險或是藥品探索(drug discovery),這些領域都有像FDA(美國食品藥物管理局)、NHTSA(美國國家公路交通安全管理局)這樣的主管機關,他們會需要監管AI,所有的應用都需要被監管,我們對AI安全性相當看重。

Q:每個人都可以擁有AI,每個公司都可以使用AI,但在科技生態系之外,多數人們還是缺乏該領域的知識。舉例來說,當英國所有的機場電子門都故障了,人們得要等4個小時才能入境,等待人員前來支援。因此,對於那些沒有專業知識的人來說,AI的替代物 (Backup) 究竟是什麼?而NVIDIA在這個生態系中扮演什麼角色?

黃: 讓我解釋一下今天的電子門問題。當電子門出現故障時,可能有一段軟體有bug,而有人以某種方式與電子門互動,以一種複雜的方式觸發了一個功能性故障,便會產生系統內部的bug。

也許有一個馬達磨損了,但讓我們假設是一個軟體問題。未來,如果電子門出現故障,你會問AI說:電子門出了什麼問題?AI會透過分析,指出在這種情況下觸發了軟體中的缺陷。然後你會說:請修好它,AI就會產生一些新的代碼,並運行那些新的代碼。

隨機的機場工作人員,現在不僅能診斷一個複雜的系統,還能夠修復,我剛剛把每個人都變成了程式設計師。如果你是農民,如果你從事農業科技,如果你在工廠工作,每個人都會成為程式設計師。你只需要知道這台電腦能夠做到這一點,而且你要知道如何問它、如何提示它

Q:現在生成式AI可以生成影像和影片,我們該如何理解這些素材能幫助AI的模型訓練,以及這種作法將如何幫助AI模型被訓練得更好?

黃: 今天我們創造一個很大的模型,不是因為我們要將模型用在所有事物上,而是會轉換成大、中和小的模型。我們用大模型來訓練中模型,然後再用於小模型,甚至是迷你模型。

迷你的AI模型可以在手機上運行,大模型則會在雲端,全都取決於應用場景的需求。這是很重要的觀點,不是AI都需要超大的模型,但你必須要從大模型開始。

首重供應鏈韌性,中國GPU新創不可小看

Q:您提到未來加速運算的需求會來是全世界的每個角落,請問當前供應鏈狀況已經跟上需求了嗎?

黃: HGX H100現在的需求相當不可思議,而我們在全球的供應鏈已進行大量採購,下半年的供應量相當龐大,與供應鏈夥伴也很迅速的在進行合作。

當人們說NVIDIA Hopper GPU時,他們指的是這個(HGX H100)。很多人誤以為它是一塊晶片,實際上它是一台超級電腦,內含35,000個元件,數百億個電晶體的組合。你可以試著舉起它,有65磅重,是世界上製造過的最複雜的超級電腦,需求量高,我們供應量也很大。

Q:您認為美國對中國的銷售禁令,會拖緩中國的科技進展,還是會讓中國的GPU製造商更蓬勃發展,甚至創造出另一個AI軟、硬體的生態環境?

黃: 這很難預測,但你必須承認,中國的科技創業者是充滿活力的。中國擁有世界上最好的雲端、消費性互聯網服務。當然,他們在電子支付也是最先進的,電動車也進步的非常快。

我們絕對會遵守規定,但我想中國會利用這個機會來培育他們所有的本地創業者,這就是為什麼中國有這麼多GPU新創的原因。現在如果你要在中國的半導體產業創業,當然會創辦GPU公司,中國現在就有一大堆的GPU公司。

我們有很多競爭者,而且到處都有優秀的工程師,因此我們盡最快的速度奔跑。Run, don’t walk.

Q:是否有計畫和台灣的軟體公司或生態系合作,深入各種產業呢?

黃: 是的。事實上在這個聯訪後,我會出席雲達科技的記者會,然後回來和台灣軟體開發者共同參與輝達開發者大會。開發者大會是希望能夠幫助生態系,台灣處在科技重要時刻,現在正面臨過去40年以來,最重大的科技革新,台灣看來有很大的機會,是黃金時機。台灣已經有資通訊產業的基石,是電腦行業發展的基礎,一定要把握機會浴火重生。

延伸閱讀:黃仁勳脫下招牌皮衣幫他穿上!幫NVIDIA打造首台AI超級電腦,雲達什麼來頭?

黃仁勳:英特爾下一代製程測試結果很不錯

Q:在創辦輝達至今的旅途中,所面臨的最大風險以及所做的犧牲是什麼?轉變哪些思維方式呢?

黃: 像Grace Hopper這樣的AI(人工智慧)加速晶片,在深度學習之前從未存在過,從晶片架構、晶片、封裝再到系統和軟體,所有東西都因為深度學習而被重新發明。因為深度學習不僅是軟體,他是一個會與人類共同撰寫軟體的電腦,作為人類的助手而被稱為人工智慧,非常驚人。

也因為我們相信所有東西要被重新發明,所以我們必須做出犧牲。人工智慧由數以萬計的工程師所成就,現在已經超過了10萬個工程年,這些工程年本來可以做其他事情,這就是犧牲。

Q:請問您對未來AI人才的培養有何看法?

黃: 首先,AI將是最好的老師,我有一個ChatGPT的帳號,我問ChatGPT很多問題,而它是一個不可思議的老師,還會反問我問題。我期待將來會有大型語言模型整合到教育中,從小學一直到大學甚至更多,如同一個互動式的教育助理,真是太棒了。

Q:英特爾首席執行官基辛格説,他們在幾年內很快就會追上輝達,您如何看待?

黃: 你必須用跑的,不要用走的。(You have to run, don’t walk.)英特爾是一間很好的公司,我有很多朋友都在英特爾工作,他們擁有很好的工程師,很多輝達的工程師也都來自英特爾,這間公司擁有不少優秀人才,你不能低估英特爾。Run, don’t walk(用跑的,不要用走的)。

延伸閱讀:被黃仁勳特別點名,還讚測試晶片「不錯」!英特爾笑收Nvidia豐厚大單?

Q:除了硬體之外,在未來幾年內,你們看到的軟體和服務營收增長的三個最大機會點是什麼?

黃: 第一,現場這些電腦,沒有一台能夠在沒有標準軟體的情況下運行,整套運算系統完全依賴軟體,NVIDIA致力於打造一整套軟體生態系,從操作系統、系統管理到分散式計算等軟體技術,使這個電腦系統能夠融合到每個雲端。

第二,我們能立即在現場佈置這樣的電腦系統。現今除了我們,沒有電腦公司能到府安裝,我們能在兩週內打造出一個AI工廠。我們把整個數據中心產品化,而且其中大部分功勞都要歸功於軟體。

Q:瑞士信貸銀行(Credit Sussie)指出,輝達控制了95%至100%的機器學習市場,這對於AI民主化來說不是好事。請問輝達會如何在AI領域保持領先的同時,也同時將AI民主化納入考量呢?

黃: 首先,我認為這個說法不精確,Google有TPU(張量處理器)、AWS有Trainium晶片,兩個都不是輝達產品,加上我知道世界上還有其他晶片用於AI訓練,我認為這個說法不精準。

其次,我們透過讓AI可以被部署在每個雲端,讓每家公司、電腦都能使用。但相對的,Trainium晶片就不是誰都能使用的產品。無論何時你想增加AI功能,我們都已經能提供AI的基礎設施,達到AI的民主化的近用性(access),任何想要用AI的人,都可以取得相關產品。

NVIDIA技術如此受歡迎,是因為它是成本最低的解決方案,加上系統的吞吐越高,電腦完成工作的時間就越短。另外,軟體和網路也是重要的因素,沒有這兩者,電腦就無法發揮功能。正是這兩個原因,讓我們的解決方案無所不在,並能夠被隨處取得的原因。

責任編輯:錢玉紘

往下滑看下一篇文章
AI NAS 何時才值得部署?QNAP 拆解地端 AI 的成本、算力與資料門檻
AI NAS 何時才值得部署?QNAP 拆解地端 AI 的成本、算力與資料門檻

當資料不能離開企業,運算就得靠近:AI 先改寫儲存架構

AI 帶來的第一個變化,不只是運算能力提高,而是企業必須重新決定資料放在哪裡。

儲存架構大致分為雲端與地端兩塊,QNAP 身為資料安全的守護者,長期發展的是地端網路儲存設備(NAS),並擴展至 25GbE、100GbE 高速網路交換器產品線,提供完整的儲存與高速網路基礎架構。威聯通科技(QNAP)總經理劉文義解釋,當資料因合規要求或敏感度不能上雲,就必須留在靠近使用者與應用的地方;運算需求一旦增加,承接資料的裝置也自然被推向地端 AI。

不能上雲的名單比想像中長。醫療業持有大量醫療個資,金融與保險業受到合規與法規限制,部分大學院校與設計公司也不希望資料被雲端存取。對這些組織而言,問題並不是雲端好不好用,而是一開始就沒有把核心資料全面上雲的選項。

qnap2.jpg
威聯通科技(QNAP)總經理暨威強電集團(IEI)董事長 劉文義
圖/ 數位時代

真正讓更多企業回頭計算的,則是長期成本。劉文義指出,資料上傳雲端可能免費,下載卻會按流量收費;當企業把一年、兩年、三年的費用加總回推,可能會發現,購買一台同等容量的 NAS,還能使用 7-10 年。資料規模愈大、存取愈頻繁,總持有成本的差距就愈值得評估。

這並不代表雲端與地端只能二選一。雲端仍適合模型訓練、程式開發與波動大的工作負載;地端則較適合高頻存取、對延遲敏感,或不能離開企業邊界的資料。企業真正要回答的,是每一類資料與任務應該放在哪裡。

依 QNAP 觀察,客戶過去關心的是需要幾 TB、幾 PB,或備份速度有多快;現在更常問的是,機器裡的資料要如何被 AI 活用。QNAP 也從 2021 年起,把公司發展定調在 AI 與高速網路的融合,試圖讓 NAS 從資料保存的位置,進一步成為資料被調用的位置。

當資料量持續擴大,搜尋與管理方式也會跟著改變。「在 NAS 裡放入 AI Agent 會越來越不可或缺。」劉文義舉例,當照片累積到 10 萬、20 萬張,要找出其中幾張特定畫面,已不可能只靠人工翻找。此時,能理解內容、接受自然語言指令的 AI 工具,會從加分功能逐漸變成必要條件。

從資料治理到地端推論:AI NAS 如何進入企業工作流?

AI NAS 不是「多了 AI 功能的 NAS」,而是 NAS 在企業工作流裡換了位置。
依 QNAP 觀察,目前客戶大致分布在一條導入光譜上。人數最多的一群,仍在把資料集中、分類、清理與建立權限。這一步看似與 AI 無關,卻決定後續系統能不能找到正確資料、辨識版本,並把答案交給有權限的人。

中間一群開始建置私有的檢索增強生成(RAG)知識庫。RAG 並不是重新訓練一個模型,而是在模型回答前,先從企業的 SOP、合約、法規或技術文件中取回相關內容,再產生附有來源依據的答案。QNAP 以 Qsirch 的語意搜尋能力協助建構這類應用,協助企業建立私有知識庫;而走在最前面的少數企業,則已經嘗試地端推論與 AI Agent。

模型的選擇權,QNAP 刻意留給客戶。知識庫背後採用哪一個模型,可由企業依需求決定,不綁定單一 AI 供應商。QNAP 也以 QuAgent AI 助理與模型情境協定(MCP)相關能力,讓管理者透過自然語言查詢狀態、調整設定,並讓 NAS 成為 AI Agent 可調用的資料節點。

不過,劉文義沒有把這條路說得太容易。他坦言,目前 NAS 硬體的 AI 運算能力仍有限。一般企業期待的應用,可能需要約 300 到 800 TOPS,甚至 1,000 TOPS,因此多數方案會以 NVIDIA 顯示卡補足算力;一張卡約需新台幣 10 萬至 12 萬元,一張算不完,就得配置 2 張或 4 張。

「整體成本可能是過去單獨一台 NAS 的 5 倍到 10 倍,並不是大部分中小企業都能接受。」除了硬體,使用者還需要 AI 應用的 Know-how、程式背景與開發資源,這些都是落地成本。

QNAP 則是透過算力分級讓各規模與需求的企業都可以有適合的解決方案。在 Computex 2026 搶先亮相的 QNAP AI NAS 中,一類是採用含有 iGPU 與專屬 NPU 的處理器平台,以一百多 TOPS 的範圍,可順暢使用 AI 應用程式;另一類機種則可安裝 1 張或 2 張 NVIDIA 顯示卡,處理更大的運算量。

同時 QNAP 也在軟體端也持續開發,目標是讓 NAS 裡的資料更有效率地被 AI 工具調用,讓資料成為有價值的知識。

從規格走到現場:能源公司如何導入私有 LLM?

本地 AI 實際落地部署會是什麼模樣?劉文義舉了一家約 50 多人的能源公司為例。這家公司原本想用 NAS 搭配雲端 AI 建置內部資料庫,但很快遇到兩個瓶頸:一是員工查詢時明顯出現卡頓;二是專利、技術與合約都高度敏感,高層不願上傳至公有雲,擔心機密資料會有外洩的疑慮。

後來,該公司導入 QNAP AI NAS 的旗艦機種 QAI-h1290FX,搭配顯示卡與全快閃 SSD,在地端部署私有大型語言模型,把數十年來封存的靜態檔案交給 AI 調用,進行跨檔案摘要與精準搜尋。員工因此省下翻找合約與報告的時間,核心機密也能留在企業內部。

這個案例說明,若任務範圍明確,有些應用不必動用雲端大型模型,地端運算量就可能足以支應。

但不同企業的資料量、查詢方式與模型大小不同,導入前仍需要概念驗證(POC)與技術人員評估。

而且,資料留在地端並不等於自動安全。企業仍要處理帳號權限、網路隔離、備份復原、漏洞修補與日常維運。地端的價值,是讓資料邊界與控制權回到企業手上;相對地,安全責任也會更直接地回到企業。

哪些企業現在該做,哪些再等?先看重複性與三個條件

能不能導入地端 AI,不只由產業標籤決定,也要看工作是否重複,以及場景能不能被清楚定義。劉文義觀察,第一批走進來的,除了受法規限制的醫療、金融與保險業,也包括利用地端 AI 加速資料處理的科技業,以及會計、律師等有大量重複文書工作的專業服務業,因為效益較容易被看見。

工廠也是可預期的場景。一條生產線可能有 10 台、20 台機器,每台處理與儲存資料的 Protocol 都不同,需要相對應的儲存裝置;生產過程累積的影像與紀錄可能要保存 3 年到 5 年。當企業要跨設備調用這些資料,AI Agent 與地端資料節點就有發揮空間。

「重複性資料處理越多,或重複性動作越多的產業,越容易透過導入 AI 提高工作效率。」反過來說,較傳統、人力密集,或仍高度依賴人工判斷的製造業,短期內未必能快速導入地端 AI。

依 QNAP 提供的資料,企業也可用「高頻、大量、敏感」三個條件做第一輪判斷:資料是否被頻繁調用?規模是否大到雲端傳輸與長期費用開始變得明顯?內容是否涉及個資、法規、智慧財產或商業機密?三個條件愈集中,地端部署愈值得評估;三者都不成立時,使用雲端 API 往往更簡單,也可能更划算。

可以先等的企業,大致也有三種。第一,資料仍分散、版本混亂、權限不清,急著上 AI 只會把混亂放大,先完成集中與治理,效率就可能先提升。第二,找不到一個具體且反覆發生的業務痛點,只因為「別人都在做」而採購,設備很可能變成昂貴的展示品。第三,使用量仍小、需求偶發,現階段雲端的彈性反而更有優勢。

因此,POC 不應只驗證「模型答不答得出來」,還要回答三個問題:資料由誰負責,誰可以存取?導入後能節省多少查找時間、傳輸成本或人工作業?正式上線後,誰負責資料、模型與資安維運?只有當效益與責任都能被量化,才適合從展示走向正式部署。

企業願意把部分資料留在自己的機房,動力最終仍回到資料主權。QNAP 的主要市場分布在歐洲、美洲與亞太,其中歐洲占比將近一半,而歐洲也正是全球推動資料主權的最大動力。

QNAP 的產品已取得 ISO 27001、ISO 27017 與 ISO 27018 等多項認證,並滿足 GDPR、HIPAA 等資料保護與法規遵循需求;累積至今,已售出約數百萬台裝置,協助企業打造智慧、安全的儲存方案。

至於普及時間點,劉文義提出一個明確的價格與效能交會點:地端應用若要順暢運作,運算量可能至少要達到 300 至 600 TOPS,甚至 800 TOPS,同時價格要落在新台幣 5 萬至 8 萬元。目前符合這些條件的硬體方案仍很有限。

qnap3.png
「AI NAS 不是多了 AI 功能,而是改寫了資料在工作流的位置。」威聯通科技總經理劉文義坦言,地端算力成本高昂,QNAP 透過「算力分級」與開放模型架構,助企業逐步建構私有 RAG 知識庫與 AI 團隊。
圖/ 數位時代

「預測約兩、三年後,應該很快會看到符合一般大眾期待、具備合理 CP 值的產品。那個時間點,就會是 AI 落地最蓬勃發展的時候。」在此之前,企業真正能先做的,不是搶著買最大的模型或最昂貴的顯示卡,而是把資料治理、使用權限與高價值場景準備好。

QNAP 以「資料煉油廠」比喻自己的角色:原油再多,沒有整理、提煉與配送的過程,也無法成為可用的能源。這個定位也點出地端 AI 的競賽條件——不是誰先買到算力,而是誰的資料先準備好被調用。模型會持續更換,但企業自己的資料層則會長期存在。

AI NAS 不是把模型塞進儲存設備,而是在資料必須留在企業內時,讓搜尋、推論與管理靠近資料的地端節點。

QNAP World Tour 2026 台北場將於 2026 年 9 月 18 日(五)舉行,現場將聚焦 AI 應用、儲存備份、網通產品、資安與監控,並安排 Live Demo,適合 IT 管理者、系統整合商與企業決策者參加。

活動地點:新板希爾頓酒店|如意 AB 廳

活動時間:09:20–16:00

地址:新北市板橋區民權路 88 號 2F

立即報名:https://bnex.tw/9f7my4

2026 QNAP 台灣企業資安韌性大調查,填問券抽好禮,倒數計時:https://www.surveycake.com/s/q4abw

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
台達電全解讀
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓