ChatGPT是超棒的老師,不能小看中國!黃仁勳炫風來台還說了什麼?完整QA一次看
ChatGPT是超棒的老師,不能小看中國!黃仁勳炫風來台還說了什麼?完整QA一次看

輝達(NVIDIA)執行長黃仁勳於5月30日時接受全球分析師及媒體問答,針對AI、自駕車等先進科技趨勢科技發展給出回答。《數位時代》整理出當天的精彩片段。

AI市場會大於自駕車市場,黃仁勳:安全性也很重要

Q:NVIDIA如何看待類比運算對人工智慧運算的影響,例如在記憶體中進行類比運算?這一個趨勢會不會重新定義數位運算的架構?

黃仁勳(以下簡稱黃): 資訊產業可以蓬勃發展的主要原因就是因為軟體,從IBM System/360到x86 CPU,再到ARM CPU,所有的運算系統都是可編程的,軟體是讓這個行業如此豐富的原因,所以最重要的就是軟體要能夠被編碼。

NVIDIA共同創辦人暨執行長黃仁勳
輝達(NVIDIA)執行長黃仁勳於5月30日時接受全球分析師及媒體問答
圖/ 蔡仁譯攝影

Q:您認為未來AI的發展途徑為何?

黃: 我認為這要分成先進應用和先進產業兩個部分來回答。首先,在應用的部分,主要是將人類無法預測和分析的複雜問題,透過轉寫軟體程式來解決。

我最喜歡的兩種應用分別是透過AI幫助人類找到新藥物來克服疾病,以及分析和預測氣候變遷,我們能透過人工智慧找到答案。

其次,在產業部分,AI現在只存在於雲端和人工智慧超級電腦,未來會延伸到每一個雲端當中。不過,我對另外兩個領域也很感興趣,一個就是將人工智慧應用在企業端,像HGX H100這樣的伺服器可以在如金融、零售等任何公司中。

另一個就是人工智慧在重工業中的應用,包含汽車、製造業、倉庫和電池工廠等,都是重工業領域,重工業也是全世界最大的行業之一。

Nvidia
黃仁勳表示,未來AI會大量被應用在重工業,例如汽車、製造業和電池廠。
圖/ shutterstock

Q:您如何看待AI模型訓練、推論(inference)兩個部分的運算架構發展?雖然現在你提供的架構兩個都可行,但未來是否會有一段時間人們將耗費大量時間和金錢,著重在訓練部分的開發?

黃: 如果你在資料中心裡面耗費8至9成的時間訓練AI模型、僅有1成時間拿來推論,意味著資料中心已經變成一個AI工廠。

當然也可以使用HGX H100電腦進行推論。不過根據內容不同,AI推論的對象可能會從圖像、文字、蛋白質到影像,而根據不同的推論任務,也會需要不同種類的處理器。

就像在傳統計算中一樣,不同的應用場景需要不同大小的伺服器。在這個新的加速計算世界中,我們也會有完全相同的情況,這就是為何NVIDIA有這麼多不同版本的GPU。

Q:你覺得AI還能如何幫助遊戲開發?

黃: AI就是我最愛的機器人,它其實是一個遊戲,非玩家角色NPC。未來世界上將有數十億、數萬億的NPC,他們將會很聰明,會有自己的故事、遊戲的情境在腦海裡,而且他們會互相互動。他們可以很容易地前往各地。另外,他們都會說不同的語言,也有不同口音,所以你將能夠輕鬆地互動,創造虛擬世界也會容易得多。

Q:相較AI市場,您對於自駕車晶片市場有什麼看法?自駕車晶片市場是否會比AI還大呢?

黃: 每年只有1億輛汽車被製造,然而,AI是數位的,這個市場在產生虛擬資訊,部署在雲端,所有這些AI都在雲端,所以數量無限,這就是為什麼這個市場會比汽車市場更大。

自動駕駛市場將會非常棒,每一輛汽車都會擁有非常優秀的電腦,而且這些電腦會保護你的安全,因此須處理很多關於安全的演算法,非常困難。但無論如何,每一輛汽車都將擁有非常強大的電腦,我對此感到非常興奮。

Q:請問您對於減少未來資料中心能耗的看法是什麼?

黃: CPU不斷升級的日子已經結束了,現在我們在世界上的雲端有數億個CPU,而工作負載一直在增加。如果我們增加更多的CPU,功耗就會繼續增加。所以我們必須加速運算,這非常重要。

在我們公司,我們盡可能地加速所有東西,現在雲端廠商也都知道他們要盡可能加速運算。如果你聽過Microsoft Build,有一些關於資料處理的加速的演講。改善是的過程是量級,所以如果你把計算時間減少,運算速度加快10倍、20倍甚至是100倍,當然就節省了功耗並更快速完成工作。這是今天運算的核心問題。我們必須加速運算,否則結果無法永續。

Q:先前馬斯克曾公開指出,生成式AI將對社會造成巨大風險,您如何看待?

黃: AI有著巨大的好處,當然也會伴隨著風險。但別忘了,AI最終將會是一項產品或服務,科技無法幫助人類除非它變成產品或服務,而產品和服務都應具備安全性且被規管,就像你吃的維他命、喝的咖啡一樣。

馬斯克.jpg
黃仁勳認為,AI未來的安全性很重要,應該要如食物、藥品一樣被規管。
圖/ pixabay

AI未來將會有很多產品或服務型態,無論是用在醫療、交通、製造、零售、金融服務、保險或是藥品探索(drug discovery),這些領域都有像FDA(美國食品藥物管理局)、NHTSA(美國國家公路交通安全管理局)這樣的主管機關,他們會需要監管AI,所有的應用都需要被監管,我們對AI安全性相當看重。

Q:每個人都可以擁有AI,每個公司都可以使用AI,但在科技生態系之外,多數人們還是缺乏該領域的知識。舉例來說,當英國所有的機場電子門都故障了,人們得要等4個小時才能入境,等待人員前來支援。因此,對於那些沒有專業知識的人來說,AI的替代物 (Backup) 究竟是什麼?而NVIDIA在這個生態系中扮演什麼角色?

黃: 讓我解釋一下今天的電子門問題。當電子門出現故障時,可能有一段軟體有bug,而有人以某種方式與電子門互動,以一種複雜的方式觸發了一個功能性故障,便會產生系統內部的bug。

也許有一個馬達磨損了,但讓我們假設是一個軟體問題。未來,如果電子門出現故障,你會問AI說:電子門出了什麼問題?AI會透過分析,指出在這種情況下觸發了軟體中的缺陷。然後你會說:請修好它,AI就會產生一些新的代碼,並運行那些新的代碼。

隨機的機場工作人員,現在不僅能診斷一個複雜的系統,還能夠修復,我剛剛把每個人都變成了程式設計師。如果你是農民,如果你從事農業科技,如果你在工廠工作,每個人都會成為程式設計師。你只需要知道這台電腦能夠做到這一點,而且你要知道如何問它、如何提示它

Q:現在生成式AI可以生成影像和影片,我們該如何理解這些素材能幫助AI的模型訓練,以及這種作法將如何幫助AI模型被訓練得更好?

黃: 今天我們創造一個很大的模型,不是因為我們要將模型用在所有事物上,而是會轉換成大、中和小的模型。我們用大模型來訓練中模型,然後再用於小模型,甚至是迷你模型。

迷你的AI模型可以在手機上運行,大模型則會在雲端,全都取決於應用場景的需求。這是很重要的觀點,不是AI都需要超大的模型,但你必須要從大模型開始。

首重供應鏈韌性,中國GPU新創不可小看

Q:您提到未來加速運算的需求會來是全世界的每個角落,請問當前供應鏈狀況已經跟上需求了嗎?

黃: HGX H100現在的需求相當不可思議,而我們在全球的供應鏈已進行大量採購,下半年的供應量相當龐大,與供應鏈夥伴也很迅速的在進行合作。

當人們說NVIDIA Hopper GPU時,他們指的是這個(HGX H100)。很多人誤以為它是一塊晶片,實際上它是一台超級電腦,內含35,000個元件,數百億個電晶體的組合。你可以試著舉起它,有65磅重,是世界上製造過的最複雜的超級電腦,需求量高,我們供應量也很大。

Q:您認為美國對中國的銷售禁令,會拖緩中國的科技進展,還是會讓中國的GPU製造商更蓬勃發展,甚至創造出另一個AI軟、硬體的生態環境?

黃: 這很難預測,但你必須承認,中國的科技創業者是充滿活力的。中國擁有世界上最好的雲端、消費性互聯網服務。當然,他們在電子支付也是最先進的,電動車也進步的非常快。

我們絕對會遵守規定,但我想中國會利用這個機會來培育他們所有的本地創業者,這就是為什麼中國有這麼多GPU新創的原因。現在如果你要在中國的半導體產業創業,當然會創辦GPU公司,中國現在就有一大堆的GPU公司。

我們有很多競爭者,而且到處都有優秀的工程師,因此我們盡最快的速度奔跑。Run, don’t walk.

Q:是否有計畫和台灣的軟體公司或生態系合作,深入各種產業呢?

黃: 是的。事實上在這個聯訪後,我會出席雲達科技的記者會,然後回來和台灣軟體開發者共同參與輝達開發者大會。開發者大會是希望能夠幫助生態系,台灣處在科技重要時刻,現在正面臨過去40年以來,最重大的科技革新,台灣看來有很大的機會,是黃金時機。台灣已經有資通訊產業的基石,是電腦行業發展的基礎,一定要把握機會浴火重生。

延伸閱讀:黃仁勳脫下招牌皮衣幫他穿上!幫NVIDIA打造首台AI超級電腦,雲達什麼來頭?

黃仁勳:英特爾下一代製程測試結果很不錯

Q:在創辦輝達至今的旅途中,所面臨的最大風險以及所做的犧牲是什麼?轉變哪些思維方式呢?

黃: 像Grace Hopper這樣的AI(人工智慧)加速晶片,在深度學習之前從未存在過,從晶片架構、晶片、封裝再到系統和軟體,所有東西都因為深度學習而被重新發明。因為深度學習不僅是軟體,他是一個會與人類共同撰寫軟體的電腦,作為人類的助手而被稱為人工智慧,非常驚人。

也因為我們相信所有東西要被重新發明,所以我們必須做出犧牲。人工智慧由數以萬計的工程師所成就,現在已經超過了10萬個工程年,這些工程年本來可以做其他事情,這就是犧牲。

Q:請問您對未來AI人才的培養有何看法?

黃: 首先,AI將是最好的老師,我有一個ChatGPT的帳號,我問ChatGPT很多問題,而它是一個不可思議的老師,還會反問我問題。我期待將來會有大型語言模型整合到教育中,從小學一直到大學甚至更多,如同一個互動式的教育助理,真是太棒了。

Q:英特爾首席執行官基辛格説,他們在幾年內很快就會追上輝達,您如何看待?

黃: 你必須用跑的,不要用走的。(You have to run, don’t walk.)英特爾是一間很好的公司,我有很多朋友都在英特爾工作,他們擁有很好的工程師,很多輝達的工程師也都來自英特爾,這間公司擁有不少優秀人才,你不能低估英特爾。Run, don’t walk(用跑的,不要用走的)。

延伸閱讀:被黃仁勳特別點名,還讚測試晶片「不錯」!英特爾笑收Nvidia豐厚大單?

Q:除了硬體之外,在未來幾年內,你們看到的軟體和服務營收增長的三個最大機會點是什麼?

黃: 第一,現場這些電腦,沒有一台能夠在沒有標準軟體的情況下運行,整套運算系統完全依賴軟體,NVIDIA致力於打造一整套軟體生態系,從操作系統、系統管理到分散式計算等軟體技術,使這個電腦系統能夠融合到每個雲端。

第二,我們能立即在現場佈置這樣的電腦系統。現今除了我們,沒有電腦公司能到府安裝,我們能在兩週內打造出一個AI工廠。我們把整個數據中心產品化,而且其中大部分功勞都要歸功於軟體。

Q:瑞士信貸銀行(Credit Sussie)指出,輝達控制了95%至100%的機器學習市場,這對於AI民主化來說不是好事。請問輝達會如何在AI領域保持領先的同時,也同時將AI民主化納入考量呢?

黃: 首先,我認為這個說法不精確,Google有TPU(張量處理器)、AWS有Trainium晶片,兩個都不是輝達產品,加上我知道世界上還有其他晶片用於AI訓練,我認為這個說法不精準。

其次,我們透過讓AI可以被部署在每個雲端,讓每家公司、電腦都能使用。但相對的,Trainium晶片就不是誰都能使用的產品。無論何時你想增加AI功能,我們都已經能提供AI的基礎設施,達到AI的民主化的近用性(access),任何想要用AI的人,都可以取得相關產品。

NVIDIA技術如此受歡迎,是因為它是成本最低的解決方案,加上系統的吞吐越高,電腦完成工作的時間就越短。另外,軟體和網路也是重要的因素,沒有這兩者,電腦就無法發揮功能。正是這兩個原因,讓我們的解決方案無所不在,並能夠被隨處取得的原因。

責任編輯:錢玉紘

往下滑看下一篇文章
從「存資料」到「用知識」:網創資訊攜手浪LIVE,讓 AI 成為最懂企業的內容幫手
從「存資料」到「用知識」:網創資訊攜手浪LIVE,讓 AI 成為最懂企業的內容幫手

對已經成熟發展的企業來說,最大的挑戰不是如何創新,而是經驗無法有效傳承,而生成式 AI 的價值正在於此,它讓分散的知識從「共同保存」走向「即時運用」,使組織得以在既有經驗之上,持續累積能力並向上成長。

由旭瑞文化傳媒成立、全台最大直播平台浪LIVE,正是這種轉變的最佳寫照。「我們其實一直都有在整理內部的知識、技術文件和作業流程規範,但做法比較像是集中在倉庫裡,雖然找得到,卻不一定用得快。」旭瑞文化傳媒技術研發中心技術總監黎欣捷(James)形容。

網創X浪Live-2.jpg
浪LIVE 攜手網創資訊導入 AI 知識管理系統 NAVI,打造出一顆可以分析與調用歷史資料並產製新內容的「企業智慧大腦」
圖/ 數位時代

為此,浪LIVE 攜手網創資訊導入 AI 知識管理系統 NAVI,打造出一顆可以分析與調用歷史資料並產製新內容的「企業智慧大腦」,讓經驗不再只是被保存,而能實際參與日常營運流程。網創資訊總經理吳炳鈞進一步說明,這是因為 NAVI 將浪LIVE既有資料整理成可被運用的知識基礎,並在此基礎上生成內容,故能真正融入浪LIVE使用場景,提升文章產製與活動規劃的效率。

用 AI 提速,回應高頻、快節奏的營運需求

作為直播產業的領導平台,浪LIVE 不僅市占率超過 50%,每月活躍用戶數更高達 40-50 萬人。能夠寫下高黏著度、高互動率的成績,除了堅持以才藝直播為主軸、在市場上做出差異化特色,快速更新的內容與密集的行銷活動,同樣是浪LIVE 維繫用戶黏著度的關鍵。

網創X浪Live-3-2.png
旭瑞文化傳媒技術研發中心技術總監黎欣捷表示,透過NAVI能夠有效提升文章產出與活動企劃的效率。
圖/ 數位時代

黎欣捷表示,浪LIVE 每日都會更新社群貼文與文章內容、每個月平均規劃約 20 至 25 檔活動,不僅內容產出量龐大,對速度的要求也極高。編輯團隊在完成採訪後,必須在最短時間內產出文章,且要符合品牌的風格和版型,而營運團隊不僅要不斷發想新的玩法,還得預先估算不同設計下的投資報酬率、參與人數等機率,以確保活動能兼顧創意與成效。

這種高頻的營運節奏不僅極具挑戰性,還容易使團隊感到疲憊。因此,浪LIVE 開始思考如何利用 AI 來提升文章產出與活動企劃的效率,而 NAVI 正是思考後的最佳解答。

應用場景1:文章產製,不再從零開始

吳炳鈞進一步說明,網創資訊如何協助浪LIVE 將 NAVI 應用於文章產製與活動企劃。

先就文章產製來看,網創資訊將浪LIVE 過往累積的大量文章匯入 NAVI,由系統學習品牌文章的語氣與編排方式,及不同編輯的寫作風格並加以分類。之後,編輯只要提供採訪逐字稿或相關素材,並指定想要的文章風格,NAVI 便可依此生成初稿,再由編輯進行調整與潤飾,大幅加快整體產出速度,也讓編輯可以將更多心力投入內容品質的把關與主題發掘,用快速更新而主題有趣的文章,吸引會員持續留在平台。

網創X浪Live-4.jpg
網創資訊總經理吳炳鈞進一步說明, NAVI 將浪LIVE既有資料整理成可被運用的知識基礎,並在此基礎上生成內容,才能真正融入浪LIVE使用場景。
圖/ 數位時代

吳炳鈞強調,NAVI 不是憑空寫文章,而是根據企業過去累積的內容與規範來生成,這樣的產出結果,才會更貼近原本的品牌風格與實際需求。更重要的是,網創資訊還能根據客戶使用情境進行客製化調整。例如,NAVI 可以整合圖片和文字,生成一篇圖文並茂的文章,並同步輸出對應的 HTML 程式碼,浪LIVE 編輯只需貼至後台系統,就能完成上稿作業,不必再花費大量時間去調整版面配置。

網創X浪Live-5.jpg
網創資訊業務經理Hailey Ouyang表示,NAVI 在產出文章的同時,可以同步輸出對應的 HTML 程式碼,減輕浪LIVE 編輯的上稿作業負擔。
圖/ 數位時代

應用場景2:活動規劃,從歷史經驗找出新玩法

再就活動規劃來看,網創資訊同樣先將浪LIVE 的歷史活動範本、禮物清單與獎勵機制導入 NAVI,由系統學習營運團隊在發想活動時的思維脈絡,之後,團隊成員只要輸入關鍵字,NAVI 就能建議相應的活動方式與獎勵組合,作為活動規劃時的參考。

黎欣捷認為,NAVI 就像一位資深顧問,不僅提供更多元的視角與玩法建議,縮短活動規劃所需的時間和心力,也能即時調閱過往經驗,協助團隊跳脫個人思考盲點,避免重複規劃過去已經做過的活動內容。

吳炳鈞進一步以禮物清單為例,說明 NAVI 帶來的效益。浪LIVE每一檔活動都需要重新設計禮物或做不同的組合搭配,因此資料庫已累積上百種不同類型的禮物,這使得團隊成員在規劃活動時,常常要花很多時間去發想新禮物或搜尋資料。而在導入NAVI後,系統可以根據歷史資料提供合適的禮物搭配建議,協助團隊在規劃新活動時,更有效率地運用既有資源。

網創X浪Live-6.jpg
NAVI可以根據歷史資料提供合適的禮物搭配建議,協助浪LIVE團隊在規劃新活動時,更有效率地運用既有資源。
圖/ 網創資訊

不只生成內容:NAVI 三大特色,讓 AI 真正嵌入企業流程

在資料管理與內容生成外,網創資訊也從企業管理需求出發,規劃出以下 3 大系統特色,使 NAVI 得以真正融入企業的營運流程中。

第一,NAVI 支援至少 20種大型語言模型,能因應不同使用需求,處理文字、圖片、音訊和影片等多種形式的內容。第二,系統可部署於私有雲或地端環境,讓資料能留在企業內部,降低被外部 AI 模型使用的疑慮。第三,整合 AD 身份驗證與授權機制,可依部門和角色別去設定資料存取權限,確保 AI 在回應問題或產生內容時,只會引用該使用者可存取的資料範圍,避免誤用或資料外洩的風險。吳炳鈞補充,由於系統可進行部門切割,也能進一步統計各單位的使用量,方便企業進行內部成本分攤與管理。

「企業需要的是能嵌入流程的 AI,而不是只會回答問題的工具。」吳炳鈞指出,因此 NAVI 一開始就定位在企業知識管理系統,從而發展上述系統設計。近年來,因應 AI Agent 趨勢,網創資訊亦將相關概念融入 NAVI,使系統具備更高的主動性,能依任務需求串接不同資料庫與內部系統,協助使用者完成特定工作流程。

網創X浪Live-7.jpg
網創資訊PM Keith Hsu指出,NAVI 融入 AI Agent 概念後,具備更高的主動性,能依任務需求串接不同資料庫與內部系統,協助使用者完成特定工作流程。
圖/ 數位時代

未來,網創資訊將持續與浪LIVE 深化合作,逐步導入更多內容至系統中、拓展更多應用場景。也期待在與客戶合作的過程中,共同發掘更多具體的應用靈感,並視需求開發對應功能,持續放大知識與經驗的價值,讓技術不只停留在工具層次,而能真正轉化為企業成長的動能。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
2026 大重啟
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓