ChatGPT是超棒的老師,不能小看中國!黃仁勳炫風來台還說了什麼?完整QA一次看
ChatGPT是超棒的老師,不能小看中國!黃仁勳炫風來台還說了什麼?完整QA一次看

輝達(NVIDIA)執行長黃仁勳於5月30日時接受全球分析師及媒體問答,針對AI、自駕車等先進科技趨勢科技發展給出回答。《數位時代》整理出當天的精彩片段。

AI市場會大於自駕車市場,黃仁勳:安全性也很重要

Q:NVIDIA如何看待類比運算對人工智慧運算的影響,例如在記憶體中進行類比運算?這一個趨勢會不會重新定義數位運算的架構?

黃仁勳(以下簡稱黃): 資訊產業可以蓬勃發展的主要原因就是因為軟體,從IBM System/360到x86 CPU,再到ARM CPU,所有的運算系統都是可編程的,軟體是讓這個行業如此豐富的原因,所以最重要的就是軟體要能夠被編碼。

NVIDIA共同創辦人暨執行長黃仁勳
輝達(NVIDIA)執行長黃仁勳於5月30日時接受全球分析師及媒體問答
圖/ 蔡仁譯攝影

Q:您認為未來AI的發展途徑為何?

黃: 我認為這要分成先進應用和先進產業兩個部分來回答。首先,在應用的部分,主要是將人類無法預測和分析的複雜問題,透過轉寫軟體程式來解決。

我最喜歡的兩種應用分別是透過AI幫助人類找到新藥物來克服疾病,以及分析和預測氣候變遷,我們能透過人工智慧找到答案。

其次,在產業部分,AI現在只存在於雲端和人工智慧超級電腦,未來會延伸到每一個雲端當中。不過,我對另外兩個領域也很感興趣,一個就是將人工智慧應用在企業端,像HGX H100這樣的伺服器可以在如金融、零售等任何公司中。

另一個就是人工智慧在重工業中的應用,包含汽車、製造業、倉庫和電池工廠等,都是重工業領域,重工業也是全世界最大的行業之一。

Nvidia
黃仁勳表示,未來AI會大量被應用在重工業,例如汽車、製造業和電池廠。
圖/ shutterstock

Q:您如何看待AI模型訓練、推論(inference)兩個部分的運算架構發展?雖然現在你提供的架構兩個都可行,但未來是否會有一段時間人們將耗費大量時間和金錢,著重在訓練部分的開發?

黃: 如果你在資料中心裡面耗費8至9成的時間訓練AI模型、僅有1成時間拿來推論,意味著資料中心已經變成一個AI工廠。

當然也可以使用HGX H100電腦進行推論。不過根據內容不同,AI推論的對象可能會從圖像、文字、蛋白質到影像,而根據不同的推論任務,也會需要不同種類的處理器。

就像在傳統計算中一樣,不同的應用場景需要不同大小的伺服器。在這個新的加速計算世界中,我們也會有完全相同的情況,這就是為何NVIDIA有這麼多不同版本的GPU。

Q:你覺得AI還能如何幫助遊戲開發?

黃: AI就是我最愛的機器人,它其實是一個遊戲,非玩家角色NPC。未來世界上將有數十億、數萬億的NPC,他們將會很聰明,會有自己的故事、遊戲的情境在腦海裡,而且他們會互相互動。他們可以很容易地前往各地。另外,他們都會說不同的語言,也有不同口音,所以你將能夠輕鬆地互動,創造虛擬世界也會容易得多。

Q:相較AI市場,您對於自駕車晶片市場有什麼看法?自駕車晶片市場是否會比AI還大呢?

黃: 每年只有1億輛汽車被製造,然而,AI是數位的,這個市場在產生虛擬資訊,部署在雲端,所有這些AI都在雲端,所以數量無限,這就是為什麼這個市場會比汽車市場更大。

自動駕駛市場將會非常棒,每一輛汽車都會擁有非常優秀的電腦,而且這些電腦會保護你的安全,因此須處理很多關於安全的演算法,非常困難。但無論如何,每一輛汽車都將擁有非常強大的電腦,我對此感到非常興奮。

Q:請問您對於減少未來資料中心能耗的看法是什麼?

黃: CPU不斷升級的日子已經結束了,現在我們在世界上的雲端有數億個CPU,而工作負載一直在增加。如果我們增加更多的CPU,功耗就會繼續增加。所以我們必須加速運算,這非常重要。

在我們公司,我們盡可能地加速所有東西,現在雲端廠商也都知道他們要盡可能加速運算。如果你聽過Microsoft Build,有一些關於資料處理的加速的演講。改善是的過程是量級,所以如果你把計算時間減少,運算速度加快10倍、20倍甚至是100倍,當然就節省了功耗並更快速完成工作。這是今天運算的核心問題。我們必須加速運算,否則結果無法永續。

Q:先前馬斯克曾公開指出,生成式AI將對社會造成巨大風險,您如何看待?

黃: AI有著巨大的好處,當然也會伴隨著風險。但別忘了,AI最終將會是一項產品或服務,科技無法幫助人類除非它變成產品或服務,而產品和服務都應具備安全性且被規管,就像你吃的維他命、喝的咖啡一樣。

馬斯克.jpg
黃仁勳認為,AI未來的安全性很重要,應該要如食物、藥品一樣被規管。
圖/ pixabay

AI未來將會有很多產品或服務型態,無論是用在醫療、交通、製造、零售、金融服務、保險或是藥品探索(drug discovery),這些領域都有像FDA(美國食品藥物管理局)、NHTSA(美國國家公路交通安全管理局)這樣的主管機關,他們會需要監管AI,所有的應用都需要被監管,我們對AI安全性相當看重。

Q:每個人都可以擁有AI,每個公司都可以使用AI,但在科技生態系之外,多數人們還是缺乏該領域的知識。舉例來說,當英國所有的機場電子門都故障了,人們得要等4個小時才能入境,等待人員前來支援。因此,對於那些沒有專業知識的人來說,AI的替代物 (Backup) 究竟是什麼?而NVIDIA在這個生態系中扮演什麼角色?

黃: 讓我解釋一下今天的電子門問題。當電子門出現故障時,可能有一段軟體有bug,而有人以某種方式與電子門互動,以一種複雜的方式觸發了一個功能性故障,便會產生系統內部的bug。

也許有一個馬達磨損了,但讓我們假設是一個軟體問題。未來,如果電子門出現故障,你會問AI說:電子門出了什麼問題?AI會透過分析,指出在這種情況下觸發了軟體中的缺陷。然後你會說:請修好它,AI就會產生一些新的代碼,並運行那些新的代碼。

隨機的機場工作人員,現在不僅能診斷一個複雜的系統,還能夠修復,我剛剛把每個人都變成了程式設計師。如果你是農民,如果你從事農業科技,如果你在工廠工作,每個人都會成為程式設計師。你只需要知道這台電腦能夠做到這一點,而且你要知道如何問它、如何提示它

Q:現在生成式AI可以生成影像和影片,我們該如何理解這些素材能幫助AI的模型訓練,以及這種作法將如何幫助AI模型被訓練得更好?

黃: 今天我們創造一個很大的模型,不是因為我們要將模型用在所有事物上,而是會轉換成大、中和小的模型。我們用大模型來訓練中模型,然後再用於小模型,甚至是迷你模型。

迷你的AI模型可以在手機上運行,大模型則會在雲端,全都取決於應用場景的需求。這是很重要的觀點,不是AI都需要超大的模型,但你必須要從大模型開始。

首重供應鏈韌性,中國GPU新創不可小看

Q:您提到未來加速運算的需求會來是全世界的每個角落,請問當前供應鏈狀況已經跟上需求了嗎?

黃: HGX H100現在的需求相當不可思議,而我們在全球的供應鏈已進行大量採購,下半年的供應量相當龐大,與供應鏈夥伴也很迅速的在進行合作。

當人們說NVIDIA Hopper GPU時,他們指的是這個(HGX H100)。很多人誤以為它是一塊晶片,實際上它是一台超級電腦,內含35,000個元件,數百億個電晶體的組合。你可以試著舉起它,有65磅重,是世界上製造過的最複雜的超級電腦,需求量高,我們供應量也很大。

Q:您認為美國對中國的銷售禁令,會拖緩中國的科技進展,還是會讓中國的GPU製造商更蓬勃發展,甚至創造出另一個AI軟、硬體的生態環境?

黃: 這很難預測,但你必須承認,中國的科技創業者是充滿活力的。中國擁有世界上最好的雲端、消費性互聯網服務。當然,他們在電子支付也是最先進的,電動車也進步的非常快。

我們絕對會遵守規定,但我想中國會利用這個機會來培育他們所有的本地創業者,這就是為什麼中國有這麼多GPU新創的原因。現在如果你要在中國的半導體產業創業,當然會創辦GPU公司,中國現在就有一大堆的GPU公司。

我們有很多競爭者,而且到處都有優秀的工程師,因此我們盡最快的速度奔跑。Run, don’t walk.

Q:是否有計畫和台灣的軟體公司或生態系合作,深入各種產業呢?

黃: 是的。事實上在這個聯訪後,我會出席雲達科技的記者會,然後回來和台灣軟體開發者共同參與輝達開發者大會。開發者大會是希望能夠幫助生態系,台灣處在科技重要時刻,現在正面臨過去40年以來,最重大的科技革新,台灣看來有很大的機會,是黃金時機。台灣已經有資通訊產業的基石,是電腦行業發展的基礎,一定要把握機會浴火重生。

延伸閱讀:黃仁勳脫下招牌皮衣幫他穿上!幫NVIDIA打造首台AI超級電腦,雲達什麼來頭?

黃仁勳:英特爾下一代製程測試結果很不錯

Q:在創辦輝達至今的旅途中,所面臨的最大風險以及所做的犧牲是什麼?轉變哪些思維方式呢?

黃: 像Grace Hopper這樣的AI(人工智慧)加速晶片,在深度學習之前從未存在過,從晶片架構、晶片、封裝再到系統和軟體,所有東西都因為深度學習而被重新發明。因為深度學習不僅是軟體,他是一個會與人類共同撰寫軟體的電腦,作為人類的助手而被稱為人工智慧,非常驚人。

也因為我們相信所有東西要被重新發明,所以我們必須做出犧牲。人工智慧由數以萬計的工程師所成就,現在已經超過了10萬個工程年,這些工程年本來可以做其他事情,這就是犧牲。

Q:請問您對未來AI人才的培養有何看法?

黃: 首先,AI將是最好的老師,我有一個ChatGPT的帳號,我問ChatGPT很多問題,而它是一個不可思議的老師,還會反問我問題。我期待將來會有大型語言模型整合到教育中,從小學一直到大學甚至更多,如同一個互動式的教育助理,真是太棒了。

Q:英特爾首席執行官基辛格説,他們在幾年內很快就會追上輝達,您如何看待?

黃: 你必須用跑的,不要用走的。(You have to run, don’t walk.)英特爾是一間很好的公司,我有很多朋友都在英特爾工作,他們擁有很好的工程師,很多輝達的工程師也都來自英特爾,這間公司擁有不少優秀人才,你不能低估英特爾。Run, don’t walk(用跑的,不要用走的)。

延伸閱讀:被黃仁勳特別點名,還讚測試晶片「不錯」!英特爾笑收Nvidia豐厚大單?

Q:除了硬體之外,在未來幾年內,你們看到的軟體和服務營收增長的三個最大機會點是什麼?

黃: 第一,現場這些電腦,沒有一台能夠在沒有標準軟體的情況下運行,整套運算系統完全依賴軟體,NVIDIA致力於打造一整套軟體生態系,從操作系統、系統管理到分散式計算等軟體技術,使這個電腦系統能夠融合到每個雲端。

第二,我們能立即在現場佈置這樣的電腦系統。現今除了我們,沒有電腦公司能到府安裝,我們能在兩週內打造出一個AI工廠。我們把整個數據中心產品化,而且其中大部分功勞都要歸功於軟體。

Q:瑞士信貸銀行(Credit Sussie)指出,輝達控制了95%至100%的機器學習市場,這對於AI民主化來說不是好事。請問輝達會如何在AI領域保持領先的同時,也同時將AI民主化納入考量呢?

黃: 首先,我認為這個說法不精確,Google有TPU(張量處理器)、AWS有Trainium晶片,兩個都不是輝達產品,加上我知道世界上還有其他晶片用於AI訓練,我認為這個說法不精準。

其次,我們透過讓AI可以被部署在每個雲端,讓每家公司、電腦都能使用。但相對的,Trainium晶片就不是誰都能使用的產品。無論何時你想增加AI功能,我們都已經能提供AI的基礎設施,達到AI的民主化的近用性(access),任何想要用AI的人,都可以取得相關產品。

NVIDIA技術如此受歡迎,是因為它是成本最低的解決方案,加上系統的吞吐越高,電腦完成工作的時間就越短。另外,軟體和網路也是重要的因素,沒有這兩者,電腦就無法發揮功能。正是這兩個原因,讓我們的解決方案無所不在,並能夠被隨處取得的原因。

責任編輯:錢玉紘

本網站內容未經允許,不得轉載。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
台日半導體新局 全解讀
© 2024 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓