Google和NVIDIA的人工智慧晶片之戰,到底在吵什麼?
Google和NVIDIA的人工智慧晶片之戰,到底在吵什麼?
2017.04.26 | Google

Google一年前推出的深度學習運算晶片TPU(Tensor Process Unit),最近發表報告:TPU比CPU與GPU(圖像處理晶片)快了15至30倍。然後,NVIDIA執行長黃仁勳馬上針對這件事發表意見,告訴大家,NVIDIA的P40 GPU是TPU的2倍,頻寬是其10倍

其實,這只是由不同的角度與比較基準切入。TPU是Google針對深度學習界最多人使用的Google開源平台TensorFlow做的最佳化線路設計的晶片,由於它對應硬體設計的最佳化,所以,不論在運算能力或耗電上,TensorFlow的表現都相對好。

如何比較TPU的效能呢?把TPU跟Intel的Haswell CPU及NVIDIA Tesla K80 GPU這兩款CPU與GPU的效能表現比較,數據顯示TPU的速度快他們15至30倍。

但是,NVIDIA Tesla K80 GPU是NVIDIA五年前的產品,而且Google雖說TPU能用在任何人工智慧的深度學習運算,然而,TPU不但沒對其他系統做最佳化,還設定只能做犧牲精確度的推理運算。

深度學習需要的大量運算訓練,還是需要GPU或是CPU來處理,所以Google最後還是說了,TPU需要搭配GPU或是CPU。

這次Google的說法,就好比告訴大家,我針對某種狀況特殊設計的東西,比別人的東西(NVIDIA Tesla K80 GPU)表現強15至30倍,但是,Google沒說的是,他把別人五年前的產品拿來比。

無怪乎黃仁勳立刻跳出來撰文,輔以數據說明,現在的主力產品P40比這顆TPU快達2倍,頻寬10倍。他的動作,其實是一個很不錯的公關回應:避免產品被誤解,而且是在NVIDIA現在領先業界最多的人工智慧運算晶片產品線上。

不過,也因為TPU是硬體特製,無法修改,才能做到最低耗能,這樣的晶片比起NVIDIA GPU P40自然省電很多。

TPU是專門針對TensorFlow最佳化所推出的晶片,我認為Google這個宣告主要是想告訴使用TensorFlow的開發者社群「我現在用的東西很不錯」,公關宣傳意味濃厚。再加上Google之前雇用李飛飛,並打算收購最大的資料科學家、機器學習開發者社群Kaggle,一連串動作,都在強化Google在人工智慧開發者社群的地位與認同。

其實,Google主打開發者社群,與NVIDIA主攻各種商用人工智慧(特別是無人車用的訓練)其實並不一樣,兩者各有所長。但是為了公關效果,這次雙方都出了招。

Google也強調,它不會對外販售TPU,僅供內部使用。如同《數位時代》2017年4月號所強調的,Google未來10年會強化雲端運算與人工智慧為主要策略方向。TPU,其實就是這個策略的展現。

TPU的運算效能不錯,也說明了原本專長CPU與次專長的GPU的Intel,發現自己在人工智慧落後NVIDIA後,為什麼決定改往人工智慧專用晶片方向上努力的最大原因,是為了能在人工智慧運算晶片戰場上突破現有的困境。

深度學習的訓練需要非常大量的資料,需要非常多的運算單元來做運算,不管是GPU、CPU或TPU,如何相互搭配,才能達到又快又省電的目的,會是接下來各大深度學習應用硬體架構方面的重點。從這次Google、NVIDIA及Intel在人工智慧運算晶片的態度與作法,可以預見,在物聯網前端產品晶片之外,這會是各大運算單元晶片廠的另一個戰場。

《數位時代》長期徵稿,針對時事科技議題,需要您的獨特觀點,歡迎各類專業人士來稿一起交流。投稿請寄edit@bnext.com.tw,文長至少800字,請附上個人100字內簡介,文章若採用將經編輯潤飾,如需改標會與您討論。

(觀點文章呈現多元意見,不代表《數位時代》的立場。)

關鍵字: #Google #Nvidia
往下滑看下一篇文章
東海大學掀起AI教育新浪潮:學會創新,才是AI時代下的唯一底牌!
東海大學掀起AI教育新浪潮:學會創新,才是AI時代下的唯一底牌!

綠樹成蔭、建築優美,濃厚的人文氣息是東海大學最鮮明的形象標記。以博雅教育為底蘊、歷史悠久的東海大學,以未曾間斷的步伐與時俱進,在AI時代來臨前已積極布局,在大渡山學會及校友們強力支持下全力發展AI,不只齊備了全台大學中最頂規的「AI配備實力」,更結合既有優勢,樹立「以人文思考引領 AI 趨勢」的新典範。

七十年前的創校之初,東海便已揭櫫「開創將是我們的格言」。這句七十年前的宣言,成為今日東海大學在面對AI挑戰下的最佳註腳。由大渡山-東海AI中心所掀起的新AI教育思維,做為東海大學的核心戰略,正是用「創新」來定義未來,大學教育不再僅止於傳統知識的傳遞「Learn to Know」,而是在AI時代下,將全面轉向為以人為本的價值創造「Learn to Innovate」。

圖二.JPG
東海大學張嘉修副校長,帶領學生一同實踐AI教育學程。
圖/ 數位時代

AI 是引擎是油門,人文素養更是掌舵的方向盤

「AI是油門與加速器,但人文素養是方向盤和煞車。」東海大學圖資長兼資訊工程學終身特聘教授楊朝棟表示,從各院系課程設計到光點實驗班,東海全面導入AI技術學習與應用,「AI能協助你快速到達目的地。但在拚快的過程中,車的方向要開往哪裡?這需要具備同理心、專業力與倫理判斷。唯有人文,才能決定創新的方向和溫度。」

硬體方面,東海超強「校友力」是堅實後盾。在校友的支持下,校內資源已建置極高規格的「玉釵 AI PC與NB 教室」等五百台具AI高階算力的設備,陸續打造六間AI PC教室,將產業級專業配置普及為校園的基礎學習資源,在台灣各大院校中絕無僅有。導入頂尖GPU後,可進行高強度的模型訓練,AI繪圖時間從30分鐘大幅縮短至11秒可完成,頂規AI設備對全校師生共同開放,更吸引政府部門及產業洽詢合作。

AI觸角深入東海各院系,包括文學院、管理學院與社科院。針對文科生,利用低代碼(Low-code)工具和 AI 協作平台降低技術門檻,讓學生轉變為 AI「指揮官」。就連大一中文課都轉型為AI協作實驗室,運用ChatGPT、Copilot進行腦力激盪與圖文共創。AI學習從教室延伸到產業,例如與台中榮總合作開發智慧醫療工具,或用AloT技術監測校內牧場的牛隻健康,引導學生應用技術,解決真實世界的難題。

圖三.JPG
面對AI創新教育,東海大學圖資長楊朝棟教授不遺餘力、分享實踐過程與心法。
圖/ 數位時代

東海大學圖資長楊朝棟強調,除了「懂技術」,東海更致力於培養學生在AI時代下無法被取代的三大關鍵能力:一是「創新力」,除了要懂得問問題外,還必須要懂得問對問題,才能與AI共同協作產出新價值;二是明辨是非的「決策力」 ,能夠從AI所產出的建議中做出正確、敏銳的判斷;三是「人文力」,重要的是同理心與社會關懷,能夠將人文素養思考融入技術,真正的貢獻社會。

AI 是隱形團隊,突破創作限制

這些關鍵能力也展現在美術系碩士生、知名 YouTuber「超認真少年」許廷瑞(阿仔師)身上。擁有深厚工業底子的許廷瑞,是金屬雕塑家,也是將冷硬工業技術轉化為大眾語言的知識型網紅。他運用AI的心法,正是東海教育的最佳體現。

「東海的校園很美,藝術圈很多厲害的前輩都出自這裡。」許廷瑞回憶,早期他受東海美術系教授賞識,激勵了他開啟創作之路;多年後來東海進修,更成為他自媒體事業的起點。「創頻道時,我還不會拍片,是東海的老師借我設備,一起來幫我拍攝的。」這種師生間的親近情誼,從校園延伸至職場,至今他重要的影音主管也是在東海結識的學弟。

圖四.JPG
東海大學美術系碩士班校友許廷瑞,自身經營的YouTube頻道訂閱數已近百萬,在拍攝主題構想、製作,亦跟上AI應用的趨勢。
圖/ 數位時代

「我們極大量使用AI!」許廷瑞直言,AI是效率提升的神器,從影片製作、人聲修正,到工業顧問案的數據分析、力學運算與排錯,節省了大量時間與成本開銷。最經典的案例是一次參觀奧地利賓士生產G-Class工廠,因現場嚴禁拍攝,團隊利用 AI 強大的算圖與合成能力,從頭到尾模擬工廠情境與生產線細節。「現代觀眾追求沉浸感,以前要請設計師畫很久,現在AI能快速生成情境,把複雜的工業製程直觀呈現。」

認識自己,才是創新的起點

話鋒一轉,許廷瑞認為,「AI會讓所有人的能力變得非常平均。」在他的頻道內容中,有時會教一般人用AI學習簡單工程。但當水電配線、修車等技能,都能透過AI輔助上手,技術不再是門檻,「你喜歡什麼?你想用AI做什麼?這件事情更重要!」

「所有的創新前面,一定是先認識自己。」許廷瑞表示,多方嘗試,探索內在熱情所在,再利用AI達成心中想成就的願景。他說,東海提供了一個能探索自我的環境,老師們不會強壓框架,而是給予足夠的土壤,讓學生自然生長。「尤其是美術系,花很多時間要你自我追問,你是誰? 你想創造什麼價值?你是你自己的樣子。」

圖五.JPG
東海大學未來將持續領航,整合軟硬體設備、落實教育觀念,幫助學生贏在起跑點!
圖/ 數位時代

從教學發展到環境建設與行政服務,東海大學全方位構築AI生態系。身為資工領域專家,楊朝棟看過太多技術更迭,他深知在生成式 AI 普及的2026年,東海的角色不只是實戰演練場,更是「價值轉換者」。而東海培育的人才,「握有最先進的AI配備,凌駕在其之上,而眼裡、心中思考的核心卻是人。」唯有這份人文底蘊,才能讓AI成為最強助攻,支持每一位學生回到主場,在人生賽局中自信揮棒。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
2026 大重啟
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓