Google和NVIDIA的人工智慧晶片之戰,到底在吵什麼?
Google和NVIDIA的人工智慧晶片之戰,到底在吵什麼?
2017.04.26 | Google

Google一年前推出的深度學習運算晶片TPU(Tensor Process Unit),最近發表報告:TPU比CPU與GPU(圖像處理晶片)快了15至30倍。然後,NVIDIA執行長黃仁勳馬上針對這件事發表意見,告訴大家,NVIDIA的P40 GPU是TPU的2倍,頻寬是其10倍

其實,這只是由不同的角度與比較基準切入。TPU是Google針對深度學習界最多人使用的Google開源平台TensorFlow做的最佳化線路設計的晶片,由於它對應硬體設計的最佳化,所以,不論在運算能力或耗電上,TensorFlow的表現都相對好。

如何比較TPU的效能呢?把TPU跟Intel的Haswell CPU及NVIDIA Tesla K80 GPU這兩款CPU與GPU的效能表現比較,數據顯示TPU的速度快他們15至30倍。

但是,NVIDIA Tesla K80 GPU是NVIDIA五年前的產品,而且Google雖說TPU能用在任何人工智慧的深度學習運算,然而,TPU不但沒對其他系統做最佳化,還設定只能做犧牲精確度的推理運算。

深度學習需要的大量運算訓練,還是需要GPU或是CPU來處理,所以Google最後還是說了,TPU需要搭配GPU或是CPU。

這次Google的說法,就好比告訴大家,我針對某種狀況特殊設計的東西,比別人的東西(NVIDIA Tesla K80 GPU)表現強15至30倍,但是,Google沒說的是,他把別人五年前的產品拿來比。

無怪乎黃仁勳立刻跳出來撰文,輔以數據說明,現在的主力產品P40比這顆TPU快達2倍,頻寬10倍。他的動作,其實是一個很不錯的公關回應:避免產品被誤解,而且是在NVIDIA現在領先業界最多的人工智慧運算晶片產品線上。

不過,也因為TPU是硬體特製,無法修改,才能做到最低耗能,這樣的晶片比起NVIDIA GPU P40自然省電很多。

TPU是專門針對TensorFlow最佳化所推出的晶片,我認為Google這個宣告主要是想告訴使用TensorFlow的開發者社群「我現在用的東西很不錯」,公關宣傳意味濃厚。再加上Google之前雇用李飛飛,並打算收購最大的資料科學家、機器學習開發者社群Kaggle,一連串動作,都在強化Google在人工智慧開發者社群的地位與認同。

其實,Google主打開發者社群,與NVIDIA主攻各種商用人工智慧(特別是無人車用的訓練)其實並不一樣,兩者各有所長。但是為了公關效果,這次雙方都出了招。

Google也強調,它不會對外販售TPU,僅供內部使用。如同《數位時代》2017年4月號所強調的,Google未來10年會強化雲端運算與人工智慧為主要策略方向。TPU,其實就是這個策略的展現。

TPU的運算效能不錯,也說明了原本專長CPU與次專長的GPU的Intel,發現自己在人工智慧落後NVIDIA後,為什麼決定改往人工智慧專用晶片方向上努力的最大原因,是為了能在人工智慧運算晶片戰場上突破現有的困境。

深度學習的訓練需要非常大量的資料,需要非常多的運算單元來做運算,不管是GPU、CPU或TPU,如何相互搭配,才能達到又快又省電的目的,會是接下來各大深度學習應用硬體架構方面的重點。從這次Google、NVIDIA及Intel在人工智慧運算晶片的態度與作法,可以預見,在物聯網前端產品晶片之外,這會是各大運算單元晶片廠的另一個戰場。

《數位時代》長期徵稿,針對時事科技議題,需要您的獨特觀點,歡迎各類專業人士來稿一起交流。投稿請寄edit@bnext.com.tw,文長至少800字,請附上個人100字內簡介,文章若採用將經編輯潤飾,如需改標會與您討論。

(觀點文章呈現多元意見,不代表《數位時代》的立場。)

關鍵字: #Google #Nvidia
往下滑看下一篇文章
博弘雲端打造金融業專屬 AI 解決方案 賦能金融產業實現智慧轉型!
博弘雲端打造金融業專屬 AI 解決方案 賦能金融產業實現智慧轉型!

從流程再造、智能客服到科技防詐,AI 正在一步步改變台灣金融業的樣貌。根據金管會「金融業者及周邊單位應用人工智慧」調查結果,金融業者導入AI與生成式AI的比例已從29%提升至33%,顯示金融業對AI應用的需求正持續升溫,而AWS亞太(台北)區域的正式啟用,更將加速這股成長力道,讓AI躍升為金融創新的核心引擎,推動整個產業快速邁向新局。

在這股潮流下,博弘雲端作為台灣第一家與AWS簽署台北區域戰略合作協議(New Region Strategic Collaboration Agreement,SCA)的雲端解決方案專家,如何協助金融業快速導入創新AI應用,讓「智慧金融」能夠真正落地在各個金融場景中?

對此,博弘雲端台灣暨東南亞事業中心副總經理陳亭竹給出的答案很明確:關鍵在於從痛點出發,讓金融業能夠以更低的門檻達成數據上雲與導入AI應用的目標。

標準化 × 客製化,雙管齊下加速金融AI真正落地

陳亭竹進一步指出,金融業在推動雲端與AI應用時,普遍面臨合法合規、AI倫理風險、人才不足與組織變革等四大挑戰。對此,博弘雲端提供產業客製化AI解決方案,滿足金融業在AI與數據應用上的多元需求,進而加速AI應用落地。

「要讓AI應用在金融業真正落地,雲服務業者的客製化能力是關鍵。」博弘雲端台灣暨東南亞事業中心技術處長孫正忠強調,因為每家金融業對上雲和AI應用的需求並不相同,甚至對AI 技術的要求與精準度都有不同期待。而標準化產品雖能快速導入,卻難以完全貼合每位客戶的營運場景與精細需求,唯有結合客製化服務,才能真正滿足金融業在AI與數據應用上的高標準,並符合大型金融客戶的嚴格驗收要求。

因此,博弘雲端推出產業客製化AI解決方案,建構在標準化解決方案的架構之上,進一步依照客戶需求進行微調。不僅能讓 AI 回答更加精確,也能更貼近終端客戶的實際需求,無論是篩選資料、優化決策,甚至提供行銷策略建議,都能展現更高的效益。

除了透過客製化服務滿足金融業者AI與數據應用上的多元需求,博弘雲端亦推出標準化產品驅動金融產業AI革新。從”AICOM”提供的新世代雲智能管理功能,賦能金融IT部門一站式管理雲端資源、即時掌握AI訓練資源運用狀態;到”LEMMA”提供的 AI企業知識代理,藉由LLM (大型語言模型) 摘要與整理重點、大幅減少人工查詢資料的時間,這些產品不僅加乘金融業者採用AI的效益,更成為推動產業升級的關鍵方程式。

RD099049.jpg
博弘雲端台灣暨東南亞事業中心副總經理 / 陳亭竹表示:要讓AI應用在金融業真正落地,雲服務業者的客製化能力是關鍵。唯有結合客製化服務,才能真正滿足金融業在AI與數據應用上的高標準,並符合大型金融客戶的嚴格驗收要求。
圖/ 數位時代 拍攝

售前 × 數據雙團隊,一站式滿足數據處理和AI應用需求

金融產業的AI應用百百種,博弘雲端不只提供產業客製化解決方案,更透過技術團隊的深度參與來強化客製化程度。首先是售前技術團隊,該團隊整合公司多年服務大型客戶的經驗與專業人才,能在專案初期便與客戶進行需求訪談與技術交流,並據此繪製完整的系統架構圖,確保AI應用精準契合需求,大幅提升專案成功落地的機率。

其次是數據團隊,涵蓋數據工程師、數據分析師與數據科學家三種不同職能,能與售前技術團隊的需求分析與架構設計緊密銜接,一站式滿足金融業從數據處理到應用的完整需求。

博弘雲端台灣AWS事業處業務資深處長郭仁傑進一步說明二個團隊的具體運作模式。售前技術團隊在完成需求分析與架構圖後,數據工程師會協助金融業將地端資料搬遷到雲端資料倉儲,並確保數據的正規化與可用性;接著由數據分析師統整數據並建立戰情室、商業智慧分析等應用,幫助客戶快速掌握營運數據;最後由數據科學家根據實際應用情境選擇或開發適合的AI模型,實現提升營運效率或優化客戶體驗的目標。「經過概念驗證與專案的執行,金融業普遍能提升5倍以上的資料處理效率,運用AI提升10~50%不等的生產力」,郭仁傑強調。

RD099024.jpg
「要讓AI應用在金融業真正落地,雲服務業者的客製化能力是關鍵。」博弘雲端台灣暨東南亞事業中心技術處長 / 孫正忠強調
圖/ 數位時代 拍攝

攜手 AWS 與生態系戰略夥伴,全面備戰金融業轉型需求

除了內部團隊的緊密協作,博弘雲端也積極深化與AWS和第三方夥伴的合作關係,加強解決方案的廣度與深度,確保能更全面回應金融業多樣化的需求。

「客戶至上一直是博弘雲端的企業文化,」陳亭竹表示,博弘雲端很早之前就洞察到金融業數位轉型的商機,加上AWS當時正如火如荼推進亞太(台北)區域的落地,因而與其展開台北區域戰略合作協議的討論,並於2025年7月正式簽訂,成為台灣第一家簽署該協議的AWS核心級諮詢夥伴。

「這是一份區域級的合作協議,必須要有足夠紮實的市場經驗和具代表性的客戶導入案例,才能獲得AWS的認可與信任,」陳亭竹強調,這份協議不僅代表AWS對博弘雲端實力的高度肯定,更意味著博弘雲端可以進一步放大服務能量,串聯更多生態圈夥伴,全面支援金融業的數位轉型。

由於金融業在上雲時,對資安防禦、效能監測、數據管理等面向,可能都有不同需求,博弘雲端自成立以來,便持續與不同領域的夥伴攜手合作,包括Palo Alto Networks、Databricks及MongoDB等國際級解決方案廠商,滿足金融業在上雲時的特殊需求。而隨著與AWS簽訂台北區域戰略合作協議,博弘雲端得以進一步擴大合作生態圈,為金融業打造更完整的雲端與AI解決方案,全力加速其上雲與創新進程。

專業技術建立信任,博弘雲端成金融業轉型首選夥伴

憑藉卓越的客製化服務能力、與AWS的緊密合作關係及多元的生態圈夥伴,讓博弘雲端在金融領域展現亮眼成果,不只在技術面持續採用創新科技賦能金融業成功轉型,更透過技術專業力獲得客戶高度信賴,某大型金融業客戶在數據上雲專案結束後,主動表示希望繼續合作。

郭仁傑說明,博弘雲端自3年前開始,即協助該客戶將地端數據逐步上雲,並導入Data Hub建立完善的資料治理(Data Governance)機制。隨著數據上雲後的效益逐步展現,不僅吸引同集團內其他子公司與海外據點相繼啟動數據上雲計劃,更將合作期間展延至7年,藉助博弘雲端的技術與服務能量,持續深化雲端與AI應用,推動整個集團的數位創新藍圖。

1757919697308.jpg
郭仁傑說明,博弘雲端自3年前開始,即協助該客戶將地端數據逐步上雲,並導入Data Hub建立完善的資料治理(Data Governance)機制。
圖/ 數位時代 拍攝

目前除了金融業之外,博弘雲端在製造、零售和公部門也累積了豐富的雲端技術導入經驗。展望未來,博弘雲端除了持續與AWS維持緊密合作、不斷精進雲端技術能力外,更將全面強化在資安託管服務 (Managed Security Services Provider, MSSP) 與技術生態圈的戰略布局,並積極拓展東南亞市場,成為台灣雲端服務業進軍國際的領航者。不僅向海外輸出台灣的成功經驗,更將成為驅動東南亞地區數位轉型的關鍵力量。

更多金融業上雲案例:立即與博弘雲端專業團隊討論

https://www.nextlink.cloud/contact/

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
一次搞懂Vibe Coding
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓