AI大戰的新戰場!Google推超級電腦、AI晶片,為何Nvidia老神在在?
AI大戰的新戰場!Google推超級電腦、AI晶片,為何Nvidia老神在在?

自 ChatGPT 掀起 AI 聊天機器人大戰,各家大廠無不摩拳擦掌。其中,目前 AI 模型訓練與部署市占率超過 9 成的輝達(Nvidia),股價自年初至今已暴漲近一倍。反觀也是 AI 技術推動者的 Google,雖然在過去十年間取得不少 AI 重大突破,卻在這波聊天機器人大戰中失色。

2 月 8 日,Google 舉辦技術發表會,分享 AI 如何整合到搜尋引擎。但在演示時,Google 聊天機器人 Bard 被問到「關於韋伯太空望遠鏡(JWST)的新發現有哪些?」,Bard 卻答非所問,而且答案還是錯誤的,表示「太陽系外行星的第一張照片,是由韋伯望遠鏡所拍攝」,但事實上,該照片是歐洲南方天文台(ESO)的甚大望遠鏡(Very Large Telescope)拍攝。這起烏龍,導致 Google 母公司 Alphabet 股價一度重挫逾 8%。

不少專家表示,Google 雖然有很多 AI 發明,但商業化腳步卻嚴重落後。因此,Google 在這場 AI 大戰的第一個策略是不斷發布 AI 新品,證明 Google 在 AI 領域依然保有競爭力。

Google 推出號稱性能優於輝達的 AI 超級電腦、投注更多人力在聊天機器人相關技術

Google 從 2016 年就開始研發稱為 TPU(Tensor Processing Unit,張量處理單元)的 AI 晶片。Google 也以 4000 個 TPU 打造新的超級電腦 TPU v4,在 2020 年開始運作,用來訓練 Google 的 AI 模型 PaLM 超過 50 天,和 Open AI 的 GPT 模型打對台。

4 月時,Google 用一篇論文指出,TPU v4 和用在 GPT 模型的 Nvidia A100 晶片所製造的同類型機器相比,TPU v4 運作速度快 1.2 到 1.7 倍,耗電量卻少了 1.3 到 1.9 倍。「性能、擴展能力和實用性,都讓 TPU v4 成為 AI 大型語言模型的主力,」Google 研究人員表示。

Google 在 AI 大戰的第二策略是調整組織架構,把更多心力投注在聊天機器人 Bard 技術上。3 月中,Google 副總裁暨 Google Assistant( )業務負責人蕭茜茜(Sissie Hsiao)寫了一封名為「語音助理和 Bard 團隊的變化」的電子郵件,表示該部門未來將以 Bard 為發展優先,「目的是為了要確保抓住未來的機會,今年 Google 會比過往帶給消費者更具影響力的產品。」

註:Google 開發的語音助理產品。

隨後 Google Assistant 部門也傳出走馬換將,由在 Google 已任職 16 年的商務部門副總裁派雅許・藍詹(Peeyush Ranjan)接手主管。這起人事案彰顯,該部門未來將把 Bard 技術整合到相似的產品中。

延伸閱讀:Google自揭AI超級電腦新細節:第四代TPU比Nvidia A100更快、效能更強!

Google 大動作進逼,仍難以撼動輝達的 2 個原因

優勢一:技術領先

然而,就算 Google 動作頻頻,也很難撼動輝達在 AI 晶片的主導地位。原因之一就是,輝達的技術仍居領先。Google 內部研究人員就透露,Google 自豪的 TPU,並沒有和輝達最新的 AI 晶片 H100 進行比較。H100 因為推出時間較晚,也採用更先進的製程技術,自然讓 TPU 相形見絀。

在由學術界、研究實驗室、業界人士組成的 AI 領袖聯盟所推動,標榜中立公平的 MLPerf 全行業 AI 晶片測試證實,輝達新一代的 H100 晶片運作速度明顯比上一代要快上許多,「性能是 A100 的 4 倍,」輝達執行長黃仁勳在部落格中強調,下一代的生成式 AI 需要新的 AI 基礎設施來訓練具有高效能的大型語言模型。

即便 Google 在光互連(optical interconnect)技術占有優勢,能用光纖和其他光傳輸介質在電腦內的元件和子系統中快速交換資料,但 GlobalData 半導體市場分析師麥克・奧梅(Mike Orme)指出,輝達 H100 晶片的運算速度將可抵禦 Google 的這種優勢。

優勢二:較早進入 AI 晶片市場

第二個原因是,輝達進入市場夠早,使其科技早已成為訓練 AI 模型所必備。大型科技公司若想在 AI 武器競賽搶得先機,往往會搶購數千個輝達 A100 晶片,像是 Open AI,為了要訓練 GPT-4 模型,就斥資 1 億美元買下 1 萬個輝達 A100 GPU 高階晶片。

這場 AI 晶片大戰,短期看來,仍是輝達占上風。但 Google 能否迎頭趕上,值得各界持續關注。

延伸閱讀:小孩子才做選擇!Nvidia佈局AI是「全都要」,黃仁勳怎麼搶GPU數兆美元商機?

資料來源:CNBC(1), CNBC(2), Tech Monitor

責任編輯:錢玉紘

關鍵字: #晶片 #Nvidia #AI
往下滑看下一篇文章
AI 智慧代理人時代來臨!三大導入階段, AI 落地企業不卡關
AI 智慧代理人時代來臨!三大導入階段, AI 落地企業不卡關

生成式 AI 帶動企業數位轉型浪潮持續升溫,各界不再滿足單一任務型的 AI 應用,而是期盼 AI 能真正成為具備主動決策與多工能力的「智慧代理人」(Agentic AI),在最少人為干預的情況下,自主推進工作流程、完成複雜任務。

但企業導入AI並非一蹴可幾,而是需要對AI有正確認識,並制訂循序漸進的導入流程,才能真正發揮AI功效。在2025台灣人工智慧年會中,cacaFly 聖洋科技技術副總吳振和提出三大導入關鍵階段,深入剖析企業如何從概念驗證(PoC)階段,逐步推進到實際上線(Production),並分享實務經驗與觀察。

延伸閱讀:生成式AI可以怎麼用?cacaFly現身說法,助企業應用GCP服務智慧轉型

解鎖 Agentic AI,企業邁向多任務智慧代理

「很多公司會問,One AI 要做什麼事?但實際上,若要讓 AI 回答公司內部政策或新法條的相關問題,僅靠基礎模型並不足夠。」吳振和指出,要讓 AI 真正成為能「做事」的智慧代理人,前提是它必須理解企業內部的脈絡與知識,並即時掌握外部變動的資訊。

企業必須先釐清內部規範是否與最新法規相符,這意味著系統必須具備持續爬取與解析最新資料的能力。為此,企業必須先截取與整理內容,再建構成專屬的知識庫(Knowledge Base),確保資料品質達到可用標準後,再透過檢索增強生成(Retrieval-Augmented Generation, RAG)技術,使 AI 能夠即時動態查詢並生成符合企業語境的回答。

延伸閱讀:從資料清洗到 RAG,大型語言模型的必需品,做出專屬企業的 AI 知識庫!

吳振和強調,這是一個動態循環的過程:從資料蒐集、品質控管、知識庫建構到生成應用,每一環節都息息相關,任何一處鬆動都會影響最終產出的準確性與可信度。

cacaFly 聖洋科技技術副總吳振和
圖/ cacaFly

破除「一次到位」迷思,從驗證到落地的三大關鍵階段

許多企業對 AI 寄予厚望,因此常將 PoC 視為年度計畫的重點,希望能「一次到位」做出具體成果。但吳振和提醒,若缺乏清楚的系統工程思維,PoC 容易淪為「概念展示」,難以真正走入組織的日常營運。

他將導入 Agentic 系統工程的歷程,分為三個關鍵階段:

1.第一階段:可行性評估(Feasibility Study)
企業必須在投入資源前,先明確界定「最需要被 AI 解決的關鍵問題」是什麼,並進一步設計可量化的驗證指標。這不僅包括評估技術實作的可行性,更要從商業目標出發,釐清導入 AI 的具體使用情境、預期成效與風險邊界,如此才能確保後續模型選型與資料蒐集方向正確對齊業務需求。

2.第二階段:系統設計與驗證(Design & PoC)
在確定導入方向後,必須規劃清楚資料蒐集與整理流程,確保知識庫的內容具備正確性、完整性與時效性。吳振和特別強調,這個階段不能只追求展示效果,而應以「產品化思維」來構築 PoC,使其具備可擴充性、可維護性及安全性,才能為後續上線打下基礎。

3.第三階段:產品化與營運(Production & Operation)
當 PoC 驗證完成後,進入正式上線階段,挑戰也隨之而來。除了需要整合企業內部系統與流程,還必須建立持續監控與維運機制,確保模型表現隨時間演進不會劣化,並能快速回應法規變動或資料更新的需求。吳振和指出,這往往是最容易被低估、但也是最考驗企業組織能力的關鍵環節。

cacaFly 聖洋科技技術副總吳振和
圖/ cacaFly

建立模型優化根基,打造高品質的黃金資料集

吳振和特別強調,要讓 Agentic 系統工程真正發揮效益,企業必須先建立一套高品質的「黃金資料集」(Golden Dataset),作為模型評估與優化根基。他指出,黃金資料集的價值在於能為模型選擇與前測提供客觀依據,讓團隊能針對不同任務挑選最適合的模型,避免導入初期就誤踩方向。

同時,黃金資料集也能協助團隊辨識模型的常見錯誤與脆弱點,進而快速回應「模型飄移」(Model Drift)的風險。吳振和說明,所謂模型飄移,指的是即使模型本身未經改版,效能也可能隨著環境與資料變動而突然下降,導致原本表現良好的模型出現偏差。透過持續比對模型預測與黃金資料集結果,團隊才能即時察覺效能衰退,並進行迭代更新,確保系統長期穩定運作。

從小規模應用起步,漸進擴展至核心業務

吳振和分享,在實際輔導企業導入 AI 的經驗中,最常見的挑戰來自於「期待落差」。許多企業誤認為概念驗證(PoC)階段即可呈現完整的產品原型,然而實際情況顯示,若企業未能建立完善的資料架構與流程基礎設施,即使短期內展現亮眼成效,也難以確保長期營運的穩定性與可持續性。

也因此他建議企業在規劃 AI 導入時,應採取漸進式策略,從小規模應用場景著手,逐步擴展至核心業務領域。企業應將 PoC 定位為整體產品開發生命週期的重要環節,而非獨立的一次性專案。

AI 的導入不僅是一場技術升級,更是企業組織文化與決策流程的轉型工程。唯有從資料治理、流程優化到人才培訓同步布局,才能確保 AI 能在企業內部真正「落地生根」,創造長期商業價值,成為真正的智慧代理人。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
一次搞懂Vibe Coding
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓