Google發佈第8代TPU!採取「訓練8t推論8i」雙軌設計,專攻大模型訓練與即時推論
Google發佈第8代TPU!採取「訓練8t推論8i」雙軌設計,專攻大模型訓練與即時推論

Google Cloud Next 2026在4月22至26日於美國拉斯維加斯登場,是Google在雲端、人工智慧與資安等面向的年度技術大會。

外界關注的第八代TPU以專精訓練、推論的雙軌姿態亮相,去年下旬甫登場的Gemini Enterprise再升級,要讓Google Workspace中的AI代理近乎無處不在。

「AI代理」已成為各大科技展會的熱門詞彙,Google Cloud Next也不例外。Google Cloud執行長庫里安(Thomas Kurian)的開幕演說,便以「The agentic cloud」為題,勾勒一個指揮、編排各種AI代理的企業運作樣貌。

在會前媒體簡報中,庫里安解釋,從生成回應到執行任務,AI模型能力的演進,正在改變人們與模型互動的方式。因應朝向AI代理的轉向,Google Cloud過去一年的工作重點便是強化核心平台,為AI代理時代打造完整的技術堆疊。

Google Cloud執行長庫里安(Thomas Kurian)
Google Cloud執行長庫里安(Thomas Kurian)的使命是為企業加速AI代理時代轉型。
圖/ Google Cloud

庫里安強調,「我們依然是唯一能在整個AI技術堆疊中提供第一方解決方案的供應商。」

第八代TPU專精訓練、推論,降低延遲是代理協作關鍵

Google自家設計、為DeepMind模型量身打造的TPU,如外界預期地發布為代理時代優化的第八代晶片。並根據需求細分為用於加速模型訓練的TPU 8t,以及降低延遲、推論成本更加經濟的TPU 8i。

TPU 8t採用晶片間互連技術,可以串接高達9600個TPU與2PB的共享高頻寬記憶體,形成單一超節點(superpod)。處理能力是Ironwood的三倍,每瓦效能提升至高兩倍,適合處理大規模、運算密集的訓練任務。

TPU 8i具有更高的記憶體頻寬,並採用 Boardfly全新互連拓撲,針對推理任務的通訊優化,可顯著降低延遲。Google解釋,大量AI代理之間的溝通會放大即便只是微小的延遲時間,TPU 8i便是為了支持許多專業化的AI代理協作而打造。

 TPU 8t與TPU 8i
TPU 8t(左)與TPU 8i(右)
圖/ Google

兩款新晶片將在今年稍晚正式推出。外界看好TPU出貨量今年超過400萬顆,帶動台積電、聯發科、廣達等概念股走高,協助開發TPU的聯發科股價連續兩日漲停,22日來到2295元的高點。

企業用戶取得Workspace Intelligence,在Chat也能調派Gemini

承繼2025年十月發布的Gemini Enterprise,Google Cloud推出升級版Gemini Enterprise Agent Platform,融入代理間編排、代理網關等Vertex AI平台的熱門功能,讓企業可以在統一平台完成AI代理的開發、編排與治理,旨在成為企業的代理控制中心。

Google Cloud推出Gemini Enterprise Agent Platform
Google Cloud推出Gemini Enterprise Agent Platform
圖/ Google

Google執行長皮蔡(Sundar Pichai)指出,針對代理時代的端對端系統Gemini Enterprise成長力道驚人,Q1的月活躍付費用戶比上一季成長了4成。

「我們看到每個組織的每一個員工都可以成為建造者。這是一個巨大的轉變,但也伴隨著複雜性。」皮蔡表示,「討論已經從『我們能做出一個代理嗎』轉向『我們要如何管理數千個代理?』」

皮蔡也揭露,Google內部由AI生成程式碼、再經人類審核的比例已經提升到75%,工程師亦在編排完全自主的數位任務團隊,朝真正的代理工作流前進。

Workspace Intelligence
Google Cloud推出Workspace Intelligence。
圖/ Google

對一般用戶最有感的,應是在Google Workspace中推出的Workspace Intelligence。這形成一種統一的語義層理解能力,能讓使用者在Gmail、Docs、Drive等不同應用程式中的資料成為AI代理的上下文脈絡,提供個人化的助理服務。

例如,使用者可以在Google Chat內呼叫Gemini,直接在聊天視窗內取得每日簡報、查找特定檔案,甚至是安排回議等任務執行,而不需要切換分頁。省下自己翻閱聊天紀錄、在收件匣裡找附檔的時間。

庫里安表示,「我們的願景是讓Google Chat成為人類即時溝通的介面。不只是與其他人類溝通,也包括所有的AI代理。」

另外,Google Drive內也新增Projects空間,可即時整理團隊的文件檔案,並根據專案的上下文提供特定答案。這表示雲端硬碟不再只是被動的儲存空間,也可以成為具主動性的協作空間。

搶佔微軟市佔率,控制平台是代理戰場

在三大公有雲中,Google Could的市佔率雖仍落後AWS、Microsoft Azure,但成長強勁。在最近的Q4財報中,營收成長率達48%,全年營收超過700億美元。且大約3/4的客戶使用了垂直整合的AI產品。

皮蔡表示,為了支援Google Could的擴張,預計今年在機器學習運算的投資有一半以上會投入雲端業務。Alphabet預計,2026年的資本支出金額將落在1750億美元至1850億美元間。

與此同時,Google也推出Rapid Enterprise Migration快速遷移服務。將組織Microsoft 365遷移到Google Workspace的速度可提升高達五倍,侵搶微軟市場的意圖鮮明。

隨著AI模型產品化,推論成本逐步下降,企業關注焦點轉向AI治理、編排與執行的實際成果。資料是AI應用的燃料,Google Cloud透過可跨雲端存取資料的Cross-Cloud Lakehouse,搭配Knowledge Catalog的語意圖譜理解能力,讓企業數據平台本身成為AI代理的上下文脈絡。

這不只是為Google Workspace的各任務領域加入AI功能,而是重新定義為一個人類工作者與AI代理互動的介面與協調層,任務在各種工具間流動、執行。從個人工作、團隊協作到企業客製化代理,AI代理確實即將無處不在。

延伸閱讀:實測ChatGPT Images 2.0:如何用免費版做出實戰級成品?繁中排版7大題型一次看懂

責任編輯:李先泰

關鍵字: #google tpu
往下滑看下一篇文章
AI 同事愈來愈多怎麼管?Going Cloud 用「多代理系統」,助企業打造最強營運大腦
AI 同事愈來愈多怎麼管?Going Cloud 用「多代理系統」,助企業打造最強營運大腦

ChatGPT、Gemini、Claude 等 AI 通用工具問世後,「AI」無疑成了現今全球最熱門的關鍵字。儘管許多企業已經開始導入相關應用,多數卻仍停留在文書輔助、單一聊天機器人(Chatbot)運用等單點階段。但隨著商業環境快速變化、缺工日益嚴峻,企業需要的不再只是一個會回答問題的對話框,而是具備「自主決策與行動執行」能力的「代理式 AI」(Agentic AI)。

Going Cloud 和 IDC 合作發布的《多代理系統崛起 打造敏捷韌性企業》報告便指出,如今「AI First」時代來臨,企業的 AI 應用正從輔助性質走向自主營運,有 80% 的企業期望藉此提升生產力,70% 的企業希望能更輕鬆處理複雜任務,還有 66% 的企業期望透過多模型來提升整體效能。

代理式 AI 愈來愈多,必須納入組織管理

但究竟什麼是「代理式 AI」?

「過去人們使用生成式 AI 時,需要一步步下達明確指令,但現在使用者只要賦予代理式 AI(Agentic AI)明確目標,它就能自己理解前因後果、進行推演,甚至能去呼叫 API 完成任務。」Going Cloud 總經理黃柏淞點出差異。
而當企業內部的代理式 AI 日益增加,比方說,人資部門有專屬 AI、業務部門有報價 AI、法務部門有合約審閱 AI,跨部門協作的複雜度也隨之飆升,「如果你是管理者,你就會意識到,必須把 AI 當成一個人,納入組織裡來管理。」黃柏淞強調,能統籌、指揮多個 AI 代理協作的「多代理系統」(Multi-Agent System, MAS),正是為了解決這個痛點而生。

簡單來說,MAS 就像虛擬的企業總部,負責協調、治理負責不同任務的 AI 代理、工具和功能模組。在讓 AI 自主決策的同時,各個 AI 代理間也能共享資訊、協調分工。MAS 還具備極佳的擴展性和分散性,企業可以依照業務需求,隨時新增、更改 AI 代理,能大幅提升營運韌性。

雖然企業普遍意識到,代理式 AI 已經蔚為風潮,但實際部署時,仍面臨諸多挑戰。《多代理系統崛起 打造敏捷韌性企業》報告便顯示,資安疑慮、預算限制、缺乏 IT 支援分別是企業最擔憂的三大問題,「企業最擔心串聯多個 AI 代理時,要是權限沒控管好,很容易有機敏資料外洩的風險。」黃柏淞提到,在此情形下,Going Cloud 推出了以「分層式多代理架構」為核心的解決方案。系統會由一個「主管代理」(Supervisor Agent)作為主要決策層,底層則串聯了各個負責單一任務的「任務代理」(Task Agents)。

以 Going Cloud 服務的大型金融企業為例,假設一位 VIP 客戶登入銀行 APP,詢問 AI 客服:「我想申請房貸,請問現在利率多少?另外,請幫我評估把我目前的科技股基金贖回當作頭期款適不適合?」如果是傳統的聊天機器人,可能會因為問題太複雜直接轉接人工客服。但在 Going Cloud 的分層式 MAS 架構裡,「主管代理」接收到任務後,會先拆解再指派負責「房貸利率」的「任務代理」,去後台抓取客戶的信用評分和最新房貸專案。同時,這位虛擬主管還會指派「理財分析」的「任務代理」,去檢視客戶最近科技股基金的績效並預測市場。最後,再由「主管代理」統整資訊,一併給出一份完整且客製的財務建議,「分層式 MAS 能確保整個過程的指令被清楚傳遞,而且因為權限分層管理,房貸 Agent 不會碰到不該碰的理財資料,符合金融業的風險控管與合規要求。」黃柏淞說。

目前 Going Cloud 已經協助知名金融機構導入 MAS 架構。以實際成效來看,多代理客服平台能降低 50% 以上的人工客服工作負擔,並讓回覆使用者問題的平均時間減少 60% 以上;FAQ 知識導向與 API 資料調用的正確率,在調用得當的情況下,也都達到9成以上的成功率。黃柏淞指出,金融、製造、顧問等有複雜跨部門協作需求的大型企業,都是亟需採用代理式 AI 的產業。

#0 AI同事愈來愈多怎麼管?Going Cloud用「多代理系統」,助企業打造最強營運大腦
提到目前與台灣領先金融集團的合作進程,黃柏淞表示因為金融機構的特殊性,需要縝密的全方位服務,從前期討論到技術導入,大約需要半年到九個月的時間。
圖/ 數位時代

懂雲也懂企業痛點,助員工無痛升級「AI 小組長」

但為什麼 Going Cloud 能為企業打造出如此高效的代理式 AI 底層架構?一方面,Going Cloud 先前服務過亞洲最大 AI 多媒體科技集團科科科技(KKCompany Technologies),奠定具備理解和服務大型企業的經驗,且自 2022 年創立起,就鎖定服務架構最複雜的大型企業市場。同時,Going Cloud 是全台首家榮獲 AWS 生成式 AI 服務能力認證及 ISO27001、ISO27701 雙重國際驗證的雲端產業專家,此成就彰顯 Going Cloud 在堅實的資訊安全基礎上,深化了對個人資料保護的承諾,為客戶提供符合國際標準的資料保障,強化雲端服務領導地位。另外,Going Cloud 還能為企業量身打造底層 AI 平台,提供 AI 策略方針定調、雲端架構設計、Agent 任務規劃、效能優化等一站式服務。

對於準備跨入「AI 商用階段」的企業,黃柏淞建議,釐清應用場景,比追求最新技術更重要,「唯有清晰定義痛點,才能讓強大的 MAS 平台真正落地。」
他特別提到,導入 MAS 系統不只是 IT 部門的責任,其實更像企業的升級轉型,「未來的知識工作者,不能只是單純『接球就打』,每個人都將成為『小組長』或『專案經理』。」例如員工不必再親自打開 excel 敲公式、解讀報表,應該要學著指派手下的「數位同事」去執行。員工的核心價值,將從過去繁瑣、重複性任務的執行,轉移到前期的目標定義、流程規劃,以及後期的決策判斷和審核把關。

AI 技術飛速推進,企業間的競爭已從「要不要用 AI?」,升級成「如何管理與協作多個 AI?」。透過建構靈活、安全且具高擴展性的多代理系統,企業不僅能解放員工的生產力,更能在瞬息萬變的市場中,打造敏捷、韌性兼具的營運大腦。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
AI全球100+台灣20
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓