Google加快人工智慧發展的秘密武器：自製機器學習專用晶片|數位時代 BusinessNext

特製晶片效能為現有技術往前推進七年

皮采指出，Google在幾年前就已著手研發客製化的特殊應用積體電路（ASIC），而這款專用於Google開源機器學習演算法TensorFlow、也是提升AlphaGo計算速度的特製晶片TPU（Tensor Processing Unit），用以改善機器學習相關應用，迄今已使用超過一年。

為了加速機器學習進程，TPU捨棄掉傳統晶片如CPU和GPU的高精確度，減少計算需要的電晶體數量並提升每瓦效能。根據Google說法，「TPU讓機器學習的每瓦效能提高一個數量級，相當於將晶片效能往前推進七年或三代的摩爾定律」。

（圖說：AlphaGo伺服器使用Google自製晶片TPU。圖片來源：Google Cloud Platform Blog）

Google產品、外部開發者皆可受惠

目前，Google使用機器學習的應用超過百種，例如搜尋、語音辨識和自駕車。Google傑出硬體工程師諾曼‧約皮（Norman Jouppi）指出：「這類程式需要耗費龐大資金才能提供快速集中的運算能力和電力，自製機器學習加速器讓Google可更加經濟地加快產品推出。」迄今，Google已使用超過1千個TPU，運用於街景、智慧訊息回覆和搜尋，幫助改善搜尋結果相關性，以及提升地圖和導航產品的精確度。

除了Google內部產品可受惠於這套最新的機器學習演算法，Google的雲端機器學習服務也開放開發者利用這套演算法打造自己的應用服務。「我們的目標是引領機器學習產業，並讓創新得以在顧客身上實現。透過在基礎建設加入TPU，我們可以透過軟體如TensorFlow和雲端機器學習將Google的力量帶給開發者。機器學習正在改變開發者如何打造讓消費者受惠的智慧應用，我們非常高興看到未來生活的可能性。」約皮表示。

微軟也在嘗試新的晶片設計

Google並非唯一為了加快人工智慧而採用新的晶片設計的公司。《華爾街日報》指出，微軟正在使用一款名為Field Programmable Gate Arrays的可編程晶片，以加速人工智慧運算，應用於Bing搜尋引擎。NVIDIA推出的GPU則被應用在人工智慧計算，這款晶片過去也被Google用於AlphaGO的早期測試。

透過自行生產客製化晶片，Google將更可掌控支出、技術規格以及未來發展藍圖。但這是否代表Google對第三方晶片供應商如Intel或Nvidia的依賴將日益降低？約皮表示，「我們依然購買大量的CPU和GPU，」但不願透露購買數量是否較過去少。

過去兩年，人工智慧技術以史無前例的速度翻轉企業營運與競爭態勢，從客服、知識管理到軟體開發，越來越多企業將大型語言模型（LLM）導入企業營運流程，隨著應用程度的深化與廣化，越來越多發現，真正的挑戰早已不只是「選擇哪個模型」，而是如何管理算力、控制成本、確保資料安全，以及讓不同世代GPU、模型與AI應用可以持續共存與調度。

代理式AI崛起後，AI應用從回答問題進展為執行任務、操作系統以及串接流程，連帶拉升對AI基礎設施的需求與架構複雜度，而這意味著，想要發揮AI綜效，光只有模型與技術尚不夠，必須將整體IT環境逐步升級為AI基礎建設（AI Infra）。

深耕AI管理領域多年的數位無限（INFINITIX），近年積極布局軟體定應AI基礎建設（Software Defined AI Infrastructure）市場，除持續深化與GPU、伺服器與AI硬體生態系的合作關係，如於2021年取得NVIDIA Solution Advisor全球夥伴資格，2025年亦獲AMD GPU生態建設夥伴獎，也因應市場需求推出AI-Stack與ixCSP兩大產品線，協助企業、雲端服務供應商（CSP）與新世代AI雲端業者，更有效率地管理跨世代AI算力資源。

數位無限執行長陳文裕表示：「我們的目標是協助客戶打造軟體定義AI基礎架構，讓其可以視需求向下整合不同世代GPU、儲存與網路設備，同時，向上鏈結模型、Token跟AI應用，加速企業的AI創新轉型腳步。」

從AI模型到AI經濟，企業競爭焦點轉向算力與Token調度能力

過去市場談AI，焦點多半放在模型參數、推論效能與模型能力，但在大型語言模型推論需求暴增的現下，AI Infra早已從單純GPU採購演變成涵蓋機櫃、網路、儲存、散熱與電力的整體工程；企業真正需要的，不是更多GPU、而是如何更有效率地調度與利用算力。

尤其在NVIDIA提出Token Factory概念後，全球AI產業正逐步從模型競賽轉向「AI經濟」，亦即，影響企業AI決策的再也不是使用哪個模型、部署多少GPU，而是消耗多少Token、產生多少AI服務，以及算力是否能被有效共享與調度。

換言之，在AI新世界，算力調度能力的重要水漲船高。對此，陳文裕十分認同的說：「企業想要提升AI競爭力，不僅要掌握模型與應用，還必須進一步思考如何有效切割GPU資源、讓不同部門甚至集團子公司共享算力、延長舊世代GPU的使用壽命，甚至是如何將閒置算力轉變成可交易的資源等。」

事實上，這也是大量AI資料中心（AIDC）跟新世代AI雲端服務（Neo Cloud）業者出現的原因，包括CoreWeave、Nebius、Lambda Labs、GMI Cloud等業者皆試圖以更具彈性的方式，提供企業所需的GPU服務與AI算力平台。

看準這波趨勢，數位無限除透過AI-Stack提供GPU切片、模型部署、模型管理與MLOps等服務，協助客戶提升GPU使用率，更進一步推出ixCSP平台，讓雲端服務供應商與新世代AI雲端業者，能從過去單純販售GPU資源轉型為提供GPU as a Service、Token as a Service與Model as a Service等創新AI服務。

以Software Defined AI Infrastructure助企業以「通用化、鬆耦合」迎戰瞬變AI世代

因應AI新世代帶來的挑戰：模型快速升級、算力需求攀升、GPU世代交替迅速，企業在追逐AI落地的同時，勢必得面臨基礎建設更新速度過快、硬體投資壓力升高，以及資源利用效率難以最佳化等挑戰。

為協助企業在AI快速演進與基礎建設投資之間取得平衡，數位無限的作法是，透過AI-Stack將底層硬體抽象化，以Token或模型服務形式提供，讓企業客戶、AIDC與Neo Cloud業者可以延長不同世代與不同品牌的AI硬體設備的生命週期、創造更高的使用價值、甚至是展開更多元的營收模式。

例如，高雄醫學大學附設中和紀念醫院便透過數位無限的AI-Stack解決GPU資源調度效率不彰問題，加速39項AI模型進入臨床應用階段，成功建立起「從模型開發到臨床落地」的完整生態系統。而日本精密製造大廠–Union Tool Co.–則是透過AI-Stack簡化GPU資源共享、加速AI模型的開發與測試腳步，為提升生產效率做最佳準備。

「如果大型企業或AIDC業者擁有閒置資源，也可以透過ixCSP平台，把算力共享或調度給集團內部團隊、子公司，甚至上下游合作夥伴使用，進一步提升整體資源利用率。」數位無限執行長陳文裕如是說道。

隨著AI從工具演變成企業核心基礎建設，企業真正需要的，也不再只是單一模型，而是一套能持續適應AI快速演進的AI Infra，而這與數位無限近年來的重要轉型方向一致：從AI管理軟體提供者轉型為軟體定義AI基礎建設供應商，更好協助客戶打造具備「通用化」與「鬆耦合」特性的AI基礎建設。

除以AI-Stack與ixCSP協助客戶提升算力使用效率與價值，數位無限亦計畫與硬體合作夥伴推出Agentic AI一體機方案，協助企業快速建立可驗證、可部署、可切割、可共享的AI運算環境，降低企業從PoC走向實際導入的門檻，加速AI落地。

總的來說，隨著AI競爭從模型能力延伸到算力治理，企業比拚的不僅是導入速度，而是能否建立一套足夠彈性、可持續演進的AI Infra，而這與數位無限的發展目標一致，將持續不斷優化產品服務，化身企業搶進AI新世代的關鍵合作夥伴。