【黑貘來說】 挖掘巨量資料的秘密步驟

過去兩年，人工智慧技術以史無前例的速度翻轉企業營運與競爭態勢，從客服、知識管理到軟體開發，越來越多企業將大型語言模型（LLM）導入企業營運流程，隨著應用程度的深化與廣化，越來越多發現，真正的挑戰早已不只是「選擇哪個模型」，而是如何管理算力、控制成本、確保資料安全，以及讓不同世代GPU、模型與AI應用可以持續共存與調度。

代理式AI崛起後，AI應用從回答問題進展為執行任務、操作系統以及串接流程，連帶拉升對AI基礎設施的需求與架構複雜度，而這意味著，想要發揮AI綜效，光只有模型與技術尚不夠，必須將整體IT環境逐步升級為AI基礎建設（AI Infra）。

深耕AI管理領域多年的數位無限（INFINITIX），近年積極布局軟體定應AI基礎建設（Software Defined AI Infrastructure）市場，除持續深化與GPU、伺服器與AI硬體生態系的合作關係，如於2021年取得NVIDIA Solution Advisor全球夥伴資格，2025年亦獲AMD GPU生態建設夥伴獎，也因應市場需求推出AI-Stack與ixCSP兩大產品線，協助企業、雲端服務供應商（CSP）與新世代AI雲端業者，更有效率地管理跨世代AI算力資源。

數位無限執行長陳文裕表示：「我們的目標是協助客戶打造軟體定義AI基礎架構，讓其可以視需求向下整合不同世代GPU、儲存與網路設備，同時，向上鏈結模型、Token跟AI應用，加速企業的AI創新轉型腳步。」

數位無限執行長陳文裕

圖／ 數位時代

從AI模型到AI經濟，企業競爭焦點轉向算力與Token調度能力

過去市場談AI，焦點多半放在模型參數、推論效能與模型能力，但在大型語言模型推論需求暴增的現下，AI Infra早已從單純GPU採購演變成涵蓋機櫃、網路、儲存、散熱與電力的整體工程；企業真正需要的，不是更多GPU、而是如何更有效率地調度與利用算力。

尤其在NVIDIA提出Token Factory概念後，全球AI產業正逐步從模型競賽轉向「AI經濟」，亦即，影響企業AI決策的再也不是使用哪個模型、部署多少GPU，而是消耗多少Token、產生多少AI服務，以及算力是否能被有效共享與調度。

換言之，在AI新世界，算力調度能力的重要水漲船高。對此，陳文裕十分認同的說：「企業想要提升AI競爭力，不僅要掌握模型與應用，還必須進一步思考如何有效切割GPU資源、讓不同部門甚至集團子公司共享算力、延長舊世代GPU的使用壽命，甚至是如何將閒置算力轉變成可交易的資源等。」

事實上，這也是大量AI資料中心（AIDC）跟新世代AI雲端服務（Neo Cloud）業者出現的原因，包括CoreWeave、Nebius、Lambda Labs、GMI Cloud等業者皆試圖以更具彈性的方式，提供企業所需的GPU服務與AI算力平台。

看準這波趨勢，數位無限除透過AI-Stack提供GPU切片、模型部署、模型管理與MLOps等服務，協助客戶提升GPU使用率，更進一步推出ixCSP平台，讓雲端服務供應商與新世代AI雲端業者，能從過去單純販售GPU資源轉型為提供GPU as a Service、Token as a Service與Model as a Service等創新AI服務。

以Software Defined AI Infrastructure助企業以「通用化、鬆耦合」迎戰瞬變AI世代

因應AI新世代帶來的挑戰：模型快速升級、算力需求攀升、GPU世代交替迅速，企業在追逐AI落地的同時，勢必得面臨基礎建設更新速度過快、硬體投資壓力升高，以及資源利用效率難以最佳化等挑戰。

為協助企業在AI快速演進與基礎建設投資之間取得平衡，數位無限的作法是，透過AI-Stack將底層硬體抽象化，以Token或模型服務形式提供，讓企業客戶、AIDC與Neo Cloud業者可以延長不同世代與不同品牌的AI硬體設備的生命週期、創造更高的使用價值、甚至是展開更多元的營收模式。

例如，高雄醫學大學附設中和紀念醫院便透過數位無限的AI-Stack解決GPU資源調度效率不彰問題，加速39項AI模型進入臨床應用階段，成功建立起「從模型開發到臨床落地」的完整生態系統。而日本精密製造大廠–Union Tool Co.–則是透過AI-Stack簡化GPU資源共享、加速AI模型的開發與測試腳步，為提升生產效率做最佳準備。

「如果大型企業或AIDC業者擁有閒置資源，也可以透過ixCSP平台，把算力共享或調度給集團內部團隊、子公司，甚至上下游合作夥伴使用，進一步提升整體資源利用率。」數位無限執行長陳文裕如是說道。

隨著AI從工具演變成企業核心基礎建設，企業真正需要的，也不再只是單一模型，而是一套能持續適應AI快速演進的AI Infra，而這與數位無限近年來的重要轉型方向一致：從AI管理軟體提供者轉型為軟體定義AI基礎建設供應商，更好協助客戶打造具備「通用化」與「鬆耦合」特性的AI基礎建設。

除以AI-Stack與ixCSP協助客戶提升算力使用效率與價值，數位無限亦計畫與硬體合作夥伴推出Agentic AI一體機方案，協助企業快速建立可驗證、可部署、可切割、可共享的AI運算環境，降低企業從PoC走向實際導入的門檻，加速AI落地。

總的來說，隨著AI競爭從模型能力延伸到算力治理，企業比拚的不僅是導入速度，而是能否建立一套足夠彈性、可持續演進的AI Infra，而這與數位無限的發展目標一致，將持續不斷優化產品服務，化身企業搶進AI新世代的關鍵合作夥伴。