阿里巴巴、KKBOX資料科學年會同台尬大數據心法|數位時代 BusinessNext

從預測數據到用數據，阿里巴巴分水嶺

車品覺表示，現在大數據已經從預測進化到行動決策了，而這也是阿里巴巴近年來大數據應用的分水嶺，當企業領導認識到數據的力量之後，他不會只滿意於描述現象，而更需要診斷，也因此數據的精準度變得越來越重要，畢竟用來看的數據跟用來做決策的數據，兩者的質量要求完全不同。

（圖說：阿里巴巴副總裁車品覺特地來台參與第二屆資料科學愛好者年會。照片來源：李欣宜攝。）

車品覺身兼阿里巴巴數據委員會會長，有一天車品覺走到總裁辦公室問：「我身為一個數據領導，我能做什麼讓你爽的？」總裁回覆：「我想知道我上禮拜做的什麼事情是對的，什麼事情是錯的。」他因而體會到應用數據做行動的重要性。

數據科學兩大派別

車品覺指出，數據科學現在有兩大派別：數據很平但用深厚的演算法解決問題，另一種是數據廣泛而大但是用簡單的演算法。「我個人的喜好是第二個，發現好的數據策略，當演算法變得複雜的時候，背後的假設也很複雜，我會懷疑它的穩定性，當你老闆問你預測準確率多高的時候，你要反問他三個問題：對的概率？錯的概率？穩定嗎？因為我們做數據的人常常發現現在的演算法過了半年就不能用了。」

數據種類也可以分成兩種：快加準或廣加亂。第一是在已知的規律裡面產生價值，第二種是可以找到自己不知道的東西。「數據不僅是資產，也是一種信仰。」車品覺說。在行動互聯網時代，企業不必在乎使用者喜歡什麼，只要知道使用者下一步會做什麼就可以了，而且每個行業都對應不同的數據框架，例如有一個美國調研公司的報告顯示有65％的人會在廁所裡看手機，這就是非常好的行銷點，行銷人員應該去思考要趁機推播什麼商品給這個消費者，因為現在手機不只是傳感器還是媒體，手機已經不是手機，他就是媒體。

（圖說：阿里巴巴大數據十誡。照片來源：李欣宜攝。）

KKBOX用大數據提升歌曲觸及率

年會第二天則由全球唯一獲利的音樂串流業者KKBOX資料科學家接力，分享KKBOX月初才推出的大數據個人推薦歌單服務。KKBOX研究中心資料科學家羅經凱表示，KKBOX歌單雖然號稱2千多萬首，但是實際上會被點播的只有340萬首，有將近八成的歌無法觸及使用者。除此之外，KKBOX用戶偏好的音樂類型高度集中，收聽率前10％的歌佔了所有被播放歌曲次數的87％，顯示音樂播放多樣性不足。

由於音樂播放次數決定歌手收入，為了維護體系健全，如何維持音樂多樣性，刺激用戶脫離「同溫層」，成了KKBOX大數據科學家的首要挑戰。KKBOX根據用戶的收聽習慣和時段，將華語音樂聽眾分成九大族群，將收聽行為類似的用戶歸類在同一個群體，推薦他們風格類似但前所未聞的音樂。

（圖說：KKBOX近三年歌曲點擊率逐漸趨向集中。照片來源：李欣宜攝。）

但有時候用戶聽音樂是有目的性的，例如哄小孩睡覺放輕音樂、工作時放心靈音樂等等，KKBOX又再根據用戶在不同時間點下的音樂收聽習慣，推薦各式情境歌單。KKKBOX研究中心資料科學家羅經凱表示，目前編輯團隊推薦的歌單還是比機器學習推薦的更精準，再加上每個國家的使用者都有不同的喜好，要精準推薦使用者新歌又不招致反感其實是很困難的。

KKBOX研究中心經理林佑璟是KKBOX第一個研究員，剛來KKBOX的時候發現資料取得困難度高，遇到資料散亂、溝通成本高昂以及資料格式不齊等問題，他建議有心從事數據分析的企業，一定要做好內部溝通，讓大家了解做數據分析對於公司有好處，而且數據是重要公司資產，絕對不會拿去變賣或者侵犯使用者隱私。

（圖說：KKBOX研究中心資料科學家羅經凱。照片來源：資料科學愛好者年會提供。）

@@ACTIVITYID:602@@

過去兩年，人工智慧技術以史無前例的速度翻轉企業營運與競爭態勢，從客服、知識管理到軟體開發，越來越多企業將大型語言模型（LLM）導入企業營運流程，隨著應用程度的深化與廣化，越來越多發現，真正的挑戰早已不只是「選擇哪個模型」，而是如何管理算力、控制成本、確保資料安全，以及讓不同世代GPU、模型與AI應用可以持續共存與調度。

代理式AI崛起後，AI應用從回答問題進展為執行任務、操作系統以及串接流程，連帶拉升對AI基礎設施的需求與架構複雜度，而這意味著，想要發揮AI綜效，光只有模型與技術尚不夠，必須將整體IT環境逐步升級為AI基礎建設（AI Infra）。

深耕AI管理領域多年的數位無限（INFINITIX），近年積極布局軟體定應AI基礎建設（Software Defined AI Infrastructure）市場，除持續深化與GPU、伺服器與AI硬體生態系的合作關係，如於2021年取得NVIDIA Solution Advisor全球夥伴資格，2025年亦獲AMD GPU生態建設夥伴獎，也因應市場需求推出AI-Stack與ixCSP兩大產品線，協助企業、雲端服務供應商（CSP）與新世代AI雲端業者，更有效率地管理跨世代AI算力資源。

數位無限執行長陳文裕表示：「我們的目標是協助客戶打造軟體定義AI基礎架構，讓其可以視需求向下整合不同世代GPU、儲存與網路設備，同時，向上鏈結模型、Token跟AI應用，加速企業的AI創新轉型腳步。」

從AI模型到AI經濟，企業競爭焦點轉向算力與Token調度能力

過去市場談AI，焦點多半放在模型參數、推論效能與模型能力，但在大型語言模型推論需求暴增的現下，AI Infra早已從單純GPU採購演變成涵蓋機櫃、網路、儲存、散熱與電力的整體工程；企業真正需要的，不是更多GPU、而是如何更有效率地調度與利用算力。

尤其在NVIDIA提出Token Factory概念後，全球AI產業正逐步從模型競賽轉向「AI經濟」，亦即，影響企業AI決策的再也不是使用哪個模型、部署多少GPU，而是消耗多少Token、產生多少AI服務，以及算力是否能被有效共享與調度。

換言之，在AI新世界，算力調度能力的重要水漲船高。對此，陳文裕十分認同的說：「企業想要提升AI競爭力，不僅要掌握模型與應用，還必須進一步思考如何有效切割GPU資源、讓不同部門甚至集團子公司共享算力、延長舊世代GPU的使用壽命，甚至是如何將閒置算力轉變成可交易的資源等。」

事實上，這也是大量AI資料中心（AIDC）跟新世代AI雲端服務（Neo Cloud）業者出現的原因，包括CoreWeave、Nebius、Lambda Labs、GMI Cloud等業者皆試圖以更具彈性的方式，提供企業所需的GPU服務與AI算力平台。

看準這波趨勢，數位無限除透過AI-Stack提供GPU切片、模型部署、模型管理與MLOps等服務，協助客戶提升GPU使用率，更進一步推出ixCSP平台，讓雲端服務供應商與新世代AI雲端業者，能從過去單純販售GPU資源轉型為提供GPU as a Service、Token as a Service與Model as a Service等創新AI服務。

以Software Defined AI Infrastructure助企業以「通用化、鬆耦合」迎戰瞬變AI世代

因應AI新世代帶來的挑戰：模型快速升級、算力需求攀升、GPU世代交替迅速，企業在追逐AI落地的同時，勢必得面臨基礎建設更新速度過快、硬體投資壓力升高，以及資源利用效率難以最佳化等挑戰。

為協助企業在AI快速演進與基礎建設投資之間取得平衡，數位無限的作法是，透過AI-Stack將底層硬體抽象化，以Token或模型服務形式提供，讓企業客戶、AIDC與Neo Cloud業者可以延長不同世代與不同品牌的AI硬體設備的生命週期、創造更高的使用價值、甚至是展開更多元的營收模式。

例如，高雄醫學大學附設中和紀念醫院便透過數位無限的AI-Stack解決GPU資源調度效率不彰問題，加速39項AI模型進入臨床應用階段，成功建立起「從模型開發到臨床落地」的完整生態系統。而日本精密製造大廠–Union Tool Co.–則是透過AI-Stack簡化GPU資源共享、加速AI模型的開發與測試腳步，為提升生產效率做最佳準備。

「如果大型企業或AIDC業者擁有閒置資源，也可以透過ixCSP平台，把算力共享或調度給集團內部團隊、子公司，甚至上下游合作夥伴使用，進一步提升整體資源利用率。」數位無限執行長陳文裕如是說道。

隨著AI從工具演變成企業核心基礎建設，企業真正需要的，也不再只是單一模型，而是一套能持續適應AI快速演進的AI Infra，而這與數位無限近年來的重要轉型方向一致：從AI管理軟體提供者轉型為軟體定義AI基礎建設供應商，更好協助客戶打造具備「通用化」與「鬆耦合」特性的AI基礎建設。

除以AI-Stack與ixCSP協助客戶提升算力使用效率與價值，數位無限亦計畫與硬體合作夥伴推出Agentic AI一體機方案，協助企業快速建立可驗證、可部署、可切割、可共享的AI運算環境，降低企業從PoC走向實際導入的門檻，加速AI落地。

總的來說，隨著AI競爭從模型能力延伸到算力治理，企業比拚的不僅是導入速度，而是能否建立一套足夠彈性、可持續演進的AI Infra，而這與數位無限的發展目標一致，將持續不斷優化產品服務，化身企業搶進AI新世代的關鍵合作夥伴。