阿里巴巴、KKBOX資料科學年會同台尬大數據心法|數位時代 BusinessNext

從預測數據到用數據，阿里巴巴分水嶺

車品覺表示，現在大數據已經從預測進化到行動決策了，而這也是阿里巴巴近年來大數據應用的分水嶺，當企業領導認識到數據的力量之後，他不會只滿意於描述現象，而更需要診斷，也因此數據的精準度變得越來越重要，畢竟用來看的數據跟用來做決策的數據，兩者的質量要求完全不同。

（圖說：阿里巴巴副總裁車品覺特地來台參與第二屆資料科學愛好者年會。照片來源：李欣宜攝。）

車品覺身兼阿里巴巴數據委員會會長，有一天車品覺走到總裁辦公室問：「我身為一個數據領導，我能做什麼讓你爽的？」總裁回覆：「我想知道我上禮拜做的什麼事情是對的，什麼事情是錯的。」他因而體會到應用數據做行動的重要性。

數據科學兩大派別

車品覺指出，數據科學現在有兩大派別：數據很平但用深厚的演算法解決問題，另一種是數據廣泛而大但是用簡單的演算法。「我個人的喜好是第二個，發現好的數據策略，當演算法變得複雜的時候，背後的假設也很複雜，我會懷疑它的穩定性，當你老闆問你預測準確率多高的時候，你要反問他三個問題：對的概率？錯的概率？穩定嗎？因為我們做數據的人常常發現現在的演算法過了半年就不能用了。」

數據種類也可以分成兩種：快加準或廣加亂。第一是在已知的規律裡面產生價值，第二種是可以找到自己不知道的東西。「數據不僅是資產，也是一種信仰。」車品覺說。在行動互聯網時代，企業不必在乎使用者喜歡什麼，只要知道使用者下一步會做什麼就可以了，而且每個行業都對應不同的數據框架，例如有一個美國調研公司的報告顯示有65％的人會在廁所裡看手機，這就是非常好的行銷點，行銷人員應該去思考要趁機推播什麼商品給這個消費者，因為現在手機不只是傳感器還是媒體，手機已經不是手機，他就是媒體。

（圖說：阿里巴巴大數據十誡。照片來源：李欣宜攝。）

KKBOX用大數據提升歌曲觸及率

年會第二天則由全球唯一獲利的音樂串流業者KKBOX資料科學家接力，分享KKBOX月初才推出的大數據個人推薦歌單服務。KKBOX研究中心資料科學家羅經凱表示，KKBOX歌單雖然號稱2千多萬首，但是實際上會被點播的只有340萬首，有將近八成的歌無法觸及使用者。除此之外，KKBOX用戶偏好的音樂類型高度集中，收聽率前10％的歌佔了所有被播放歌曲次數的87％，顯示音樂播放多樣性不足。

由於音樂播放次數決定歌手收入，為了維護體系健全，如何維持音樂多樣性，刺激用戶脫離「同溫層」，成了KKBOX大數據科學家的首要挑戰。KKBOX根據用戶的收聽習慣和時段，將華語音樂聽眾分成九大族群，將收聽行為類似的用戶歸類在同一個群體，推薦他們風格類似但前所未聞的音樂。

（圖說：KKBOX近三年歌曲點擊率逐漸趨向集中。照片來源：李欣宜攝。）

但有時候用戶聽音樂是有目的性的，例如哄小孩睡覺放輕音樂、工作時放心靈音樂等等，KKBOX又再根據用戶在不同時間點下的音樂收聽習慣，推薦各式情境歌單。KKKBOX研究中心資料科學家羅經凱表示，目前編輯團隊推薦的歌單還是比機器學習推薦的更精準，再加上每個國家的使用者都有不同的喜好，要精準推薦使用者新歌又不招致反感其實是很困難的。

KKBOX研究中心經理林佑璟是KKBOX第一個研究員，剛來KKBOX的時候發現資料取得困難度高，遇到資料散亂、溝通成本高昂以及資料格式不齊等問題，他建議有心從事數據分析的企業，一定要做好內部溝通，讓大家了解做數據分析對於公司有好處，而且數據是重要公司資產，絕對不會拿去變賣或者侵犯使用者隱私。

（圖說：KKBOX研究中心資料科學家羅經凱。照片來源：資料科學愛好者年會提供。）

@@ACTIVITYID:602@@

從生成式AI訓練、推論，到代理式工作流程（Agentic Workflow）與未來的實體AI，資料流量正以指數級成長，讓記憶體從過去支援運算的配角躍升為決定AI效能與能源效率的關鍵角色。

全球知名的半導體與微電子技術分析機構TechInsights指出，AI競爭正逐漸從晶片算力擴展到記憶體架構設計能力，加速「Computational Memory」等新架構興起；在這波浪潮中，深耕記憶體與儲存技術數十年的美光科技，正與關鍵夥伴展開深度協同設計，包含攜手NVIDIA共同開發適用於新世代資料中心的低功耗記憶體技術，在AI基礎建設的新賽局中成為不可或缺的關鍵。

當GPU不再是唯一主角，記憶體為何躍上AI舞台中央？

過去，半導體的焦點多圍繞在晶片，例如CPU、GPU跟AI加速器等，市場普遍認為，晶片運算能力是左右科技產業發展速度的關鍵，但在進入生成式AI世代後，產業逐漸發現另一個事實：真正限制AI效能的瓶頸不是運算，而是資料能否快速被存取與傳輸。

從大型語言模型訓練，到AI推論、代理式工作流程（Agentic Workflow），甚至未來的機器人與自駕車，龐大的資料流量正持續推升對高頻寬、低延遲、高容量記憶體的需求，讓記憶體產業從過去相對標準化、以價格競爭為主的市場，逐漸轉變為AI基礎建設的重要核心。

「仔細觀察AI應用服務會發現，大多數工作負載都被頻寬限制。」美光科技全球業務執行副總裁Mike Cordano認為，記憶體是突破（頻寬）瓶頸的關鍵，也讓AI競賽從晶片算力升級到記憶體與儲存架構的系統級競爭。這樣的產業洞察，也正是Mike在歷經二十餘年的儲存產業資歷，加上四年半的創投生涯後，選擇加入美光的核心原因之一：在AI重塑產業結構的浪潮下，記憶體將成為這波成長最直接的動能所在。

從零組件供應商到策略夥伴，記憶體共創時代來臨

AI的崛起，正在改變記憶體廠商與客戶的關係。

過去，記憶體產品多是標準化元件，客戶關注的是價格、供貨與規格；合作模式也偏向短期採購與交易導向。然而隨著AI系統規模愈來愈大，從資料中心、雲端平台到終端裝置，記憶體已經成為決定系統效能的重要關鍵，也因如此，越來越多企業將記憶體視為「策略性資產」，而非單純零組件。

Mike表示：「現在，我們跟客戶合作的時間跨度改變了，在產品正式上市前三到四年便開始合作，從系統架構階段就共同規劃未來需求。」例如，美光科技與NVIDIA共同研發的資料中心所使用的低功耗記憶體，便是雙方提前多年展開深度合作（co-design）的成果。

值得特別注意的是，美光科技除從技術層面與晶片製造商等夥伴共創產品，也在需求層面與客戶進行密切合作，例如，將過去較無約束力、期限僅一年的長期協議（LTA）轉變成為期五年、條款更具約束力的策略性客戶協議（SCA），藉此掌握客戶的未來需求，進而在技術層面做更深度的合作。Mike坦言，深度協同設計是高成本的投入，美光的做法是先廣泛進行市場感知，理解不同場域的需求方向，再與生態系統中的夥伴們展開客製化合作。

從裝置導向轉為Token導向，AI浪潮重寫記憶體成長模式

除了合作模式改變，更大的典範轉移是需求的改變。

Mike解釋，過去記憶體需求跟PC、手機跟伺服器出貨量息息相關，但在AI新世代，推動記憶體需求成長的核心不再是設備數量，而是AI模型所產生的運算與資料消耗量。「AI產業逐漸走向以『Consumption』或『Token』為主的新經濟模式，每一次的模型運算都需要消耗大量的記憶體跟儲存資源，這意味著，即使設備銷量成長趨緩，記憶體需求仍可能持續上升。」

更重要的是，AI應用正從資料中心外擴至手機、PC、自駕車與機器人等場域，儘管不同場域對記憶體的需求不盡相同，但是，Mike認為：所有AI裝置都存在三項共同需求：更快的速度、更大的容量，以及更高的能源效率。

正如Mike在受訪時提到的：「我們最大的挑戰，是如何與客戶和整個生態系保持高度一致，一方面創造供給與產能，另一方面持續推動技術創新。」可以預期，在接下來的五年，記憶體產業面臨的挑戰不僅僅是擴展產能，而是如何與客戶共同規劃需求、同步投入技術創新，而這也是美光科技積極經營AI生態體系的原因。

總的來說，AI帶來的改變，不只是算力提升，而是重新定義整個運算架構：過去，記憶體被視為支援運算的基礎元件；現在，則是決定AI效能、能源效率與創新速度的關鍵資源；當產業競爭從晶片性能延伸到資料流動效率，從裝置數量轉向Token消耗量，記憶體的重要性也將隨之水漲船高，對美光科技來說，這將是其從供應商走向AI生態系核心夥伴的關鍵角色轉變。