[專訪] 核桃運算薛文蔚：每個人都可以成為資料科學家|數位時代 BusinessNext

硬體科技的進步，促成大數據

核桃運算創辦人薛文蔚指出，「目前處理大數據的技術還是在非常早期的階段，很多技術還不是很方便，這就好像我們現在回頭談70年代的電腦一樣。」

薛文蔚說，「昨天的垃圾，是明天的黃金。」隨著硬體科技不斷進步，現在儲存資料的代價很低，所以有各式各樣沒有目的的資料被儲存起來，才會形成這3-5年很紅的「大數據」概念。

大數據面臨的挑戰是，很快獲得很多資料，卻難以想像要如何處理資料。當資料量很大的時候，要怎麼做才能快速處理這些大數據？

三年前，薛文蔚遇到中國供應商的單品項管理問題，必須同時處理40萬個品項，乘上1萬個通路時，預測出來的值是幾百億點。然而，現行的資料運算架構主流根本沒辦法處理，才讓他進而去解決架構所產生的問題，直接從運算模式下手。

（圖說：核桃運算創辦人薛文蔚推出即時資料分析引擎，推翻工程師長久以來對資料運算的看法。圖片來源：郭芝榕攝影。）

顛覆資料運算模式

「我們現在還在用1945年所設計出的電腦運算模式！」（也就是范紐曼架構）薛文蔚解釋，以前記憶體很小，把資料當成外來物，程式和原始碼是一等居民，支配資料。每次要運算時，都要把資料從硬碟內搬移至記憶體運算，再搬回硬碟，花費很多時間在「搬移」。

目前大多數使用者端的資料庫和程式都以這種邏輯設計出來，薛文蔚說，這樣的工作台模式適合資料運算嗎？

所以，核桃運算3年前設計出不必搬移資料的「in-place computing model」，試圖要顛覆資料運算的模式。記憶體從32位元前進到64位元是一個很重要的觀念改變，用空間換取時間，用有效率的方式對映到現有的CPU和記憶體，創造出一個無限的空間，把程式送到資料儲存地運算，避掉資料搬移的過程。

例如，HTC就推出64位元處理器的智慧型手機Desire 820，可以把資料放在雲端、伺服器和物聯網上。

（圖說：核桃運算顛覆資料運算的模式，開發出資料運算引擎BigObject。圖片來源：取自核桃運算官網。）

此外，核桃運算在做運算時，會用各式各樣的轉換技術做分門別類，例如分開性別和收入，並善用關聯，讓4G記憶體可以跑100G資料，比MYSQL快100至1000倍。

薛文蔚指出，「只要一台64位元的電腦，就能處理幾十億筆資料，未來也可以用在手機上。降低一般人使用的門檻，展現平民化的大數據運算力量。」可處理關聯式分析、多維度分析。

未來，嵌入式裝置愈來愈多，大數據將是隨處可見的技術。他更進一步指出，未來的使用者將會是資料導向，10年後可能變成人人都對資料「有感覺」，資料科學將成為基礎知識，而非現在的專家系統。

大數據四大類：應用、產品、工具、底層科技

薛文蔚是台大資工系第一屆畢業，在哥倫比亞大學念資工博士學位，1995年就開始創業。他將大數據分成應用、產品、工具、底層科技四大類，目前切入大數據領域的新創團隊，大多都是大數據應用，包括手機、物聯網，有一大部分落在社交媒體，用心理學分析關聯度，例如兩個人的相似度。

做大數據的平台和科技比較少，薛文蔚說，底層科技還有許多可發展空間，會形成一個生態系統。台灣的強項在硬體，像是固態硬體、永久記憶體、快閃記憶體等等，核桃運算也許會進一步結合硬體，讓運算模式更快速。而10年後，底層的硬體可能會被生物記憶體所取代。

從生成式AI訓練、推論，到代理式工作流程（Agentic Workflow）與未來的實體AI，資料流量正以指數級成長，讓記憶體從過去支援運算的配角躍升為決定AI效能與能源效率的關鍵角色。

全球知名的半導體與微電子技術分析機構TechInsights指出，AI競爭正逐漸從晶片算力擴展到記憶體架構設計能力，加速「Computational Memory」等新架構興起；在這波浪潮中，深耕記憶體與儲存技術數十年的美光科技，正與關鍵夥伴展開深度協同設計，包含攜手NVIDIA共同開發適用於新世代資料中心的低功耗記憶體技術，在AI基礎建設的新賽局中成為不可或缺的關鍵。

當GPU不再是唯一主角，記憶體為何躍上AI舞台中央？

過去，半導體的焦點多圍繞在晶片，例如CPU、GPU跟AI加速器等，市場普遍認為，晶片運算能力是左右科技產業發展速度的關鍵，但在進入生成式AI世代後，產業逐漸發現另一個事實：真正限制AI效能的瓶頸不是運算，而是資料能否快速被存取與傳輸。

從大型語言模型訓練，到AI推論、代理式工作流程（Agentic Workflow），甚至未來的機器人與自駕車，龐大的資料流量正持續推升對高頻寬、低延遲、高容量記憶體的需求，讓記憶體產業從過去相對標準化、以價格競爭為主的市場，逐漸轉變為AI基礎建設的重要核心。

「仔細觀察AI應用服務會發現，大多數工作負載都被頻寬限制。」美光科技全球業務執行副總裁Mike Cordano認為，記憶體是突破（頻寬）瓶頸的關鍵，也讓AI競賽從晶片算力升級到記憶體與儲存架構的系統級競爭。這樣的產業洞察，也正是Mike在歷經二十餘年的儲存產業資歷，加上四年半的創投生涯後，選擇加入美光的核心原因之一：在AI重塑產業結構的浪潮下，記憶體將成為這波成長最直接的動能所在。

從零組件供應商到策略夥伴，記憶體共創時代來臨

AI的崛起，正在改變記憶體廠商與客戶的關係。

過去，記憶體產品多是標準化元件，客戶關注的是價格、供貨與規格；合作模式也偏向短期採購與交易導向。然而隨著AI系統規模愈來愈大，從資料中心、雲端平台到終端裝置，記憶體已經成為決定系統效能的重要關鍵，也因如此，越來越多企業將記憶體視為「策略性資產」，而非單純零組件。

Mike表示：「現在，我們跟客戶合作的時間跨度改變了，在產品正式上市前三到四年便開始合作，從系統架構階段就共同規劃未來需求。」例如，美光科技與NVIDIA共同研發的資料中心所使用的低功耗記憶體，便是雙方提前多年展開深度合作（co-design）的成果。

值得特別注意的是，美光科技除從技術層面與晶片製造商等夥伴共創產品，也在需求層面與客戶進行密切合作，例如，將過去較無約束力、期限僅一年的長期協議（LTA）轉變成為期五年、條款更具約束力的策略性客戶協議（SCA），藉此掌握客戶的未來需求，進而在技術層面做更深度的合作。Mike坦言，深度協同設計是高成本的投入，美光的做法是先廣泛進行市場感知，理解不同場域的需求方向，再與生態系統中的夥伴們展開客製化合作。

從裝置導向轉為Token導向，AI浪潮重寫記憶體成長模式

除了合作模式改變，更大的典範轉移是需求的改變。

Mike解釋，過去記憶體需求跟PC、手機跟伺服器出貨量息息相關，但在AI新世代，推動記憶體需求成長的核心不再是設備數量，而是AI模型所產生的運算與資料消耗量。「AI產業逐漸走向以『Consumption』或『Token』為主的新經濟模式，每一次的模型運算都需要消耗大量的記憶體跟儲存資源，這意味著，即使設備銷量成長趨緩，記憶體需求仍可能持續上升。」

更重要的是，AI應用正從資料中心外擴至手機、PC、自駕車與機器人等場域，儘管不同場域對記憶體的需求不盡相同，但是，Mike認為：所有AI裝置都存在三項共同需求：更快的速度、更大的容量，以及更高的能源效率。

正如Mike在受訪時提到的：「我們最大的挑戰，是如何與客戶和整個生態系保持高度一致，一方面創造供給與產能，另一方面持續推動技術創新。」可以預期，在接下來的五年，記憶體產業面臨的挑戰不僅僅是擴展產能，而是如何與客戶共同規劃需求、同步投入技術創新，而這也是美光科技積極經營AI生態體系的原因。

總的來說，AI帶來的改變，不只是算力提升，而是重新定義整個運算架構：過去，記憶體被視為支援運算的基礎元件；現在，則是決定AI效能、能源效率與創新速度的關鍵資源；當產業競爭從晶片性能延伸到資料流動效率，從裝置數量轉向Token消耗量，記憶體的重要性也將隨之水漲船高，對美光科技來說，這將是其從供應商走向AI生態系核心夥伴的關鍵角色轉變。