【黑貘來說】 挖掘巨量資料的秘密步驟
【黑貘來說】 挖掘巨量資料的秘密步驟
2013.03.26 | 創業

現在已經有太多的報導說某某公司利用使用者的行為記錄,來算出每一個人的喜好,並且導出商機等等新聞到處可見,但我相信大家看再多次,不是覺得這樣會不會太可怕了?不然就是這好厲害阿!這兩種答案,不然就是兩種都有。

但事實上這件事並不神奇或可怕,會覺得這樣是因為大部份的人不知道怎麼做,或者是說這能夠做甚麼,若是你知道後,發現這跟本只是個套來套去經過計算的結果,甚至在某方面你用手來算都可以,只是不一樣的是人只能處理少量資料,而電腦可以處理巨量資料,當很多事情會有量變產生質變的時候,威力就在此顯現,但這些步驟,說穿了一點都不聰明,甚至還非常的機械化的制式。

當然我不是很好的深入淺出的作者,所以沒辦法寫給大多數的讀者看,而是寫給已經有一點實務經驗的人,尤其是程式設計師或資料庫管理師等工程師,但若沒有這技術背景,我相信做這樣的拆解,可以讓大家從一知半解變成知道個大概,而透過這樣的了解,讓大家有機會去應用是我寫這幾篇的目的。

只是還有一個前提,就是我不會在這邊寫資料探勘的基礎,也就是說,「請先去看本資料探勘的書」,再來看下面幾篇文章吧。

目標:能夠知道某個特定人喜歡甚麼東西,購買每一個商品的機率,或者是說我們該如何推薦商品給他,以及知道他喜歡這商品的原因?

人與商品之間的行為有下面幾種:

  1. 瀏灠
  2. 放入清單
  3. 購買
  4. 評價或評論
  5. 其他

上面每一種行為都有其數量化的差異,有些是一年幾次,幾十次或到幾百次或更多,而每一個行為都可能有個 「權重 (Weight)」,以及時間 (Time) 與次數 (Times) 的屬性,甚至更有可能是一個 Vector (向量) 的指標,例如喜好、觀感等等,無論是可以量化或不能量化,這些都可以成為建立人與商品的「關連」。

所有的資料探勘系統實作都是從這些資料做轉化,甚至是簡化,畢竟可以運算,以及算得出結果才是重點,甚至是能夠算給所有消費者顧客使用才是資料探勘的精隨。

但有趣的事是很多實用的系統都很少是用單一方法去建構出來的,畢竟除了人的行為之外,商品有有幾個屬性:

  1. 商品本質、內容
  2. 商品描述 (meta-data) 與分類
  3. 最後才是商品的使用

在還沒有 Semantic Web 之前, 我們能用的就是商品的使用,也就是我們使用者/消費者與商品/物品之間的關係,而在有了語意網路之後,我們就可以進一步的處理本質 (文化商品) 與描述了,只是在這之前還要有幾個前置作業。

  1. 會自動化新增關鍵字詞的表
  2. 會自動化連結出語意網路的表

這兩個表若是可以扣掉前面「會自動化新增/連結」 的話,我相信很多人都有從很多單位去取得這樣的詞庫與關連庫,但在實務上我們有絕大部份的狀況都是在處理運算最新的商品或議題時,沒有一種機制能夠新增或更新的話,幾乎是不實用的。

只是這新增/更新有時不見得是自動化,因為自動化是件相當困難的事,就我所知有不少在做這項業務的公司單位,用的就是「工人智慧」,而不是人工智慧,但無論如何,有了這兩個表之後,再加上從資料探勘能夠得知的:

  1. 關連分析 (一階, 或高階)
  2. 群落分析 (Clustering)
  3. 時間序列預測

有了上面三個很基本的工具後,可以配合產出很多的可能性:

  1. 最常見的關連購買
  2. 在搜尋結果中做排序
  3. 從分類結果做語意分析產出因子
  4. 有了高階的關連分析可以透過配對做活動
  5. 從銷售預測中作備品或庫存準備
  6. 只要你想得到的

當然上面說得很簡單,好像是三兩天就可以開發出來的東西,但事實上單單一個「會自動化連結出語意網路的表」,我記得當時就弄了兩三個月才弄出來,當然現在再弄一次就只須要兩三天到兩三個星期了,畢竟有經驗跟沒有經驗還是差很多的。

記得我在 5 年多前寫過 Data Mining 是一個須要跟效率挑戰的高度技術的事,但現在的機器已經比 5 年前快 5 倍了,加上資料庫的多樣性,雲端系統的完善,讓寫這樣的系統跟之前簡單不只 5 倍,我在兩個月以前自己從無到有又自己跑一次,以前須要半年的現在只要半個多月就夠了,想想時代還真可怕阿。

所以說,在這樣成熟的時機而言,導入真正的巨量資料探勘已經不是預算的問題,也不是技術的問題,而是心態的問題了,你準備好了嗎?

轉自[黑貘來說](http://gene.speaking.tw/2013/03/blog-post_20.html)
關鍵字: #大數據
往下滑看下一篇文章
2026 Meet Taipei徵展開跑!11/19台北圓山花博七大展區,早鳥優惠8/31截止
2026 Meet Taipei徵展開跑!11/19台北圓山花博七大展區,早鳥優惠8/31截止

2026年,是Meet Taipei舉辦的第13年。這段期間,《創業小聚》與全台灣的新創團隊一起成長。就算過了13年,我們仍為新技術感到興奮(相信你也是),但更在意它能不能真正落地變成訂單、變成合作、變成收入,甚至變成台灣新創圈重要的里程碑和養分。

這也是Meet Taipei的價值所在,持續放大媒合密度與商業轉換率,比單純的曝光聲量更值得關注。

2025年,我們用數字交出成績單:三天觀展人次突破5.5萬人、超過400家新創齊聚台北,促成536組商機媒合。這代表什麼?意味著走進Meet Taipei攤位前的人,愈來愈多是帶著明確需求而來,他們在找趨勢、找技術、找供應商、找投資標的、找尋下一個合作夥伴。

#4 2026 Meet Taipei
2025 Meet Taipei 三天吸引超過 5.5 萬人次觀展
圖/ Meet

今年的Meet Taipei以「Founders of Tomorrow: Shaping the AI Age」為主題。當AI把每一位創業者、每一家企業都放回同一條起跑線,真正拉開差距的關鍵,是誰先一步看見機會,並且有勇氣把手弄髒。

所以,別只是站在展場外看這場AI轉型。站上場成為造浪者,讓市場看見你怎麼定義它。

為什麼你應該來參展?

第一,掌握具有含金量的人流

Meet Taipei不只是一場開放給大眾的創新創業嘉年華,更是一個由中央部會、地方城市、全球新創、企業專館、跨國企業共同組成的產業現場。走進展場的觀眾,早已被論壇議程、產業專區與媒合機制分流引導到與自己需求相符的展區。來到你攤位前的,很可能就是正在找你這類解方的人。

第二,媒合已成為機制

展期間我們透過投資人媒合會、企業創投會客室等閉門機制,主動把你和潛在投資人、企業採購方安排到同一張桌子。2025年,投資人媒合會邀集近20家指標創投與企業創投進行一對一媒合;企業創投會客室則促成19家企業創投與52家參展新創的深度對談。

#1 2026 Meet Taipei
Meet Taipei 透過一對一媒合,促成新創與投資人、企業深入交流
圖/ Meet

第三,國際買家與夥伴不必你自己開發

2025年國際館匯聚來自20個國家、超過100組國際新創與加速器夥伴,日本、香港、加拿大、韓國團隊尤其活躍。想找跨境合作或驗證海外市場的團隊,這裡讓你一次接觸到平常要花數月才能約到的國際窗口。

第四,曝光紅利近新台幣5,000萬元

2025年Meet Taipei會後網路報導達603則,是前一年的兩倍;展會期間也有重要公部門代表到場,帶動主流媒體同步報導。你的品牌能量會自然搭上這波媒體聲量,但這不該是你來參展的主要理由,真正的理由,還是攤位前那些帶著問題走進來的人。

#3 2026 Meet Taipei
國際新創與生態系夥伴齊聚 Meet Taipei,拓展跨境合作機會
圖/ Meet

七大展區,對應七種市場機會

2026年,Meet Taipei展區整併為七大主題,聚焦當前最具成長動能的產業方向:

行銷與零售科技:給正在協助品牌與零售商提升行銷效果、顧客體驗與電商營運的團隊。

企業營運效率:給人資、財務、法務、資安等企業內部流程數位化工具的團隊,這是跨產業需求最廣的一區。

醫療與健康科技:給醫療器材、健康管理、遠距醫療與生技數位化應用的團隊。

綠色永續:給節能減碳、ESG合規與永續供應鏈解方的團隊,供應鏈碳盤查壓力正快速壓向各產業。

#1 2026 Meet Taipei
多元創新團隊齊聚展區,與市場需求直接交流
圖/ Meet

數位資產與新金融:給加密貨幣、Web3、數位資產與新金融服務的團隊。
智慧製造與軟硬整合:給工業IoT、智慧工廠、機器人與製造業數位化解方的團隊,含電動車與車用電子。

AI基礎建設:給GPU伺服器、雲端運算、地端部署與AI訓練推論基礎設施的團隊。

新創團隊之外,Meet Taipei也保留企業專屬的「創新驅動」展區,以及生態系夥伴(創投、加速器、共享辦公室)專屬展區,讓不同角色都能在對的位置被看見。

方案及徵展資訊

參展方案 點此,早鳥優惠將在8月31日截止,之後將調整為晚鳥價。

2026 Meet Taipei 創新創業嘉年華
• 日期:11/19(四)-11/21(六)
• 地點:台北圓山花博園區
• 報名管道:Meet Online 新創線上社群平台 點此
• 聯繫窗口:meettaipei@bnext.com.tw

#0 2026 Meet Taipei
在 Meet Taipei 相遇,讓一次交流成為下一次合作的開始
圖/ Meet

AI重寫了規則,你來定義時代!
早鳥優惠8月31日截止,11月19~21日,台北圓山花博園區見。

關鍵字: #創業小聚

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
台達電全解讀
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓