【黑貘來說】 挖掘巨量資料的秘密步驟
【黑貘來說】 挖掘巨量資料的秘密步驟
2013.03.26 | 創業

現在已經有太多的報導說某某公司利用使用者的行為記錄,來算出每一個人的喜好,並且導出商機等等新聞到處可見,但我相信大家看再多次,不是覺得這樣會不會太可怕了?不然就是這好厲害阿!這兩種答案,不然就是兩種都有。

但事實上這件事並不神奇或可怕,會覺得這樣是因為大部份的人不知道怎麼做,或者是說這能夠做甚麼,若是你知道後,發現這跟本只是個套來套去經過計算的結果,甚至在某方面你用手來算都可以,只是不一樣的是人只能處理少量資料,而電腦可以處理巨量資料,當很多事情會有量變產生質變的時候,威力就在此顯現,但這些步驟,說穿了一點都不聰明,甚至還非常的機械化的制式。

當然我不是很好的深入淺出的作者,所以沒辦法寫給大多數的讀者看,而是寫給已經有一點實務經驗的人,尤其是程式設計師或資料庫管理師等工程師,但若沒有這技術背景,我相信做這樣的拆解,可以讓大家從一知半解變成知道個大概,而透過這樣的了解,讓大家有機會去應用是我寫這幾篇的目的。

只是還有一個前提,就是我不會在這邊寫資料探勘的基礎,也就是說,「請先去看本資料探勘的書」,再來看下面幾篇文章吧。

目標:能夠知道某個特定人喜歡甚麼東西,購買每一個商品的機率,或者是說我們該如何推薦商品給他,以及知道他喜歡這商品的原因?

人與商品之間的行為有下面幾種:

  1. 瀏灠
  2. 放入清單
  3. 購買
  4. 評價或評論
  5. 其他

上面每一種行為都有其數量化的差異,有些是一年幾次,幾十次或到幾百次或更多,而每一個行為都可能有個 「權重 (Weight)」,以及時間 (Time) 與次數 (Times) 的屬性,甚至更有可能是一個 Vector (向量) 的指標,例如喜好、觀感等等,無論是可以量化或不能量化,這些都可以成為建立人與商品的「關連」。

所有的資料探勘系統實作都是從這些資料做轉化,甚至是簡化,畢竟可以運算,以及算得出結果才是重點,甚至是能夠算給所有消費者顧客使用才是資料探勘的精隨。

但有趣的事是很多實用的系統都很少是用單一方法去建構出來的,畢竟除了人的行為之外,商品有有幾個屬性:

  1. 商品本質、內容
  2. 商品描述 (meta-data) 與分類
  3. 最後才是商品的使用

在還沒有 Semantic Web 之前, 我們能用的就是商品的使用,也就是我們使用者/消費者與商品/物品之間的關係,而在有了語意網路之後,我們就可以進一步的處理本質 (文化商品) 與描述了,只是在這之前還要有幾個前置作業。

  1. 會自動化新增關鍵字詞的表
  2. 會自動化連結出語意網路的表

這兩個表若是可以扣掉前面「會自動化新增/連結」 的話,我相信很多人都有從很多單位去取得這樣的詞庫與關連庫,但在實務上我們有絕大部份的狀況都是在處理運算最新的商品或議題時,沒有一種機制能夠新增或更新的話,幾乎是不實用的。

只是這新增/更新有時不見得是自動化,因為自動化是件相當困難的事,就我所知有不少在做這項業務的公司單位,用的就是「工人智慧」,而不是人工智慧,但無論如何,有了這兩個表之後,再加上從資料探勘能夠得知的:

  1. 關連分析 (一階, 或高階)
  2. 群落分析 (Clustering)
  3. 時間序列預測

有了上面三個很基本的工具後,可以配合產出很多的可能性:

  1. 最常見的關連購買
  2. 在搜尋結果中做排序
  3. 從分類結果做語意分析產出因子
  4. 有了高階的關連分析可以透過配對做活動
  5. 從銷售預測中作備品或庫存準備
  6. 只要你想得到的

當然上面說得很簡單,好像是三兩天就可以開發出來的東西,但事實上單單一個「會自動化連結出語意網路的表」,我記得當時就弄了兩三個月才弄出來,當然現在再弄一次就只須要兩三天到兩三個星期了,畢竟有經驗跟沒有經驗還是差很多的。

記得我在 5 年多前寫過 Data Mining 是一個須要跟效率挑戰的高度技術的事,但現在的機器已經比 5 年前快 5 倍了,加上資料庫的多樣性,雲端系統的完善,讓寫這樣的系統跟之前簡單不只 5 倍,我在兩個月以前自己從無到有又自己跑一次,以前須要半年的現在只要半個多月就夠了,想想時代還真可怕阿。

所以說,在這樣成熟的時機而言,導入真正的巨量資料探勘已經不是預算的問題,也不是技術的問題,而是心態的問題了,你準備好了嗎?

轉自[黑貘來說](http://gene.speaking.tw/2013/03/blog-post_20.html)
關鍵字: #大數據
往下滑看下一篇文章
小店成團,地方開張!第4屆小店永豐計畫,看微型經濟如何自立利人
小店成團,地方開張!第4屆小店永豐計畫,看微型經濟如何自立利人

一間小店的行動,如何匯聚成改變地方的能量?由永豐金控支持、永豐基金會推動的第4屆「小店永豐故事展」,10月1日於台北華山1914文化創意產業園區中4B館登場,精選展出10家來自全台各地的在地實踐故事。現場由入選團隊高雄「台青蕉」香蕉創意工作坊旗下的台青蕉樂團,以活力充沛的不插電演出點燃氛圍。

「台青蕉樂團帶來充滿在地生命力的演出,熱鬧活潑的演唱,就像小店的鮮活生命力。」永豐基金會董事長陳思寬表示,「當有人看見、有人回應、有人加入,一間小店的行動,就會慢慢成為一群人的力量。」她也邀請民眾週末前往華山,「走走、看看、吃吃、買買,讓我們一起成為改變地方的力量。」

10家獲選小店,橫跨飲食、工藝與循環經濟

「小店永豐計畫」源自永豐金控深耕在地、關注不同群體獨特需求的理念,以經濟為樞紐轉動地方生活。計畫自2022年10月啟動,每年投入上千萬資源,支持兼具自立與利人精神的小店,足跡遍及臺灣本島與離島城鄉,逐漸在社會各角落帶來迴響。

今年成果發表以「成團,開張!」為題,10家獲選小店齊聚華山,把一路累積的方法與故事向更多人打開,呈現10個正在地方發生的行動。本屆小店的經營型態涵蓋飲食、文化、工藝、環境、循環經濟及社會參與,領域各異,共同之處在於讓原本停下來、散開來,或逐漸被遺忘的人事物重新產生關係:地方因此開始說話,文化開始流動,人重新聚在一起。

作為微型經濟主體,小店靈活發展出多元型態的交流體驗,從量到質,再走向有意識的串連協作,成為社區鄉里的韌性據點。從一間店到一個街區,再從街區擴展至鄉里,大企業觸及不到的人間煙火,就由小店帶來改變。

addLEss把舊衣送回市場、杉恆壹樹讓玫瑰進企業供應鏈

同樣從地方需求出發,兩家獲選小店各自找到不同的熱情領域。

身為母親,也愛買衣服,「addLEss循環時尚」創辦人黃瑾茹不捨衣物因孩子長大或喜新厭舊而閒置,以「讓舊衣重返市場、平價流通」為初衷創辦平台,投入後才發現營運遠比預期複雜。

在addLEss,二手衣須歷經「初篩、細篩、送洗、定價、上架、拍照、入庫」7道工序,並依品質細分為5級。目前平台每月處理的衣物,上架率僅約4成;其餘6成無法上架的衣物,則依特性捐贈社福機構,或轉製為再生衣架等環保商品。

「單純的二手衣買賣,我認為還不足以解決衣物浪費的問題,我想做的是盡可能讓所有衣服都進到循環。」黃瑾茹指出,二手衣產業的流程高度仰賴人工、產能有限,是營運最大的瓶頸,也是她參與「小店永豐計畫」的契機。

#2 永豐基金會
圖/ 永豐基金會

在永豐支持下,addLEss導入AI智慧倉儲、將超商物流納入衣循環生態系,預計處理量可提升至3倍。在參與計劃過程中,她印象深刻的是永豐評審曾說:「我覺得你是想要做一個生態系」,這句話說中她心中所想、令她倍感欣慰。隨著數位後台逐步完備,黃瑾茹期盼串連更多品牌與消費者投入減碳經濟,朝著「讓每件衣服都有去處」的目標邁進。

在高雄杉林,青農王宥勝則把家中原本打算收掉的休閒農場,轉型為有機食用玫瑰產地。

擁有20年餐飲資歷的他,起初將玫瑰製成花醬赴歐洲參賽,沒想到獲得不錯的成果,就此帶著家裡轉種玫瑰,將食用玫瑰嫁接於台灣原生薔薇,種植有機樹玫瑰。「我不想只是當一個年輕的勞動力,而是希望我的投入能為地方帶來新氣象。」王宥勝表示,盼藉由玫瑰提升地方認同感,因此他將大愛商業中心建置作為地方創生基地,讓在地人有地方可匯集、也讓外地人藉此認識杉林。

#1 永豐基金會
圖/ 永豐基金會

隨著產量暴增,玫瑰也成為連結社區長輩的紐帶。周邊客家、閩南與原住民社區的長輩會協助分選、撥花,動動手指、也聊聊天;再結合在地小農契作,產量從年產270公斤躍升至月產1,800公斤,所種植的玫瑰原料更進入知名企業供應鏈,玫瑰果醬與花茶亦獲iTQi星級肯定。

王宥勝坦言,第2屆曾報名未入選,本屆獲選後認為,除了有資金挹注,最大的支持是曝光。在永豐支持下,他將持續優化新設的青農共創基地;短期讓大家知道國產玫瑰可媲美進口玫瑰,長期則期待台灣成為玫瑰輸出國,「希望大家想到台灣有機玫瑰的時候,可以想到高雄杉林!」

小店持續發光,第5屆小店永豐計畫啟動徵選

除了成果發表,本屆「小店永豐故事展」同步於華山1914文化創意產業園區中4B館展出。作為永豐基金會每年匯集地方第一線觀察與土地故事的平台,今年透過10家獲選小店的實踐行動,向大眾展現地方正在萌芽的轉變。

10月3日至4日週末登場的「小店永豐市集」,更集結眾多小店設攤,讓民眾在走逛、品嚐與選購之間,近距離感受扎根在地的鮮活風土。

隨著第4屆圓滿落幕,第5屆「小店永豐計畫」也已正式展開徵選,持續尋找兼具自立與利他精神的在地經營者。永豐基金會將持續提供實質資金、陪伴資源與推廣舞台,支持更多以一間店回應地方需求的夥伴;當更多小店加入,原本散落各地的人事物得以重新連結,地方的未來,也有了繼續發生的可能。

第5屆小店永豐計劃徵選資訊請見官網 https://www.sinopacfoundation.org.tw/sinopac_found/public/event-method.html

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
一次搞懂工業AI
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓