【黑貘來說】 挖掘巨量資料的秘密步驟
【黑貘來說】 挖掘巨量資料的秘密步驟
2013.03.26 | 創業

現在已經有太多的報導說某某公司利用使用者的行為記錄,來算出每一個人的喜好,並且導出商機等等新聞到處可見,但我相信大家看再多次,不是覺得這樣會不會太可怕了?不然就是這好厲害阿!這兩種答案,不然就是兩種都有。

但事實上這件事並不神奇或可怕,會覺得這樣是因為大部份的人不知道怎麼做,或者是說這能夠做甚麼,若是你知道後,發現這跟本只是個套來套去經過計算的結果,甚至在某方面你用手來算都可以,只是不一樣的是人只能處理少量資料,而電腦可以處理巨量資料,當很多事情會有量變產生質變的時候,威力就在此顯現,但這些步驟,說穿了一點都不聰明,甚至還非常的機械化的制式。

當然我不是很好的深入淺出的作者,所以沒辦法寫給大多數的讀者看,而是寫給已經有一點實務經驗的人,尤其是程式設計師或資料庫管理師等工程師,但若沒有這技術背景,我相信做這樣的拆解,可以讓大家從一知半解變成知道個大概,而透過這樣的了解,讓大家有機會去應用是我寫這幾篇的目的。

只是還有一個前提,就是我不會在這邊寫資料探勘的基礎,也就是說,「請先去看本資料探勘的書」,再來看下面幾篇文章吧。

目標:能夠知道某個特定人喜歡甚麼東西,購買每一個商品的機率,或者是說我們該如何推薦商品給他,以及知道他喜歡這商品的原因?

人與商品之間的行為有下面幾種:

  1. 瀏灠
  2. 放入清單
  3. 購買
  4. 評價或評論
  5. 其他

上面每一種行為都有其數量化的差異,有些是一年幾次,幾十次或到幾百次或更多,而每一個行為都可能有個 「權重 (Weight)」,以及時間 (Time) 與次數 (Times) 的屬性,甚至更有可能是一個 Vector (向量) 的指標,例如喜好、觀感等等,無論是可以量化或不能量化,這些都可以成為建立人與商品的「關連」。

所有的資料探勘系統實作都是從這些資料做轉化,甚至是簡化,畢竟可以運算,以及算得出結果才是重點,甚至是能夠算給所有消費者顧客使用才是資料探勘的精隨。

但有趣的事是很多實用的系統都很少是用單一方法去建構出來的,畢竟除了人的行為之外,商品有有幾個屬性:

  1. 商品本質、內容
  2. 商品描述 (meta-data) 與分類
  3. 最後才是商品的使用

在還沒有 Semantic Web 之前, 我們能用的就是商品的使用,也就是我們使用者/消費者與商品/物品之間的關係,而在有了語意網路之後,我們就可以進一步的處理本質 (文化商品) 與描述了,只是在這之前還要有幾個前置作業。

  1. 會自動化新增關鍵字詞的表
  2. 會自動化連結出語意網路的表

這兩個表若是可以扣掉前面「會自動化新增/連結」 的話,我相信很多人都有從很多單位去取得這樣的詞庫與關連庫,但在實務上我們有絕大部份的狀況都是在處理運算最新的商品或議題時,沒有一種機制能夠新增或更新的話,幾乎是不實用的。

只是這新增/更新有時不見得是自動化,因為自動化是件相當困難的事,就我所知有不少在做這項業務的公司單位,用的就是「工人智慧」,而不是人工智慧,但無論如何,有了這兩個表之後,再加上從資料探勘能夠得知的:

  1. 關連分析 (一階, 或高階)
  2. 群落分析 (Clustering)
  3. 時間序列預測

有了上面三個很基本的工具後,可以配合產出很多的可能性:

  1. 最常見的關連購買
  2. 在搜尋結果中做排序
  3. 從分類結果做語意分析產出因子
  4. 有了高階的關連分析可以透過配對做活動
  5. 從銷售預測中作備品或庫存準備
  6. 只要你想得到的

當然上面說得很簡單,好像是三兩天就可以開發出來的東西,但事實上單單一個「會自動化連結出語意網路的表」,我記得當時就弄了兩三個月才弄出來,當然現在再弄一次就只須要兩三天到兩三個星期了,畢竟有經驗跟沒有經驗還是差很多的。

記得我在 5 年多前寫過 Data Mining 是一個須要跟效率挑戰的高度技術的事,但現在的機器已經比 5 年前快 5 倍了,加上資料庫的多樣性,雲端系統的完善,讓寫這樣的系統跟之前簡單不只 5 倍,我在兩個月以前自己從無到有又自己跑一次,以前須要半年的現在只要半個多月就夠了,想想時代還真可怕阿。

所以說,在這樣成熟的時機而言,導入真正的巨量資料探勘已經不是預算的問題,也不是技術的問題,而是心態的問題了,你準備好了嗎?

轉自[黑貘來說](http://gene.speaking.tw/2013/03/blog-post_20.html)
關鍵字: #大數據
往下滑看下一篇文章
街口攜手酷遊卡,出國上網一站搞定!支付與電信的異業整合怎麼做?
街口攜手酷遊卡,出國上網一站搞定!支付與電信的異業整合怎麼做?

對頻繁跨國移動的旅客與商務人士而言,行前配置海外上網常有多重斷點:需在不同平台下載陌生 App、反覆填寫個資;取得 eSIM QR Code 後,也常因單機無法掃碼、得借他人螢幕操作;甚至常等到班機落地,才驚覺尚未開通。

瞄準出境漫遊商機,街口支付攜手富爾特科技,將旗下漫遊服務酷遊卡整合進 App,主打「一張卡,走遍全球」:使用者無須每趟重複購買、安裝,僅依目的地與流量需求線上加值,即可沿用同一張 eSIM。

隨著出國頻率增加、短天期差旅普及,是支付平台與電信服務商的跨界整合,如何把海外連網需求從一次性消耗品,轉為可長效管理的數位旅遊工具?

打造出國上網全新體驗

「過去消費者購買 eSIM 多屬一次性使用,用完即刪;但隨出國頻次增加、短天期旅遊普及,商務人士更常因反覆安裝、刪除感到不便。我們與街口合作,提供使用者一張長效型出國 eSIM,隨時支援跨國連網需求。」

富爾特科技股份有限公司總監毛睿烽指出,使用者取得酷遊卡 eSIM 後,365 天內都能以同一張卡串接不同目的地並直接啟動;即便航班延誤或天候滯留,也能線上即時升級流量,省去重新設定的麻煩。

街口支付副總經理張廷軒則從使用者旅程切入:「以往出國前總要重新尋找方案,現在街口使用者不需額外註冊即可直接啟動。」單一 App 完成購買與開通,也深化了街口作為一站式生活服務平台的完整性。

張廷軒也舉例分享,「針對不熟悉 eSIM 的長輩需要海外網路,在街口 App 就能協助不熟悉 eSIM 的家人完成購買與設定;如果家人在海外臨時流量不足,也能從國內協助加值,省去長輩摸索 App 操作的麻煩。」

街口支付副總經理暨商務長張廷軒指出,街口酷遊卡 eSIM 服務效期長達 365 天,可跨國串接不同目的地,並支援線上即時升級流量。
圖/ 數位時代

此外,實體網卡需求也不可忽視。根據 BICS 與 YouGov 全球洞察報告,67% 消費者對 eSIM 仍感陌生;毛睿烽也指出,現行手機也有近六成不支援 eSIM。對此,酷遊卡整合 7-ELEVEN 通路推出超快取服務:線上下單後,即可至超商透過 ibon 機台即時領卡,免除物流寄送的等待。

富爾特科技總監毛睿烽表示,酷遊卡整合 7-ELEVEN 通路,消費者線上下單後可至 ibon 機台即
圖/ 數位時代

S2B2C 模式,供應商攜手通路拓商機

酷遊卡作為網路漫遊供應商(S),提供連線、技術與客服;街口支付則是通路端(B),憑藉會員基礎觸及消費者(C),擴大 App 應用場景。供應端無須自建流量入口,通路端也能取得差異化服務——毛睿烽將此稱為「S2B2C」模式。

「eSIM 是旅遊行程中的一個上網元件,如果只靠自有 App 獨立經營,使用頻次不夠高,很難存活。」毛睿烽指出,市場同類品牌眾多,消費者難以建立記憶,因使用場景侷限於出國期間,這也是他鎖定既有大型 App 作為入口的原因。除了長期合作的 Klook,電子支付也成為酷遊卡鎖定的通路入口,也呼應街口拓展海外跨境支付布局。

街口x富爾特-4.jpg
街口支付與富爾特科技採 S2B2C 模式合作,由酷遊卡提供漫遊技術、街口支付觸及會員通路,共同拓展跨境上網服務市場。
圖/ 數位時代

根據交通部觀光署統計,今年一至六月國人出境已突破千萬人次,張廷軒認為,這正是提升 App 開啟頻率與黏著度的機會。「我們其實已經合作一段時間,連動最頻繁的場景就是海外旅遊。」他透露,街口也著手規劃海外旅遊專屬頁面,讓使用者在單一 App 完成更完整的生活服務體驗。

場景延伸,街口布局跨境服務

eSIM 資安問題近期成為市場熱議話題,毛睿烽指出,相較於市場上多屬中小型規模的漫遊業者,富爾特科技也是台灣唯一由上市櫃公司出品的漫遊 SIM 卡品牌,長期經營中華電信預付卡業務,須符合嚴格法規規範;除了供應鏈本身,富爾特也引入非紅資源,提供消費者更多元的選擇。

著眼下一步,毛睿烽表示,酷遊卡將持續布局通路合作:「從產品、商業模式、技術到營運、財務支援,我們都能協助不同國家的通路夥伴,共同提供出國上網服務。」

對他而言,這次與街口的合作,是酷遊卡在台灣市場驗證商業模式的一次練兵;待模式成熟後,將逐步複製至亞洲其他國家的通路體系,並藉此將服務範圍由台灣延伸至周邊亞洲市場,持續以供應商角色,協助更多通路夥伴切入海外連網服務的市場缺口。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
一次搞懂工業AI
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓