【黑貘來說】 挖掘巨量資料的秘密步驟
【黑貘來說】 挖掘巨量資料的秘密步驟
2013.03.26 | 創業

現在已經有太多的報導說某某公司利用使用者的行為記錄,來算出每一個人的喜好,並且導出商機等等新聞到處可見,但我相信大家看再多次,不是覺得這樣會不會太可怕了?不然就是這好厲害阿!這兩種答案,不然就是兩種都有。

但事實上這件事並不神奇或可怕,會覺得這樣是因為大部份的人不知道怎麼做,或者是說這能夠做甚麼,若是你知道後,發現這跟本只是個套來套去經過計算的結果,甚至在某方面你用手來算都可以,只是不一樣的是人只能處理少量資料,而電腦可以處理巨量資料,當很多事情會有量變產生質變的時候,威力就在此顯現,但這些步驟,說穿了一點都不聰明,甚至還非常的機械化的制式。

當然我不是很好的深入淺出的作者,所以沒辦法寫給大多數的讀者看,而是寫給已經有一點實務經驗的人,尤其是程式設計師或資料庫管理師等工程師,但若沒有這技術背景,我相信做這樣的拆解,可以讓大家從一知半解變成知道個大概,而透過這樣的了解,讓大家有機會去應用是我寫這幾篇的目的。

只是還有一個前提,就是我不會在這邊寫資料探勘的基礎,也就是說,「請先去看本資料探勘的書」,再來看下面幾篇文章吧。

目標:能夠知道某個特定人喜歡甚麼東西,購買每一個商品的機率,或者是說我們該如何推薦商品給他,以及知道他喜歡這商品的原因?

人與商品之間的行為有下面幾種:

  1. 瀏灠
  2. 放入清單
  3. 購買
  4. 評價或評論
  5. 其他

上面每一種行為都有其數量化的差異,有些是一年幾次,幾十次或到幾百次或更多,而每一個行為都可能有個 「權重 (Weight)」,以及時間 (Time) 與次數 (Times) 的屬性,甚至更有可能是一個 Vector (向量) 的指標,例如喜好、觀感等等,無論是可以量化或不能量化,這些都可以成為建立人與商品的「關連」。

所有的資料探勘系統實作都是從這些資料做轉化,甚至是簡化,畢竟可以運算,以及算得出結果才是重點,甚至是能夠算給所有消費者顧客使用才是資料探勘的精隨。

但有趣的事是很多實用的系統都很少是用單一方法去建構出來的,畢竟除了人的行為之外,商品有有幾個屬性:

  1. 商品本質、內容
  2. 商品描述 (meta-data) 與分類
  3. 最後才是商品的使用

在還沒有 Semantic Web 之前, 我們能用的就是商品的使用,也就是我們使用者/消費者與商品/物品之間的關係,而在有了語意網路之後,我們就可以進一步的處理本質 (文化商品) 與描述了,只是在這之前還要有幾個前置作業。

  1. 會自動化新增關鍵字詞的表
  2. 會自動化連結出語意網路的表

這兩個表若是可以扣掉前面「會自動化新增/連結」 的話,我相信很多人都有從很多單位去取得這樣的詞庫與關連庫,但在實務上我們有絕大部份的狀況都是在處理運算最新的商品或議題時,沒有一種機制能夠新增或更新的話,幾乎是不實用的。

只是這新增/更新有時不見得是自動化,因為自動化是件相當困難的事,就我所知有不少在做這項業務的公司單位,用的就是「工人智慧」,而不是人工智慧,但無論如何,有了這兩個表之後,再加上從資料探勘能夠得知的:

  1. 關連分析 (一階, 或高階)
  2. 群落分析 (Clustering)
  3. 時間序列預測

有了上面三個很基本的工具後,可以配合產出很多的可能性:

  1. 最常見的關連購買
  2. 在搜尋結果中做排序
  3. 從分類結果做語意分析產出因子
  4. 有了高階的關連分析可以透過配對做活動
  5. 從銷售預測中作備品或庫存準備
  6. 只要你想得到的

當然上面說得很簡單,好像是三兩天就可以開發出來的東西,但事實上單單一個「會自動化連結出語意網路的表」,我記得當時就弄了兩三個月才弄出來,當然現在再弄一次就只須要兩三天到兩三個星期了,畢竟有經驗跟沒有經驗還是差很多的。

記得我在 5 年多前寫過 Data Mining 是一個須要跟效率挑戰的高度技術的事,但現在的機器已經比 5 年前快 5 倍了,加上資料庫的多樣性,雲端系統的完善,讓寫這樣的系統跟之前簡單不只 5 倍,我在兩個月以前自己從無到有又自己跑一次,以前須要半年的現在只要半個多月就夠了,想想時代還真可怕阿。

所以說,在這樣成熟的時機而言,導入真正的巨量資料探勘已經不是預算的問題,也不是技術的問題,而是心態的問題了,你準備好了嗎?

轉自[黑貘來說](http://gene.speaking.tw/2013/03/blog-post_20.html)
關鍵字: #大數據
往下滑看下一篇文章
AI 不只搶流量,下一步連交易都要拿走! iKala 程世嘉:AI 不認識你,廣告下再多都沒用
AI 不只搶流量,下一步連交易都要拿走! iKala 程世嘉:AI 不認識你,廣告下再多都沒用

下一個替你買東西的,可能不是你自己,而是 AI。當 AI 開始介入搜尋、比較與消費決策,品牌與消費者之間的入口也正在改變。iKala 共同創辦人暨董事長程世嘉認為,AI 競爭正進入下一階段,企業真正要面對的已不只是「如何導入 AI」,而是當消費者逐漸把選擇權交給 AI,品牌如何確保自己仍在 AI 的選擇名單中?

零點擊只是開始!Agentic Commerce 恐讓 AI 從「導購」變「代購」

過去,消費者透過搜尋引擎找到品牌、進入官網,再完成比較與購買;如今,愈來愈多搜尋與決策可以直接在 AI 中完成。程世嘉表示,「零點擊只是剛開始。」隨著 AI Agent 從提供答案進一步走向執行任務,下一步甚至可能替消費者選擇商品、完成交易,讓 Agentic Commerce 從「AI 幫你找」走向「AI 幫你買」。

Sega 側拍.jpg
程世嘉指出「零點擊只是剛開始」,AI Agent 正從「幫你找」進化到「幫你買」,加速 Agentic Commerce 時代到來。
圖/ iKala

這場變化真正改寫的,不只是流量入口,而是交易的主導權。當 AI 開始代表消費者採取行動,品牌未來面對的,可能不再只是「如何吸引消費者」,而是如何成為 AI 最終選擇的對象。

AI 不認識你,廣告下再多都沒用!SEO 下一戰:搶進 AI 的「推薦名單」

要被 AI 選中,第一步是先被 AI 認識。程世嘉直言:「如果 AI 連第一步都不認識你,那你在網路上下多少廣告都沒用。」這也讓品牌競爭從 SEO 進一步走向 GEO(Generative Engine Optimization):過去企業搶的是搜尋排名,現在更要掌握 AI 如何描述品牌、引用哪些來源,以及在什麼問題下會提到自己。

面對新的消費決策入口,iKala 將 AI Marketing 定位為協助品牌成長的全方位行銷服務,結合市場資料、自有 AI 產品與專業顧問團隊,提供從顧問診斷、策略規劃、專案落地到成效優化的一站式服務。從品牌定位、市場與競品分析,到 GEO 內容優化、創作者合作與媒體投放,iKala 不只提供數據分析工具,更協助品牌找出成長機會、制定行銷策略,並持續追蹤與優化執行成效。

iKala AI Marketing 總監許巧彤指出,品牌不只要「聽人」,也要「聽 AI」。透過 Ontix 掌握社群話題、消費者需求與市場趨勢,協助品牌發掘潛在商機;Kuroma 追蹤品牌在 AI 平台的能見度、推薦情境與引用來源,找出內容布局與 GEO 優化方向;Kolr 則結合創作者數據與行銷執行服務,協助品牌媒合合適的 KOL/KOC,規劃內容合作與媒體投放,將市場洞察轉化為實際行銷行動。

iKala
iKala AI Marketing 總監許巧彤分享,iKala 透過全方位行銷服務,搭配獨家產品賦能,協助品牌成長。
圖/ iKala

對內打通資料,對外洞察市場!程世嘉:老闆要懂 AI,AI 更要懂台灣

外部的搜尋與消費入口正在改變,企業內部也面臨另一場 AI 轉型。

企業 AI 為什麼推不動?程世嘉直指,第一個問題往往是「老闆自己不用 AI」。決策者若連 AI 能做什麼、不能做什麼都不清楚,再大的導入計畫也很難解決真正的企業痛點。iKala 提出「小步快跑、長期陪跑」的轉型策略,從關鍵場景快速驗證,再逐步擴大;同時以 AI Service、AI Marketing 雙軸出擊,讓 AI 不只改善內部工作效率,也能成為企業掌握商機、推動品牌成長的助力。

而當 AI 愈來愈深入企業決策、品牌溝通與消費者選擇,另一個問題也隨之浮現:AI 真的讀得懂台灣嗎?

對 AI 而言,語言相通,不等於真正讀懂一個市場。語言背後還有文化脈絡、在地知識,以及台灣人實際使用語言的方式。iKala 投入 TMMLU+,便是希望透過開源的繁體中文 AI 評測基準,檢驗模型對繁體中文與台灣知識的理解能力,讓「AI 到底懂不懂台灣」不再只是主觀感受,而有一套具體的評測依據。

TMMLU+.jpg
TMMLU+ 在九月全新推出 v1.1
圖/ iKala

從 Agentic Commerce、GEO 到企業 AI 落地,背後其實都回到同一件事:AI 應用最終仍建立在人與資料之上。正如許巧彤所說,「先有人才有 AI,因為 AI 終究是要讀資料。」人們創造內容、累積市場訊號,AI 從中學習、理解並影響消費決策,形成相互作用的循環。當 AI 逐漸從輔助工具走向決策與交易入口,企業競爭的關鍵將不再只是如何運用 AI,更在於如何讓 AI 理解企業、讓企業讀懂市場,進而掌握新的成長機會。

【關於iKala】

iKala 致力於透過將 AI 與數據嵌入企業經營核心,協助企業做出更精準、更快速的決策。我們透過引導組織從「數據累積」邁向「決策產出」來支援 AI 轉型,並提供完整的 AI 解決方案,將企業的自有數據與 iKala 基於全球數十億社群訊號所建立的智慧模型相結合。

iKala 總部位於台灣,足跡遍布全球,服務超過 1,000 家企業及 50,000 個品牌,版圖橫跨全球 190 多個國家,客戶群包含多家財星 500 強企業(Fortune 500)。

iKala 官方網站:https://ikala.ai
iKala AI Marketing 介紹:https://ikala.ai/zh-tw/ikala-ai-marketing/

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
一次搞懂工業AI
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓