【黑貘來說】 挖掘巨量資料的秘密步驟
【黑貘來說】 挖掘巨量資料的秘密步驟
2013.03.26 | 創業

現在已經有太多的報導說某某公司利用使用者的行為記錄,來算出每一個人的喜好,並且導出商機等等新聞到處可見,但我相信大家看再多次,不是覺得這樣會不會太可怕了?不然就是這好厲害阿!這兩種答案,不然就是兩種都有。

但事實上這件事並不神奇或可怕,會覺得這樣是因為大部份的人不知道怎麼做,或者是說這能夠做甚麼,若是你知道後,發現這跟本只是個套來套去經過計算的結果,甚至在某方面你用手來算都可以,只是不一樣的是人只能處理少量資料,而電腦可以處理巨量資料,當很多事情會有量變產生質變的時候,威力就在此顯現,但這些步驟,說穿了一點都不聰明,甚至還非常的機械化的制式。

當然我不是很好的深入淺出的作者,所以沒辦法寫給大多數的讀者看,而是寫給已經有一點實務經驗的人,尤其是程式設計師或資料庫管理師等工程師,但若沒有這技術背景,我相信做這樣的拆解,可以讓大家從一知半解變成知道個大概,而透過這樣的了解,讓大家有機會去應用是我寫這幾篇的目的。

只是還有一個前提,就是我不會在這邊寫資料探勘的基礎,也就是說,「請先去看本資料探勘的書」,再來看下面幾篇文章吧。

目標:能夠知道某個特定人喜歡甚麼東西,購買每一個商品的機率,或者是說我們該如何推薦商品給他,以及知道他喜歡這商品的原因?

人與商品之間的行為有下面幾種:

  1. 瀏灠
  2. 放入清單
  3. 購買
  4. 評價或評論
  5. 其他

上面每一種行為都有其數量化的差異,有些是一年幾次,幾十次或到幾百次或更多,而每一個行為都可能有個 「權重 (Weight)」,以及時間 (Time) 與次數 (Times) 的屬性,甚至更有可能是一個 Vector (向量) 的指標,例如喜好、觀感等等,無論是可以量化或不能量化,這些都可以成為建立人與商品的「關連」。

所有的資料探勘系統實作都是從這些資料做轉化,甚至是簡化,畢竟可以運算,以及算得出結果才是重點,甚至是能夠算給所有消費者顧客使用才是資料探勘的精隨。

但有趣的事是很多實用的系統都很少是用單一方法去建構出來的,畢竟除了人的行為之外,商品有有幾個屬性:

  1. 商品本質、內容
  2. 商品描述 (meta-data) 與分類
  3. 最後才是商品的使用

在還沒有 Semantic Web 之前, 我們能用的就是商品的使用,也就是我們使用者/消費者與商品/物品之間的關係,而在有了語意網路之後,我們就可以進一步的處理本質 (文化商品) 與描述了,只是在這之前還要有幾個前置作業。

  1. 會自動化新增關鍵字詞的表
  2. 會自動化連結出語意網路的表

這兩個表若是可以扣掉前面「會自動化新增/連結」 的話,我相信很多人都有從很多單位去取得這樣的詞庫與關連庫,但在實務上我們有絕大部份的狀況都是在處理運算最新的商品或議題時,沒有一種機制能夠新增或更新的話,幾乎是不實用的。

只是這新增/更新有時不見得是自動化,因為自動化是件相當困難的事,就我所知有不少在做這項業務的公司單位,用的就是「工人智慧」,而不是人工智慧,但無論如何,有了這兩個表之後,再加上從資料探勘能夠得知的:

  1. 關連分析 (一階, 或高階)
  2. 群落分析 (Clustering)
  3. 時間序列預測

有了上面三個很基本的工具後,可以配合產出很多的可能性:

  1. 最常見的關連購買
  2. 在搜尋結果中做排序
  3. 從分類結果做語意分析產出因子
  4. 有了高階的關連分析可以透過配對做活動
  5. 從銷售預測中作備品或庫存準備
  6. 只要你想得到的

當然上面說得很簡單,好像是三兩天就可以開發出來的東西,但事實上單單一個「會自動化連結出語意網路的表」,我記得當時就弄了兩三個月才弄出來,當然現在再弄一次就只須要兩三天到兩三個星期了,畢竟有經驗跟沒有經驗還是差很多的。

記得我在 5 年多前寫過 Data Mining 是一個須要跟效率挑戰的高度技術的事,但現在的機器已經比 5 年前快 5 倍了,加上資料庫的多樣性,雲端系統的完善,讓寫這樣的系統跟之前簡單不只 5 倍,我在兩個月以前自己從無到有又自己跑一次,以前須要半年的現在只要半個多月就夠了,想想時代還真可怕阿。

所以說,在這樣成熟的時機而言,導入真正的巨量資料探勘已經不是預算的問題,也不是技術的問題,而是心態的問題了,你準備好了嗎?

轉自[黑貘來說](http://gene.speaking.tw/2013/03/blog-post_20.html)
關鍵字: #大數據
往下滑看下一篇文章
免費下載「會議紀錄整理師」!逐字稿丟給AI,自動抓決議跟待辦,支援ChatGPT與Claude
免費下載「會議紀錄整理師」!逐字稿丟給AI,自動抓決議跟待辦,支援ChatGPT與Claude

在某個大雨滂沱的晚上,超級感謝有 7 位一天一 AI 的讀者來體驗我做的「會議紀錄整理師」AI 工作流。現在,我要把它免費開放給你用了!

今天來跟你分享,一天一AI PRO 設計出的 AI 工作流,到底可以幹嘛,並且讓你試用看看。

首發就是「會議紀錄整理師」,這是我自己最常用的工作流之一。有了它,會議上我都可以集中精神發表意見,之後 AI 再幫我統整即可!

除了省時省力、釐清待辦,我還多做了一點巧思:區分出討論項目與決議。那些會議上討論過的,但根本沒結論的事情,我請 AI 幫忙抓出來。

這個工作流可以到一天一AI PRO 的官網下載,裝進你的 ChatGPT 和 Claude。具體怎麼做?往下看圖卡吧。

還想看哪些內容?歡迎點此連結跟我分享~

AI會議紀錄怎麼做?「會議紀錄整理師」自動整理逐字稿

會議紀錄整理師是什麼?

每次會議我會取得同意後錄音,一結束就把逐字稿丟給 AI,呼叫「會議紀錄整理師」技能來做紀錄。逐字稿的錯字多、內容散亂、缺乏說話者資訊,通通沒關係,這個技能可以通過一串設計好的流程,區分是哪種會議(進度追蹤、規劃討論、解題決策)來決定紀錄的重點,最後產出會議紀錄通知信+留存版的完整紀錄文件。

AI整理會議紀錄最大亮點:自動區分討論、決議與待辦

最有感的亮點:區分出討論項目與決議

看完「會議紀錄整理師」整理的紀錄,第一印象一定是「很清楚、有結構」。但細看會發現,它除了幫你列清楚待辦事項,也會提醒你會議缺失的資訊,例如沒指定負責人、沒確定截止日期、哪些是拍板的決定、哪些決議沒討論完、哪些人的意見有衝突。

同件事反覆討論怎麼整理?AI只抓最後拍板結論

結論回掃:同件事來回討論,AI 只認最後的拍板

開會常常一個議題反覆討論,前面說「先用 A 方案」,後面又改口「還是 B 好」。一般 AI 整理會把兩個都列出來,會搞不清楚到底選了哪個。「會議紀錄整理師」有「結論回掃」機制:以最後一次明確確認為準,早期被推翻的版本會被歸類到「否決了什麼」,不會讓過時的決策混淆你。

與會者有誰?例行會議可以沿用團隊設定

與會者有誰?例行會議可以沿用設定

第一次使用,直接貼逐字稿就能跑。AI 遇到不認識的人名或職稱,會在結尾列出來問你:「這位是誰、負責什麼?要不要記下來?」你回覆後,它就建立你的團隊記憶檔。下次再開相同主題的會議會自動沿用,提高會議紀錄裡名字、職稱、待辦事項隸屬的正確性。

ChatGPT、Claude怎麼安裝「會議紀錄整理師」?

下載後怎麼用?

註冊登入一天一AI PRO 官方網站,找到「會議紀錄整理師」的立即下載按鈕,下載 zip 檔。Claude 網頁版的用戶,從Setting→Skills→右上方Add選擇→Upload skill→上傳 zip 檔。ChatGPT 網頁版的用戶要是付費版:開一個新對話→選擇「工作」標籤→在對話框上傳 zip 檔→輸入「幫我安裝到個人雲端技能」。完成設定後,重整頁面、開新對話,在對話框輸入「/」或是「@」輸入「會議紀錄整理師」就能把技能呼叫出來,再把會議逐字稿貼給它就行了。

AI會議紀錄還能怎麼用?散會前確認、累積成專案進度報告

散會前就做紀錄、同專案紀錄能做成進度報告

我在每個會議結束前,都會速跑紀錄,現場確認與會者的理解都一致。同一個專案的會議紀錄累積起來,還可以變成專案進度簡報給主管看:這個月做了哪些決策、還有哪些待辦沒完成、風險有沒有被處理掉。

訂閱《一天一AI》日報,每天跟你分享超實用的AI小技巧!

延伸閱讀:
一天一AI PRO上線!6組專家工作流,讓ChatGPT、Claude不再每次從頭教

AI又唱反調?每月10分鐘做記憶健檢,4招讓ChatGPT、Claude認得現在的你

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
一次搞懂工業AI
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓