【黑貘來說】 挖掘巨量資料的秘密步驟
【黑貘來說】 挖掘巨量資料的秘密步驟
2013.03.26 | 創業

現在已經有太多的報導說某某公司利用使用者的行為記錄,來算出每一個人的喜好,並且導出商機等等新聞到處可見,但我相信大家看再多次,不是覺得這樣會不會太可怕了?不然就是這好厲害阿!這兩種答案,不然就是兩種都有。

但事實上這件事並不神奇或可怕,會覺得這樣是因為大部份的人不知道怎麼做,或者是說這能夠做甚麼,若是你知道後,發現這跟本只是個套來套去經過計算的結果,甚至在某方面你用手來算都可以,只是不一樣的是人只能處理少量資料,而電腦可以處理巨量資料,當很多事情會有量變產生質變的時候,威力就在此顯現,但這些步驟,說穿了一點都不聰明,甚至還非常的機械化的制式。

當然我不是很好的深入淺出的作者,所以沒辦法寫給大多數的讀者看,而是寫給已經有一點實務經驗的人,尤其是程式設計師或資料庫管理師等工程師,但若沒有這技術背景,我相信做這樣的拆解,可以讓大家從一知半解變成知道個大概,而透過這樣的了解,讓大家有機會去應用是我寫這幾篇的目的。

只是還有一個前提,就是我不會在這邊寫資料探勘的基礎,也就是說,「請先去看本資料探勘的書」,再來看下面幾篇文章吧。

目標:能夠知道某個特定人喜歡甚麼東西,購買每一個商品的機率,或者是說我們該如何推薦商品給他,以及知道他喜歡這商品的原因?

人與商品之間的行為有下面幾種:

  1. 瀏灠
  2. 放入清單
  3. 購買
  4. 評價或評論
  5. 其他

上面每一種行為都有其數量化的差異,有些是一年幾次,幾十次或到幾百次或更多,而每一個行為都可能有個 「權重 (Weight)」,以及時間 (Time) 與次數 (Times) 的屬性,甚至更有可能是一個 Vector (向量) 的指標,例如喜好、觀感等等,無論是可以量化或不能量化,這些都可以成為建立人與商品的「關連」。

所有的資料探勘系統實作都是從這些資料做轉化,甚至是簡化,畢竟可以運算,以及算得出結果才是重點,甚至是能夠算給所有消費者顧客使用才是資料探勘的精隨。

但有趣的事是很多實用的系統都很少是用單一方法去建構出來的,畢竟除了人的行為之外,商品有有幾個屬性:

  1. 商品本質、內容
  2. 商品描述 (meta-data) 與分類
  3. 最後才是商品的使用

在還沒有 Semantic Web 之前, 我們能用的就是商品的使用,也就是我們使用者/消費者與商品/物品之間的關係,而在有了語意網路之後,我們就可以進一步的處理本質 (文化商品) 與描述了,只是在這之前還要有幾個前置作業。

  1. 會自動化新增關鍵字詞的表
  2. 會自動化連結出語意網路的表

這兩個表若是可以扣掉前面「會自動化新增/連結」 的話,我相信很多人都有從很多單位去取得這樣的詞庫與關連庫,但在實務上我們有絕大部份的狀況都是在處理運算最新的商品或議題時,沒有一種機制能夠新增或更新的話,幾乎是不實用的。

只是這新增/更新有時不見得是自動化,因為自動化是件相當困難的事,就我所知有不少在做這項業務的公司單位,用的就是「工人智慧」,而不是人工智慧,但無論如何,有了這兩個表之後,再加上從資料探勘能夠得知的:

  1. 關連分析 (一階, 或高階)
  2. 群落分析 (Clustering)
  3. 時間序列預測

有了上面三個很基本的工具後,可以配合產出很多的可能性:

  1. 最常見的關連購買
  2. 在搜尋結果中做排序
  3. 從分類結果做語意分析產出因子
  4. 有了高階的關連分析可以透過配對做活動
  5. 從銷售預測中作備品或庫存準備
  6. 只要你想得到的

當然上面說得很簡單,好像是三兩天就可以開發出來的東西,但事實上單單一個「會自動化連結出語意網路的表」,我記得當時就弄了兩三個月才弄出來,當然現在再弄一次就只須要兩三天到兩三個星期了,畢竟有經驗跟沒有經驗還是差很多的。

記得我在 5 年多前寫過 Data Mining 是一個須要跟效率挑戰的高度技術的事,但現在的機器已經比 5 年前快 5 倍了,加上資料庫的多樣性,雲端系統的完善,讓寫這樣的系統跟之前簡單不只 5 倍,我在兩個月以前自己從無到有又自己跑一次,以前須要半年的現在只要半個多月就夠了,想想時代還真可怕阿。

所以說,在這樣成熟的時機而言,導入真正的巨量資料探勘已經不是預算的問題,也不是技術的問題,而是心態的問題了,你準備好了嗎?

轉自[黑貘來說](http://gene.speaking.tw/2013/03/blog-post_20.html)
關鍵字: #大數據
往下滑看下一篇文章
台灣不只要用國際標準,更要參與討論!TWNIC如何培養下一代網路人才,接軌國際技術社群?
台灣不只要用國際標準,更要參與討論!TWNIC如何培養下一代網路人才,接軌國際技術社群?

打開瀏覽器、觀看串流影片,看似日常的上網行為,背後其實仰賴一套套國際網路標準運作。當網路技術持續演進,台灣除了採用這些標準,能不能進一步參與它們形成的過程?

「即便有很多事情可能要做10年才會有效果,但我想我們應該擔任這樣的角色。」TWNIC執行長余若凡指出,台灣硬體產業在全球已有亮眼成果,但對底層網路技術與國際標準的關注、參與仍有成長空間。對TWNIC而言,除了管理「.tw」、「.台灣」網域名稱與台灣IP位址資源,也希望成為台灣與國際網路社群之間的橋梁。

TWNIC 執行長余若凡
圖/ TWNIC 執行長余若凡

這也是TWNIC與國立虎尾科技大學合作舉辦IETF研習課程的背景。從IETF組織運作、RFC標準形成,到IPv6-only等新一代網路技術,課程不只協助參與者理解國際標準,更希望培養實際參與與落地的能力。透過這場合作,TWNIC也試圖串起國際社群、校園人才與產業需求,讓台灣從採用標準,進一步走向參與標準。

硬體做到世界級,下一步讓台灣人才走進標準制定現場

IETF(Internet Engineering Task Force,網際網路工程任務組)作為全球網際網路技術標準形成的重要場域,許多技術規範最終透過RFC文件發布。對TWNIC而言,台灣若能讓更多企業、學校、研究者與工程師參與,不只能更早掌握國際網路技術變化,也有機會把台灣經驗帶進國際討論。

TWNIC因此一方面把國際議題帶回台灣,另一方面也把台灣人才送出去。透過TWNIC Academy學員計畫,每年資助8位學員參與重要國際組織,時間長達一年;部分學員返台後更自主形成社群,近期一場交流活動便吸引近40位參加,背景從網路工程延伸至政策、法律及社會科學。「我們希望最終有更多人可以參與。」余若凡說。從在台培訓、實際參與國際組織到返台形成社群,TWNIC希望讓人才培育不只停留在單次課程,而能持續累積參與國際標準討論的經驗。

會設定網路還不夠,學校補上「讀懂標準」的能力

但真正想要走進IETF,光是「會用網路技術」還不夠。國立虎尾科技大學電機工程系教授兼秘書室主任秘書蘇暉凱指出,大學課堂教授TCP/IP或網路設定,多半從教科書或整理過的教材入手;真正參與國際標準討論,面對的卻是RFC等第一手技術規範。

他將其中的差距歸納成三種能力:規範閱讀、實作驗證與技術表達。工程師除了讀懂規範,也要能透過實作與工具驗證實際網路行為,最後以精準的技術英文語言與國際社群溝通。「這三種能力不是短期間就能養成。」蘇暉凱指出,因此需要逐步融入大學與研究所的課程及專題。

這也凸顯學校在合作中的角色,TWNIC負責連結國際社群、技術趨勢與參與機會,學校則把這些標準帶進人才培育與實作現場。兩者合作,才能讓「參與國際標準」從少數專家的工作,逐漸變成年輕工程師可以累積的能力。

國立虎尾科技大學電機工程系教授兼秘書室主任秘書蘇暉凱
圖/ 國立虎尾科技大學電機工程系教授兼秘書室主任秘書蘇暉凱

IPv6走向主流,校園先成為產業轉型的試驗場

IPv6正是這套合作模式的具體案例。余若凡指出,全球IPv6使用率已正式跨過五成,迎來關鍵轉折。包含越南、捷克等國皆已將全面轉向IPv6排入國家政策時程,主流行動裝置與微軟Windows作業系統也已原生支援。過去許多環境仍採取IPv4與IPv6並行的架構,隨技術、終端與轉換機制逐漸成熟,進一步走向IPv6-only的條件也開始成形。IPv6-only並不代表與既有IPv4服務切割,而是透過NAT64、DNS64等轉換機制維持連線。對產業而言,真正的問題也逐漸從「技術能不能做到」,轉向是否有足夠經驗與信心部署。

為此,TWNIC 從人才培育到校園實作,持續推動 IPv6-only 環境的應用與部署,除了自行建置 IPv6-only Demo Site,也逐步於北、中、南三地拓展示範場域與實作據點。余若凡觀察,相較於企業在商業效益尚未明朗前,對導入新技術往往較為謹慎,校園更適合作為技術驗證與人才培育的場域。透過 TWNIC 推動的實作機制,讓師生在實際環境中理解 IPv6-only 如何運作,一方面培養未來進入產業的人才,另一方面也能累積可供業界參考的部署經驗。對蘇暉凱而言,這意味著學生不能只學會 IPv6 位址格式,更要從網路維運、資安到應用發展,建立面對 IPv6 環境的完整思維。

從Demo Site、教育訓練、技術活動到實作手冊,TWNIC希望逐步降低新技術的理解與部署門檻。當IPv6走向主流,台灣面對的已不只是「網路要不要升級」;如何讓更多人才讀懂國際標準、具備實作能力,甚至走進IETF參與討論,才是台灣從標準「使用者」走向「參與者」的下一步。

IETF研習課程

TWNIC將於10月29至31日2026年臺灣網際網路研討會(TANET 2026)暨國際計算機會議(ICS)設攤展示,規劃「新世代IPv6-Only Wi-Fi無線網路體驗與建置」及「TWNIC IPv6智慧工作室(IPv6 Smart Studio)」兩大主題。歡迎各界蒞臨參觀與體驗!
詳細介紹請參閱:https://twnic.tw/blog/contents.php?id=253&lang=zh-tw

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
一次搞懂工業AI
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓