【黑貘來說】 挖掘巨量資料的秘密步驟
【黑貘來說】 挖掘巨量資料的秘密步驟
2013.03.26 | 創業

現在已經有太多的報導說某某公司利用使用者的行為記錄,來算出每一個人的喜好,並且導出商機等等新聞到處可見,但我相信大家看再多次,不是覺得這樣會不會太可怕了?不然就是這好厲害阿!這兩種答案,不然就是兩種都有。

但事實上這件事並不神奇或可怕,會覺得這樣是因為大部份的人不知道怎麼做,或者是說這能夠做甚麼,若是你知道後,發現這跟本只是個套來套去經過計算的結果,甚至在某方面你用手來算都可以,只是不一樣的是人只能處理少量資料,而電腦可以處理巨量資料,當很多事情會有量變產生質變的時候,威力就在此顯現,但這些步驟,說穿了一點都不聰明,甚至還非常的機械化的制式。

當然我不是很好的深入淺出的作者,所以沒辦法寫給大多數的讀者看,而是寫給已經有一點實務經驗的人,尤其是程式設計師或資料庫管理師等工程師,但若沒有這技術背景,我相信做這樣的拆解,可以讓大家從一知半解變成知道個大概,而透過這樣的了解,讓大家有機會去應用是我寫這幾篇的目的。

只是還有一個前提,就是我不會在這邊寫資料探勘的基礎,也就是說,「請先去看本資料探勘的書」,再來看下面幾篇文章吧。

目標:能夠知道某個特定人喜歡甚麼東西,購買每一個商品的機率,或者是說我們該如何推薦商品給他,以及知道他喜歡這商品的原因?

人與商品之間的行為有下面幾種:

  1. 瀏灠
  2. 放入清單
  3. 購買
  4. 評價或評論
  5. 其他

    上面每一種行為都有其數量化的差異,有些是一年幾次,幾十次或到幾百次或更多,而每一個行為都可能有個 「權重 (Weight)」,以及時間 (Time) 與次數 (Times) 的屬性,甚至更有可能是一個 Vector (向量) 的指標,例如喜好、觀感等等,無論是可以量化或不能量化,這些都可以成為建立人與商品的「關連」。

    所有的資料探勘系統實作都是從這些資料做轉化,甚至是簡化,畢竟可以運算,以及算得出結果才是重點,甚至是能夠算給所有消費者顧客使用才是資料探勘的精隨。

    但有趣的事是很多實用的系統都很少是用單一方法去建構出來的,畢竟除了人的行為之外,商品有有幾個屬性:

  6. 商品本質、內容

  7. 商品描述 (meta-data) 與分類
  8. 最後才是商品的使用

    在還沒有 Semantic Web 之前, 我們能用的就是商品的使用,也就是我們使用者/消費者與商品/物品之間的關係,而在有了語意網路之後,我們就可以進一步的處理本質 (文化商品) 與描述了,只是在這之前還要有幾個前置作業。

  9. 會自動化新增關鍵字詞的表

  10. 會自動化連結出語意網路的表

    這兩個表若是可以扣掉前面「會自動化新增/連結」 的話,我相信很多人都有從很多單位去取得這樣的詞庫與關連庫,但在實務上我們有絕大部份的狀況都是在處理運算最新的商品或議題時,沒有一種機制能夠新增或更新的話,幾乎是不實用的。

    只是這新增/更新有時不見得是自動化,因為自動化是件相當困難的事,就我所知有不少在做這項業務的公司單位,用的就是「工人智慧」,而不是人工智慧,但無論如何,有了這兩個表之後,再加上從資料探勘能夠得知的:

  11. 關連分析 (一階, 或高階)

  12. 群落分析 (Clustering)
  13. 時間序列預測

    有了上面三個很基本的工具後,可以配合產出很多的可能性:

  14. 最常見的關連購買

  15. 在搜尋結果中做排序
  16. 從分類結果做語意分析產出因子
  17. 有了高階的關連分析可以透過配對做活動
  18. 從銷售預測中作備品或庫存準備
  19. 只要你想得到的

    當然上面說得很簡單,好像是三兩天就可以開發出來的東西,但事實上單單一個「會自動化連結出語意網路的表」,我記得當時就弄了兩三個月才弄出來,當然現在再弄一次就只須要兩三天到兩三個星期了,畢竟有經驗跟沒有經驗還是差很多的。

    記得我在 5 年多前寫過 Data Mining 是一個須要跟效率挑戰的高度技術的事,但現在的機器已經比 5 年前快 5 倍了,加上資料庫的多樣性,雲端系統的完善,讓寫這樣的系統跟之前簡單不只 5 倍,我在兩個月以前自己從無到有又自己跑一次,以前須要半年的現在只要半個多月就夠了,想想時代還真可怕阿。

    所以說,在這樣成熟的時機而言,導入真正的巨量資料探勘已經不是預算的問題,也不是技術的問題,而是心態的問題了,你準備好了嗎?

轉自[黑貘來說](http://gene.speaking.tw/2013/03/blog-post_20.html)
關鍵字: #大數據
往下滑看下一篇文章
當 Agentic AI、碎片化與地緣政治正重塑數位世界,我們該如何重構下一代網路的「數位信任」?
當 Agentic AI、碎片化與地緣政治正重塑數位世界,我們該如何重構下一代網路的「數位信任」?

面對人工智慧(AI)應用的爆發與地緣政治風險的升高,數位環境正迎來「信任」與「韌性」的雙重嚴峻考驗。為了回應這些挑戰,財團法人台灣網路資訊中心(TWNIC)舉辦首屆「 Internet Week 2026(網路週)」,大會串聯數位發展部(moda)、國家通訊傳播委員會(NCC)、亞太網路資訊中心(APNIC)、網際網路名稱與號碼分配機構(ICANN)、臺灣網路治理論壇(TWIGF)及台灣網路維運社群(TWNOG)等國內外指標社群與國際組織,整合多個重要論壇並展開 4 天共 66 場主題議程。

Internet Week 2026 希望透過公、私部門、國際組織與技術社群的跨界溝通,讓政府、私人企業、國際組織、技術社群與公民團體力量在同一個平台上對話。大會不僅期盼建立一個開放、中立且多元的對話空間,更致力於帶動信任的溝通,藉此強化台灣在國際網路治理舞台的實質影響力與能見度,共築具備數位韌性與信任的未來。

身分識別不等於信任,碎片化才是真正危機

「身分識別(Identity)並不等於信任(Trust)。」Edgemoor 研究中心執行長 Steve Crocker 在會後專訪中,拋出這句耐人尋味的觀察。

身為 ARPANET 時代的重要參與者,他見證網際網路從學術研究網路,逐漸演變為全球最重要的數位基礎設施。然而,在地緣政治與各國法規分歧的今天,他認為網際網路正面臨前所未有的碎片化挑戰。「在價值觀、法規與司法管轄權都不同的情況下,我們如何依然維持全球的互通與信任?」Crocker 點出了他的觀察。他指出,未來的數位治理不可能再依賴單一規則或中央權威,而是必須建立在全球共用框架與在地化決策並存的架構上。

技術機制能全球互通,但各國仍應保有政策調整的空間。這樣的治理思維,也體現在 Crocker 近年推動的「 Project Jake 」計畫。隨著歐盟「一般資料保護規則」(General Data Protection Regulation,GDPR)等隱私法規上路,過去廣泛用於網路犯罪調查的 Whois 網域註冊資料系統,已陷入隱私與公共利益的兩難。Project Jake 則嘗試建立新的跨境資料存取機制,而 TWNIC 更是全球首個主動參與試點的機構。值得注意的是,面對近年區塊鏈與替代性網域名稱系統(Alternative DNS)興起的聲浪,Crocker 直言這往往是為不存在的問題,提供昂貴的解方。

他強調,網際網路真正的韌性來自長年建立的「分散式協作」與「相互依存」。「網際網路從來不是中央控制系統,而是一個 network of networks。」在他看來,與其重新建立彼此割裂的替代架構,不如持續深化跨國透明協作與多方治理,才是維持全球網路信任最務實的方式。

Steve Crocker 總裁暨執行長
Edgemoor 研究中心執行長 Steve Crocker
圖/ 數位時代

借鏡歐洲《數位服務法》,用「個人問責」重新定義公共利益

如果 Steve Crocker 談的是「基礎設施的信任」,那麼 Jeremy Godfrey 所關注的,則是平台與 AI 對公共利益的衝擊。Godfrey 直言,當前數位平台最大的問題,並不只是單一內容真假,而是整個商業模式正持續放大社會風險。「數位市場並不一定會自然產生對社會最有利的結果。」

長期管理 Meta、X、TikTok 等跨國平台歐洲監管事務的他指出,當平台以廣告收益與流量作為核心目標時,演算法往往會傾向放大更具爭議性與成癮性的內容,進一步衝擊民主討論、兒少保護與社會信任。Godfrey 強調,當數位治理開始涉及言論自由、人類尊嚴與選舉公平等基本人權時,社會不能再將權利平衡的責任,完全交由商業平台自行決定。這也是歐洲近年積極推動《數位服務法》(Digital Services Act,DSA)的原因。除要求大型平台管控系統性風險外,愛爾蘭也進一步要求平台落實年齡驗證、限制向未成年人推播有害內容,並強化企業內部的「個人問責制」。

不過,在 Godfrey 看來,未來治理不該只是被動「減少傷害」,而是重新思考整體數位生態系。「我們不該在創新與安全之間二選一,而是同時追求兩者。」他認為,當 AI 與平台逐漸成為社會基礎設施的一部分,治理的核心已不再只是技術,而是如何讓「信任、安全、權利保障與經濟價值」彼此共存,重新建立數位社會的公共利益與信任基礎。

不用 AI 不代表更安全,溫水煮青蛙的轉型危機

而當 AI 與平台逐漸成為社會基礎設施的一部分,治理核心將更專注在技術快速演進下,如何重新建立企業、政府與社會的信任能力。「AI 已經從回答問題,進入執行任務(Action)。」行政院經濟發展委員會創新經濟顧問簡立峰指出,當前 AI 已具備規劃與執行能力,正逐步接手知識型工作的核心流程。

這波由代理型 AI(Agentic AI)帶動的變革,首當其衝的正是白領階級;企業接下來面對的不僅是「流程再造」,更是深度的「職能再造」。然而簡立峰也警告,台灣正面臨一場「溫水煮青蛙」的轉型危機。由於國內高端服務業多屬內需市場,企業導入 AI 往往只停留在讓工作變快,卻未真正翻轉核心競爭力做到更聰明。在全球市場,企業已開始不再大量招募初階知識工作者,而是亟需能與 AI 協作、重新定義問題的人才。

「不用 AI 並不能代表更安全。」面對外界對 AI 資安與風險的焦慮,簡立峰提出極具衝擊性的觀點。他以開車為例,車子不開出門固然不會出車禍,但也等於永遠失去移動的能力。真正的數位治理並非全面防堵,而是在實際使用中建立防護。他呼籲,政府必須比以往更積極地導入 AI,「如果政府自己不用 AI,就沒有能力治理 AI,只有 AI 才能監管 AI。」他以「矛與盾」來比喻,強調面對新型態的數位犯罪,必須建立如「AI 警察」般的防禦機制;唯有善用 AI 作為測試與除錯的工具,才能精準揪出系統漏洞,也就是「以 AI 來監管 AI」。

而在治理與技術外,最後的防線仍回歸到「人」。簡立峰強調,未來的教育必須從單向的教導轉為引導,全面培養全民的「AI 識讀能力(AI literacy)」,讓人們在真假難辨的環境中,具備獨立思辨與理解風險的能力。唯有如此,才能在 AI 深度滲透的社會中,建立穩固的信任機制。

行政院經濟發展委員會創新經濟顧問簡立峰
行政院經濟發展委員會創新經濟顧問簡立峰
圖/ 數位時代

多元共融與韌性實踐,為建立信任數位社會的基石

「現在最大的問題,已經不是網路快不快,而是人們還敢不敢相信這個網路。」TWNIC 董事暨執行長余若凡說到,AI 時代的數位信任不只是技術問題,更是場需全社會參與的治理工程。為此,TWNIC 正從純粹的技術社群,轉型為「信任環境驅動者」,致力打造讓人願意信任與參與的數位生態系。

余若凡指出,建立數位信任必須從三個層次著手。首先是「技術面」的基礎設施韌性,如落實 DNS 濫用防治與域名安全;其次是「治理面」的規範設計,探討 AI 與內容監理的平衡;最後,也是最關鍵的「社會協作」。她強調:只有當大家願意對話,信任才有可能被建立。

推動信任對話的同時,多元共融更是韌性實踐的關鍵。談及大會的「Taiwan Tech Women」論壇,余若凡坦言儘管台灣性別平權具指標性,科技業決策圈的女性比例依然偏低。但 AI 時代的不確定性,反而成為女性突破框架的契機。結合與談專家觀點,未來面對複雜的地緣政治與科技風險,企業亟需兼顧社會、科技與公共利益的「生態系領導力(Ecosystem Leadership)」。而女性特有的同理心與跨域溝通耐心,將成為這種多方協調的關鍵需求能力。

「最大的成功,是未來我們不再需要舉辦 Taiwan Tech Woman 這樣的論壇。」余若凡更期許。當性別不再是評價標準,多元聲音成為數位治理的日常,才是真正穩固的信任底座。

TWNIC董事暨執行長余若凡
TWNIC董事暨執行長余若凡
圖/ 數位時代

綜觀 Internet Week 2026 中各界專家的深刻洞見,網路的未來早已演變為一場涵蓋法規監理、人權保障、經濟創新與社會共融的環境。面對全球網路的破碎化危機與AI帶來的雙面刃效應,單憑政府或單一企業已無法獨力應對。「公私協力」與「開放對話」將是迎向未知挑戰的解方。藉由這些跨界對話與激盪,台灣向國際展現了落實「多方利害關係人治理模式」的決心與實質能量。期許在產官學研及公民社會的共同努力下,能持續深化國際網路治理的影響力,在下個網路世代中穩健前行,共築兼具數位韌性與信任的美好未來。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
代理式商務連動百兆商機
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓