【黑貘來說】 挖掘巨量資料的秘密步驟
【黑貘來說】 挖掘巨量資料的秘密步驟
2013.03.26 | 創業

現在已經有太多的報導說某某公司利用使用者的行為記錄,來算出每一個人的喜好,並且導出商機等等新聞到處可見,但我相信大家看再多次,不是覺得這樣會不會太可怕了?不然就是這好厲害阿!這兩種答案,不然就是兩種都有。

但事實上這件事並不神奇或可怕,會覺得這樣是因為大部份的人不知道怎麼做,或者是說這能夠做甚麼,若是你知道後,發現這跟本只是個套來套去經過計算的結果,甚至在某方面你用手來算都可以,只是不一樣的是人只能處理少量資料,而電腦可以處理巨量資料,當很多事情會有量變產生質變的時候,威力就在此顯現,但這些步驟,說穿了一點都不聰明,甚至還非常的機械化的制式。

當然我不是很好的深入淺出的作者,所以沒辦法寫給大多數的讀者看,而是寫給已經有一點實務經驗的人,尤其是程式設計師或資料庫管理師等工程師,但若沒有這技術背景,我相信做這樣的拆解,可以讓大家從一知半解變成知道個大概,而透過這樣的了解,讓大家有機會去應用是我寫這幾篇的目的。

只是還有一個前提,就是我不會在這邊寫資料探勘的基礎,也就是說,「請先去看本資料探勘的書」,再來看下面幾篇文章吧。

目標:能夠知道某個特定人喜歡甚麼東西,購買每一個商品的機率,或者是說我們該如何推薦商品給他,以及知道他喜歡這商品的原因?

人與商品之間的行為有下面幾種:

  1. 瀏灠
  2. 放入清單
  3. 購買
  4. 評價或評論
  5. 其他

    上面每一種行為都有其數量化的差異,有些是一年幾次,幾十次或到幾百次或更多,而每一個行為都可能有個 「權重 (Weight)」,以及時間 (Time) 與次數 (Times) 的屬性,甚至更有可能是一個 Vector (向量) 的指標,例如喜好、觀感等等,無論是可以量化或不能量化,這些都可以成為建立人與商品的「關連」。

    所有的資料探勘系統實作都是從這些資料做轉化,甚至是簡化,畢竟可以運算,以及算得出結果才是重點,甚至是能夠算給所有消費者顧客使用才是資料探勘的精隨。

    但有趣的事是很多實用的系統都很少是用單一方法去建構出來的,畢竟除了人的行為之外,商品有有幾個屬性:

  6. 商品本質、內容

  7. 商品描述 (meta-data) 與分類
  8. 最後才是商品的使用

    在還沒有 Semantic Web 之前, 我們能用的就是商品的使用,也就是我們使用者/消費者與商品/物品之間的關係,而在有了語意網路之後,我們就可以進一步的處理本質 (文化商品) 與描述了,只是在這之前還要有幾個前置作業。

  9. 會自動化新增關鍵字詞的表

  10. 會自動化連結出語意網路的表

    這兩個表若是可以扣掉前面「會自動化新增/連結」 的話,我相信很多人都有從很多單位去取得這樣的詞庫與關連庫,但在實務上我們有絕大部份的狀況都是在處理運算最新的商品或議題時,沒有一種機制能夠新增或更新的話,幾乎是不實用的。

    只是這新增/更新有時不見得是自動化,因為自動化是件相當困難的事,就我所知有不少在做這項業務的公司單位,用的就是「工人智慧」,而不是人工智慧,但無論如何,有了這兩個表之後,再加上從資料探勘能夠得知的:

  11. 關連分析 (一階, 或高階)

  12. 群落分析 (Clustering)
  13. 時間序列預測

    有了上面三個很基本的工具後,可以配合產出很多的可能性:

  14. 最常見的關連購買

  15. 在搜尋結果中做排序
  16. 從分類結果做語意分析產出因子
  17. 有了高階的關連分析可以透過配對做活動
  18. 從銷售預測中作備品或庫存準備
  19. 只要你想得到的

    當然上面說得很簡單,好像是三兩天就可以開發出來的東西,但事實上單單一個「會自動化連結出語意網路的表」,我記得當時就弄了兩三個月才弄出來,當然現在再弄一次就只須要兩三天到兩三個星期了,畢竟有經驗跟沒有經驗還是差很多的。

    記得我在 5 年多前寫過 Data Mining 是一個須要跟效率挑戰的高度技術的事,但現在的機器已經比 5 年前快 5 倍了,加上資料庫的多樣性,雲端系統的完善,讓寫這樣的系統跟之前簡單不只 5 倍,我在兩個月以前自己從無到有又自己跑一次,以前須要半年的現在只要半個多月就夠了,想想時代還真可怕阿。

    所以說,在這樣成熟的時機而言,導入真正的巨量資料探勘已經不是預算的問題,也不是技術的問題,而是心態的問題了,你準備好了嗎?

轉自[黑貘來說](http://gene.speaking.tw/2013/03/blog-post_20.html)
關鍵字: #大數據
往下滑看下一篇文章
把技術變成實際訂單!中華電信 5G加速器攜手新創 推動 AI 與數位韌性應用落地
把技術變成實際訂單!中華電信 5G加速器攜手新創 推動 AI 與數位韌性應用落地

不少新創團隊普遍面臨技術成熟,但難以找到實際應用場域或跨越市場導入門檻的機會,使創新停留在概念驗證階段。對新創而言,能否進入適合的產業平台並對接市場需求,往往是推動成長的關鍵。

為了成為新創最強後盾,中華電信日前啟動「2026第八屆 5G 加速器」徵選活動。此次除了提供技術資源、場域驗證與企業媒合機會,更設置 「AI 創新特別獎」與「海地星空特別獎」,希望結合自身龐大的 5G 生態圈與產業資源,協助潛力新創把創新技術真正推進市場,加速走向商業落地。

中華電信舉辦「2026數位創新應用系列賽」宣告記者會,中華電信簡志誠董事長致詞
中華電信舉辦「2026數位創新應用系列賽」宣告記者會,中華電信簡志誠董事長致詞
圖/ 中華電信5G加速器

中華電信5G加速器:不只給資源,更幫新創找到市場

自 2018 年成立至今,中華電信 5G 加速器已累積輔導超過 80 家新創團隊,合作領域也從早期的 5G 應用,逐步延伸至 AI、資通安全、量子運算、數位娛樂、運動科技、創新永續、通訊基礎建設等不同面向。在這過程中,中華電信 5G 加速器逐步摸索出與其他企業加速器不同的定位:不只提供資源,更協助新創理解市場、對接客戶,讓技術真正走向商業落地。

也因此,中華電信 5G 加速器引進導師輔導(Mentor)機制,由公司內部主管擔任新創導師,協助潛力新創理解客戶痛點,更進一步把新創帶進實際市場。當既有客戶出現需求時,若新創有符合該需求的解決方案,中華電信便會協助對接客戶,形成所謂的業務協作,為新創帶來新的商機。目前已有超過 20 家新創透過與中華電信的業務協作,將技術轉化為實際訂單與營收,逐步走向規模化發展。

中華電信董事長簡志誠認為,AI時代的關鍵在於「應用落地」與「價值實現」。中華電信期許透過 5G 加速器徵選活動,向廣大新創團隊開放技術資源與實證場域,使其能從概念走向實作,進一步邁向產業化,構建共榮的AI創新生態系。

中華電信5g加速器徵件
一系列輔導資源 X 實證應用落地 X 展會人脈資源鏈結
圖/ 中華電信 5G 加速器

AI、數位韌性成主軸!中華電信 5G 加速器鎖定八大創新場景

延續這樣的理念,中華電信 5G 加速器在舉辦今(2026)年的徵選活動時,瞄準當前產業轉型的關鍵科技,定出數位韌性、智慧驅動、永續未來三大徵選主題,並向下延伸八大應用場景,包括海地星空、智慧製造、智慧醫療、智慧交通、數位娛樂、運動科技、資通安全及創新永續。

除了根據產業趨勢擬定徵選主題,中華電信也擴大去年新設的「特別獎」機制,期以「AI 創新特別獎」與「海地星空特別獎」,鼓勵更多新創團隊投入 AI 應用與新世代通訊網路創新。

從歷屆加速器輔導成果來看,除了有不少團隊與中華電信展開業務協作,還有超過 10 家新創入圍台灣各類 AI 大賞與指標性競賽,顯示中華電信所遴選的新創團隊,確實具備相當高的市場潛力與技術能量。也因此,中華電信今年持續辦理 AI 創新特別獎,為新創提供更多資源與支持,加快其商業落地與市場拓展的腳步。

由於台灣新創的創業主題日趨多元化,除了 AI 應用外,也有越來越多團隊開始投入通訊、網路與數位基礎建設相關領域,對此,中華電信特別設立「海地星空特別獎」新獎項,鼓勵更多新創投入發展創新網路應用,尤其在防災、救災、智慧城市與公共服務等面向,希望以中華電信的韌性網路架構為基礎,結合新創的創新應用模式,為民眾帶來更美好、便利的生活體驗,共同厚植整體社會與國家的數位韌性。

中華電信加速器8大徵件主題
中華電信加速器8大徵件主題
圖/ 中華電信5G加速器

不只拚 AI,更提前布局 6G!中華電信新增「海地星空特別獎」

這項新設立的「海地星空特別獎」,背後其實也呼應中華電信近年持續推動的「海地星空」戰略布局。考量到全球地緣政治風險升高、極端氣候頻繁,加上台灣本身位處地震與天然災害頻繁地區,因此中華電信近幾年積極投入發展海纜、光纖與行動通訊、微波及衛星通訊,打造互為備援、多層次的韌性網路。

這樣的戰略不僅為了回應當前需求,更能替未來 6G 時代提前打下基礎。中華電信以 AI、衛星與多層次網路技術為核心,再透過5G加速器平台與今年新增的「海地星空特別獎」,發掘具潛力的新創團隊與創新應用,讓技術在發展初期就能進入實際場域驗證與商業化探索,並協助串聯產業需求與市場機會,發揮5G加速器作為創新技術落地平台的價值。

對於正在尋找場域驗證、企業合作與市場機會的新創團隊而言,「2026 第八屆中華電信 5G 加速器」不只是一次競賽,更可能成為下一階段成長的重要起點。只要與海地星空、智慧製造、智慧醫療、智慧交通、數位娛樂、運動科技、資通安全及創新永續八大應用場景相關的新創,皆可踴躍報名,與中華電信一同搶進 AI 與數位韌性時代的新商機。

>>2026 第八屆中華電信 5G 加速器

>>立即報名

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
代理式商務連動百兆商機
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓