【黑貘來說】 挖掘巨量資料的秘密步驟
【黑貘來說】 挖掘巨量資料的秘密步驟
2013.03.26 | 創業

現在已經有太多的報導說某某公司利用使用者的行為記錄,來算出每一個人的喜好,並且導出商機等等新聞到處可見,但我相信大家看再多次,不是覺得這樣會不會太可怕了?不然就是這好厲害阿!這兩種答案,不然就是兩種都有。

但事實上這件事並不神奇或可怕,會覺得這樣是因為大部份的人不知道怎麼做,或者是說這能夠做甚麼,若是你知道後,發現這跟本只是個套來套去經過計算的結果,甚至在某方面你用手來算都可以,只是不一樣的是人只能處理少量資料,而電腦可以處理巨量資料,當很多事情會有量變產生質變的時候,威力就在此顯現,但這些步驟,說穿了一點都不聰明,甚至還非常的機械化的制式。

當然我不是很好的深入淺出的作者,所以沒辦法寫給大多數的讀者看,而是寫給已經有一點實務經驗的人,尤其是程式設計師或資料庫管理師等工程師,但若沒有這技術背景,我相信做這樣的拆解,可以讓大家從一知半解變成知道個大概,而透過這樣的了解,讓大家有機會去應用是我寫這幾篇的目的。

只是還有一個前提,就是我不會在這邊寫資料探勘的基礎,也就是說,「請先去看本資料探勘的書」,再來看下面幾篇文章吧。

目標:能夠知道某個特定人喜歡甚麼東西,購買每一個商品的機率,或者是說我們該如何推薦商品給他,以及知道他喜歡這商品的原因?

人與商品之間的行為有下面幾種:

  1. 瀏灠
  2. 放入清單
  3. 購買
  4. 評價或評論
  5. 其他

    上面每一種行為都有其數量化的差異,有些是一年幾次,幾十次或到幾百次或更多,而每一個行為都可能有個 「權重 (Weight)」,以及時間 (Time) 與次數 (Times) 的屬性,甚至更有可能是一個 Vector (向量) 的指標,例如喜好、觀感等等,無論是可以量化或不能量化,這些都可以成為建立人與商品的「關連」。

    所有的資料探勘系統實作都是從這些資料做轉化,甚至是簡化,畢竟可以運算,以及算得出結果才是重點,甚至是能夠算給所有消費者顧客使用才是資料探勘的精隨。

    但有趣的事是很多實用的系統都很少是用單一方法去建構出來的,畢竟除了人的行為之外,商品有有幾個屬性:

  6. 商品本質、內容

  7. 商品描述 (meta-data) 與分類
  8. 最後才是商品的使用

    在還沒有 Semantic Web 之前, 我們能用的就是商品的使用,也就是我們使用者/消費者與商品/物品之間的關係,而在有了語意網路之後,我們就可以進一步的處理本質 (文化商品) 與描述了,只是在這之前還要有幾個前置作業。

  9. 會自動化新增關鍵字詞的表

  10. 會自動化連結出語意網路的表

    這兩個表若是可以扣掉前面「會自動化新增/連結」 的話,我相信很多人都有從很多單位去取得這樣的詞庫與關連庫,但在實務上我們有絕大部份的狀況都是在處理運算最新的商品或議題時,沒有一種機制能夠新增或更新的話,幾乎是不實用的。

    只是這新增/更新有時不見得是自動化,因為自動化是件相當困難的事,就我所知有不少在做這項業務的公司單位,用的就是「工人智慧」,而不是人工智慧,但無論如何,有了這兩個表之後,再加上從資料探勘能夠得知的:

  11. 關連分析 (一階, 或高階)

  12. 群落分析 (Clustering)
  13. 時間序列預測

    有了上面三個很基本的工具後,可以配合產出很多的可能性:

  14. 最常見的關連購買

  15. 在搜尋結果中做排序
  16. 從分類結果做語意分析產出因子
  17. 有了高階的關連分析可以透過配對做活動
  18. 從銷售預測中作備品或庫存準備
  19. 只要你想得到的

    當然上面說得很簡單,好像是三兩天就可以開發出來的東西,但事實上單單一個「會自動化連結出語意網路的表」,我記得當時就弄了兩三個月才弄出來,當然現在再弄一次就只須要兩三天到兩三個星期了,畢竟有經驗跟沒有經驗還是差很多的。

    記得我在 5 年多前寫過 Data Mining 是一個須要跟效率挑戰的高度技術的事,但現在的機器已經比 5 年前快 5 倍了,加上資料庫的多樣性,雲端系統的完善,讓寫這樣的系統跟之前簡單不只 5 倍,我在兩個月以前自己從無到有又自己跑一次,以前須要半年的現在只要半個多月就夠了,想想時代還真可怕阿。

    所以說,在這樣成熟的時機而言,導入真正的巨量資料探勘已經不是預算的問題,也不是技術的問題,而是心態的問題了,你準備好了嗎?

轉自[黑貘來說](http://gene.speaking.tw/2013/03/blog-post_20.html)
關鍵字: #大數據
往下滑看下一篇文章
從地下室到演唱會都不卡!台灣大哥大如何解鎖全場景、有感升級的5G體驗?
從地下室到演唱會都不卡!台灣大哥大如何解鎖全場景、有感升級的5G體驗?

5G開台邁入第五年,戰場早已從「誰有5G」轉向「誰的5G好用」。夜市、演唱會、地鐵、商圈——這些人潮洶湧、訊號最容易卡頓的地方,才是檢驗網路品質的真實考場。要打造真正有感的5G體驗,靠的不是技術名詞,關鍵在於能否把網路資源變成看得見、用得到的流暢速度。

台灣大哥大擁有最大5G黃金頻寬,以及高覆蓋率的NRCA載波聚合領先技術,為網路傳輸佈局暢行無阻的地圖,打通每一個收訊死角,再加上OpenSignal權威認證背書,不僅是技術成績站得住腳,更讓用戶日常生活使用有感提升。

全台獨家最大頻寬100MHz,讓5G跑得快又穩

要解析5G效能優劣,關鍵在於「頻寬」配置。頻寬就像道路的寬度,直接決定數據傳輸的承載容量。頻寬越寬,越能支撐大量用戶同時連線,確保下載、串流、直播等應用維持順暢體驗,避免因流量壅塞導致服務中斷。簡言之,頻寬就是撐起網路用戶體感的關鍵。

台灣大哥大目前在全球主流5G黃金頻段3.5GHz上,獨家取得全台最大100MHz頻寬資源,達到頻譜配置的頂規水準。實測結果顯示,在理想條件下,此頻寬配置可擁有高達2Gbps下載速率。

1216001092_53M.jpg
圖/ shutterstock

同時,台灣大哥大也已在全台超過2,000處熱點完成5G黃金頻段基地台升級。因此即使遇到夜市商圈、大型演唱會、跨年活動等高密度人流聚集場景,當用戶數量暴增、頻寬需求激增時,完整的基礎建設布局仍能確保訊號不中斷、網速不卡頓。

打通收訊死角,體驗有感不只是口號

除了速度與流量,5G還有一項棘手難題——涵蓋死角與訊號穿透力。特別是在室內深處、地下室等場域,即使該處已有5G涵蓋,實際使用仍有可能無法完全避免的卡頓或不穩狀況。

原因在於5G高頻段雖速度快,但穿透力弱,容易因手機功率有限而發生不穩定的情況。對此,台灣大哥大結合700MHz低頻段的穩定性優勢,以互補式的高低頻協作架構,強化訊號深度與廣度。換言之,在戶外大場景跑得快,在室內密閉空間也能收得到。

NRCA自動切換最佳頻段,上網不怕訊號塞車

台灣大哥大的核心技術優勢,還有NRCA(New Radio Carrier Aggregation)載波聚合技術;NRCA讓行動裝置能同時使用多個頻段上網,如同多車道高速公路,讓資料流在不同頻段間靈活切換,兼顧高速率與深度覆蓋率。當某一頻段出現壅塞,系統能自動將資料流量轉至其他頻段傳輸,以提升整體承載效率與傳輸穩定性。

自2021年率先佈建高低頻NRCA,目前已有超過六成基地台支援這項技術,有效壓縮延遲、提升連線穩定度、強化訊號覆蓋與穿透。此外,合併台灣之星後,台灣大哥大更將全球主流5G黃金頻段3.5GHz的60MHz與40MHz頻寬合併,打造業界最大100MHz,為全台唯一同時整合5G高高頻與高低頻NRCA的電信業者,在5G網路體驗與穩定度領先同業,達到頻譜配置的頂規水準。

隨著短影音、直播、雲端工作等即時傳輸需求爆炸成長,用戶對「穩定滑順」的網路依賴不斷提高。台灣大哥大領先的NRCA載波聚合技術,正好回應用戶需求,無論是在捷運上滑臉書,還是在人聲鼎沸的夜市直播吃美食,都能享受多場景流暢切換的優質5G體驗。

2334636029_63M (1).jpg
圖/ shutterstock

優質有感體驗,經國際權威OpenSignal認證

根據國際第三方認證機構OpenSignal於2025年6月公布的行動網路體驗報告,台灣大哥大在「可用率」、「5G影音體驗」與「整體影音體驗」三項用戶有感的指標上獲得第一名。所謂可用率,意指用戶隨時隨地都能連上網路,關鍵時刻訊號不缺席,不論身處室內或移動場景,都能穩定連線不中斷;同時,良好的影音體驗指標,則代表用戶在觀看影片、雲端會議或滑短影音時,能享有畫質流暢、連線穩定、不易中斷的完整體驗。OpenSignal向來以實測數據為依據,其認證結果可視為對 5G 體驗品質的權威背書。

今年第一季,OpenSignal也針對合併電信後的網路表現進行評比。自2023年底台灣大哥大與台灣之星完成合併後,其在涵蓋體驗的評分顯著提升,並在品質一致性指標上維持82~84%的穩定水準。相較其他合併案例,台灣大哥大是體驗提升幅度最大、整體穩定性維持最佳的合併業者,顯見其網路品質、營運韌性與整合效率。

5G技術是否能成為使用者真正信賴的基礎,關鍵在於能否在生活場景中「被感受到」。台灣大哥大以完整的頻寬資源、彈性技術架構與佈建策略,從速度到穩定、從戶外到室內,打造順暢5G體驗,可期待在這場長期5G競賽中,成為用戶最仰賴的行動網路選擇。

有關更多相關資訊,請查詢網站:https://www.taiwanmobile.com/content/event/nrca/index.html

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
電商終局戰
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓