【黑貘來說】 挖掘巨量資料的秘密步驟
【黑貘來說】 挖掘巨量資料的秘密步驟
2013.03.26 | 創業

現在已經有太多的報導說某某公司利用使用者的行為記錄,來算出每一個人的喜好,並且導出商機等等新聞到處可見,但我相信大家看再多次,不是覺得這樣會不會太可怕了?不然就是這好厲害阿!這兩種答案,不然就是兩種都有。

但事實上這件事並不神奇或可怕,會覺得這樣是因為大部份的人不知道怎麼做,或者是說這能夠做甚麼,若是你知道後,發現這跟本只是個套來套去經過計算的結果,甚至在某方面你用手來算都可以,只是不一樣的是人只能處理少量資料,而電腦可以處理巨量資料,當很多事情會有量變產生質變的時候,威力就在此顯現,但這些步驟,說穿了一點都不聰明,甚至還非常的機械化的制式。

當然我不是很好的深入淺出的作者,所以沒辦法寫給大多數的讀者看,而是寫給已經有一點實務經驗的人,尤其是程式設計師或資料庫管理師等工程師,但若沒有這技術背景,我相信做這樣的拆解,可以讓大家從一知半解變成知道個大概,而透過這樣的了解,讓大家有機會去應用是我寫這幾篇的目的。

只是還有一個前提,就是我不會在這邊寫資料探勘的基礎,也就是說,「請先去看本資料探勘的書」,再來看下面幾篇文章吧。

目標:能夠知道某個特定人喜歡甚麼東西,購買每一個商品的機率,或者是說我們該如何推薦商品給他,以及知道他喜歡這商品的原因?

人與商品之間的行為有下面幾種:

  1. 瀏灠
  2. 放入清單
  3. 購買
  4. 評價或評論
  5. 其他

上面每一種行為都有其數量化的差異,有些是一年幾次,幾十次或到幾百次或更多,而每一個行為都可能有個 「權重 (Weight)」,以及時間 (Time) 與次數 (Times) 的屬性,甚至更有可能是一個 Vector (向量) 的指標,例如喜好、觀感等等,無論是可以量化或不能量化,這些都可以成為建立人與商品的「關連」。

所有的資料探勘系統實作都是從這些資料做轉化,甚至是簡化,畢竟可以運算,以及算得出結果才是重點,甚至是能夠算給所有消費者顧客使用才是資料探勘的精隨。

但有趣的事是很多實用的系統都很少是用單一方法去建構出來的,畢竟除了人的行為之外,商品有有幾個屬性:

  1. 商品本質、內容
  2. 商品描述 (meta-data) 與分類
  3. 最後才是商品的使用

在還沒有 Semantic Web 之前, 我們能用的就是商品的使用,也就是我們使用者/消費者與商品/物品之間的關係,而在有了語意網路之後,我們就可以進一步的處理本質 (文化商品) 與描述了,只是在這之前還要有幾個前置作業。

  1. 會自動化新增關鍵字詞的表
  2. 會自動化連結出語意網路的表

這兩個表若是可以扣掉前面「會自動化新增/連結」 的話,我相信很多人都有從很多單位去取得這樣的詞庫與關連庫,但在實務上我們有絕大部份的狀況都是在處理運算最新的商品或議題時,沒有一種機制能夠新增或更新的話,幾乎是不實用的。

只是這新增/更新有時不見得是自動化,因為自動化是件相當困難的事,就我所知有不少在做這項業務的公司單位,用的就是「工人智慧」,而不是人工智慧,但無論如何,有了這兩個表之後,再加上從資料探勘能夠得知的:

  1. 關連分析 (一階, 或高階)
  2. 群落分析 (Clustering)
  3. 時間序列預測

有了上面三個很基本的工具後,可以配合產出很多的可能性:

  1. 最常見的關連購買
  2. 在搜尋結果中做排序
  3. 從分類結果做語意分析產出因子
  4. 有了高階的關連分析可以透過配對做活動
  5. 從銷售預測中作備品或庫存準備
  6. 只要你想得到的

當然上面說得很簡單,好像是三兩天就可以開發出來的東西,但事實上單單一個「會自動化連結出語意網路的表」,我記得當時就弄了兩三個月才弄出來,當然現在再弄一次就只須要兩三天到兩三個星期了,畢竟有經驗跟沒有經驗還是差很多的。

記得我在 5 年多前寫過 Data Mining 是一個須要跟效率挑戰的高度技術的事,但現在的機器已經比 5 年前快 5 倍了,加上資料庫的多樣性,雲端系統的完善,讓寫這樣的系統跟之前簡單不只 5 倍,我在兩個月以前自己從無到有又自己跑一次,以前須要半年的現在只要半個多月就夠了,想想時代還真可怕阿。

所以說,在這樣成熟的時機而言,導入真正的巨量資料探勘已經不是預算的問題,也不是技術的問題,而是心態的問題了,你準備好了嗎?

轉自[黑貘來說](http://gene.speaking.tw/2013/03/blog-post_20.html)
關鍵字: #大數據
往下滑看下一篇文章
晶睿通訊智慧監控護航淡江大橋,全天候守護台灣破記錄地標
晶睿通訊智慧監控護航淡江大橋,全天候守護台灣破記錄地標

台灣近數十年最具指標性的世紀工程

淡江大橋橫跨淡水河口,主橋跨距長達近一公里,為全球跨距最長的不對稱單塔斜張橋。數十年來,老舊的關渡大橋獨自承載著日益龐大的車流,早已讓這條交通動脈不堪重負。

為了紓解交通壅塞,淡江大橋應運而生,通車後縮短約 15 公里路程、節省約 25 分鐘車程。大橋具備快速公路規格,更同時兼容行人、自行車、大眾公車與汽機車等六大多元運具,是串聯新北市與周邊區域的關鍵交通動脈。

為確保如此龐大規模的設施能安全無虞、持續運作,全台首座橋梁專責交控中心應運而生,專責提供 24 小時全線監控。這意味著大橋需要一套高度穩定、視野開闊的智慧影像系統,能清晰涵蓋大橋的全線跨度。

非比尋常:打破常規的嚴苛監控需求

橋梁管理機關需要的不僅是單純的監視設備,而是一套能作為未來整體智慧基礎建設基石的架構;除了支援高階 AI 交通分析,更必須在各營運環節中全面保障公共安全通訊。

無懼嚴苛:全天候穩定可靠

身處毫無遮蔽的海濱出海口,監控設備必須經受極端天候與強風鹽霧考驗,並在夜間低照度環境下,依舊維持高清晰畫質。

全線涵蓋:消除視野盲區死角

監控範圍遠超傳統固定式攝影機的極限,必須確保整座大橋長距離主線均無監控斷層與盲區。

人車共榮:全向守護多元用路人

面對行人、自行車、機車、重機、自小客車及公車同時混流通行的大橋環境,交控中心需要同時掌握各類車流狀況、落實法規遵從,並將人行安全擺在第一位。

#1 晶睿通訊
PTZ 快速球,支援廣域監控。圖片由iDS智慧安防雜誌提供,經授權使用。
圖/ 晶睿通訊

以更精簡設備配置,實現廣域全天候覆蓋

晶睿通訊攜手系統整合商橙力國際,於全橋部署 40 具專業攝影機,結合 AI 影像分析,提升監控效率。

除了搭配晶睿通訊的子彈型攝影機與車牌辨識機種外,全線更以高解析度 PTZ 快速球為主幹,落實廣域全天候監控。極度耐候的機構設計,能從容應對出海口的強烈鹽霧、夏季高溫暴雨及強颱吹襲。

這項重大決策考量的絕非僅是硬體規格。對於具備國家指標意義的重大工程而言,品牌的信任度與商譽,與技術實力同等重要。

晶睿通訊深耕台灣超過 25 年,擁有實力堅強的在地支援團隊,並攜手在地扎根深厚的夥伴。新北市政府與大橋主管機關獲得的不只是一套監控系統,更是投資了一套能伴隨大橋智慧升級、長遠擴充的前瞻平台。

#0 晶睿通訊
規則管理(Rule Management): 可自訂汽車道、機車道及人車共用道等專用分區,並執行方向性的車流/人流計數。
圖/ 晶睿通訊

將監控結果轉化為高價值交通數據

本專案不僅提供全時不間斷的影像監控,更為交控中心注入強大的智慧分析層,能同時支援「即時監看告警」與「事後回溯分析」。

人車流量即時分析與告警機制:交控中心可彈性設定橋面各處的流量自訂門檻(Threshold)。一旦人車流量超標,系統便會主動通報,讓管理人員精準應變處理。

即時偵測與歷史影像事後回溯:分析區域與事件規則既可預先設定以落實常態監控,亦能事後針對特定路段及時段的歷史錄影直接套用新規則重新檢索分析,省去反覆調閱畫面的繁瑣流程。

多元車種精準分類與行人計數:系統能精準辨識並分類統計汽車、大卡車、公車、機車與自行車等各型車輛;在行人計數方面,亦能有效區隔人行道上的「純步行路人」與「牽車/騎乘騎士」,避免數據重複誤判。

智慧交通決策應用、車牌辨識(LPR)與報表匯出:透過跨時段流量趨勢分析,可為交控號誌的時制最佳化提供精確決策依據;系統同步整合高精度車牌辨識(LPR),且後端所有數據皆支援匯出一鍵產製 CSV 報表,大幅簡化管理歸納流程。

#3 晶睿通訊
場景報告(Scene Report): 依車種進行車輛計數與分類,並可一鍵匯出 CSV 格式報表。
圖/ 晶睿通訊

全天候不間斷的清晰視野

大橋專責交控中心現已具備最關鍵的管理能力:無論晝夜氣候,全線通行廊道皆能保持清晰視野與全時監控。強大的 AI 智慧分析能為管理單位提供即時、可靠的影像與數據佐證,全面支援交通調度、車道使用規範落實,以及違規事件的研判與舉發。

大幅精簡設備數量

若想以傳統固定式攝影機涵蓋相同監控範圍,所需的設備數量將大幅增加;相較之下,PTZ 解決方案不僅更具成本效益,也是大型基礎建設兼顧實用性與營運效率的最佳選擇。

此專案不僅滿足當前的監控需求,更奠定了邁向整體智慧基礎建設的架構基石。隨著未來需求逐步升級擴充,淡江大橋將成為運用 AI 智慧影像打造更安全、更高效公共工程的標竿示範。

建置效益重點

AI 智慧交通分析:支援車流量分析、門檻超標警示、車種分類辨識、行人計數與車牌辨識(LPR),並可對歷史影像進行事後回溯分析;各項數據皆能匯出產製統計報表。

即時就緒:在大橋正式通車前即已建置完備,提供不間斷的監控能力,確保自啟用首日起,監管機制即全方位到位。

全線廊道零死角覆蓋:針對全線通行路廊提供 24/7 全天候視野;即使面對毫無遮蔽、天候嚴苛的近海強風鹽霧環境,依然能提供日夜穩定可靠的監控品質。

大規模建置具高成本效益:透過高階 PTZ 攝影機實現大範圍涵蓋,所需台數遠少於傳統固定式配置;在確保頂級監控品質的同時,大幅精簡施工立桿、配線等基礎設施需求。

高度公共建設投資價值:全面滿足專案嚴苛的技術規格,並在「成本預算」、「視野涵蓋」與「整體效能」之間取得最佳平衡。

充滿前瞻性的可擴充平台:建立具前瞻性的彈性擴充平台;隨日後營運需求演進,可無縫整合子彈型攝影機強化 AI 交通分析,或加入廣播喇叭(IP Speakers)實現公共安全廣播與即時應變。

“作為近年台灣最具指標性的重大工程之一,淡江大橋需要的是能夠長久攜手前行、具備前瞻建構實力的長期合作夥伴。”這正是我們選擇晶睿通訊的關鍵原因。其解決方案完全滿足此等重大建設的核心標準:自啟用首日起,即為全橋提供全方位、多視角的無死角監控;同時提供堅實穩健的智慧運算架構,能伴隨大橋未來的智慧化願景持續演進擴充。 -張橙莉, 執行長,橙力國際

我們守護的,不只是大橋

回歸本質,衡量一座宏偉橋樑真正價值的,始終是它所承載的每一段日常旅程:是在雨夜中奔波通勤的歸人、週末漫步於人行步道的一家大小,或是當天第二十趟行經相同路線的公車運將。晶睿通訊默默守護著每一位用路人,為交控中心賦予全方位的清晰視野與智慧洞察,日夜不輟地守護這座台灣最新地標的安全。

閱讀完整案例
晶睿通訊智慧監控護航淡江大橋,全天候守護台灣破記錄地標

觀看現場專訪, 聽主管機關怎麼說
淡江大橋-智慧橋樑管理中心 x 智慧與維運的全天候智慧監控核心

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
一次搞懂工業AI
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓