【黑貘來說】 挖掘巨量資料的秘密步驟
【黑貘來說】 挖掘巨量資料的秘密步驟
2013.03.26 | 創業

現在已經有太多的報導說某某公司利用使用者的行為記錄,來算出每一個人的喜好,並且導出商機等等新聞到處可見,但我相信大家看再多次,不是覺得這樣會不會太可怕了?不然就是這好厲害阿!這兩種答案,不然就是兩種都有。

但事實上這件事並不神奇或可怕,會覺得這樣是因為大部份的人不知道怎麼做,或者是說這能夠做甚麼,若是你知道後,發現這跟本只是個套來套去經過計算的結果,甚至在某方面你用手來算都可以,只是不一樣的是人只能處理少量資料,而電腦可以處理巨量資料,當很多事情會有量變產生質變的時候,威力就在此顯現,但這些步驟,說穿了一點都不聰明,甚至還非常的機械化的制式。

當然我不是很好的深入淺出的作者,所以沒辦法寫給大多數的讀者看,而是寫給已經有一點實務經驗的人,尤其是程式設計師或資料庫管理師等工程師,但若沒有這技術背景,我相信做這樣的拆解,可以讓大家從一知半解變成知道個大概,而透過這樣的了解,讓大家有機會去應用是我寫這幾篇的目的。

只是還有一個前提,就是我不會在這邊寫資料探勘的基礎,也就是說,「請先去看本資料探勘的書」,再來看下面幾篇文章吧。

目標:能夠知道某個特定人喜歡甚麼東西,購買每一個商品的機率,或者是說我們該如何推薦商品給他,以及知道他喜歡這商品的原因?

人與商品之間的行為有下面幾種:

  1. 瀏灠
  2. 放入清單
  3. 購買
  4. 評價或評論
  5. 其他

上面每一種行為都有其數量化的差異,有些是一年幾次,幾十次或到幾百次或更多,而每一個行為都可能有個 「權重 (Weight)」,以及時間 (Time) 與次數 (Times) 的屬性,甚至更有可能是一個 Vector (向量) 的指標,例如喜好、觀感等等,無論是可以量化或不能量化,這些都可以成為建立人與商品的「關連」。

所有的資料探勘系統實作都是從這些資料做轉化,甚至是簡化,畢竟可以運算,以及算得出結果才是重點,甚至是能夠算給所有消費者顧客使用才是資料探勘的精隨。

但有趣的事是很多實用的系統都很少是用單一方法去建構出來的,畢竟除了人的行為之外,商品有有幾個屬性:

  1. 商品本質、內容
  2. 商品描述 (meta-data) 與分類
  3. 最後才是商品的使用

在還沒有 Semantic Web 之前, 我們能用的就是商品的使用,也就是我們使用者/消費者與商品/物品之間的關係,而在有了語意網路之後,我們就可以進一步的處理本質 (文化商品) 與描述了,只是在這之前還要有幾個前置作業。

  1. 會自動化新增關鍵字詞的表
  2. 會自動化連結出語意網路的表

這兩個表若是可以扣掉前面「會自動化新增/連結」 的話,我相信很多人都有從很多單位去取得這樣的詞庫與關連庫,但在實務上我們有絕大部份的狀況都是在處理運算最新的商品或議題時,沒有一種機制能夠新增或更新的話,幾乎是不實用的。

只是這新增/更新有時不見得是自動化,因為自動化是件相當困難的事,就我所知有不少在做這項業務的公司單位,用的就是「工人智慧」,而不是人工智慧,但無論如何,有了這兩個表之後,再加上從資料探勘能夠得知的:

  1. 關連分析 (一階, 或高階)
  2. 群落分析 (Clustering)
  3. 時間序列預測

有了上面三個很基本的工具後,可以配合產出很多的可能性:

  1. 最常見的關連購買
  2. 在搜尋結果中做排序
  3. 從分類結果做語意分析產出因子
  4. 有了高階的關連分析可以透過配對做活動
  5. 從銷售預測中作備品或庫存準備
  6. 只要你想得到的

當然上面說得很簡單,好像是三兩天就可以開發出來的東西,但事實上單單一個「會自動化連結出語意網路的表」,我記得當時就弄了兩三個月才弄出來,當然現在再弄一次就只須要兩三天到兩三個星期了,畢竟有經驗跟沒有經驗還是差很多的。

記得我在 5 年多前寫過 Data Mining 是一個須要跟效率挑戰的高度技術的事,但現在的機器已經比 5 年前快 5 倍了,加上資料庫的多樣性,雲端系統的完善,讓寫這樣的系統跟之前簡單不只 5 倍,我在兩個月以前自己從無到有又自己跑一次,以前須要半年的現在只要半個多月就夠了,想想時代還真可怕阿。

所以說,在這樣成熟的時機而言,導入真正的巨量資料探勘已經不是預算的問題,也不是技術的問題,而是心態的問題了,你準備好了嗎?

轉自[黑貘來說](http://gene.speaking.tw/2013/03/blog-post_20.html)
關鍵字: #大數據
往下滑看下一篇文章
從企業到政府,圓剛科技以MIT高資安打造頂級影音防線
從企業到政府,圓剛科技以MIT高資安打造頂級影音防線

從企業、政府的遠距會議,到國境通關與高度精準的手術現場,視訊鏡頭、麥克風影像擷取設備在各行各業中無所不在,一場隱形的資安革命也悄然發生。隨著全球地緣政治升溫,供應鏈去風險化浪潮席捲,加上資安事件頻傳,影音設備已不再是單純的硬體周邊,而是接入企業核心網路的通道,任何漏洞都可能成為企業或國家級的資安破口。

這也讓企業和政府採購思維產生根本性轉變,如今不再一味追求便宜,而是要兼具信任、品質與高資安,台灣影音直播設備龍頭圓剛科技,便以 MIT 研發製造,築起乾淨透明的供應鏈高牆,更以「三個 100%」的高品質承諾,成為企業、政府最安全的影音設備後盾。

不打價格戰,以三個 100% 建立透明供應鏈

這股從「價格」走向「信任」的市場轉變,圓剛科技全球品牌行銷處處長蔡柏輝非常有感。他透露,過去企業與政府採購影音設備時,往往以 CP 值為優先考量,以前第一句話問︰「鏡頭解析度多高?價格多便宜?」,現在卻問︰「這台設備的韌體是哪裡寫的?晶片來源乾淨嗎?會不會有資安後門?」「現在採購完全不一樣了,他們更重視產品的信任感和高資安,還有供應鏈是否絕對穩定。」

外界對圓剛的印象,或許還停留在直播主螢幕後、在台灣搶下超過九成市占的影像擷取設備,但事實上,圓剛深厚的影音技術早已延伸至政府、國防、金融、醫療與高科技等產業中。面對市場上的低價競爭,圓剛不打價格戰,而是以「百分百 MIT 研發製造」、「高品質」與「高資安」為訴求,為無數對安全極度敏感的企業與機構,打造可信賴且極致穩定的影音解決方案。

蔡柏輝表示,圓剛堅守「三個 100%」:100% 研發透明、100% 供應鏈可追溯、100% 嚴格品質把關。市面上九成影音品牌都是貼牌採購,但圓剛成立 36 年來,始終堅持在台灣進行產品研發與製造,從來源就建立更透明、更可控的管理機制,嚴格篩選非紅供應鏈,從源頭杜絕潛在的資安後門風險,成為客戶最安心的「台灣優選」品牌。

圓剛科技全球品牌行銷處處長 蔡柏輝
圓剛科技全球品牌行銷處處長 蔡柏輝
圖/ 數位時代

圓剛不僅擁有自己的研發團隊,也建立自主驗證實驗室,產品出廠前必須經過長時間的散熱與壓力測試、靜電防護、電磁相容性驗證等,以車規與工業級標準打磨每一台設備,消除瞬間黑屏或當機風險,確保設備在會議室、指揮中心、教育場域及政府機關等多種環境中,都能長時間穩定運作。

當市場出現新的資安漏洞或作業系統更新帶來的相容性問題,圓剛也能迅速回應,在最短時間內完成韌體修補、測試並推播更新,把客戶的維護成本降到最低。正因為對產品穩定度有著絕對信心,圓剛針對政府及產業應用相關產品,提供最高五年的品質保固保障,這更是其他貼牌廠商完全無法提供的承諾。

工業級高品質表現,滿足企業多元場景需求

正是這份堅持,讓圓剛的影音設備能在眾多要求高資安、高品質的專業場域落地。以國境安全為例,民眾在邊境通關的臉部辨識系統,就是採用圓剛高畫質 4K 視訊鏡頭(PW515),可精準自動對焦,大幅降低光線干擾,提升臉部辨識成功率與通關效率。在查驗包裹與貨物的 X 光機上,也採用圓剛的影像擷取卡(GC571),以零延遲、無壓縮的高清細節,提供最真實的影像,成為邊境防毒防私的第一線眼睛。

圓剛 PW515 可精準自動對焦,大幅降低光線干擾,提升臉部辨識成功率與通關效率。
圓剛 PW515 可精準自動對焦,大幅降低光線干擾,提升臉部辨識成功率與通關效率。
圖/ 數位時代

在國防單位和國家科研機構中,不論是遠距視訊會議,或是戰情傳遞,不少重要會議導入圓剛的視訊鏡頭和智慧降噪會議揚聲器(AS315),避免因藍牙等無線傳輸,在半路被攔截資訊封包,同時滿足通訊清晰、不中斷的需求。

在高階醫療場域,圓剛展現了對影像細節的極致要求。以微血管超音波為例,由於臨床判讀極度依賴影像還原度,些微的色偏或失真都可能影響醫師診斷。圓剛專業級影像擷取器(GC535)透過 4K 解析度與 RGB24 無損色彩還原技術,能將最原始、無壓縮、不偏色的精細畫面傳輸至系統,協助醫師進行精準判讀。考量到醫療設備需長期高強度運作,全機以金屬工藝打造,可高效散熱,確保在任何嚴苛環境下都能運作穩定。

圓剛的高階擷取盒(GC535)支援 4K 高畫質、RGB24 無損色彩還原,協助醫師進行精準判讀。
圓剛的高階擷取盒(GC535)支援 4K 高畫質、RGB24 無損色彩還原,協助醫師進行精準判讀。
圖/ 數位時代

在金融領域,圓剛的 4K 視訊鏡頭也用於銀行的自動開戶機台,滿足金融業嚴苛的遠端身分驗證與銀行級資安防護。而台灣 IC 設計大廠和車用導航大廠,在研發階段檢測 HDMI 影像訊號時,也採用圓剛的擷取設備,進行無壓縮的影像採集,確保出廠時產品品質毫釐不差。

持續深化影音技術,打造極致安全順暢體驗

從合規晶片、台灣製造到硬體無隱藏連網模組,圓剛一層層打造嚴密的資安屏障,「圓剛不只是賣視訊設備的硬體廠商,更是國家級與垂直產業中,最值得信賴的影音安全防線,」蔡柏輝說。

未來這個防護網也將持續進化,讓設備變聰明,但資料不出門。過去要做到智慧降噪、自動對焦追蹤或多畫面切換,常需依賴外部軟體或雲端運算,這對資安敏感的企業來說是極大隱患。未來圓剛的商用擷取卡與視訊鏡頭,將直接在硬體本機上完成所有影像與音訊的智慧處理,無論是消除會議室外的雜音,或是廠務檢測設備時瞬間抓取細節,所有運算都在設備內一秒搞定,蔡柏輝強調︰「一個封包、一張畫面都不需上雲端,這才是政府、企業、金融與國防真正敢用的智慧影音。」

針對現代企業裡的複雜運作環境,可能同時存在不同的作業系統與各類專用機台,圓剛也將持續以「隨插即用」(Plug-and-Play)與極致相容性為核心,讓設備無縫對接產業既有的會議軟體、醫療儀器、銀行櫃員機或軍警戰情室。客戶不需打掉重練,就能輕鬆獲得國家級的影音傳輸品質與資安防護,成為企業各種設備的萬能影音樞紐。

蔡柏輝堅定地說︰「圓剛未來目標非常明確:『讓商用影音導入變得極致順暢,讓資安防護做得滴水不漏。』」當數位轉型邁入資安至上的全新紀元,圓剛將持續以「MIT 信任」、「高資安」、「高品質」三大防護,做全球企業最值得信賴的影音後盾。

圓剛科技將持續深化影音技術,打造極致安全順暢體驗,讓商用影音導入變得極致順暢,讓資安防護做得滴水不漏
圓剛科技將持續深化影音技術,打造極致安全順暢體驗,讓商用影音導入變得極致順暢,讓資安防護做得滴水不漏。
圖/ 數位時代

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
一次搞懂工業AI
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓