【黑貘來說】 挖掘巨量資料的秘密步驟
【黑貘來說】 挖掘巨量資料的秘密步驟
2013.03.26 | 創業

現在已經有太多的報導說某某公司利用使用者的行為記錄,來算出每一個人的喜好,並且導出商機等等新聞到處可見,但我相信大家看再多次,不是覺得這樣會不會太可怕了?不然就是這好厲害阿!這兩種答案,不然就是兩種都有。

但事實上這件事並不神奇或可怕,會覺得這樣是因為大部份的人不知道怎麼做,或者是說這能夠做甚麼,若是你知道後,發現這跟本只是個套來套去經過計算的結果,甚至在某方面你用手來算都可以,只是不一樣的是人只能處理少量資料,而電腦可以處理巨量資料,當很多事情會有量變產生質變的時候,威力就在此顯現,但這些步驟,說穿了一點都不聰明,甚至還非常的機械化的制式。

當然我不是很好的深入淺出的作者,所以沒辦法寫給大多數的讀者看,而是寫給已經有一點實務經驗的人,尤其是程式設計師或資料庫管理師等工程師,但若沒有這技術背景,我相信做這樣的拆解,可以讓大家從一知半解變成知道個大概,而透過這樣的了解,讓大家有機會去應用是我寫這幾篇的目的。

只是還有一個前提,就是我不會在這邊寫資料探勘的基礎,也就是說,「請先去看本資料探勘的書」,再來看下面幾篇文章吧。

目標:能夠知道某個特定人喜歡甚麼東西,購買每一個商品的機率,或者是說我們該如何推薦商品給他,以及知道他喜歡這商品的原因?

人與商品之間的行為有下面幾種:

  1. 瀏灠
  2. 放入清單
  3. 購買
  4. 評價或評論
  5. 其他

上面每一種行為都有其數量化的差異,有些是一年幾次,幾十次或到幾百次或更多,而每一個行為都可能有個 「權重 (Weight)」,以及時間 (Time) 與次數 (Times) 的屬性,甚至更有可能是一個 Vector (向量) 的指標,例如喜好、觀感等等,無論是可以量化或不能量化,這些都可以成為建立人與商品的「關連」。

所有的資料探勘系統實作都是從這些資料做轉化,甚至是簡化,畢竟可以運算,以及算得出結果才是重點,甚至是能夠算給所有消費者顧客使用才是資料探勘的精隨。

但有趣的事是很多實用的系統都很少是用單一方法去建構出來的,畢竟除了人的行為之外,商品有有幾個屬性:

  1. 商品本質、內容
  2. 商品描述 (meta-data) 與分類
  3. 最後才是商品的使用

在還沒有 Semantic Web 之前, 我們能用的就是商品的使用,也就是我們使用者/消費者與商品/物品之間的關係,而在有了語意網路之後,我們就可以進一步的處理本質 (文化商品) 與描述了,只是在這之前還要有幾個前置作業。

  1. 會自動化新增關鍵字詞的表
  2. 會自動化連結出語意網路的表

這兩個表若是可以扣掉前面「會自動化新增/連結」 的話,我相信很多人都有從很多單位去取得這樣的詞庫與關連庫,但在實務上我們有絕大部份的狀況都是在處理運算最新的商品或議題時,沒有一種機制能夠新增或更新的話,幾乎是不實用的。

只是這新增/更新有時不見得是自動化,因為自動化是件相當困難的事,就我所知有不少在做這項業務的公司單位,用的就是「工人智慧」,而不是人工智慧,但無論如何,有了這兩個表之後,再加上從資料探勘能夠得知的:

  1. 關連分析 (一階, 或高階)
  2. 群落分析 (Clustering)
  3. 時間序列預測

有了上面三個很基本的工具後,可以配合產出很多的可能性:

  1. 最常見的關連購買
  2. 在搜尋結果中做排序
  3. 從分類結果做語意分析產出因子
  4. 有了高階的關連分析可以透過配對做活動
  5. 從銷售預測中作備品或庫存準備
  6. 只要你想得到的

當然上面說得很簡單,好像是三兩天就可以開發出來的東西,但事實上單單一個「會自動化連結出語意網路的表」,我記得當時就弄了兩三個月才弄出來,當然現在再弄一次就只須要兩三天到兩三個星期了,畢竟有經驗跟沒有經驗還是差很多的。

記得我在 5 年多前寫過 Data Mining 是一個須要跟效率挑戰的高度技術的事,但現在的機器已經比 5 年前快 5 倍了,加上資料庫的多樣性,雲端系統的完善,讓寫這樣的系統跟之前簡單不只 5 倍,我在兩個月以前自己從無到有又自己跑一次,以前須要半年的現在只要半個多月就夠了,想想時代還真可怕阿。

所以說,在這樣成熟的時機而言,導入真正的巨量資料探勘已經不是預算的問題,也不是技術的問題,而是心態的問題了,你準備好了嗎?

轉自[黑貘來說](http://gene.speaking.tw/2013/03/blog-post_20.html)
關鍵字: #大數據
往下滑看下一篇文章
當跨國匯款成為新日常,國泰世華銀行以使用者為中心,重塑嶄新金流體驗
當跨國匯款成為新日常,國泰世華銀行以使用者為中心,重塑嶄新金流體驗

當海外投資、跨境消費與留學成為日常,跨國匯款流程卻不夠便捷。國泰世華銀行以 CUBE App 小額跨境匯款服務,讓海外投資、跨境消費與留學匯款像日常轉帳一樣簡單。

疫情後,全球人流與金流快速恢復,海外留遊學、海外投資、跨境購物與海外旅遊等需求持續攀升,跨國匯款逐漸成為許多人的日常,然而,國際匯款流程卻幾乎數十年未曾改變:大多必須配合銀行營業時間辦理,款項通常需要等待兩、三個工作天才能到帳,還可能因中間銀行扣費,導致實際收款金額與預期不符。

看見上述市場缺口後,國泰世華銀行深入研究不同族群的跨境匯款情境,重新規劃服務流程、產品功能與系統架構,並透過內部年度創新提案大賽驗證產品概念,獲得高階主管支持,加速產品研發,成功於 2026 年在 CUBE App 推出小額跨境匯款服務。

如何讓跨國匯款像轉帳一樣簡便且安全?從用戶需求出發的改變

過去,講到跨境匯款,多數人的第一直覺是「麻煩」。除了可能需要有外幣帳戶、或事先約定帳號,或需要先完成換匯之外,還必須配合銀行營業時間,匯款完成後通常需要等待兩、三個工作天才能到帳,若碰上週末或假日,更可能因此錯過付款時機;另一方面,傳統 SWIFT 國際匯款還存在中間銀行扣費不透明的問題,匯出金額與收款金額經常出現落差,使用者不僅得反覆估算、多匯甚至補匯,有時還得多花時間跟收款方逐筆對帳,若遇上語言溝通障礙,將直接拉升處理難度,甚至因帳款不足或金額爭議,衍生交易取消、退匯等問題,不僅增加成本,也影響原本的留學繳費、交易或投資安排。

國泰世華 CUBE App
國泰世華銀行 CUBE App 小額跨境匯款可以滿足使用者匯款到美國、日本、英國、香港、新加坡、澳洲、加拿大、泰國等國家與地區的需求。
圖/ 數位時代

為了解決這些痛點,國泰世華銀行重新拆解整個跨境匯款流程,將產品設計回歸用戶需求,使用狀況獲得熱烈迴響:CUBE App 小額跨境匯款服務上線五個月,交易量即成長近五倍。用戶最直接感受到的改變是,整個跨境匯款流程變得更接近日常轉帳。第一,不需要預先開立外幣帳戶,也不用事先完成約定帳號,可直接透過台幣帳戶、以非約定轉帳方式完成跨境匯款;第二,服務支援 24 小時、全年無休,即使深夜或假日,也能快速完成交易。第三,用戶可透過 App 隨時掌握匯款進度,並在匯款過程中清楚看到收款方實際可收到的金額、確保全額到帳,不需要反覆確認款項流向,也降低了中間銀行扣費不透明造成的收款金額不足等困擾,讓繳交海外學費、支付旅遊費用、跨境購物或海外投資,都能更安心、更有效率。CUBE App 小額跨境匯款服務不僅是一項全新的金融服務,而是降低等待成本、操作成本與認知成本的跨境金流體驗,讓跨境金融服務真正融入日常生活。

國泰世華 CUBE App
使用者可透過 CUBE App 即時掌握小額跨境匯款狀態,確保款項全額到付,更便捷且高效的繳交海外學費、支付旅遊費用,以及海外投資跟跨境購物。
圖/ 數位時代

跨境金流創新不僅滿足便利性,24 小時全天候服務仍兼顧安全性,把關風險

要將複雜的跨境金流流程轉化成 App 上的幾次點擊,背後是一場龐大的金融工程。

從市場研究、系統架構設計、產品規畫、開發測試到正式上線,國泰世華不僅攜手國際金融夥伴 VISA,更集結前、中、後台 IT、營運、作業、法遵、法務、風控、稽核、財會等十多個部門共同投入,重新設計外匯作業流程與營運模式,打造兼顧使用體驗、營運效率與風險控管的跨境金融服務。

舉例來說,傳統的銀行外匯服務並非為不間斷運作,為了提供 24 小時全天候服務,團隊努力突破既有作業限制、重新設計相關流程與系統機制,讓交易即使在非人工審核的時段,也能符合風險控管、洗錢防制(AML)及各項合規要求。同時,透過交易限額、多層 AML 機制、交易監控,以及與合作夥伴共同把關等設計,在便利性與安全性之間取得平衡。

除了營運流程,跨境金流還必須因應不同國家的法規與收款規則做調整,為此,國泰世華銀行重新調整系統架構與作業流程,降低使用者填寫匯款資料的門檻,服務上線後,亦持續優化操作介面與使用體驗。

例如,香港收款帳戶需分別填寫分行代碼與帳號,若格式錯誤便可能遭退匯;日本則因法規要求,首次跨境匯款前必須完成 eKYC 驗證,因此,團隊在系統介面加入對應提醒、欄位檢核與流程引導,有效降低因資料填寫錯誤造成的退匯情形,以及減少使用者的操作困擾。

服務推出後,國泰世華銀行觀察到:跨境金流逐漸從低頻金融交易轉變為數位生活的重要環節,應用情境也從支付海外留學費用、海外投資,延伸至跨境旅遊、跨境購物、國際活動報名等更多元的生活場景,因此,除了持續優化系統介面與服務功能,國泰世華也將目光延伸至整體跨境生活體驗,透過內外部資源協作,串聯更多元的跨境生活場景,讓金融服務從「完成一筆匯款」,進一步走向「滿足地球村生活圈需求」,以更便利、安全且貼近使用情境的服務,陪伴用戶自在連結全球,真正融入用戶的每日生活。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
台達電全解讀
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓