【黑貘來說】 挖掘巨量資料的秘密步驟
【黑貘來說】 挖掘巨量資料的秘密步驟
2013.03.26 | 創業

現在已經有太多的報導說某某公司利用使用者的行為記錄,來算出每一個人的喜好,並且導出商機等等新聞到處可見,但我相信大家看再多次,不是覺得這樣會不會太可怕了?不然就是這好厲害阿!這兩種答案,不然就是兩種都有。

但事實上這件事並不神奇或可怕,會覺得這樣是因為大部份的人不知道怎麼做,或者是說這能夠做甚麼,若是你知道後,發現這跟本只是個套來套去經過計算的結果,甚至在某方面你用手來算都可以,只是不一樣的是人只能處理少量資料,而電腦可以處理巨量資料,當很多事情會有量變產生質變的時候,威力就在此顯現,但這些步驟,說穿了一點都不聰明,甚至還非常的機械化的制式。

當然我不是很好的深入淺出的作者,所以沒辦法寫給大多數的讀者看,而是寫給已經有一點實務經驗的人,尤其是程式設計師或資料庫管理師等工程師,但若沒有這技術背景,我相信做這樣的拆解,可以讓大家從一知半解變成知道個大概,而透過這樣的了解,讓大家有機會去應用是我寫這幾篇的目的。

只是還有一個前提,就是我不會在這邊寫資料探勘的基礎,也就是說,「請先去看本資料探勘的書」,再來看下面幾篇文章吧。

目標:能夠知道某個特定人喜歡甚麼東西,購買每一個商品的機率,或者是說我們該如何推薦商品給他,以及知道他喜歡這商品的原因?

人與商品之間的行為有下面幾種:

  1. 瀏灠
  2. 放入清單
  3. 購買
  4. 評價或評論
  5. 其他

    上面每一種行為都有其數量化的差異,有些是一年幾次,幾十次或到幾百次或更多,而每一個行為都可能有個 「權重 (Weight)」,以及時間 (Time) 與次數 (Times) 的屬性,甚至更有可能是一個 Vector (向量) 的指標,例如喜好、觀感等等,無論是可以量化或不能量化,這些都可以成為建立人與商品的「關連」。

    所有的資料探勘系統實作都是從這些資料做轉化,甚至是簡化,畢竟可以運算,以及算得出結果才是重點,甚至是能夠算給所有消費者顧客使用才是資料探勘的精隨。

    但有趣的事是很多實用的系統都很少是用單一方法去建構出來的,畢竟除了人的行為之外,商品有有幾個屬性:

  6. 商品本質、內容

  7. 商品描述 (meta-data) 與分類
  8. 最後才是商品的使用

    在還沒有 Semantic Web 之前, 我們能用的就是商品的使用,也就是我們使用者/消費者與商品/物品之間的關係,而在有了語意網路之後,我們就可以進一步的處理本質 (文化商品) 與描述了,只是在這之前還要有幾個前置作業。

  9. 會自動化新增關鍵字詞的表

  10. 會自動化連結出語意網路的表

    這兩個表若是可以扣掉前面「會自動化新增/連結」 的話,我相信很多人都有從很多單位去取得這樣的詞庫與關連庫,但在實務上我們有絕大部份的狀況都是在處理運算最新的商品或議題時,沒有一種機制能夠新增或更新的話,幾乎是不實用的。

    只是這新增/更新有時不見得是自動化,因為自動化是件相當困難的事,就我所知有不少在做這項業務的公司單位,用的就是「工人智慧」,而不是人工智慧,但無論如何,有了這兩個表之後,再加上從資料探勘能夠得知的:

  11. 關連分析 (一階, 或高階)

  12. 群落分析 (Clustering)
  13. 時間序列預測

    有了上面三個很基本的工具後,可以配合產出很多的可能性:

  14. 最常見的關連購買

  15. 在搜尋結果中做排序
  16. 從分類結果做語意分析產出因子
  17. 有了高階的關連分析可以透過配對做活動
  18. 從銷售預測中作備品或庫存準備
  19. 只要你想得到的

    當然上面說得很簡單,好像是三兩天就可以開發出來的東西,但事實上單單一個「會自動化連結出語意網路的表」,我記得當時就弄了兩三個月才弄出來,當然現在再弄一次就只須要兩三天到兩三個星期了,畢竟有經驗跟沒有經驗還是差很多的。

    記得我在 5 年多前寫過 Data Mining 是一個須要跟效率挑戰的高度技術的事,但現在的機器已經比 5 年前快 5 倍了,加上資料庫的多樣性,雲端系統的完善,讓寫這樣的系統跟之前簡單不只 5 倍,我在兩個月以前自己從無到有又自己跑一次,以前須要半年的現在只要半個多月就夠了,想想時代還真可怕阿。

    所以說,在這樣成熟的時機而言,導入真正的巨量資料探勘已經不是預算的問題,也不是技術的問題,而是心態的問題了,你準備好了嗎?

轉自[黑貘來說](http://gene.speaking.tw/2013/03/blog-post_20.html)
關鍵字: #大數據
往下滑看下一篇文章
奪下證券界奧斯卡《金彝獎》: 元大證券改寫「行動投資體驗」打造新一代行動下單APP
奪下證券界奧斯卡《金彝獎》: 元大證券改寫「行動投資體驗」打造新一代行動下單APP

元大證券「投資先生 APP」獲第18屆金彝獎肯定,不僅成為市場公認的創新典範,也象徵元大證券已將數位服務從工具升級為支撐「投資人體驗」的數位基礎設施。

在下單APP已成證券業經營「標配」、交易介面越做越像的今天,要在市場上創造競爭力並不容易。 然而,元大證券的投資先生 APP 卻交出一份極具說服力的成績單 ,不僅累計下載突破 560 萬次、月活躍使用者超過 130 萬人,穩坐全台新一代行動下單平台, 在近日剛公佈得獎名單的 「第 18 屆中華民國證券暨期貨金彝獎」中,更一舉奪下「傑出金融創新獎」殊榮

這樣的成績讓人不禁好奇:在人人都有下單APP的時代,它到底如何打造差異化,獲得投資者與評審的肯定?「我們認為,這次得獎的關鍵並不是來自單一功能,而是評審看見了完整而連貫的行動投資體驗」元大證券表示。

投資先生 APP 在2025年全新改版後,成功串起投資旅程的每一個節點,從線上開戶、市場資訊取得、交易下單,到帳務查詢與投後管理,讓使用者可以在單一 APP 裡完成大多數投資決策所需的關鍵流程,減少在不同 APP 之間來回切換的時間與不方便,有更多時間可以去瞭解市場資訊、優化投資組合與投資成效。

從客戶痛點出發的改版藍圖,讓投資旅程更順暢

元大證券指出,投資先生 APP 的改版計畫,源自於團隊多年累積的使用者洞察。 自 2018 年上線以來,元大證券便持續蒐集使用數據與用戶回饋,逐步梳理出投資人在行動投資旅程中常遇到的關鍵痛點。

元大證券
圖/ 元大證券

首先,是過往臨櫃開戶流程繁瑣又花時間。其次,許多投資人同時擁有多項金融資產,每一種資產都有各自對應的 APP,常常要在不同 APP間反覆切換,難以快速掌握整體資產狀況。第三,APP 介面採固定版型,投資人每次都得層層點選才能找到所需資訊,操作體驗難以提升。第四,市場波動快速,但投資人又難以時時刻刻緊盯盤面變化,一個不留意就可能錯過絕佳的進出場時間。最後,在時間有限、資訊繁雜的情況下,許多投資人沒有足夠時間深入研究商品,只能依賴親友建議做決策,投資過程缺乏個人化引導與專業支持。

這些長期困擾投資人的問題,為投資先生 APP 的改版計畫指出了明確方向: 不僅逐一拆解這些痛點,更要串起各個投資節點,打造出一條更順暢的行動投資動線。 正因如此,投資先生 APP 2.0 推出5大創新設計,並依照投資人的實際操作流程,將這些創新整合成更直覺的投資路徑,讓使用者能夠一步接著一步操作,投資流程自然更連貫、順暢。

創新1、一戶五開》讓開戶變快、變簡單、也變更安全

在投資旅程的第一站,元大證券推出「一戶五開」創新服務,整併證券、複委託、財富管理、銀行台幣扣款與外幣扣款5大帳戶的開戶流程,使用者只要一次申請、一次驗證,就可以同步開立這5大帳戶。過程中,亦結合 OCR 與銀行資料共享機制,自動帶入部份資料,讓使用者從原本近 60 個欄位的填寫量,一口氣降低至剩下五分之一,整體開戶時間也縮短至 約 5 分鐘

元大證券強調,「一戶五開」服務不只是把流程變快、為投資者重新定義開戶體驗,更重要的是,同步降低詐騙風險,藉由將身分與資料比對前置化的做法,在開戶端就能攔截高風險樣態的交易,而統一的驗證軌跡也能降低人為錯誤與資料偽造的可能。

創新2、客製化投資首頁》打造個人專屬投資儀表板

完成開戶後,進入日常使用階段,投資先生 APP 推出「客製化投資首頁」的創新設計,以卡片式模組架構,一次整合台股、ETF排行、研究報告、行事曆等16種功能模組,使用者可依照自己的習慣自由增減模組,並透過拖曳方式調整順序,打造個人專屬的投資儀表板 ,讓 APP 不再只是資訊堆疊,而是更貼近每位投資人決策節奏的個人化入口。

元大證券
圖/ 元大證券

創新3、智能貼標》把個人化體驗從介面設計升級到內容推薦

在個人化體驗上,投資先生 APP 不只提供客製化投資首頁,還進一步導入「智能貼標」機制,讓個人化服務從介面配置走向內容推薦。元大證券透過數據分析 自動辨識用戶的投資屬性並建立標籤 ,據此進行個人化訊息推播,提升內容相關性與觸及率。

元大證券
圖/ 元大證券

這項設計的價值在於,它能隨著投資人所在的投資階段動態調整內容,不論是新手需要基礎知識,或是進階投資人關注市場機會,都能收到更對時、對題的資訊。

創新4、智能條件單》不必盯盤也能照策略走

當投資人準備進場時,投資先生 APP 的「智能條件單」便成為策略執行的重要助力。此功能同時支援台股、美股與期貨交易,讓投資人透過自動化條件設定,提高策略落地率並強化風險控管。

目前智能條件單共提供六大應用情境,並支援長達 90 天監控,滿足不同類型投資人的需求,也獲得許多投資人高度肯定。以台股為例,智能條件單至今已累積逾 10 萬名使用者、創造超過新台幣 700 億元的成交金額,顯示 自動化策略工具 已成為越來越多投資人的日常操作利器。

創新5、元大集團資產總覽》14 類資產一次看清

最後,在投資後的資產管理階段,投資先生 APP 運用集團身分識別標準化機制,打造更完整的資產全貌檢視能力,讓投資人能在單一介面一次 總覽多元金融商品

元大證券串接元大金控集團內各子公司共 14 類資產,免去過往跨 APP查詢資訊的麻煩,使用者僅需完成一次身分驗證,即可跨平台查詢證券、銀行、期貨、投信與人壽的資產,至今已寫下每月使用人次逾 2 萬次的好成績。

元大證券
圖/ 元大證券

展望未來,元大證券將持續以「投資體驗先行」作為產品迭代的核心原則,讓既有的服務主軸走得更穩定、更順暢,也更貼近日常使用情境。同時也會持續關注新興技術的發展,於技術成熟且風險可控的前提下謹慎引進,讓數位服務真正成為投資旅程中的穩健助力。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
進擊的機器人
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓