【黑貘來說】 挖掘巨量資料的秘密步驟
【黑貘來說】 挖掘巨量資料的秘密步驟
2013.03.26 | 創業

現在已經有太多的報導說某某公司利用使用者的行為記錄,來算出每一個人的喜好,並且導出商機等等新聞到處可見,但我相信大家看再多次,不是覺得這樣會不會太可怕了?不然就是這好厲害阿!這兩種答案,不然就是兩種都有。

但事實上這件事並不神奇或可怕,會覺得這樣是因為大部份的人不知道怎麼做,或者是說這能夠做甚麼,若是你知道後,發現這跟本只是個套來套去經過計算的結果,甚至在某方面你用手來算都可以,只是不一樣的是人只能處理少量資料,而電腦可以處理巨量資料,當很多事情會有量變產生質變的時候,威力就在此顯現,但這些步驟,說穿了一點都不聰明,甚至還非常的機械化的制式。

當然我不是很好的深入淺出的作者,所以沒辦法寫給大多數的讀者看,而是寫給已經有一點實務經驗的人,尤其是程式設計師或資料庫管理師等工程師,但若沒有這技術背景,我相信做這樣的拆解,可以讓大家從一知半解變成知道個大概,而透過這樣的了解,讓大家有機會去應用是我寫這幾篇的目的。

只是還有一個前提,就是我不會在這邊寫資料探勘的基礎,也就是說,「請先去看本資料探勘的書」,再來看下面幾篇文章吧。

目標:能夠知道某個特定人喜歡甚麼東西,購買每一個商品的機率,或者是說我們該如何推薦商品給他,以及知道他喜歡這商品的原因?

人與商品之間的行為有下面幾種:

  1. 瀏灠
  2. 放入清單
  3. 購買
  4. 評價或評論
  5. 其他

    上面每一種行為都有其數量化的差異,有些是一年幾次,幾十次或到幾百次或更多,而每一個行為都可能有個 「權重 (Weight)」,以及時間 (Time) 與次數 (Times) 的屬性,甚至更有可能是一個 Vector (向量) 的指標,例如喜好、觀感等等,無論是可以量化或不能量化,這些都可以成為建立人與商品的「關連」。

    所有的資料探勘系統實作都是從這些資料做轉化,甚至是簡化,畢竟可以運算,以及算得出結果才是重點,甚至是能夠算給所有消費者顧客使用才是資料探勘的精隨。

    但有趣的事是很多實用的系統都很少是用單一方法去建構出來的,畢竟除了人的行為之外,商品有有幾個屬性:

  6. 商品本質、內容

  7. 商品描述 (meta-data) 與分類
  8. 最後才是商品的使用

    在還沒有 Semantic Web 之前, 我們能用的就是商品的使用,也就是我們使用者/消費者與商品/物品之間的關係,而在有了語意網路之後,我們就可以進一步的處理本質 (文化商品) 與描述了,只是在這之前還要有幾個前置作業。

  9. 會自動化新增關鍵字詞的表

  10. 會自動化連結出語意網路的表

    這兩個表若是可以扣掉前面「會自動化新增/連結」 的話,我相信很多人都有從很多單位去取得這樣的詞庫與關連庫,但在實務上我們有絕大部份的狀況都是在處理運算最新的商品或議題時,沒有一種機制能夠新增或更新的話,幾乎是不實用的。

    只是這新增/更新有時不見得是自動化,因為自動化是件相當困難的事,就我所知有不少在做這項業務的公司單位,用的就是「工人智慧」,而不是人工智慧,但無論如何,有了這兩個表之後,再加上從資料探勘能夠得知的:

  11. 關連分析 (一階, 或高階)

  12. 群落分析 (Clustering)
  13. 時間序列預測

    有了上面三個很基本的工具後,可以配合產出很多的可能性:

  14. 最常見的關連購買

  15. 在搜尋結果中做排序
  16. 從分類結果做語意分析產出因子
  17. 有了高階的關連分析可以透過配對做活動
  18. 從銷售預測中作備品或庫存準備
  19. 只要你想得到的

    當然上面說得很簡單,好像是三兩天就可以開發出來的東西,但事實上單單一個「會自動化連結出語意網路的表」,我記得當時就弄了兩三個月才弄出來,當然現在再弄一次就只須要兩三天到兩三個星期了,畢竟有經驗跟沒有經驗還是差很多的。

    記得我在 5 年多前寫過 Data Mining 是一個須要跟效率挑戰的高度技術的事,但現在的機器已經比 5 年前快 5 倍了,加上資料庫的多樣性,雲端系統的完善,讓寫這樣的系統跟之前簡單不只 5 倍,我在兩個月以前自己從無到有又自己跑一次,以前須要半年的現在只要半個多月就夠了,想想時代還真可怕阿。

    所以說,在這樣成熟的時機而言,導入真正的巨量資料探勘已經不是預算的問題,也不是技術的問題,而是心態的問題了,你準備好了嗎?

轉自[黑貘來說](http://gene.speaking.tw/2013/03/blog-post_20.html)
關鍵字: #大數據
往下滑看下一篇文章
告別跨海投資焦慮!永豐金「大戶投 APP」美股 2.0 登場,一站式平台解構百萬投資人痛點
告別跨海投資焦慮!永豐金「大戶投 APP」美股 2.0 登場,一站式平台解構百萬投資人痛點

台灣人的投資版圖,正快速向海外市場擴展。

根據券商公會統計,近幾年透過券商複委託參與海外市場的人數與金額皆持續成長,美股更成為多數投資人佈局全球市場的第一站。當投資視野從台股延伸至美股,投資人對交易 APP 的期待也隨之改變:它不再只是下單工具,而是能整合分散資訊、協助解析市場脈動的投資平台。

數位 永豐金證券美股_Stanley-31.jpg
(永豐金證券「大戶投APP」美股2.0全新功能上線)
圖/ 永豐金證券

在此趨勢推動下,券商紛紛進化數位平台功能,如永豐金證券近期便啟動「大戶投 APP」美股 2.0 升級計畫,針對散戶在投資美股時經常面臨的資訊碎片化、操作繁瑣等痛點,設計五項全新功能,希望讓投資人更有效率地掌握海外市場動態。

看得到卻抓不到機會:散戶投資美股的三大痛點全解決

永豐金證券數位金融處副總經理劉柏甫觀察,散戶在進入美股市場時,最常遇到的難題往往不是資訊匱乏,而是「看得到,卻未必抓得到機會」。

在他看來,速度落差、資訊碎片化和決策成本高,是投資人與交易時機擦身而過的 3 大主因:

一、首先是速度落差。美股沒有單日漲跌幅限制且股價波動速度快,倘若報價更新不夠即時,或因時差錯過盤中關鍵行情,投資人很容易錯過最佳進出場時機。二、資訊碎片化。從報價查詢、交易下單、技術線圖分析、到財報資料產業動態,相關資訊往往分散在不同平台,投資人必須在多個平台間頻繁切換,導致進場時機很可能在過程中悄然流失。三、決策成本高,由於美股標的多達上萬檔,在缺乏高效的篩選與分析工具的情況下,投資人往往需要耗費大量時間整理資訊,讓選股過程如同大海撈針。

因此,如何在有限時間內快速整合市場訊號、精準掌握交易節奏,成為散戶在投資美股時的關鍵課題,也是永豐金證券推動「大戶投 APP」美股2.0升級的重要出發點。

劉柏甫說明,「此次改版的核心概念在於一站式整合,透過 5 大創新設計,將原本分散在不同工具中的下單、看盤與線圖分析功能整合在一起,讓投資人無須在多個介面間來回切換,只要在單一平台就能完成從判讀、選股到下單的完整流程。」

亮點1》毫秒級即時報價,解決美股交易「速度落差」

針對美股交易中常見的報價延遲問題,「大戶投 APP」導入毫秒級主動推送報價機制,使投資人能夠更快速掌握盤中價格變化。

過去散戶使用的免費看盤軟體,多半僅能提供延遲約 15 分鐘的報價,當市場在開盤或重大消息發布時出現劇烈波動,投資人往往要等待一段時間,才會在螢幕上看到更新的數字,此時可能已錯過最佳交易時機。如今,透過「大戶投 APP」美股毫秒報價機制,投資人可以即時看到價格變動,在盤中快速做出交易判斷,縮短資訊取得與實際交易之間的時間差。

亮點2》9+23 技術指標,把專業級線圖分析搬進手機

針對投資人判讀股價趨勢的需求,「大戶投 APP」導入 9+23 技術指標模組,使用者在手機上就能看到專業線圖分析,輕鬆解析個股趨勢的底層邏輯。

過去散戶若想進行完整的技術分析,往往需要在電腦上開啟專業軟體,才能查看各類指標,不僅操作繁瑣,也增加分析門檻。如今,「大戶投 APP」透過 9+23 技術指標模組,分別是 MA、布林通道與CDP等9大主圖指標,與KDJ、MACD與乖離率等23項副圖指標,協助投資人快速觀察股價趨勢與動能變化、判斷個股走勢,讓技術分析不再是專業投資人的專利。

數位 永豐金證券美股_Stanley-38.jpg
(永豐金證券「大戶投APP」四大選股策略)
圖/ 永豐金證券

亮點3》四大選股策略,一鍵跨越決策門檻

針對投資人面對龐大美股標的時的選股難題,「大戶投 APP」導入四大策略工具,包含市場熱股快選、基本面首選、趨勢動能選以及專業機構等級的 Barra 量化因子選,加速選股決策流程。

投資人在選股時,往往需要自行查閱公司資料或逐一比對財務與技術指標,不僅耗時,也容易錯過機會。而「大戶投 APP」則善用 AI 力量,將複雜的選股策略簡化為直觀的篩選標籤,從不同面向協助投資人快速篩選標的。例如,從財報獲利挑出體質好的穩健成長股,或是從成交量與價格波動狀況找出市場最火熱的標的,讓原本如同大海撈針的選股過程變得更有效率。

亮點4》全新盤勢儀表板,一眼掌握市場資金流向

針對美股市場資訊龐雜、投資人難以快速掌握當日市場重點的問題,「大戶投 APP」推出美股焦點儀表板,以圖表方式集中呈現多項市場資訊,讓投資人一眼就知道當晚「美股漲什麼」。

過去投資人若想了解當天的市場動態,往往需要在多個網站與平台查詢資料,才能拼湊出整體輪廓。而美股焦點儀表板的產業熱力圖與個股漲跌幅分佈圖,則運用區塊大小與色澤深淺設計,讓投資人可以直觀了解當日市場資金流向哪些產業,輕鬆跟上整體產業輪動趨勢,還能判斷今日大盤是「全面普漲」還是「只漲龍頭股」,有效避開大盤虛紅、持股真綠的陷阱。

亮點5》分析師評級指南針,降低美股研究門檻

針對投資人解讀國際投資機構研究報告的困難,「大戶投 APP」獨家推出分析師評級指南針,整合由美國上市的金融數據與分析服務公司提供的機構級數據。

透過串接全球超過 200 個資料庫,大戶投 APP 提供涵蓋投行分析師與私募市場的權威數據與多元市場觀點的數據資訊,協助投資人降低資訊碎片化帶來的判讀成本。同時,平台亦提供中文版公司背景介紹,讓投資人在交易前能快速掌握企業核心業務與產業定位,並參考國際機構的整體共識,提高投資決策效率。

劉柏甫強調,這賦予了散戶與法人同等的「專業底氣」,協助投資人告別盲目跟單,掌握基本面優勢,更有信心地執行每一筆交易決策。

數位 永豐金證券美股_Stanley-12.jpg
(永豐金證券數位金融處副總經理劉柏甫(前排中)、平台發展部部長莊俊賢(前排左二)、平台發展部副部長黃亮喻(前排右二),與大戶投APP開發團隊合影。)
圖/ 永豐金證券

「大戶投 APP」上線至今吸引超過百萬人下載,背後正是永豐金證券持續投入資源、發展各項數位服務的成果。未來,永豐金證券仍將持續創新「大戶投 APP」功能,並整合金控集團內部資源,不斷提升投資體驗,成為客戶心中值得信賴的「投資第二大腦」。

此外,為降低投資全球市場的門檻,永豐金證券攜手永豐銀行,串聯DAWHO數位外幣帳戶與「大戶投 APP」美股交易,投資人除可享有更順暢的資金調度體驗,亦能搭配銀行端外幣換匯減分或不定期優利方案。投資人僅需一鍵線上申請,即可同步開立新臺幣、外幣、信託、國內證券與複委託等五大帳戶,大幅簡化跨市場投資流程。

即日起至6月30日止新開立永豐金證券帳戶,即可享30天「豐學PRIME 2.0」投資專欄免費試閱體驗;升級永豐銀行大戶Plus加碼再領30天,每月定期定額存台股也能輕鬆達成大戶Plus升等任務,投資人若想體驗在全球市場直覺便利、極致流暢的交易體驗,享受一站式理財的便利性,現在正是申請「永豐DAWHO數位帳戶 X大戶投」帳戶的好時機。(詳情請見官網:https://sinourl.tw/SF98Zh)

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
AI全球100+台灣20
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓