【黑貘來說】 挖掘巨量資料的秘密步驟
【黑貘來說】 挖掘巨量資料的秘密步驟
2013.03.26 | 創業

現在已經有太多的報導說某某公司利用使用者的行為記錄,來算出每一個人的喜好,並且導出商機等等新聞到處可見,但我相信大家看再多次,不是覺得這樣會不會太可怕了?不然就是這好厲害阿!這兩種答案,不然就是兩種都有。

但事實上這件事並不神奇或可怕,會覺得這樣是因為大部份的人不知道怎麼做,或者是說這能夠做甚麼,若是你知道後,發現這跟本只是個套來套去經過計算的結果,甚至在某方面你用手來算都可以,只是不一樣的是人只能處理少量資料,而電腦可以處理巨量資料,當很多事情會有量變產生質變的時候,威力就在此顯現,但這些步驟,說穿了一點都不聰明,甚至還非常的機械化的制式。

當然我不是很好的深入淺出的作者,所以沒辦法寫給大多數的讀者看,而是寫給已經有一點實務經驗的人,尤其是程式設計師或資料庫管理師等工程師,但若沒有這技術背景,我相信做這樣的拆解,可以讓大家從一知半解變成知道個大概,而透過這樣的了解,讓大家有機會去應用是我寫這幾篇的目的。

只是還有一個前提,就是我不會在這邊寫資料探勘的基礎,也就是說,「請先去看本資料探勘的書」,再來看下面幾篇文章吧。

目標:能夠知道某個特定人喜歡甚麼東西,購買每一個商品的機率,或者是說我們該如何推薦商品給他,以及知道他喜歡這商品的原因?

人與商品之間的行為有下面幾種:

  1. 瀏灠
  2. 放入清單
  3. 購買
  4. 評價或評論
  5. 其他

    上面每一種行為都有其數量化的差異,有些是一年幾次,幾十次或到幾百次或更多,而每一個行為都可能有個 「權重 (Weight)」,以及時間 (Time) 與次數 (Times) 的屬性,甚至更有可能是一個 Vector (向量) 的指標,例如喜好、觀感等等,無論是可以量化或不能量化,這些都可以成為建立人與商品的「關連」。

    所有的資料探勘系統實作都是從這些資料做轉化,甚至是簡化,畢竟可以運算,以及算得出結果才是重點,甚至是能夠算給所有消費者顧客使用才是資料探勘的精隨。

    但有趣的事是很多實用的系統都很少是用單一方法去建構出來的,畢竟除了人的行為之外,商品有有幾個屬性:

  6. 商品本質、內容

  7. 商品描述 (meta-data) 與分類
  8. 最後才是商品的使用

    在還沒有 Semantic Web 之前, 我們能用的就是商品的使用,也就是我們使用者/消費者與商品/物品之間的關係,而在有了語意網路之後,我們就可以進一步的處理本質 (文化商品) 與描述了,只是在這之前還要有幾個前置作業。

  9. 會自動化新增關鍵字詞的表

  10. 會自動化連結出語意網路的表

    這兩個表若是可以扣掉前面「會自動化新增/連結」 的話,我相信很多人都有從很多單位去取得這樣的詞庫與關連庫,但在實務上我們有絕大部份的狀況都是在處理運算最新的商品或議題時,沒有一種機制能夠新增或更新的話,幾乎是不實用的。

    只是這新增/更新有時不見得是自動化,因為自動化是件相當困難的事,就我所知有不少在做這項業務的公司單位,用的就是「工人智慧」,而不是人工智慧,但無論如何,有了這兩個表之後,再加上從資料探勘能夠得知的:

  11. 關連分析 (一階, 或高階)

  12. 群落分析 (Clustering)
  13. 時間序列預測

    有了上面三個很基本的工具後,可以配合產出很多的可能性:

  14. 最常見的關連購買

  15. 在搜尋結果中做排序
  16. 從分類結果做語意分析產出因子
  17. 有了高階的關連分析可以透過配對做活動
  18. 從銷售預測中作備品或庫存準備
  19. 只要你想得到的

    當然上面說得很簡單,好像是三兩天就可以開發出來的東西,但事實上單單一個「會自動化連結出語意網路的表」,我記得當時就弄了兩三個月才弄出來,當然現在再弄一次就只須要兩三天到兩三個星期了,畢竟有經驗跟沒有經驗還是差很多的。

    記得我在 5 年多前寫過 Data Mining 是一個須要跟效率挑戰的高度技術的事,但現在的機器已經比 5 年前快 5 倍了,加上資料庫的多樣性,雲端系統的完善,讓寫這樣的系統跟之前簡單不只 5 倍,我在兩個月以前自己從無到有又自己跑一次,以前須要半年的現在只要半個多月就夠了,想想時代還真可怕阿。

    所以說,在這樣成熟的時機而言,導入真正的巨量資料探勘已經不是預算的問題,也不是技術的問題,而是心態的問題了,你準備好了嗎?

轉自[黑貘來說](http://gene.speaking.tw/2013/03/blog-post_20.html)
關鍵字: #大數據
往下滑看下一篇文章
從黑客松到理賠第一線,富邦人壽如何讓 AI 從創新提案變成工作夥伴?
從黑客松到理賠第一線,富邦人壽如何讓 AI 從創新提案變成工作夥伴?

當許多企業還在討論 AI 能做什麼,富邦人壽更關注:AI 如何被第一線同仁使用?而這也是「理賠智慧助理」能從黑客松發想、走進理賠現場,成為真實工作夥伴的原因。

為什麼富邦人壽會選擇從最複雜、也最不易標準化的環節–理賠–切入、嘗試將AI從「回答問題的工具」轉變成進入核心營運流程的「決策輔助夥伴」?

保險理賠為何難以AI化?答案藏在大量非結構化資訊裡

相較於客服問答或行政流程,理賠工作最大的挑戰在於資訊高度分散且缺乏標準格式:從診斷證明、病理報告、手術紀錄到醫療收據,每份文件不同醫院格式都不同,內容還充滿專業醫療術語;理賠人員不僅必須理解文件內容,還需要同步比對保單條款、法規要求以及醫學知識,才能做出適當判斷。

更複雜的是,就算是相同疾病或手術名稱,不同案件背景也可能導致不同理賠結果,因此,理賠長期被視為高度依賴專業經驗與人工判斷的工作,很難透過傳統自動化工具處理。

近年來,隨著理賠案件量持續增加、醫療技術快速演進,以及新舊世代交替帶來的人才培育壓力,如何兼顧理賠品質、作業效率與知識傳承,成為刻不容緩的議題。

富邦人壽開始思考:如果AI無法取代專業判斷,是否能先協助理賠人員更快掌握資訊、縮短搜尋時間,讓專業人才把時間投入在更高價值的分析與決策工作?這個想法在富邦集團導入微軟Copilot Studio並舉辦黑客松活動後獲得實踐機會,理賠團隊將構想轉化為可驗證的AI提案,並在主管支持與跨部門合作下,於2026年1月正式導入理賠現場。

「黑客松讓我們有機會快速驗證想法,也讓AI應用從概念走向實際場景。」富邦人壽理賠部資深襄理郭乃瑀如是說道。

數位時代為此特別專訪富邦人壽黑客松獲獎團隊「ClaimAIngels」的成員,深入了解這項 AI 專案如何從創新提案一路走進理賠第一線,成為同仁日常工作的決策輔助夥伴。

富邦人壽
富邦人壽理賠智慧助理透過黑客松加速落地!數位時代專訪團隊成員郭乃瑀 (左上)、 王羽藍(左下)、陳子聆(右上)、林庭樂(右下),分享過程與收穫。
圖/ 數位時代

AI成功落地的關鍵,不只是模型,還有資料與流程重建

從創意發想到實際上線,最大的挑戰不是技術,而是如何讓AI真正符合第一線需求。

富邦人壽理賠部資深襄理林庭樂指出,團隊一開始便深入訪談理賠同仁,發現大家真正需要的並不是AI幫忙做決定,而是協助整理資訊,因此將理賠智慧助理專案聚焦於三大領域:手術等級建議、病理報告判讀輔助,以及國外醫療文件翻譯與摘要,目標是協助同仁降低資料蒐集與查詢時間,讓理賠同仁可以快速掌握案件重點。

但要做到這一步,必須先建立可信任的資料基礎。

由於醫療資料來源眾多且格式不一,團隊投入大量時間整理歷史案件、建立醫療名詞對應關係、標註資料來源與判斷依據,並透過跨部門討論及醫師顧問協作,逐步建立一致的判讀標準。林庭樂表示:「這項工作看似基礎,卻是AI能否提供可靠建議的關鍵,更重要的是,它讓過去散落在資深同仁腦中的經驗知識,逐漸轉化為可被組織保存與運用的數位資產。」

富邦人壽理賠部專員陳子聆便感受到明顯改變。她說:「過去遇到新的手術名稱,往往需要花費一到兩個小時查閱條款、搜尋歷史案例並向資深同仁請教,現在,透過理賠智慧助理協助,資料搜尋時間縮短50%以上,能將更多心力放在案件分析與專業判斷上。」

理賠部理賠審核科資深襄理王羽藍則形容,理賠智慧助理更像是一位隨身秘書。她說:「它會先幫我們整理案件重點,也能提醒是否遺漏重要資訊。無論是判讀國內外醫療文件、核對醫療收據,或分析病理報告內容,都能快速提供參考依據,讓我們把時間投入更重要的專業決策。」

除了資料基礎建設,金融業導入 AI 的另一個關鍵挑戰是風險與合規。

因應金融監理要求以及個資保護需求,團隊在設計理賠智慧助理時建立多層防護機制與使用護欄,並持續優化提示詞設計,以降低AI幻覺、資料外洩與誤判風險,確保AI始終在可控範圍內運作。

不過,對富邦人壽而言,上線並不代表結束,而是優化的開始。

團隊發現,理賠智慧助理初期使用率表現亮眼,但隨著時間推移逐漸下降,為了找出原因,團隊同仁與第一線理賠同仁召開多場討論會議,讓其了解,生成式 AI 並非一次建置完成就能長期發揮效益,必須持續蒐集使用回饋、改善建議,進而調整功能設計。

郭乃瑀表示:「根據同仁回饋,團隊目前正規劃新增實支實付手術給付比例分析等功能,目標是讓AI更貼近實際工作流程、滿足使用者需求。」

從單一專案到組織能力,理賠智慧助理帶來的真正改變

隨著理賠智慧助理逐步成為理賠同仁的日常工作夥伴,其帶來的影響也不再侷限於效率提升,而是開始擴散至組織文化與創新模式的改變。

郭乃瑀表示,過去AI專案多半由資訊部門主導,但這次經驗讓大家發現,真正了解痛點的人其實是第一線同仁,因為只有其最清楚哪些流程最耗時、哪些資訊最難取得,以及哪些環節最適合導入AI。「隨著理賠智慧助理成果逐漸顯現,愈來愈多部門開始主動詢問專案推動經驗,如資料整理、風險控管、流程設計與使用者導入等做法,加速 AI 創新在組織內部的擴散與落地。」

對富邦人壽而言,理賠智慧助理並不只是單一 AI 工具,而是一次工作方式與文化的改變:從第一線提出需求、跨部門共同打造,到持續優化與回饋機制,AI 不再只是科技部門的工具,而逐漸成為工作現場的一部分,也讓數位轉型成為一種持續發生的創新能力。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
代理式商務連動百兆商機
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓