人工智慧的極限：那些刪不完的網路仇恨言論|數位時代 BusinessNext

人工智慧的極限：那些刪不完的網路仇恨言論

根據Facebook《年度透明度報告》，仇恨言論被移除的比例相當低，為什麼人工智慧（AI）仍趕不上仇恨言論增生的速度呢？原來跟人工智慧系統的能力極限有關。

Facebook公布年度透明度報告，仇恨言論移除比例最低

在外界紛紛期待Facebook拿出魄力整頓平台上仇恨內容的態勢下，Facebook大幅提高了今年（2018）內容審查團隊的預算，預計在今年底前聘用一萬名審查人員。

在今天公布《年度透明度報告》（Facebook Transparency Report）多達86頁的報告中，Facebook今年第一季共刪除了5.83億個假帳號、8 億 6,580 萬則貼文，報告中Facebook將這些內容分為六大類，從數字上來看，系統主動清除暴力內容比例是86%、色情內容96%、垃圾內容比例更是高達100%，令人意外的是，仇恨言論比例只有38%，是所有類別中最低的。

歧視用語使用情境不同，仇恨言論難判斷

但這其實不能完全責怪Facebook，原因是目前人工智慧（AI）對於仇恨言論定義的理解仍不夠深刻。

舉例來說，歧視性用語在某些情況下也會用於戲謔、自我解嘲等目的，而這些用語大多只在特定的語境中（包括個人主觀因素、地域差異、時代差異影響）才會產生歧視性的意義，所以並沒有明確的標準可以判定某一種用語是否為歧視語，人類對於「貶義、侵略性的內容」判定是很主觀的，甚至因人而異，不要說機器，甚至連人類自己來判斷可能都沒一個準確的標準。

Facebook 產品管理副總裁羅森（Guy Rosen）就點出其中的困難處：

像是AI這類的科技，要準確地判斷所有有害內容還有一段路要走，舉例來說，AI 還沒有足夠的能力，去辨識一個人是在散布仇恨，或是只是單純描述自身被傷害的經驗，這可能會衍伸出一些問題。

除了用詞本身，使用的情境也是一大關鍵，假設有一個用戶，只是單純發文講述他被當眾羞辱的經驗，在描述的文字中，引用包含仇恨內容的原句，那麼這樣的貼文算不算仇恨言論內容？應不應該被強制移除？身為人類的我們都能同意這樣的內容不算數，但AI又該如何去理解這兩者之間的細微差別呢？

另外，從文化面來說，有些字眼也許在某些文化中是貶抑，但在另一種文化中卻沒有這個意思，又或者是同形異義，這些又該如何讓AI理解呢？

佐克伯樂觀看待，5到10年內開發新AI工具

如同佐克伯今天自己在貼文中所說的：「我今年的首要任務是要讓人們感到安全。」為了將傷害降到最低，即使在擁有大量科技資源的Facebook，仍傾向使用人工審查來把關內容。

在今年剛剛落幕的開發者大會F8上Facebook也談到，「要完全理解人類的語境，還是需要透過人類的雙眼，我們的團隊會親自審查，確定它是沒問題的。」

佐克伯自己也在聽證會上表示，他相信在未來5到10年內，Facebook可以開發出能夠精準理解語意上細微差異的人工智慧工具，將能更準確標記出仇恨言論，對這樣的未來相當樂觀。

當許多企業還在討論 AI 能做什麼，富邦人壽更關注：AI 如何被第一線同仁使用？而這也是「理賠智慧助理」能從黑客松發想、走進理賠現場，成為真實工作夥伴的原因。

為什麼富邦人壽會選擇從最複雜、也最不易標準化的環節–理賠–切入、嘗試將AI從「回答問題的工具」轉變成進入核心營運流程的「決策輔助夥伴」？

保險理賠為何難以AI化？答案藏在大量非結構化資訊裡

相較於客服問答或行政流程，理賠工作最大的挑戰在於資訊高度分散且缺乏標準格式：從診斷證明、病理報告、手術紀錄到醫療收據，每份文件不同醫院格式都不同，內容還充滿專業醫療術語；理賠人員不僅必須理解文件內容，還需要同步比對保單條款、法規要求以及醫學知識，才能做出適當判斷。

更複雜的是，就算是相同疾病或手術名稱，不同案件背景也可能導致不同理賠結果，因此，理賠長期被視為高度依賴專業經驗與人工判斷的工作，很難透過傳統自動化工具處理。

近年來，隨著理賠案件量持續增加、醫療技術快速演進，以及新舊世代交替帶來的人才培育壓力，如何兼顧理賠品質、作業效率與知識傳承，成為刻不容緩的議題。

富邦人壽開始思考：如果AI無法取代專業判斷，是否能先協助理賠人員更快掌握資訊、縮短搜尋時間，讓專業人才把時間投入在更高價值的分析與決策工作？這個想法在富邦集團導入微軟Copilot Studio並舉辦黑客松活動後獲得實踐機會，理賠團隊將構想轉化為可驗證的AI提案，並在主管支持與跨部門合作下，於2026年1月正式導入理賠現場。

「黑客松讓我們有機會快速驗證想法，也讓AI應用從概念走向實際場景。」富邦人壽理賠部資深襄理郭乃瑀如是說道。

數位時代為此特別專訪富邦人壽黑客松獲獎團隊「ClaimAIngels」的成員，深入了解這項 AI 專案如何從創新提案一路走進理賠第一線，成為同仁日常工作的決策輔助夥伴。

AI成功落地的關鍵，不只是模型，還有資料與流程重建

從創意發想到實際上線，最大的挑戰不是技術，而是如何讓AI真正符合第一線需求。

富邦人壽理賠部資深襄理林庭樂指出，團隊一開始便深入訪談理賠同仁，發現大家真正需要的並不是AI幫忙做決定，而是協助整理資訊，因此將理賠智慧助理專案聚焦於三大領域：手術等級建議、病理報告判讀輔助，以及國外醫療文件翻譯與摘要，目標是協助同仁降低資料蒐集與查詢時間，讓理賠同仁可以快速掌握案件重點。

但要做到這一步，必須先建立可信任的資料基礎。

由於醫療資料來源眾多且格式不一，團隊投入大量時間整理歷史案件、建立醫療名詞對應關係、標註資料來源與判斷依據，並透過跨部門討論及醫師顧問協作，逐步建立一致的判讀標準。林庭樂表示：「這項工作看似基礎，卻是AI能否提供可靠建議的關鍵，更重要的是，它讓過去散落在資深同仁腦中的經驗知識，逐漸轉化為可被組織保存與運用的數位資產。」

富邦人壽理賠部專員陳子聆便感受到明顯改變。她說：「過去遇到新的手術名稱，往往需要花費一到兩個小時查閱條款、搜尋歷史案例並向資深同仁請教，現在，透過理賠智慧助理協助，資料搜尋時間縮短50%以上，能將更多心力放在案件分析與專業判斷上。」

理賠部理賠審核科資深襄理王羽藍則形容，理賠智慧助理更像是一位隨身秘書。她說：「它會先幫我們整理案件重點，也能提醒是否遺漏重要資訊。無論是判讀國內外醫療文件、核對醫療收據，或分析病理報告內容，都能快速提供參考依據，讓我們把時間投入更重要的專業決策。」

除了資料基礎建設，金融業導入 AI 的另一個關鍵挑戰是風險與合規。

因應金融監理要求以及個資保護需求，團隊在設計理賠智慧助理時建立多層防護機制與使用護欄，並持續優化提示詞設計，以降低AI幻覺、資料外洩與誤判風險，確保AI始終在可控範圍內運作。

不過，對富邦人壽而言，上線並不代表結束，而是優化的開始。

團隊發現，理賠智慧助理初期使用率表現亮眼，但隨著時間推移逐漸下降，為了找出原因，團隊同仁與第一線理賠同仁召開多場討論會議，讓其了解，生成式 AI 並非一次建置完成就能長期發揮效益，必須持續蒐集使用回饋、改善建議，進而調整功能設計。

郭乃瑀表示：「根據同仁回饋，團隊目前正規劃新增實支實付手術給付比例分析等功能，目標是讓AI更貼近實際工作流程、滿足使用者需求。」

從單一專案到組織能力，理賠智慧助理帶來的真正改變

隨著理賠智慧助理逐步成為理賠同仁的日常工作夥伴，其帶來的影響也不再侷限於效率提升，而是開始擴散至組織文化與創新模式的改變。

郭乃瑀表示，過去AI專案多半由資訊部門主導，但這次經驗讓大家發現，真正了解痛點的人其實是第一線同仁，因為只有其最清楚哪些流程最耗時、哪些資訊最難取得，以及哪些環節最適合導入AI。「隨著理賠智慧助理成果逐漸顯現，愈來愈多部門開始主動詢問專案推動經驗，如資料整理、風險控管、流程設計與使用者導入等做法，加速 AI 創新在組織內部的擴散與落地。」

對富邦人壽而言，理賠智慧助理並不只是單一 AI 工具，而是一次工作方式與文化的改變：從第一線提出需求、跨部門共同打造，到持續優化與回饋機制，AI 不再只是科技部門的工具，而逐漸成為工作現場的一部分，也讓數位轉型成為一種持續發生的創新能力。