人工智慧的極限:那些刪不完的網路仇恨言論
人工智慧的極限:那些刪不完的網路仇恨言論

Facebook非常擅長移除平台上的色情、暴力、犯罪等內容,社群巨頭在今天公布了《年度透明度報告》(Facebook Transparency Report),詳細列出各種違反社群準則內容被移除的比例,但詳細觀察後會發現,「仇恨言論」被移除的比例相當低,難不成是世界和平,大家都口說好話不再攻擊彼此了嗎?不,這背後其實跟人工智慧(AI)系統的能力極限有關,究竟為什麼在AI下圍棋能夠贏人類、AI機器人都能獲得公民權的現在,仍趕不上仇恨言論增生的速度呢?

Facebook公布年度透明度報告,仇恨言論移除比例最低

在外界紛紛期待Facebook拿出魄力整頓平台上仇恨內容的態勢下,Facebook大幅提高了今年(2018)內容審查團隊的預算,預計在今年底前聘用一萬名審查人員。

在今天公布《年度透明度報告》(Facebook Transparency Report)多達86頁的報告中,Facebook今年第一季共刪除了5.83億個假帳號、8 億 6,580 萬則貼文,報告中Facebook將這些內容分為六大類,從數字上來看,系統主動清除暴力內容比例是86%、色情內容96%、垃圾內容比例更是高達100%,令人意外的是,仇恨言論比例只有38%,是所有類別中最低的。

Facebook
仇恨言論方面,科技技術上仍無法運作順暢,仍需透過人工審查團隊協助。第一季成功移除了250萬則仇恨言論貼文,其中38%仇恨言論是由我們的科技揪出。

歧視用語使用情境不同,仇恨言論難判斷

但這其實不能完全責怪Facebook,原因是目前人工智慧(AI)對於仇恨言論定義的理解仍不夠深刻。

舉例來說,歧視性用語在某些情況下也會用於戲謔、自我解嘲等目的,而這些用語大多只在特定的語境中(包括個人主觀因素、地域差異、時代差異影響)才會產生歧視性的意義,所以並沒有明確的標準可以判定某一種用語是否為歧視語,人類對於「貶義、侵略性的內容」判定是很主觀的,甚至因人而異,不要說機器,甚至連人類自己來判斷可能都沒一個準確的標準。

Facebook 產品管理副總裁羅森(Guy Rosen)就點出其中的困難處:

像是AI這類的科技,要準確地判斷所有有害內容還有一段路要走,舉例來說,AI 還沒有足夠的能力,去辨識一個人是在散布仇恨,或是只是單純描述自身被傷害的經驗,這可能會衍伸出一些問題。

Facebook
沒有明確的標準可以判定某一種用語是否為歧視語,人類對於「貶義、侵略性的內容」判定是很主觀的,甚至因人而異。
圖/ shutterstock

除了用詞本身,使用的情境也是一大關鍵,假設有一個用戶,只是單純發文講述他被當眾羞辱的經驗,在描述的文字中,引用包含仇恨內容的原句,那麼這樣的貼文算不算仇恨言論內容?應不應該被強制移除?身為人類的我們都能同意這樣的內容不算數,但AI又該如何去理解這兩者之間的細微差別呢?

另外,從文化面來說,有些字眼也許在某些文化中是貶抑,但在另一種文化中卻沒有這個意思,又或者是同形異義,這些又該如何讓AI理解呢?

佐克伯樂觀看待,5到10年內開發新AI工具

如同佐克伯今天自己在貼文中所說的:「我今年的首要任務是要讓人們感到安全。」為了將傷害降到最低,即使在擁有大量科技資源的Facebook,仍傾向使用人工審查來把關內容。

在今年剛剛落幕的開發者大會F8上Facebook也談到,「要完全理解人類的語境,還是需要透過人類的雙眼,我們的團隊會親自審查,確定它是沒問題的。」

Mark Zuckerberg
佐克伯表示,未來5至10年內,Facebook可以開發出能夠精準理解語意上細微差異的AI工具。
圖/ 螢幕截圖

佐克伯自己也在聽證會上表示,他相信在未來5到10年內,Facebook可以開發出能夠精準理解語意上細微差異的人工智慧工具,將能更準確標記出仇恨言論,對這樣的未來相當樂觀。

關鍵字: #馬克·祖克柏
往下滑看下一篇文章
永豐「DAWHO × 大戶投」銀證整合 ,三大策略啟動生活金融新時代
永豐「DAWHO × 大戶投」銀證整合 ,三大策略啟動生活金融新時代

數位金融競爭白熱化,永豐不光只是比利率與回饋,今(2026)年開始從「使用者需求」重新定義服務。永豐銀數位帳戶DAWHO推出上市即引發話題,第3年達成損益兩平、第4年開始獲利,至2025年9月底戶數突破211萬。永豐金證券則以自建交易平台「大戶投APP」累積近百萬次下載量,持續深耕投資科技。如今,永豐透過「DAWHO × 大戶投」銀證整合,正在以三大策略打造一站式生活金融體驗,要陪伴客戶從儲蓄、消費到投資、走出一條屬於客戶的財富成長路徑。

數位帳戶不是新服務,當多數銀行仍將焦點放在利率、回饋與開戶規模,永豐選擇從使用者需求出發,重新思考、設計與推出數位金融服務,讓 DAWHO 得以在高度同質化的市場中後發先至,持續推出貼近實際生活場景的數位金融服務體驗。

永豐銀行副總經理暨數位金融處處長嚴國瑞表示:「我們從一開始就設定清楚目標,要用DAWHO(Digital Account With Happiness Openness)打破只有高資產客戶才能享有完整金融服務的既定印象,讓年輕世代也可以享受『豐裕快樂』且備受尊重的金融服務。」隨著客戶年齡與資產結構逐步轉變,永豐將透過 DAWHO 數位生態圈以更細緻的服務滿足 25 至 40 歲亨利族(HENRYs;High Earner, Not Rich Yet)的需求,引領客戶逐步將資產放大。

20251210-62.jpg
永豐銀行副總經理暨數位金融處處長嚴國瑞
圖/ 數位時代

開戶到投資一站完成,永豐「DAWHO × 大戶投」銀證整合推進生活金融

永豐整合銀行與證券帳戶,推出「DAWHO × 大戶投」,讓客戶可以在線上一次完成新臺幣、外幣、信託,以及國內證券與複委託帳戶的開立,省去重複填寫資料、跨機構審核、多次等待的時間,將過往分散、繁瑣的流程,整合為直覺、便利的一站式體驗。「銀證整合」下,在銀行DAWHO APP可輕鬆查看證券台股與複委託庫存,一眼掌握銀證投資分布;在證券大戶投APP,也可以清楚查看銀行餘額與近14日明細,評估交割金額是否足夠,免去切換平台的煩惱。

透過「DAWHO × 大戶投」的持續優化,串聯起儲蓄、消費、投資正三角的美好生活。為了實踐 DAWHO 願景,永豐的第二步是把儲蓄、消費、投資串成一個正三角的生活金融服務。客戶可以將刷卡回饋直接存入DAWHO 數位帳戶,再透過大戶投進行投資,讓日常消費自然銜接到長期理財,把最直覺的刷卡回饋變成「有紀律的資產累積」。

永豐金證券副總經理暨數位金融處處長劉柏甫表示:「我們希望讓投資成為生活的一部分,而不是高門檻的專業行為。」因此,團隊不僅提供貼近日常、低門檻的理財商品,也將證券交易工具「大戶投APP」,打造成引導新手投資人建立投資觀念的平台。

例如投資新手容易入門的股票申購,於今年重磅推出的「智慧申購」功能,使用者只要透過「大戶投APP」預先設定申購條件,並於交割帳戶內保留足額圈存款項,系統便會在符合條件時,自動代為執行新股抽籤,功能可連續運作達三個月不中斷,助投資人參與新股市場更便捷、更高效,不再錯過申購良機。

20251210-69.jpg
永豐金證券副總經理暨數位金融處處長劉柏甫
圖/ 數位時代

讓投資科技賦能 永豐「DAWHO × 大戶投」以創新服務擴大普惠金融

第三步是透過智慧化技術提供客戶所需的普惠金融服務、持續完善永豐 DAWHO 數位金融生態圈。例如,永豐銀行於 2019年推出智能理財服務「永豐 ibrAin」,打破傳統複委託大額投資的限制、讓年輕族群與小資族可以低門檻(新臺幣1,000元起)、高度自動化的方式進行全球 ETF 定期定額投資,降低參與全球資產配置的門檻。另一方面,若投資人已擁有自己喜好的投資標的,則可以利用永豐金證券存股平台,除了享低門檻定期定額申購服務,也提供業界首創的「美股股利再投入」自動化服務。

「2025 年初獲金管會核准上線的『股票禮品卡』服務,也是響應普惠金融而生的全台獨創應用。」劉柏甫指出,團隊觀察到愈來愈多民眾希望以金融商品取代現金紅包,在滿月、年節或畢業等重要時刻傳遞祝福外,還能多賦予傳承財富累積的價值觀,因此推出百元面額、人人可負擔的股票禮品卡,讓投資成為日常送禮的選項。
值得特別一提的是,股票禮品卡不僅僅是一張「卡片」,而是可以直接導向投資行動,可用來扣抵存股平台購買股票的手續費、與證券交割款,將「送禮」轉換成「啟動投資」的第一步。

分群經營深度留客 陪伴客戶累積長期財富

從銀證整合、生活金融到智慧化服務,永豐銀行與永豐金證券的核心目標,始終是陪伴客戶,讓客戶可以隨著使用的時間增加,逐步放大財富成為「大戶」;也因此,2026 年永豐DAWHO在既有「大大」與「大戶」分級之外,新增「大戶 Plus」等級,回應資產成長型客戶的進階需求。

嚴國瑞副總經理表示,平均財富達百萬元,且單筆換匯新臺幣五仟元以上,或以DAWHO綁定為永豐金證券交割戶,買入一筆證券台股現貨交易成交(含豐存股)的客戶,即可成為「大戶 Plus」,享每月跨行提款或轉帳共30 次免手續費禮遇、DAWHO 現金回饋信用卡消費最高 6% 現金回饋等優惠,同時還享有訂閱制知識學習平台—豐學 Prime 2.0 30天的免費體驗,以基礎的投資觀念、理財小技巧等實用理財知識,協助投資人強化基礎理財觀念與風險管理能力。

20251210-98.jpg
圖/ 數位時代

展望未來,永豐銀行與永豐金證券除持續深化既有服務外,將持續舉辦DAWHO × 大戶投相關活動,DAWHO APP也將推出外幣新功能,及導入更多個人化智慧服務,藉此降低資訊落差、強化金融教育,打造能真正提升大眾財務韌性的整合式數位金融平台。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
2026 大重啟
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓