人工智慧的極限:那些刪不完的網路仇恨言論
人工智慧的極限:那些刪不完的網路仇恨言論

Facebook非常擅長移除平台上的色情、暴力、犯罪等內容,社群巨頭在今天公布了《年度透明度報告》(Facebook Transparency Report),詳細列出各種違反社群準則內容被移除的比例,但詳細觀察後會發現,「仇恨言論」被移除的比例相當低,難不成是世界和平,大家都口說好話不再攻擊彼此了嗎?不,這背後其實跟人工智慧(AI)系統的能力極限有關,究竟為什麼在AI下圍棋能夠贏人類、AI機器人都能獲得公民權的現在,仍趕不上仇恨言論增生的速度呢?

Facebook公布年度透明度報告,仇恨言論移除比例最低

在外界紛紛期待Facebook拿出魄力整頓平台上仇恨內容的態勢下,Facebook大幅提高了今年(2018)內容審查團隊的預算,預計在今年底前聘用一萬名審查人員。

在今天公布《年度透明度報告》(Facebook Transparency Report)多達86頁的報告中,Facebook今年第一季共刪除了5.83億個假帳號、8 億 6,580 萬則貼文,報告中Facebook將這些內容分為六大類,從數字上來看,系統主動清除暴力內容比例是86%、色情內容96%、垃圾內容比例更是高達100%,令人意外的是,仇恨言論比例只有38%,是所有類別中最低的。

Facebook
仇恨言論方面,科技技術上仍無法運作順暢,仍需透過人工審查團隊協助。第一季成功移除了250萬則仇恨言論貼文,其中38%仇恨言論是由我們的科技揪出。

歧視用語使用情境不同,仇恨言論難判斷

但這其實不能完全責怪Facebook,原因是目前人工智慧(AI)對於仇恨言論定義的理解仍不夠深刻。

舉例來說,歧視性用語在某些情況下也會用於戲謔、自我解嘲等目的,而這些用語大多只在特定的語境中(包括個人主觀因素、地域差異、時代差異影響)才會產生歧視性的意義,所以並沒有明確的標準可以判定某一種用語是否為歧視語,人類對於「貶義、侵略性的內容」判定是很主觀的,甚至因人而異,不要說機器,甚至連人類自己來判斷可能都沒一個準確的標準。

Facebook 產品管理副總裁羅森(Guy Rosen)就點出其中的困難處:

像是AI這類的科技,要準確地判斷所有有害內容還有一段路要走,舉例來說,AI 還沒有足夠的能力,去辨識一個人是在散布仇恨,或是只是單純描述自身被傷害的經驗,這可能會衍伸出一些問題。

Facebook
沒有明確的標準可以判定某一種用語是否為歧視語,人類對於「貶義、侵略性的內容」判定是很主觀的,甚至因人而異。
圖/ shutterstock

除了用詞本身,使用的情境也是一大關鍵,假設有一個用戶,只是單純發文講述他被當眾羞辱的經驗,在描述的文字中,引用包含仇恨內容的原句,那麼這樣的貼文算不算仇恨言論內容?應不應該被強制移除?身為人類的我們都能同意這樣的內容不算數,但AI又該如何去理解這兩者之間的細微差別呢?

另外,從文化面來說,有些字眼也許在某些文化中是貶抑,但在另一種文化中卻沒有這個意思,又或者是同形異義,這些又該如何讓AI理解呢?

佐克伯樂觀看待,5到10年內開發新AI工具

如同佐克伯今天自己在貼文中所說的:「我今年的首要任務是要讓人們感到安全。」為了將傷害降到最低,即使在擁有大量科技資源的Facebook,仍傾向使用人工審查來把關內容。

在今年剛剛落幕的開發者大會F8上Facebook也談到,「要完全理解人類的語境,還是需要透過人類的雙眼,我們的團隊會親自審查,確定它是沒問題的。」

Mark Zuckerberg
佐克伯表示,未來5至10年內,Facebook可以開發出能夠精準理解語意上細微差異的AI工具。
圖/ 螢幕截圖

佐克伯自己也在聽證會上表示,他相信在未來5到10年內,Facebook可以開發出能夠精準理解語意上細微差異的人工智慧工具,將能更準確標記出仇恨言論,對這樣的未來相當樂觀。

關鍵字: #馬克·祖克柏
往下滑看下一篇文章
我們不一樣!安排健康檢查前,項目怎麼選?用數據啟動「個人化健康」新趨勢
我們不一樣!安排健康檢查前,項目怎麼選?用數據啟動「個人化健康」新趨勢

健康檢查是守護身體的第一道防線,但面對琳瑯滿目的項目清單,醫療名詞艱澀難懂,多數人往往只能被動接受既有的「固定套餐」。擁有全台超過 3 億筆健康大數據的國泰健康管理,瞄準民眾在安排健康檢查前「健檢項目怎麼選」的痛點,以科技驅動打造智慧化「衡好選」健康規劃系統。這套由國泰研發、提供給大眾與合作醫療機構使用的軟體服務,主打「好懂、好選、好預約」,徹底翻轉傳統模式,讓個人化健康規劃真正達到量身訂做,並且已獲得國家專利。

顛覆傳統制式框架,大數據導航篩選「健康優先級」

國泰健康管理數據智能發展部資深協理郭怡賢直言,傳統安排健康檢查時「一體化套餐」的局限性,他不僅深有感觸,更是親身經歷者。即便具備專業背景,一般人面對健檢項目怎麼選,仍難以摸透其中的「眉角」。

他分享了一段來自內部的真實轉折:公司內部夥伴曾因專業的評估建議,加選了過去從未、也從沒想過要關注的指標,竟因此及時察覺關鍵的身體訊號。這類真實故事不斷上演,讓團隊深刻體認到,若僅依賴固定的框架,極可能漏掉重要的資訊。這些服務經驗與真實痛點,成為決定打破過去選擇框架、將專業「大腦」轉化成數位導航的核心動機。

郭怡賢深刻分析,健康管理的本質是一條嚴謹的價值鏈:由「健康發現」啟動,進而達成「日常落實」的目標。他指出,若前端的「需求篩選」不夠精準,後續所有的行動都將失去支點。傳統模式最大的戰略盲點,在於忽視了個體生理狀況與生活習慣的差異,導致受檢者往往處於資訊被動地位。國泰投入研發『衡好選』系統的核心起心動念,就是要打破僵化的框架,利用數據導航協助每位使用者進行個人化健康規劃,讓選擇從『被動接受』,進化為真正意義上的『個人化規劃』。

過去制式套餐常讓大眾因擔心選錯項目而不安,動輒花上數小時解決疑問。透過這套軟體系統融合大數據與專業經驗,將數百項知識轉化為 24 小時在線的「數位大腦」。這不僅突破了服務量能限制,更確保每位使用者隨時都能獲得「不一樣」的個人化篩選建議。

#1 國泰健康管理
圖/ 國泰健康管理

推動健康白話文運動,讓健康規劃好懂、好選擇

近年來健康服務琳瑯滿目,為什麼國泰可以直擊痛點,大膽提出變革?國泰健康管理成立近 15 年來,累積了超過 3 億筆大數據,這不僅只是數據的累積,更是服務經驗的結晶,以及客戶面對龐雜資訊時常見疑惑的解答。透過成熟的科技,「衡好選」系統應運而生,「我們的核心概念是好懂、好選,一次解決傳統選擇上的兩大痛點。」

「衡好選」系統從每個人的生活背景下手,先透過個人體況及家族病史的簡單問答,了解個人狀態,最後加入十大死因等潛在風險資料。綜合評估後,依據客戶的年齡、性別和地區,推算出專屬的指標關注方向,再從數百項選項中精準排序,為客戶「篩選健康優先級」,使用者也能依據推薦再靈活調整。郭怡賢笑說,「就像數位導航一樣,主動提供客製化的推薦,然後依需求自由配置!」

此外,健康項目的說明往往充滿生硬的醫療用詞,這也是國泰在系統進化中花最多時間調整的部分,「我們稱之為『白話文運動』。」國泰與專業團隊梳理,用簡單卻精準的白話指引,把 300 多個項目一一解釋清楚,讓大眾一看就知道為什麼自己的體況需要關注這項指標。而且透過系統選完方案後,就能直接向合作醫療機構預約,方便即時,打造一條龍的便利體驗。系統內還有即時線上小助手,有任何疑惑都能直接諮詢,宛如多了一個 24 小時在線的專屬服務人員。

#0 國泰健康管理
圖/ 國泰健康管理

全新品牌精神上線,喊出健康新哲學「Happy Habit」

從「衡好選」系統的智慧規劃到數位日常工具的全面支持,國泰健康管理將顛覆傳統健康管理的模式,賦予全新的品牌精神「Happy Habit」 ,訴求健康應是快樂、來自每一天一點的生活累積,用輕鬆簡單的方式 。讓大眾透過精準的健康規劃找到正確的方向 ,並運用每日陪伴的數位健康工具,找到專屬自己的快樂生活方式 。

未來,國泰健康管理除了與醫療機構合作,還會更進一步進化,與不同產業和通路展開深度合作,將健康規劃真正融入到生活場景中 ,透過科技系統的協助,讓人們在飲食與日常作息中,輕鬆找到更適合自身健康的選擇 。藉由攜手不同的跨界夥伴,國泰健康管理致力於為客戶提供完整的全方位解方,「我們想打造的是一個完整的健康生態圈!」

在數據與科技的加持下,國泰健康管理讓健康管理不再只是單次的檢查安排 ,而是轉化為融入生活、隨時陪伴的健康夥伴 ,不僅更加貼近客戶的真實需求,也賦予健康管理嶄新的面貌,為產業開創全新局 。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
代理式商務連動百兆商機
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓