人工智慧的極限:那些刪不完的網路仇恨言論
人工智慧的極限:那些刪不完的網路仇恨言論

Facebook非常擅長移除平台上的色情、暴力、犯罪等內容,社群巨頭在今天公布了《年度透明度報告》(Facebook Transparency Report),詳細列出各種違反社群準則內容被移除的比例,但詳細觀察後會發現,「仇恨言論」被移除的比例相當低,難不成是世界和平,大家都口說好話不再攻擊彼此了嗎?不,這背後其實跟人工智慧(AI)系統的能力極限有關,究竟為什麼在AI下圍棋能夠贏人類、AI機器人都能獲得公民權的現在,仍趕不上仇恨言論增生的速度呢?

Facebook公布年度透明度報告,仇恨言論移除比例最低

在外界紛紛期待Facebook拿出魄力整頓平台上仇恨內容的態勢下,Facebook大幅提高了今年(2018)內容審查團隊的預算,預計在今年底前聘用一萬名審查人員。

在今天公布《年度透明度報告》(Facebook Transparency Report)多達86頁的報告中,Facebook今年第一季共刪除了5.83億個假帳號、8 億 6,580 萬則貼文,報告中Facebook將這些內容分為六大類,從數字上來看,系統主動清除暴力內容比例是86%、色情內容96%、垃圾內容比例更是高達100%,令人意外的是,仇恨言論比例只有38%,是所有類別中最低的。

Facebook
仇恨言論方面,科技技術上仍無法運作順暢,仍需透過人工審查團隊協助。第一季成功移除了250萬則仇恨言論貼文,其中38%仇恨言論是由我們的科技揪出。

歧視用語使用情境不同,仇恨言論難判斷

但這其實不能完全責怪Facebook,原因是目前人工智慧(AI)對於仇恨言論定義的理解仍不夠深刻。

舉例來說,歧視性用語在某些情況下也會用於戲謔、自我解嘲等目的,而這些用語大多只在特定的語境中(包括個人主觀因素、地域差異、時代差異影響)才會產生歧視性的意義,所以並沒有明確的標準可以判定某一種用語是否為歧視語,人類對於「貶義、侵略性的內容」判定是很主觀的,甚至因人而異,不要說機器,甚至連人類自己來判斷可能都沒一個準確的標準。

Facebook 產品管理副總裁羅森(Guy Rosen)就點出其中的困難處:

像是AI這類的科技,要準確地判斷所有有害內容還有一段路要走,舉例來說,AI 還沒有足夠的能力,去辨識一個人是在散布仇恨,或是只是單純描述自身被傷害的經驗,這可能會衍伸出一些問題。

Facebook
沒有明確的標準可以判定某一種用語是否為歧視語,人類對於「貶義、侵略性的內容」判定是很主觀的,甚至因人而異。
圖/ shutterstock

除了用詞本身,使用的情境也是一大關鍵,假設有一個用戶,只是單純發文講述他被當眾羞辱的經驗,在描述的文字中,引用包含仇恨內容的原句,那麼這樣的貼文算不算仇恨言論內容?應不應該被強制移除?身為人類的我們都能同意這樣的內容不算數,但AI又該如何去理解這兩者之間的細微差別呢?

另外,從文化面來說,有些字眼也許在某些文化中是貶抑,但在另一種文化中卻沒有這個意思,又或者是同形異義,這些又該如何讓AI理解呢?

佐克伯樂觀看待,5到10年內開發新AI工具

如同佐克伯今天自己在貼文中所說的:「我今年的首要任務是要讓人們感到安全。」為了將傷害降到最低,即使在擁有大量科技資源的Facebook,仍傾向使用人工審查來把關內容。

在今年剛剛落幕的開發者大會F8上Facebook也談到,「要完全理解人類的語境,還是需要透過人類的雙眼,我們的團隊會親自審查,確定它是沒問題的。」

Mark Zuckerberg
佐克伯表示,未來5至10年內,Facebook可以開發出能夠精準理解語意上細微差異的AI工具。
圖/ 螢幕截圖

佐克伯自己也在聽證會上表示,他相信在未來5到10年內,Facebook可以開發出能夠精準理解語意上細微差異的人工智慧工具,將能更準確標記出仇恨言論,對這樣的未來相當樂觀。

關鍵字: #馬克·祖克柏
往下滑看下一篇文章
當 Agentic AI、碎片化與地緣政治正重塑數位世界,我們該如何重構下一代網路的「數位信任」?
當 Agentic AI、碎片化與地緣政治正重塑數位世界,我們該如何重構下一代網路的「數位信任」?

面對人工智慧(AI)應用的爆發與地緣政治風險的升高,數位環境正迎來「信任」與「韌性」的雙重嚴峻考驗。為了回應這些挑戰,財團法人台灣網路資訊中心(TWNIC)舉辦首屆「 Internet Week 2026(網路週)」,大會串聯數位發展部(moda)、國家通訊傳播委員會(NCC)、亞太網路資訊中心(APNIC)、網際網路名稱與號碼分配機構(ICANN)、臺灣網路治理論壇(TWIGF)及台灣網路維運社群(TWNOG)等國內外指標社群與國際組織,整合多個重要論壇並展開 4 天共 66 場主題議程。

Internet Week 2026 希望透過公、私部門、國際組織與技術社群的跨界溝通,讓政府、私人企業、國際組織、技術社群與公民團體力量在同一個平台上對話。大會不僅期盼建立一個開放、中立且多元的對話空間,更致力於帶動信任的溝通,藉此強化台灣在國際網路治理舞台的實質影響力與能見度,共築具備數位韌性與信任的未來。

身分識別不等於信任,碎片化才是真正危機

「身分識別(Identity)並不等於信任(Trust)。」Edgemoor 研究中心執行長 Steve Crocker 在會後專訪中,拋出這句耐人尋味的觀察。

身為 ARPANET 時代的重要參與者,他見證網際網路從學術研究網路,逐漸演變為全球最重要的數位基礎設施。然而,在地緣政治與各國法規分歧的今天,他認為網際網路正面臨前所未有的碎片化挑戰。「在價值觀、法規與司法管轄權都不同的情況下,我們如何依然維持全球的互通與信任?」Crocker 點出了他的觀察。他指出,未來的數位治理不可能再依賴單一規則或中央權威,而是必須建立在全球共用框架與在地化決策並存的架構上。

技術機制能全球互通,但各國仍應保有政策調整的空間。這樣的治理思維,也體現在 Crocker 近年推動的「 Project Jake 」計畫。隨著歐盟「一般資料保護規則」(General Data Protection Regulation,GDPR)等隱私法規上路,過去廣泛用於網路犯罪調查的 Whois 網域註冊資料系統,已陷入隱私與公共利益的兩難。Project Jake 則嘗試建立新的跨境資料存取機制,而 TWNIC 更是全球首個主動參與試點的機構。值得注意的是,面對近年區塊鏈與替代性網域名稱系統(Alternative DNS)興起的聲浪,Crocker 直言這往往是為不存在的問題,提供昂貴的解方。

他強調,網際網路真正的韌性來自長年建立的「分散式協作」與「相互依存」。「網際網路從來不是中央控制系統,而是一個 network of networks。」在他看來,與其重新建立彼此割裂的替代架構,不如持續深化跨國透明協作與多方治理,才是維持全球網路信任最務實的方式。

Steve Crocker 總裁暨執行長
Edgemoor 研究中心執行長 Steve Crocker
圖/ 數位時代

借鏡歐洲《數位服務法》,用「個人問責」重新定義公共利益

如果 Steve Crocker 談的是「基礎設施的信任」,那麼 Jeremy Godfrey 所關注的,則是平台與 AI 對公共利益的衝擊。Godfrey 直言,當前數位平台最大的問題,並不只是單一內容真假,而是整個商業模式正持續放大社會風險。「數位市場並不一定會自然產生對社會最有利的結果。」

長期管理 Meta、X、TikTok 等跨國平台歐洲監管事務的他指出,當平台以廣告收益與流量作為核心目標時,演算法往往會傾向放大更具爭議性與成癮性的內容,進一步衝擊民主討論、兒少保護與社會信任。Godfrey 強調,當數位治理開始涉及言論自由、人類尊嚴與選舉公平等基本人權時,社會不能再將權利平衡的責任,完全交由商業平台自行決定。這也是歐洲近年積極推動《數位服務法》(Digital Services Act,DSA)的原因。除要求大型平台管控系統性風險外,愛爾蘭也進一步要求平台落實年齡驗證、限制向未成年人推播有害內容,並強化企業內部的「個人問責制」。

不過,在 Godfrey 看來,未來治理不該只是被動「減少傷害」,而是重新思考整體數位生態系。「我們不該在創新與安全之間二選一,而是同時追求兩者。」他認為,當 AI 與平台逐漸成為社會基礎設施的一部分,治理的核心已不再只是技術,而是如何讓「信任、安全、權利保障與經濟價值」彼此共存,重新建立數位社會的公共利益與信任基礎。

不用 AI 不代表更安全,溫水煮青蛙的轉型危機

而當 AI 與平台逐漸成為社會基礎設施的一部分,治理核心將更專注在技術快速演進下,如何重新建立企業、政府與社會的信任能力。「AI 已經從回答問題,進入執行任務(Action)。」行政院經濟發展委員會創新經濟顧問簡立峰指出,當前 AI 已具備規劃與執行能力,正逐步接手知識型工作的核心流程。

這波由代理型 AI(Agentic AI)帶動的變革,首當其衝的正是白領階級;企業接下來面對的不僅是「流程再造」,更是深度的「職能再造」。然而簡立峰也警告,台灣正面臨一場「溫水煮青蛙」的轉型危機。由於國內高端服務業多屬內需市場,企業導入 AI 往往只停留在讓工作變快,卻未真正翻轉核心競爭力做到更聰明。在全球市場,企業已開始不再大量招募初階知識工作者,而是亟需能與 AI 協作、重新定義問題的人才。

「不用 AI 並不能代表更安全。」面對外界對 AI 資安與風險的焦慮,簡立峰提出極具衝擊性的觀點。他以開車為例,車子不開出門固然不會出車禍,但也等於永遠失去移動的能力。真正的數位治理並非全面防堵,而是在實際使用中建立防護。他呼籲,政府必須比以往更積極地導入 AI,「如果政府自己不用 AI,就沒有能力治理 AI,只有 AI 才能監管 AI。」他以「矛與盾」來比喻,強調面對新型態的數位犯罪,必須建立如「AI 警察」般的防禦機制;唯有善用 AI 作為測試與除錯的工具,才能精準揪出系統漏洞,也就是「以 AI 來監管 AI」。

而在治理與技術外,最後的防線仍回歸到「人」。簡立峰強調,未來的教育必須從單向的教導轉為引導,全面培養全民的「AI 識讀能力(AI literacy)」,讓人們在真假難辨的環境中,具備獨立思辨與理解風險的能力。唯有如此,才能在 AI 深度滲透的社會中,建立穩固的信任機制。

行政院經濟發展委員會創新經濟顧問簡立峰
行政院經濟發展委員會創新經濟顧問簡立峰
圖/ 數位時代

多元共融與韌性實踐,為建立信任數位社會的基石

「現在最大的問題,已經不是網路快不快,而是人們還敢不敢相信這個網路。」TWNIC 董事暨執行長余若凡說到,AI 時代的數位信任不只是技術問題,更是場需全社會參與的治理工程。為此,TWNIC 正從純粹的技術社群,轉型為「信任環境驅動者」,致力打造讓人願意信任與參與的數位生態系。

余若凡指出,建立數位信任必須從三個層次著手。首先是「技術面」的基礎設施韌性,如落實 DNS 濫用防治與域名安全;其次是「治理面」的規範設計,探討 AI 與內容監理的平衡;最後,也是最關鍵的「社會協作」。她強調:只有當大家願意對話,信任才有可能被建立。

推動信任對話的同時,多元共融更是韌性實踐的關鍵。談及大會的「Taiwan Tech Women」論壇,余若凡坦言儘管台灣性別平權具指標性,科技業決策圈的女性比例依然偏低。但 AI 時代的不確定性,反而成為女性突破框架的契機。結合與談專家觀點,未來面對複雜的地緣政治與科技風險,企業亟需兼顧社會、科技與公共利益的「生態系領導力(Ecosystem Leadership)」。而女性特有的同理心與跨域溝通耐心,將成為這種多方協調的關鍵需求能力。

「最大的成功,是未來我們不再需要舉辦 Taiwan Tech Woman 這樣的論壇。」余若凡更期許。當性別不再是評價標準,多元聲音成為數位治理的日常,才是真正穩固的信任底座。

TWNIC董事暨執行長余若凡
TWNIC董事暨執行長余若凡
圖/ 數位時代

綜觀 Internet Week 2026 中各界專家的深刻洞見,網路的未來早已演變為一場涵蓋法規監理、人權保障、經濟創新與社會共融的環境。面對全球網路的破碎化危機與AI帶來的雙面刃效應,單憑政府或單一企業已無法獨力應對。「公私協力」與「開放對話」將是迎向未知挑戰的解方。藉由這些跨界對話與激盪,台灣向國際展現了落實「多方利害關係人治理模式」的決心與實質能量。期許在產官學研及公民社會的共同努力下,能持續深化國際網路治理的影響力,在下個網路世代中穩健前行,共築兼具數位韌性與信任的美好未來。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
代理式商務連動百兆商機
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓