人工智慧的極限:那些刪不完的網路仇恨言論
人工智慧的極限:那些刪不完的網路仇恨言論

Facebook非常擅長移除平台上的色情、暴力、犯罪等內容,社群巨頭在今天公布了《年度透明度報告》(Facebook Transparency Report),詳細列出各種違反社群準則內容被移除的比例,但詳細觀察後會發現,「仇恨言論」被移除的比例相當低,難不成是世界和平,大家都口說好話不再攻擊彼此了嗎?不,這背後其實跟人工智慧(AI)系統的能力極限有關,究竟為什麼在AI下圍棋能夠贏人類、AI機器人都能獲得公民權的現在,仍趕不上仇恨言論增生的速度呢?

Facebook公布年度透明度報告,仇恨言論移除比例最低

在外界紛紛期待Facebook拿出魄力整頓平台上仇恨內容的態勢下,Facebook大幅提高了今年(2018)內容審查團隊的預算,預計在今年底前聘用一萬名審查人員。

在今天公布《年度透明度報告》(Facebook Transparency Report)多達86頁的報告中,Facebook今年第一季共刪除了5.83億個假帳號、8 億 6,580 萬則貼文,報告中Facebook將這些內容分為六大類,從數字上來看,系統主動清除暴力內容比例是86%、色情內容96%、垃圾內容比例更是高達100%,令人意外的是,仇恨言論比例只有38%,是所有類別中最低的。

Facebook
仇恨言論方面,科技技術上仍無法運作順暢,仍需透過人工審查團隊協助。第一季成功移除了250萬則仇恨言論貼文,其中38%仇恨言論是由我們的科技揪出。

歧視用語使用情境不同,仇恨言論難判斷

但這其實不能完全責怪Facebook,原因是目前人工智慧(AI)對於仇恨言論定義的理解仍不夠深刻。

舉例來說,歧視性用語在某些情況下也會用於戲謔、自我解嘲等目的,而這些用語大多只在特定的語境中(包括個人主觀因素、地域差異、時代差異影響)才會產生歧視性的意義,所以並沒有明確的標準可以判定某一種用語是否為歧視語,人類對於「貶義、侵略性的內容」判定是很主觀的,甚至因人而異,不要說機器,甚至連人類自己來判斷可能都沒一個準確的標準。

Facebook 產品管理副總裁羅森(Guy Rosen)就點出其中的困難處:

像是AI這類的科技,要準確地判斷所有有害內容還有一段路要走,舉例來說,AI 還沒有足夠的能力,去辨識一個人是在散布仇恨,或是只是單純描述自身被傷害的經驗,這可能會衍伸出一些問題。

Facebook
沒有明確的標準可以判定某一種用語是否為歧視語,人類對於「貶義、侵略性的內容」判定是很主觀的,甚至因人而異。
圖/ shutterstock

除了用詞本身,使用的情境也是一大關鍵,假設有一個用戶,只是單純發文講述他被當眾羞辱的經驗,在描述的文字中,引用包含仇恨內容的原句,那麼這樣的貼文算不算仇恨言論內容?應不應該被強制移除?身為人類的我們都能同意這樣的內容不算數,但AI又該如何去理解這兩者之間的細微差別呢?

另外,從文化面來說,有些字眼也許在某些文化中是貶抑,但在另一種文化中卻沒有這個意思,又或者是同形異義,這些又該如何讓AI理解呢?

佐克伯樂觀看待,5到10年內開發新AI工具

如同佐克伯今天自己在貼文中所說的:「我今年的首要任務是要讓人們感到安全。」為了將傷害降到最低,即使在擁有大量科技資源的Facebook,仍傾向使用人工審查來把關內容。

在今年剛剛落幕的開發者大會F8上Facebook也談到,「要完全理解人類的語境,還是需要透過人類的雙眼,我們的團隊會親自審查,確定它是沒問題的。」

Mark Zuckerberg
佐克伯表示,未來5至10年內,Facebook可以開發出能夠精準理解語意上細微差異的AI工具。
圖/ 螢幕截圖

佐克伯自己也在聽證會上表示,他相信在未來5到10年內,Facebook可以開發出能夠精準理解語意上細微差異的人工智慧工具,將能更準確標記出仇恨言論,對這樣的未來相當樂觀。

關鍵字: #馬克·祖克柏
往下滑看下一篇文章
AI Ready成零售入場券!SHOPLINE年度大會:AI流量時代,品牌如何被看見?
AI Ready成零售入場券!SHOPLINE年度大會:AI流量時代,品牌如何被看見?

AI 正快速改變消費者探索商品、接觸品牌的方式,也為零售業帶來新的成長機會。然而,當 AI 從個人使用工具逐步走向企業營運,台灣零售業的轉型腳步仍有落差。財團法人人工智慧科技基金會《2026 台灣產業 AI 化大調查》顯示,台灣零售業的 AI 應用仍存在明顯差距,資源有限的中小企業尤其面臨挑戰。對照全球已有 62% 的企業開始布局 AI Agent、近五成運用 AI 投入高價值決策,如何將 AI 從單點工具導入,真正成為零售成長的助力,已成為品牌必須面對的課題。

全方位零售整合專家 SHOPLINE 於 9 月舉辦「AI-Verse Day 2026」年度大會,以「Where AI Meets Commerce」為主軸,邀集零售與科技業者,從流量獲取、數據應用到會員經營,探討 AI 落地零售場景的實戰路徑。服務全球累計逾 70 萬品牌的 SHOPLINE,也在會中宣布邁向 AI in Retail,推出官方 MCP(Model Context Protocol),進一步串聯零售數據與 AI 應用,協助品牌掌握新興 AI 流量入口,為下一階段的智慧零售布局做好準備。

SHOPLINE 預告:零售下一個流量入口是 AI

2026 年上半年,SHOPLINE 客戶 GMV 年增 20%,是電商大盤成長率的 2.5 倍。「這代表我們與品牌客戶一起把生意做大!」SHOPLINE 台灣總經理葉力維指出,從全球市場來看,尤其是以北美為主的 SHOPLINE 客戶,來自 AI 渠道的流量 PV 較去年同期成長 15 倍,訂單量更成長 35 倍;相較之下,台灣 AI 渠道流量 PV 約成長 2 倍,顯示 AI 導流的商業潛力正逐步浮現,台灣品牌仍有很大的成長空間。

當品牌越做越複雜,從多通路走向全域經營、數據與規模擴大,如何確保資料品質、打通資訊孤島,並兼顧資安與治理,成為 AI 能否真正落地的關鍵。為此,SHOPLINE 提出四大 AI 佈局方向:首先,建立 AI Ready 數據基礎,整合分散的零售資訊,為 AI 應用做好準備;其次,深化 MCP 布局,讓品牌能依照自身需求,自主選擇並串接不同的 AI Agent;第三,成立 AI 轉型委員會,將 AI 導入內部工作流程,推動服務模式從執行任務進一步升級為洞察客戶需求、提供策略建議;最後,擴大 AI 夥伴生態系,開放第三方開發者串接垂直領域的 AI 應用,讓品牌能更靈活地組合所需工具。

#4 SHOPLINE
圖/ 數位時代

「過去十年,SHOPLINE 陪伴品牌走過每一次通路變革。每一次流量入口的改變,其實都代表著品牌經營方式的改變;而下一個入口,就是 AI。」葉力維表示,當 AI 開始影響消費者探索商品、發現品牌與完成購買的路徑,品牌不能只停留在導入單一工具,更需要提前整備數據、串接應用並建立治理能力。接下來,能否做好 AI Ready 的準備,將成為零售品牌掌握下一波成長機會的關鍵。

SHOPLINE 推官方 MCP,助攻品牌落實 Agent Ready

品牌該如何做好 AI Ready 的準備?SHOPLINE 產品副總賴哲文指出:「人、貨、場的接觸點沒有改變,改變的是誰做決定、誰做執行、誰做判斷。」

當 AI 逐步介入零售場景,消費者、員工與企業的角色也隨之改變:做決定的是消費者,當消費者問 AI「我該買哪個品牌」,品牌能否出現在答案裡是第一個挑戰;執行的是員工,員工則可將部分執行工作交由 AI 處理,將更多精力投入判斷與決策;做判斷的是企業,AI 能否提供可靠的洞察與建議,關鍵仍在於數據品質,以及能否有效運用既有數據資產。

要讓品牌被 AI 理解與推薦,品牌經營也必須從傳統 SEO,進一步走向 AIEO(AI Engine Optimization),讓商品與品牌資訊具備良好的結構與可讀性,才能提高被 AI 採用、推薦及導流的機會。對此,SHOPLINE 提出三層 AI Ready 架構:以「AI Ready Data」整合高品質、可供運算的零售數據;透過「AI Ready Commerce」讓商品資訊與交易流程能被 AI 理解和銜接;再以「AI Ready Agents」串接品牌自主選擇的 AI Agent,逐步將數據基礎延伸至實際應用。同時,SHOPLINE 也透過第一方數據歸因,改善消費者身分碎片化、數據時效性不足與成效歸因不清等問題,讓原始數據能進一步支援 AI 分析與決策。

#3 SHOPLINE
圖/ 數位時代

在工具應用上,SHOPLINE 推出官方 MCP,涵蓋流量轉換、數據分析、商品管理與會員經營等場景。品牌可在 Claude 中透過輸入零售 skills,搭配 MCP Tool 的後台相關能力,進一步產出數據洞察報表與執行建議,讓 AI 從資訊整理延伸至實際的零售工作流程。為兼顧應用效率與資料安全,SHOPLINE 也設下三道防護機制,包括涉及資料寫入時須經人工核准、個人資料須取得授權才能存取,以及依照角色與需求進行權限分級。

「Agent Ready 就是入場券。」賴哲文強調,當 AI Agent 開始參與消費者決策與企業營運,品牌不只要讓 AI 看得懂商品,更要讓數據能被安全地運用、讓不同工具能順利協作。

除了產品之外,SHOPLINE 也致力發展 AI 開放生態圈,邀請各領域夥伴分享引流、口碑、營運與顧客經營的應用方向。此次大會邀請數聚國際、Tagnology、BUNNYWORK、beBit TECH 微拓科技,以及女性高效身體保養品牌 HYPHY,攜手展示 AI 如何串聯流量獲取、行銷轉換到顧客經營等零售場景。

Justar 運用真實發票數據,提升廣告投放效率

廣告投放端同樣面臨轉變。「市場愈來愈大,轉換效益卻愈來愈低。」紅門互動及Justar 數聚國際執行長張元溢分析,投放效率下滑,源於成長結構改變:影響消費者的場域更分散,找人的方式從興趣推測走向真實行為,素材也無法一套打完全場。

對此,Justar 運用 AI 結合電子發票數據,以 AI 廣告投放平台結合全台規模領先的雲端發票消費資料庫,涵蓋超過 20 億筆雲端發票、700 萬名消費者及 3,200 萬項商品。其「AI 廣告受眾推薦引擎」可依商品特性生成受眾輪廓(Persona),比對發票資料庫、找出真實買家作為種子受眾,而非僅依賴瀏覽紀錄或興趣標籤,再由 AI 自動擴充相似受眾、生成並優化素材,並依成效動態調整投放策略與預算配置。

張元溢強調,從真實種子到規模化放大,重點在於找到更多相似的人。同時觸及也須走出社群,延伸至 RMN 聯播網、社區 App 廣告與戶外媒體。他以「三人成虎」形容,藉創作者短影音加上跨場域廣告加深印象,才能為品牌實現「線上找到人,線下讓他記住你」的成效。

#2 SHOPLINE
圖/ 數位時代

BUNNYWORK 推 AI 營運特助,主動預警缺貨與滯銷也發掘成長機會

除了行銷之外,AI 也開始深入零售業的日常營運,協助品牌從事後處理走向事前預測。BUNNYWORK 創辦人周于如指出,電商營運常面臨幾大痛點:商品售罄後客戶問了才發現缺貨、補貨數量仰賴 Excel 與個人經驗判斷,滯銷商品也往往要到季末才浮現。「營運方式不同,留下的利潤差很多。營收決定你做多大,營運才決定你能留下多少利潤。」

針對這些痛點,BUNNYWORK 推出定位為「會思考的電商 AI 特助」的解決方案,目標是讓電商營運進入「自動駕駛」。傳統 ERP 只負責被動紀錄營運數據,BUNNYWORK 則讓 AI 24 小時主動盯盤:根據銷售數據提前發出缺貨預警、產出補貨建議單,並每日掃描商品銷售速度,一旦偵測到滯銷風險,即透過 LINE 推播提醒品牌及早規劃促銷、加速庫存去化與資金回流。除了提前規避風險外,AI 也幫助電商看見潛在機會:偵測到爆款潛力的商品,提醒品牌提早加碼備貨、調整廣告資源,把握成長時機。

至於 AI 為什麼能提供可靠的營運建議?背後仍取決於數據基礎。周于如解釋,ERP 串聯商品、銷售與庫存等不同環節的數據,並即時同步多通路的商品與庫存資訊,讓 AI 掌握完整且即時的營運全貌,同時降低超賣風險。「唯有建立乾淨、即時的資料基礎,AI 才能進一步辨識缺貨與滯銷風險、並發掘銷售成長機會,協助品牌提前應對、做出更精準的決策。」目前品牌平均約 7 天即可完成導入。

#1 SHOPLINE
圖/ 數位時代

精兵團隊導入 AI,解決流程瓶頸再創高成長

從流量獲取到營運效率,AI 的價值最終仍須回到顧客經營與商業成效。大會壓軸的高峰沙龍回到會員經營。beBit TECH 商務長譚學凱指出,OmniSegment CDP(顧客數據平台)能整合分散的顧客資料,建立 360 度顧客輪廓,進一步支援跨渠道的精準經營;旗下導購型 AI Agent「AgentBit」,提供對話式分眾,讓使用者與 AI 對話就能快速打包推播受眾,不再需要手動設定篩選條件;商品興趣預測則以 AI 學習客戶的行為軌跡,自動將高相關商品推送給高潛力買家;AI 智慧分析更只需透過問答,即時分析品牌檔期成效與提供優化建議,並能一鍵調整現有顧客旅程。透過 CDP 與 AI 功能加乘,大幅提升行銷團隊協作效率,並支援逾 2,000 種 OMO 跨通路智慧推播,協助品牌更有效地觸及目標客群。

#0 SHOPLINE
圖/ 數位時代

HYPHY 品牌共同創辦人林又立分享,品牌長期透過 LINE 經營千人會員社群,希望在規模化經營的同時,仍保有一對一對談的親切感與即時回覆的能力。導入 AgentBit 後,團隊能透過 AI 對話快速完成受眾分群,並取得具體的行銷優化建議,降低操作門檻。以單檔活動為例,LINE 發送量僅為原先的 15%,點擊率卻提升 227%,EDM ROAS 更提升至原先的 3.3 倍,展現 AI 協助品牌提升溝通效率與行銷效益的潛力。

對於資源有限、希望嘗試 AI 的品牌,林又立也分享了務實的做法:「不要一開始練跑就想著今天要跑全馬,先踏出第一步,把目標定在到達下一個電線桿就夠了。」與其一開始就追求全面轉型,不如從具體的營運需求出發,逐步找到適合 AI 發揮的場景。

活動尾聲,葉力維也提醒,品牌導入 AI 前,應先盤點內部工作流程,找出真正影響效率與成效的瓶頸,再思考如何運用 AI 改善。「那就是你最該導入 AI 的地方。把 AI 放在流程上,才是關鍵。」與其為了導入 AI 而導入 AI,先解決實際問題,才能讓技術真正轉化為營運成果。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
一次搞懂工業AI
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓