人工智慧的極限:那些刪不完的網路仇恨言論
人工智慧的極限:那些刪不完的網路仇恨言論

Facebook非常擅長移除平台上的色情、暴力、犯罪等內容,社群巨頭在今天公布了《年度透明度報告》(Facebook Transparency Report),詳細列出各種違反社群準則內容被移除的比例,但詳細觀察後會發現,「仇恨言論」被移除的比例相當低,難不成是世界和平,大家都口說好話不再攻擊彼此了嗎?不,這背後其實跟人工智慧(AI)系統的能力極限有關,究竟為什麼在AI下圍棋能夠贏人類、AI機器人都能獲得公民權的現在,仍趕不上仇恨言論增生的速度呢?

Facebook公布年度透明度報告,仇恨言論移除比例最低

在外界紛紛期待Facebook拿出魄力整頓平台上仇恨內容的態勢下,Facebook大幅提高了今年(2018)內容審查團隊的預算,預計在今年底前聘用一萬名審查人員。

在今天公布《年度透明度報告》(Facebook Transparency Report)多達86頁的報告中,Facebook今年第一季共刪除了5.83億個假帳號、8 億 6,580 萬則貼文,報告中Facebook將這些內容分為六大類,從數字上來看,系統主動清除暴力內容比例是86%、色情內容96%、垃圾內容比例更是高達100%,令人意外的是,仇恨言論比例只有38%,是所有類別中最低的。

Facebook
仇恨言論方面,科技技術上仍無法運作順暢,仍需透過人工審查團隊協助。第一季成功移除了250萬則仇恨言論貼文,其中38%仇恨言論是由我們的科技揪出。

歧視用語使用情境不同,仇恨言論難判斷

但這其實不能完全責怪Facebook,原因是目前人工智慧(AI)對於仇恨言論定義的理解仍不夠深刻。

舉例來說,歧視性用語在某些情況下也會用於戲謔、自我解嘲等目的,而這些用語大多只在特定的語境中(包括個人主觀因素、地域差異、時代差異影響)才會產生歧視性的意義,所以並沒有明確的標準可以判定某一種用語是否為歧視語,人類對於「貶義、侵略性的內容」判定是很主觀的,甚至因人而異,不要說機器,甚至連人類自己來判斷可能都沒一個準確的標準。

Facebook 產品管理副總裁羅森(Guy Rosen)就點出其中的困難處:

像是AI這類的科技,要準確地判斷所有有害內容還有一段路要走,舉例來說,AI 還沒有足夠的能力,去辨識一個人是在散布仇恨,或是只是單純描述自身被傷害的經驗,這可能會衍伸出一些問題。

Facebook
沒有明確的標準可以判定某一種用語是否為歧視語,人類對於「貶義、侵略性的內容」判定是很主觀的,甚至因人而異。
圖/ shutterstock

除了用詞本身,使用的情境也是一大關鍵,假設有一個用戶,只是單純發文講述他被當眾羞辱的經驗,在描述的文字中,引用包含仇恨內容的原句,那麼這樣的貼文算不算仇恨言論內容?應不應該被強制移除?身為人類的我們都能同意這樣的內容不算數,但AI又該如何去理解這兩者之間的細微差別呢?

另外,從文化面來說,有些字眼也許在某些文化中是貶抑,但在另一種文化中卻沒有這個意思,又或者是同形異義,這些又該如何讓AI理解呢?

佐克伯樂觀看待,5到10年內開發新AI工具

如同佐克伯今天自己在貼文中所說的:「我今年的首要任務是要讓人們感到安全。」為了將傷害降到最低,即使在擁有大量科技資源的Facebook,仍傾向使用人工審查來把關內容。

在今年剛剛落幕的開發者大會F8上Facebook也談到,「要完全理解人類的語境,還是需要透過人類的雙眼,我們的團隊會親自審查,確定它是沒問題的。」

Mark Zuckerberg
佐克伯表示,未來5至10年內,Facebook可以開發出能夠精準理解語意上細微差異的AI工具。
圖/ 螢幕截圖

佐克伯自己也在聽證會上表示,他相信在未來5到10年內,Facebook可以開發出能夠精準理解語意上細微差異的人工智慧工具,將能更準確標記出仇恨言論,對這樣的未來相當樂觀。

關鍵字: #馬克·祖克柏
往下滑看下一篇文章
用科技與創意改寫食農未來:好食好事加速器第八屆 Demo Day 登場
用科技與創意改寫食農未來:好食好事加速器第八屆 Demo Day 登場

在科技重塑萬物的時代,飲食與農業的創新也正悄然發酵。台灣唯一專注於食農科技創業輔導的「好食好事加速器」,將於10月30日舉辦第八屆Demo Day。活動將邀請13 家入選新創登台發表,聚焦食農科技、AI供應鏈和飲食創新三大面向,分享他們如何以科技、創意和永續理念,改寫食農產業的未來。現場亦同步規劃「未來食農展演區」,集結本屆共17 家新創團隊,展示最前沿的產品與服務,從飲食創新到食農產業的智慧應用,讓與會者一次看見未來食農的全景樣貌。

化身食農新創關鍵推手,創整體存活率95%佳蹟

好食好事加速器營運總監張正瑜指出,好食好事加速器自2018年啟動以來,至今已輔導 78 家食農新創團隊、累積總資本額達新台幣22.6億元,整體成長率達 114%,整體存活率達 92%。

好食好事3.jpg
圖/ 好食好事

這些成果不僅展現了台灣食農新創的韌性與潛力,更凸顯好食好事加速器在背後扮演的關鍵推手角色,透過系統化輔導、跨域資源鏈結與市場驗證,讓食農創業者能夠以更快的速度、更穩的步伐邁向成功。而因應食農產業的轉型趨勢與全球永續浪潮,今年加速器特別聚焦在以下兩大重點,一是運用科技和創新推動食農產業升級,二是加速飲食創新發展。

食農科技+AI供應鏈,以數位創新驅動食農產業升級

根據張正瑜的觀察,多數人對食農產業的想像皆停留在農作物生產階段,但這其實太過狹隘,「食農產業的真正範圍很廣,從『產地到餐桌』乃至『再循環』的整條供應鏈,都應該被納入其中,」張正瑜說,這當中包含生產、批發零售、物流、用餐場域、包裝材質的選用,甚至或廚餘與農業廢棄物的循環再利用等議題,這些都屬於食農產業的一環。

為了提升食農產業價值,今年入選團隊中,有許多聚焦於 AI、數位科技、永續再生等領域的新創,透過創新的解決方案去優化供應鏈各個節點,讓創新不只發生在農田,而能延伸至整個產業鏈。舉凡食農科技、AI 供應鏈等議題,其目的都是運用科技與創新思維推動食農產業升級。

其中,食農科技指的是,運用創新技術或數位科技改變傳統農作物的生長模式與管理方式,本屆入選團隊好食Agri Optech,便是以室內植物工廠為核心,自主開發高效植物照明技術與模組化系統,不僅大幅節省能源與水的耗用量,更能降低疏菜耗損量,與國際植物工廠解決方案相比,好食Agri Optech無論在價格或營運效能上都極具競爭力,如今更透過好食好事加速器的輔導與媒合,成功對接至連鎖早餐品牌,擴大產品通路與市場觸角。

好食股份.jpg
圖/ 好食好事

而AI供應鏈,則是運用人工智慧讓供應鏈更透明、暢通與高效。例如本次入選團隊——團薦科技開發出的AI零售選址平台,可以透過數據與 AI 模型分析人流熱點、預測未來3個月內的營收表現與展店成功率,協助企業找出最具潛力的展店地點。這項技術不僅提升選址決策的速度和精準度,也大幅優化展店流程與整體效率,同時在加速期間,透過業師牽線順利取得與大型連鎖手搖飲品牌合作的機會。

整合大拙匠人資源,加速推動飲食創新

至於本屆加速器的第二個特色——飲食創新,好食好事攜手新興食品品牌「大拙匠人」推出FMCG(快速消費品)加速項目,將具備台灣特色和在地風味的食品,結合新食材、新技術或新包裝,轉化成可在主流通路販售的商品,進一步走向更廣泛的國際市場。

舉例來說,本次入選團隊阿勇家餐飲,是一家擁有 60 年經驗的辦桌團隊,透過與大拙匠人合作開發新產品,使傳統的辦桌料理得以用全新的形式進入零售通路,從節慶餐桌延伸至日常家庭,甚至邁向海外市場,讓全球都能感受台灣獨有的辦桌文化。

另一家入選團隊日日好食,雖然與大拙匠人同樣主打麵類商品,但其強調高蛋白、低碳水化合物的健康取向,與大拙匠人的主要產品鵝油拌麵,各具不同特色、形成互補,雙方在加速期間不僅共同探索合作開發新商品的可能性,大拙匠人更分享自身進軍大型通路的實戰經驗,協助新創掌握通路策略與進入國際市場的運作節奏。

日日好食.jpg
圖/ 好食好事

不只如此,日日好食也透過好食好事加速器的引薦,接受曾任直銷企業高階主管的業師輔導,進一步優化經營策略、提升銷售表現,並對接大型食品公司洽談合作機會,同時也與海外加速器建立連結,為進軍北美市場做好準備。

「我們想做的不只是產品創新,更是『台灣味』的文化傳承與品牌輸出。」張正瑜強調,把餐飲料理轉化成標準化商品,不僅能擴大銷售通路和市場,更能縮短備菜的人力和時間,成為解決餐飲業人力短缺的有效途徑。

從在地出發,鏈結全球:好食好事推動食農新創國際化

張正瑜認為,台灣食農技術和食品產業都具有很強大的市場競爭力,新創團隊應該更具企圖心,在創業的第一天就放眼海外市場。正因如此,好食好事加速器不僅致力於培育在地新創,更積極推動國際鏈結,透過海外社群串聯日本、新加坡、印尼、北美等地的食農科技與創業生態圈,希望將台灣的新創力量推向全球舞台。

今年 5 月,加速器便帶領校友團隊前往日本參加 SusHi Tech Tokyo 2025(Susai Tech)展會,與日本當地的食農科技團隊與投資人交流;預計 11 月前往新加坡和印尼,透過新加坡知名的食農科技加速器 Innovate 360,接觸具潛力的投資與合作夥伴,並對接由印尼最大食品集團三林集團(Salim Group)成立的加速器 Innovation Factory,進一步串聯當地的大型零售與食品企業,為台灣食農新創開啟跨國合作與市場落地的新契機。

從在地創新到國際鏈結,好食好事加速器持續為台灣食農新創打造更廣闊的舞台。現在就報名 10 月 30 日第八屆 Demo Day,一同見證台灣食農創新的新篇章。

好食好事1.JPG
圖/ 好食好事

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
一次搞懂Vibe Coding
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓