人工智慧的極限:那些刪不完的網路仇恨言論
人工智慧的極限:那些刪不完的網路仇恨言論

Facebook非常擅長移除平台上的色情、暴力、犯罪等內容,社群巨頭在今天公布了《年度透明度報告》(Facebook Transparency Report),詳細列出各種違反社群準則內容被移除的比例,但詳細觀察後會發現,「仇恨言論」被移除的比例相當低,難不成是世界和平,大家都口說好話不再攻擊彼此了嗎?不,這背後其實跟人工智慧(AI)系統的能力極限有關,究竟為什麼在AI下圍棋能夠贏人類、AI機器人都能獲得公民權的現在,仍趕不上仇恨言論增生的速度呢?

Facebook公布年度透明度報告,仇恨言論移除比例最低

在外界紛紛期待Facebook拿出魄力整頓平台上仇恨內容的態勢下,Facebook大幅提高了今年(2018)內容審查團隊的預算,預計在今年底前聘用一萬名審查人員。

在今天公布《年度透明度報告》(Facebook Transparency Report)多達86頁的報告中,Facebook今年第一季共刪除了5.83億個假帳號、8 億 6,580 萬則貼文,報告中Facebook將這些內容分為六大類,從數字上來看,系統主動清除暴力內容比例是86%、色情內容96%、垃圾內容比例更是高達100%,令人意外的是,仇恨言論比例只有38%,是所有類別中最低的。

Facebook
仇恨言論方面,科技技術上仍無法運作順暢,仍需透過人工審查團隊協助。第一季成功移除了250萬則仇恨言論貼文,其中38%仇恨言論是由我們的科技揪出。

歧視用語使用情境不同,仇恨言論難判斷

但這其實不能完全責怪Facebook,原因是目前人工智慧(AI)對於仇恨言論定義的理解仍不夠深刻。

舉例來說,歧視性用語在某些情況下也會用於戲謔、自我解嘲等目的,而這些用語大多只在特定的語境中(包括個人主觀因素、地域差異、時代差異影響)才會產生歧視性的意義,所以並沒有明確的標準可以判定某一種用語是否為歧視語,人類對於「貶義、侵略性的內容」判定是很主觀的,甚至因人而異,不要說機器,甚至連人類自己來判斷可能都沒一個準確的標準。

Facebook 產品管理副總裁羅森(Guy Rosen)就點出其中的困難處:

像是AI這類的科技,要準確地判斷所有有害內容還有一段路要走,舉例來說,AI 還沒有足夠的能力,去辨識一個人是在散布仇恨,或是只是單純描述自身被傷害的經驗,這可能會衍伸出一些問題。

Facebook
沒有明確的標準可以判定某一種用語是否為歧視語,人類對於「貶義、侵略性的內容」判定是很主觀的,甚至因人而異。
圖/ shutterstock

除了用詞本身,使用的情境也是一大關鍵,假設有一個用戶,只是單純發文講述他被當眾羞辱的經驗,在描述的文字中,引用包含仇恨內容的原句,那麼這樣的貼文算不算仇恨言論內容?應不應該被強制移除?身為人類的我們都能同意這樣的內容不算數,但AI又該如何去理解這兩者之間的細微差別呢?

另外,從文化面來說,有些字眼也許在某些文化中是貶抑,但在另一種文化中卻沒有這個意思,又或者是同形異義,這些又該如何讓AI理解呢?

佐克伯樂觀看待,5到10年內開發新AI工具

如同佐克伯今天自己在貼文中所說的:「我今年的首要任務是要讓人們感到安全。」為了將傷害降到最低,即使在擁有大量科技資源的Facebook,仍傾向使用人工審查來把關內容。

在今年剛剛落幕的開發者大會F8上Facebook也談到,「要完全理解人類的語境,還是需要透過人類的雙眼,我們的團隊會親自審查,確定它是沒問題的。」

Mark Zuckerberg
佐克伯表示,未來5至10年內,Facebook可以開發出能夠精準理解語意上細微差異的AI工具。
圖/ 螢幕截圖

佐克伯自己也在聽證會上表示,他相信在未來5到10年內,Facebook可以開發出能夠精準理解語意上細微差異的人工智慧工具,將能更準確標記出仇恨言論,對這樣的未來相當樂觀。

關鍵字: #馬克·祖克柏
往下滑看下一篇文章
45 年製鎖老廠的智慧進化:金泰工業如何用數位轉型打造第二成長曲線?
45 年製鎖老廠的智慧進化:金泰工業如何用數位轉型打造第二成長曲線?

這是一場以成長為名的轉型故事,主角是成軍超過 45 年的製鎖大廠—金泰工業。

走過近半個世紀的製鎖歲月,金泰深知,在數位浪潮席捲下,守成即是退步。尤其當物聯網趨勢興起,讓鎖具不再只是單純的硬體,而是結合系統與服務的智慧管理平台,金泰敏銳地看見這場轉變背後的全新市場路徑,進而在原有 B2B 製造基礎上,創立全新品牌「安捷鎖( A Good Lock )」,進軍 B2C 智慧門鎖市場,為公司開拓第二成長曲線。

為了支撐這條品牌升級之路,金泰經營管理層在智炬科技的輔導下,從經營思維、企業文化、商業模式到作業流程重新盤點,並導入叡揚資訊的雲端服務方案,逐步落實管理標準化、流程自動化與客戶資料整合。這場轉型不只是系統導入,更是一場由內部管理能力出發,支撐外部品牌成長的組織升級工程。

金泰早期以 OEM、ODM 模式經營
金泰早期以 OEM、ODM 模式經營,產品包括箱櫃鎖片鎖與電源開關鎖。
圖/ 金泰工業

早期金泰以箱櫃檔片鎖及電源開關鎖為核心產品,透過代工製造模式服務企業客戶。隨著物聯網趨勢興起,開始跨足電子鎖領域,在產品中導入指紋辨識,感應刷卡,密碼與手機連動等電子模組,成功敲開智慧生活的大門。

金泰副總經理曾慧芳表示,金泰在切入消費市場的過程中觀察到,目前市面上的智慧門鎖大致可分為兩類:一類是價格較高的歐美進口品牌;另一類則是透過網購流入、缺乏售後保障的產品。無論是哪一類,主要都以新建大樓為應用場景,較難滿足既有住宅的實際需求。

「臺灣老公寓常見木門、鐵門等配置,門型與結構條件較為多元,市面上主流智慧鎖未必能直接適用;另一方面,更換整片門板對不少家庭而言也是一筆不小的支出。基於這樣的在地住宅條件,金泰將自身長期累積的鎖具製造與研發經驗,結合外部夥伴的電子模組與應用技術,投入更符合臺灣住宅條件的智慧門鎖開發。目標不是單純把智慧鎖賣進市場,而是讓既有住宅也能在不大幅更動門體結構的前提下,以更便利、可負擔的方式完成智慧升級。

在通路策略上,金泰也展現了不同於業界的佈局。相較於仰賴大型零售賣場、電商平台等模式,金泰選擇與遍佈各地的社區鎖匠合作。曾慧芳認為,社區鎖匠是消費者心中具備高度信任感的服務節點,且具備專業知識,不僅能販售產品,更能提供安裝與售後維修服務,成為串聯原廠與終端用戶的重要服務橋樑。

叡揚資訊2
金泰工業副總經理曾慧芳表示,社區鎖匠是消費者心中具備高度信任感的服務節點,且具備專業知識,成為串聯金泰與終端用戶的重要服務橋樑。
圖/ 數位時代

築起品牌夢,金泰以內部升級鋪路,迎戰全新商業模式

因應智慧鎖帶來的全新商業模式,金泰意識到,未來面對的已經不只是企業客戶,也包含鎖匠以及終端使用者。這代表團隊需要更完整的客戶管理、服務追蹤與互動機制,才能支撐從代工製造走向品牌經營的轉變。

金泰早在 2022 年前後,便開始透過智炬科技輔導與政府相關數位轉型資源對接,例如中企署 N 世代課程,產發署精實蹲點計畫,系統性盤點企業營運流程與員工賦能與接班轉型佈局,並以內部產出的數轉藍圖,於 2024 年通過產發署中小製造業接班傳承數位轉型主題式研發計畫案的規劃案為啟動數位轉型布局的起點。

金泰製造經理黃智政說明,過去內部雖已使用 Excel 與 ERP 輔助日常作業,但多數流程仍仰賴紙本、人工記錄與部門間轉傳。 ERP 主要協助處理訂單、生產與進銷存等內部管理需求,卻難以完整承接業務拜訪、客戶互動、售後服務、鎖匠通路與終端消費者資料等外部市場資訊。當資料分散在個人電腦、紙本紀錄或不同部門手中,不僅增加重複抄寫與管理負擔,也讓企業難以及時掌握市場變化與客戶需求。

以客戶經營為例,客戶與公司的往來紀錄,多半保存在業務個人的電腦或筆記本中,難以被整合,也不容易在團隊之間透明共享。因此,若遇到業務同仁外務或請假時,客戶只能被動等待,而當公司要推新產品、找新市場,或需要其他同仁協助一起服務客戶時,也很難快速掌握客戶全貌。

面對這樣的挑戰,金泰管理團隊先透過外部課程與企業參訪,建立對數位轉型的共識,再回頭審視自身的商業模式、核心價值與關鍵活動,梳理銷售前中後、採購、生管到包裝等各職能的工作流程,找出卡點,隨後再導入叡揚資訊 Vital CRM 客戶關係管理系統、 C.ai 對話式服務平台聊天機器人、 Vital BizForm 智慧表單等解決方案,重新設計更符合實際習慣的運作方式。

建立客戶統一視圖、決策效率提升 30% ,用數據揪出商機

協助金泰推動數位轉型的智炬科技總經理歐俋伶指出,當金泰從接單生產逐步走向計劃性生產,更需要即時掌握市場需求、客戶回饋與銷售趨勢,才能反過來驅動產品開發與營運決策。因此,規劃金泰選擇以 Vital CRM 作為核心工具,運用成熟穩定的雲端服務架構,快速建立客戶資料整合、商機追蹤與管理報表機制,而非一開始就投入高成本、高維護負擔的客製化系統開發。

金泰業務部經理楊順婷也認同表示, Vital CRM 不僅讓客戶資料從過去分散於個人手中,轉變為團隊共享的資產,更協助公司建立完善的代理人機制,確保客戶服務不中斷。更重要的是,隨著數據持續累積,管理層還能藉由 Vital CRM 中的 Insight 報表加速決策效率。

叡揚資訊3.JPG
金泰製造經理黃智政指出, Insight 的可視化圖表,讓管理決策效率提升約 30%。
圖/ 數位時代

「 Insight 的可視化圖表,讓管理決策效率提升約 30% ,」黃智政說,過去若要掌握市場分布、客戶類型與商機變化,往往需要由人員跨表單、跨部門彙整資料,不僅耗時,也容易因資料格式不一而影響判讀。智炬科技在協助金泰進行職能別流程梳理時,進一步將銷售前端的詢價、報價、客戶需求與商機標籤,串聯到後端物管、廠務與組立包裝出貨等支援流程,讓市場資訊不再停留於業務個人經驗,而能成為跨部門共同判斷的依據。導入 Insight 後,管理層透過可視化圖表即時掌握關鍵指標,包含市場需求變化、熱門產品類型、報價密集度與潛在備料需求,並同步拉動資源體系的物管與廠務端的監控看板。如此一來,會議討論不再只是「等待資料整理」,而是能根據數據判斷下一步,提前協調備料、生產排程與交付節奏,讓售前商機、內部支援與客戶服務形成更即時的決策閉環。

金泰 Insight 報表
金泰團隊藉由 Insight 報表即時洞察需求動態,協調備料、排程、交期,把各個環節變得清晰可控。
圖/ 金泰工業

此外, Vital CRM 也進一步擴大商機經營的可能性。過去從展會蒐集的名片,多半僅在特定產品推出時才會進行再行銷,如今透過多元標籤記錄客戶潛在需求,擴大再行銷的範圍與市場。同時,金泰也將客戶滿意度調查從傳統 Word 表單改為 Vital BizForm 線上表單,便利的填寫體驗不僅讓回收率提升 17% ,更藉助統計功能即時分析市場回饋。

跨入 B2C :整合 C.ai 、 Vital BizForm 與 LINE ,優化服務流程

叡揚資訊5
金泰以台灣人最熟悉的 LINE 作為服務入口,鎖匠與消費者的訂單及互動資料,透過 C.ai 建置的聊天機器人自動回傳 Vital CRM,省去人工轉填作業。
圖/ 金泰工業

在 B2B 基礎上,金泰進一步將 Vital CRM 延伸應用至 B2C 場景,並結合 LINE 官方帳號、Vital BizForm 與 C.ai 對話式服務平台,打造從鎖匠通路到終端消費者的完整服務流程。

以鎖匠通路為例,考量合作鎖匠日常最熟悉的工具就是 LINE ,金泰運用 Vital BizForm 製作電子化訂單,並整合 LINE 官方帳號,讓鎖匠可直接查詢產品規格、取得安裝指引並完成下單。訂單資料再透過 C.ai 建置的聊天機器人回傳至 Vital CRM ,減少人工重複登打,也讓通路資料能被系統化紀錄並能與製造廠內備貨機制同步。

在消費者端,金泰同樣透過 LINE 建立服務入口,提供產品介紹、操作說明與保固申請功能。其中,保固卡同樣以 Vital BizForm 來設計,消費者線上填寫完成後, C.ai 會將相關資訊傳至 Vital CRM ,更會同步標註負責服務的鎖匠資訊,未來若產品需維護或有操作疑問,就能立即追溯最初負責的鎖匠,快速進入服務流程。

透過這樣的數位串接,所有互動資料皆回流至 Vital CRM ,形成完整的客戶輪廓,包括產品型號、安裝紀錄與服務歷程,不僅降低了客服負擔,更幫助鎖匠持續經營回頭客,讓客人獲得更完善的服務,創造三贏局面。

展望未來,金泰也計畫在既有數位基礎上,持續深化資料治理與知識管理能力,例如導入叡揚知識管理系統,將產品知識、安裝經驗、售後紀錄與市場回饋進一步沉澱為企業資產。對金泰而言,數位轉型的目的不只是提升內部效率,更是為品牌經營、通路共創與海外布局奠定基礎。未來,隨著「安捷鎖」持續深耕台灣並拓展國際市場,金泰也將從傳統製鎖廠,逐步走向結合製造實力、在地服務與智慧科技的安防品牌。

叡揚資訊6.jpg
金泰工業以「安捷鎖」品牌切入智慧門鎖市場,並透過數位轉型為智慧鎖業務與新市場布局奠定基礎。
圖/ 金泰工業

認識金泰工業

安捷鎖 AG LOCK | 守護您進出家門的優雅從容

免費試用

Vital CRM 客戶關係管理

Vital BizForm 智慧表單

C.ai 對話式服務平台聊天機器人

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
代理式商務連動百兆商機
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓