人工智慧的極限：那些刪不完的網路仇恨言論|數位時代 BusinessNext

人工智慧的極限：那些刪不完的網路仇恨言論

根據Facebook《年度透明度報告》，仇恨言論被移除的比例相當低，為什麼人工智慧（AI）仍趕不上仇恨言論增生的速度呢？原來跟人工智慧系統的能力極限有關。

Facebook公布年度透明度報告，仇恨言論移除比例最低

在外界紛紛期待Facebook拿出魄力整頓平台上仇恨內容的態勢下，Facebook大幅提高了今年（2018）內容審查團隊的預算，預計在今年底前聘用一萬名審查人員。

在今天公布《年度透明度報告》（Facebook Transparency Report）多達86頁的報告中，Facebook今年第一季共刪除了5.83億個假帳號、8 億 6,580 萬則貼文，報告中Facebook將這些內容分為六大類，從數字上來看，系統主動清除暴力內容比例是86%、色情內容96%、垃圾內容比例更是高達100%，令人意外的是，仇恨言論比例只有38%，是所有類別中最低的。

歧視用語使用情境不同，仇恨言論難判斷

但這其實不能完全責怪Facebook，原因是目前人工智慧（AI）對於仇恨言論定義的理解仍不夠深刻。

舉例來說，歧視性用語在某些情況下也會用於戲謔、自我解嘲等目的，而這些用語大多只在特定的語境中（包括個人主觀因素、地域差異、時代差異影響）才會產生歧視性的意義，所以並沒有明確的標準可以判定某一種用語是否為歧視語，人類對於「貶義、侵略性的內容」判定是很主觀的，甚至因人而異，不要說機器，甚至連人類自己來判斷可能都沒一個準確的標準。

Facebook 產品管理副總裁羅森（Guy Rosen）就點出其中的困難處：

像是AI這類的科技，要準確地判斷所有有害內容還有一段路要走，舉例來說，AI 還沒有足夠的能力，去辨識一個人是在散布仇恨，或是只是單純描述自身被傷害的經驗，這可能會衍伸出一些問題。

除了用詞本身，使用的情境也是一大關鍵，假設有一個用戶，只是單純發文講述他被當眾羞辱的經驗，在描述的文字中，引用包含仇恨內容的原句，那麼這樣的貼文算不算仇恨言論內容？應不應該被強制移除？身為人類的我們都能同意這樣的內容不算數，但AI又該如何去理解這兩者之間的細微差別呢？

另外，從文化面來說，有些字眼也許在某些文化中是貶抑，但在另一種文化中卻沒有這個意思，又或者是同形異義，這些又該如何讓AI理解呢？

佐克伯樂觀看待，5到10年內開發新AI工具

如同佐克伯今天自己在貼文中所說的：「我今年的首要任務是要讓人們感到安全。」為了將傷害降到最低，即使在擁有大量科技資源的Facebook，仍傾向使用人工審查來把關內容。

在今年剛剛落幕的開發者大會F8上Facebook也談到，「要完全理解人類的語境，還是需要透過人類的雙眼，我們的團隊會親自審查，確定它是沒問題的。」

佐克伯自己也在聽證會上表示，他相信在未來5到10年內，Facebook可以開發出能夠精準理解語意上細微差異的人工智慧工具，將能更準確標記出仇恨言論，對這樣的未來相當樂觀。

過去兩年，企業討論最熱烈的議題無非是「如何導入生成式 AI」；然而，隨著 AI Agent 技術的快速發展，未來幾年，企業關注的焦點很有可能轉向「如何治理 AI Agent」。相較於過去只能被動回應問題的生成式 AI，AI Agent 更像一個虛擬人，可以自主查詢資料、操作系統與執行流程，這也使得 AI 在企業中的角色被重新定義，從單純的輔助工具，正式升級為企業的「數位員工」。

然而，當 AI 被賦予更多權限與自主性時，也意味著企業必須面對全新的治理挑戰。尤其對金融業、公部門等受到高度監管的組織而言，若缺乏完善的權限管理、決策追溯與監控機制，AI 應用將衍生資料安全、法規遵循與營運風險，反而難以真正發揮 AI Agent 的價值。

為此，中華創智推出 AgentHub 平台，協助企業建立符合治理需求的 AI Agent 管理機制，讓 AI 在安全、可信、可控的前提下真正投入營運。

AI 升級「數位員工」：權限與責任歸屬成企業治理深水區

中華創智總經理李柏青認為，在 AI Agent 時代，企業首先必須思考的核心命題是：「我們可以授權它做到什麼程度？」

他指出，AI Agent 若要順利完成一項完整任務，勢必要具備相應的資料存取與系統操作權限。然而，這也正是企業最兩難的地方：一旦賦予 AI 過大的權限，很可能因誤判或操作失誤而引發資料外洩等風險，但若權限不足，又無法真正發揮 AI Agent 的價值。「授權與責任歸屬，正是企業導入 AI Agent 時最難以切割，卻也最關鍵的一環。」李柏青直言。

李柏青的觀察，在第一線客戶身上獲得了印證。中華創智業務行銷副總粟郁杉表示，早在去（2025）年，就有客戶與中華創智討論 AI Agent 的管理模式。不同於過去導入 AI 應用時，多半先從單一部門開始試行，客戶在規劃 AI Agent 時，希望從企業整體出發，讓不同部門、不同職務的員工都能擁有一位 AI 助手。然而，當 AI Agent 的數量快速增加、遍布各部門後，企業真正需要解決的問題，就不只是如何部署，還有如何以系統化的方式進行管理。

正是這些來自客戶的需求與討論，促使中華創智投入開發 AgentHub。「我們的使命是打造一個平台，讓企業能夠快速、安全地使用與管理 AI Agent，」李柏青說，未來企業需要管理的不只是員工，更是一支由 AI Agent 組成的數位工作團隊；而 AgentHub，就是協助企業管理這支團隊的治理平台。

打造數位員工的「生產履歷」！AgentHub建立可追溯的稽核機制

中華創智技術副總黃文俊強調，AgentHub 管理的不只是 AI Agent 本身，而是AI Agent的全生命週期管理。

企業可在平台上完成 AI Agent 的開發、版本更新、權限設定與部署管理，並透過完整的日誌記錄建立起稽核機制，這項機制能清楚追溯每一隻 Agent 是由誰開發、獲准存取哪些內部資料或系統、由誰負責審查授權，以及哪些員工有權調用。「這就像是 AI Agent 的『生產履歷』，當系統運作遭遇異常或疑慮時，企業才能在第一時間精準追溯責任歸屬。」黃文俊解釋。

黃文俊進一步透露，第一線客戶、特別是金融與政府單位，在實務上特別重視AI Agent 的執行環境與權限邊界，也就是「這隻 Agent 應該活在哪裡」。因此，中華創智在協助企業導入 AgentHub 時，不僅協助建立底層架構與權限管理機制，更會依據不同應用情境，與客戶逐一討論 Agent 的部署方式、資料存取範圍及治理規範，協助企業為不同 AI Agent 建立符合治理要求的執行環境，在兼顧安全與效率的前提下發揮價值。

從 MLOps 到 AgentHub：把 AI 落地經驗延伸到 Agent 時代

面對市場上百花齊放的 AI Agent 平台，AgentHub 最大的差異化優勢，莫過於中華創智多年協助企業導入 AI 的實戰經驗。

黃文俊表示，中華創智過去協助金融、公部門等高度監管產業建置 MLOps 與 LLMOps 平台時，便已深入企業地端環境，相當熟悉資料治理、權限管理、系統介接與法規遵循等。這意味著，企業導入 AI 最容易「撞牆」的痛點，中華創智早已陪同客戶提前走過一遍並逐一克服。這些累積於 MLOps 與 LLMOps 時代的治理經驗，也成為 AgentHub 最重要的設計基礎，讓 AI Agent 能真正融入企業日常營運，而非停留在概念驗證階段。

除了完整的治理機制與企業落地經驗外，AgentHub 的另一項優勢，在於採用 No-Code／Low-Code 開發模式，使用者不需要具備程式能力，只需透過拖拉元件，即可快速打造符合業務需求的 AI Agent，讓真正熟悉業務流程的人，也能成為 AI Agent 的開發者。

然而，「人人都能輕鬆開發」的背後，並不代表「任何人都能隨意上線」。黃文俊指出，在 AgentHub 的架構下，每一隻 AI Agent 投入實戰前，都必須經過嚴謹的審核機制，並留下不容竄改的完整軌跡——從最初由誰開發、經誰核准部署、到由誰負責維運都一目了然；若 Agent 後續表現不如預期或出現偏差，管理者也能決定是否要調整或下架退場。「這就如同企業管理真人員工一樣，必須擁有完善的招募、考核與動態管理流程。」黃文俊生動比喻。

AI Agent 能否真正改變企業，關鍵從來不只是 AI 本身。黃文俊認為，AI 會放大企業原有的優勢，也會放大既有的管理斷點，因此，資料治理、權限管理與 IT 基礎架構，才是企業邁向 AI Agent 時代最重要的基石。

李柏青則指出，真正的挑戰才正要開始。未來企業不僅需要導入 AI Agent，更必須重新思考組織分工、管理制度與營運流程，將 AI Agent 納入企業日常運作的一部分。中華創智期待，未來持續扮演企業 AI 治理夥伴。想了解 AgentHub 如何協助你的組織建立安全、可信、可控的 AI Agent 治理機制，歡迎與中華創智團隊聯繫
https://www.chtinventai.com/