人工智慧的極限：那些刪不完的網路仇恨言論|數位時代 BusinessNext

人工智慧的極限：那些刪不完的網路仇恨言論

根據Facebook《年度透明度報告》，仇恨言論被移除的比例相當低，為什麼人工智慧（AI）仍趕不上仇恨言論增生的速度呢？原來跟人工智慧系統的能力極限有關。

Facebook公布年度透明度報告，仇恨言論移除比例最低

在外界紛紛期待Facebook拿出魄力整頓平台上仇恨內容的態勢下，Facebook大幅提高了今年（2018）內容審查團隊的預算，預計在今年底前聘用一萬名審查人員。

在今天公布《年度透明度報告》（Facebook Transparency Report）多達86頁的報告中，Facebook今年第一季共刪除了5.83億個假帳號、8 億 6,580 萬則貼文，報告中Facebook將這些內容分為六大類，從數字上來看，系統主動清除暴力內容比例是86%、色情內容96%、垃圾內容比例更是高達100%，令人意外的是，仇恨言論比例只有38%，是所有類別中最低的。

歧視用語使用情境不同，仇恨言論難判斷

但這其實不能完全責怪Facebook，原因是目前人工智慧（AI）對於仇恨言論定義的理解仍不夠深刻。

舉例來說，歧視性用語在某些情況下也會用於戲謔、自我解嘲等目的，而這些用語大多只在特定的語境中（包括個人主觀因素、地域差異、時代差異影響）才會產生歧視性的意義，所以並沒有明確的標準可以判定某一種用語是否為歧視語，人類對於「貶義、侵略性的內容」判定是很主觀的，甚至因人而異，不要說機器，甚至連人類自己來判斷可能都沒一個準確的標準。

Facebook 產品管理副總裁羅森（Guy Rosen）就點出其中的困難處：

像是AI這類的科技，要準確地判斷所有有害內容還有一段路要走，舉例來說，AI 還沒有足夠的能力，去辨識一個人是在散布仇恨，或是只是單純描述自身被傷害的經驗，這可能會衍伸出一些問題。

除了用詞本身，使用的情境也是一大關鍵，假設有一個用戶，只是單純發文講述他被當眾羞辱的經驗，在描述的文字中，引用包含仇恨內容的原句，那麼這樣的貼文算不算仇恨言論內容？應不應該被強制移除？身為人類的我們都能同意這樣的內容不算數，但AI又該如何去理解這兩者之間的細微差別呢？

另外，從文化面來說，有些字眼也許在某些文化中是貶抑，但在另一種文化中卻沒有這個意思，又或者是同形異義，這些又該如何讓AI理解呢？

佐克伯樂觀看待，5到10年內開發新AI工具

如同佐克伯今天自己在貼文中所說的：「我今年的首要任務是要讓人們感到安全。」為了將傷害降到最低，即使在擁有大量科技資源的Facebook，仍傾向使用人工審查來把關內容。

在今年剛剛落幕的開發者大會F8上Facebook也談到，「要完全理解人類的語境，還是需要透過人類的雙眼，我們的團隊會親自審查，確定它是沒問題的。」

佐克伯自己也在聽證會上表示，他相信在未來5到10年內，Facebook可以開發出能夠精準理解語意上細微差異的人工智慧工具，將能更準確標記出仇恨言論，對這樣的未來相當樂觀。

2026台灣設計展於9月24日至10月11日在桃園登場，以「桃園流」為主題，結合千塘之鄉的水文地景、國門之都的航空與物流優勢、多元族群文化匯流，以及 AI 科技應用，展現城市運轉的動態美學。

其中，為提供民眾不同於以往的互動體驗，AIoT 智慧感知大數據平台服務商棋苓（Chylyng）推出全展區 AI 穿戴互動體驗「FLOW CHECK」。參觀者配戴主辦單位提供的智慧手環後，可沿著展場動線於不同站點進行互動。即使多人同時參與，每位參觀者仍可依照不同的路徑、選擇與互動節奏完成體驗；系統並依據互動過程與結果，即時生成專屬的 Flowmomo 數位卡牌，讓參觀者儲存並帶走屬於自己的展覽體驗紀錄。

看似簡單的手環互動，背後其實是一套整合穿戴裝置、即時感測、場域互動、資料處理與雲端服務的完整系統。尤其在大型公開展覽環境中，不僅必須因應大量參觀者於短時間內同時使用，也必須確保從手環感測、站點互動、資料傳輸到最終結果產出的每一個環節，都能維持即時且穩定的服務品質。

棋苓以自主開發的 Eleplo AIoT Platform 為技術核心，整合穿戴裝置、感測設備、人員與資產定位，以及即時事件與資料管理，並負責建構 FLOW CHECK 的手環互動邏輯、站點應用、卡牌生成及參觀者操作介面。

專業分工合作：諾德資訊坐鎮後端，撐住大型公開展覽的服務韌性

為了讓系統從開發與測試環境順利進入大型公開場域，並進一步提升正式服務的可用性、資安與系統韌性，諾德資訊與棋苓採取專業分工合作。棋苓聚焦於 AIoT 平台、穿戴應用及使用者體驗；諾德資訊則負責後端基礎架構、正式環境部署、壓力測試、高可用性驗證，以及服務上線後的系統與流量監控。

由於展場現地部署時間僅有兩天，雙方將大量驗證工作提前至開展前完成。諾德資訊於正式開展前約一個月即建置專用測試環境，讓棋苓的應用服務提早與正式營運架構整合，並進行壓力測試、高可用性驗證及異常情境測試，使原本必須於現場進行的系統驗證工作大幅提前完成。

諾德資訊業務開發經理邱柏瑞表示：「FLOW CHECK 的挑戰在於大量參觀者可能集中於同一時段使用手環，因此除了確保服務穩定之外，也必須辨識進入系統的流量究竟來自真人使用者、合法自動化程式、AI Bot 或惡意攻擊，並透過即時監控及早發現異常。」為此，諾德資訊導入 IntelliFend Bot Management，協助辨識真人使用者、合法自動化及異常機器人流量，並於展覽公開服務期間透過遠端監控，持續掌握主機、資料庫、應用服務及外部流量狀態。

此外，為驗證系統在大型展覽情境下的承載能力，正式展出前，諾德資訊亦協助棋苓進行大規模壓力測試，模擬最高約 3 萬人同時使用的流量情境，提前觀察系統資源使用狀況、服務反應與可能的效能臨界點，並據此進行相關調校。

透過棋苓在 AIoT、智慧穿戴與互動應用上的技術能力，以及諾德資訊在正式營運環境、資安、壓力測試與維運監控上的經驗，雙方在展覽正式開放前，即完成從應用層到基礎架構的完整驗證，讓 FLOW CHECK 能夠在大型公開場域中穩定提供即時的 AI 穿戴互動體驗。

AI加速開發腳步，但也增加「上線」考驗

從生成式AI到代理式AI，軟體開發速度快速提升，過去需要長時間才能完成的產品原型（Prototype）與概念性驗證（PoC）專案，現在可以很快完成驗證，讓軟體商有更多時間跟資源投入客戶需求、產品創意與使用體驗。

但是，從PoC走到Production，面對的是完全不同的考驗。
諾德資訊技術長張家榮解釋，進入正式環境（Production）後，軟體服務必須面對真實使用者的流量、不同客戶的IT環境、計算資源擴充、資料庫負載、網路連線、資安攻擊，以及服務異常時的切換與處理，就算在壓力測試時表現正常的系統，也可能在Production的時候出現問題。

更值得特別注意的是，AI不只讓開發者更快，也讓攻擊者發現漏洞的速度加快；過去，服務上線後還有時間慢慢觀察、修正，現在，服務一上線，可能很快就遭到掃描甚至攻擊。

也因如此，軟體商、系統整合商選擇基礎架構夥伴的條件開始改變，從過去關注功能與價格轉向：產品能不能順利上線？出了問題誰來處理？面對流量變化與資安風險，服務能不能持續運作？

張家榮表示：「諾德資訊可以提供從公有雲、私有雲、地端、邊緣運算、主機代管、網路，到維運與監控等服務，讓軟體夥伴可以將資源集中在應用與客戶需求，無須擔憂Production議題。」

不僅提供資源，諾德資訊將Production變成一項服務

而這也是諾德資訊會提出「Production as a Service」的原因：不是在提供另一種雲端或主機服務，而是將軟體從開發走向正式營運所需的Production流程，轉化成可以被專業分工、驗證與持續維運的一項服務。

「Production as a Service不是單純把主機或雲端資源租給客戶，而是共同檢視這套軟體能不能順利上線與正常營運。」邱柏瑞表示。

實際做法包括，在上線前協助檢視架構，建立與正式環境相近的測試環境，確認系統正常狀態、最大承載量與資源需求，並驗證高可用性、資安、備援及服務切換機制；上線後則持續監看服務狀態、容量與流量，及早發現異常並處理。

諾德資訊之所以有這樣的服務能力，可以歸結為三點：

第一，長期累積的基礎架構與維運經驗，目前，諾德資訊同時服務的客戶數近30家，應用情境涵蓋IoT、購物平台、遊戲、音樂等不同類型的軟體服務。

第二，諾德資訊將每一個客戶遇到的問題與解決方案收攏至知識庫，讓團隊成員可以快速處理、借鏡，滿足客戶需求。

第三，依循ITIL的維運精神，並具備ISO 27001等資安相關認證，將服務流程、操作紀錄、備份、監控與異常處理等機制內化到服務之中。

這也是諾德資訊與單純提供雲端、IDC或主機代管服務的業者之間的最大差異：交付的不僅是基礎設施，而是讓服務持續運作的能力。面對客戶同時使用公有雲、私有雲、地端與邊緣運算環境，諾德資訊另以 MQloud 提供統一管理，把網路、防火牆、流量、監控與帳務收進同一套平台，降低跨環境營運的複雜度。

「軟體商負責開發，就像晶片設計公司；諾德資訊則負責協助完成測試、製程調整與正式生產，讓產品真正走向市場，希望成為『軟體界的台積電』。」張家榮如是說道。

展望未來，諾德資訊將持續深化 Production as a Service，成為軟體公司從上線到長期營運的夥伴。自構想階段起即與軟體商共同討論架構，於測試階段協助驗證，於準備上市時承接正式環境，上線後則持續守住流量、資安與服務韌性。軟體開發者與 SaaS 業者可將資源集中於產品與客戶，完整基礎架構與 24×7 維運則由諾德資訊端到端承接。