不當影片惹出一身腥,YouTube明年發動萬人大軍,找回乾淨的影音平台
不當影片惹出一身腥,YouTube明年發動萬人大軍,找回乾淨的影音平台
2017.12.06 | Google

YouTube是許多人每天都會造訪的影音平台,根據統計每分鐘有400多小時的影片內容被上傳到平台上,為了更嚴謹的把關內容,保護創作者、廣告商不被不當內容侵害,從明年開始YouTube將增聘一萬名人力,協助審查影片內容。

兒童影片被猥褻留言攻佔,廣告商停止下廣告

YouTube執行長沃潔希奇(Susan Wojcicki)本周在官方部落格上表示,將會在2018年增加約一萬名審查員把關平台內容,投入刪除極端主義與暴力影片的工作。

之所以會有這樣動作,是因為近期YouTube飽受許多不當內容的爭議,包括在兒童頻道YouTube Kids上,有許多以動畫、教育、學習名義包裝的影片,而實際進入觀看,影片包含了暴力、不雅內容,藉此規避演算法的審查,接觸兒童觀眾,而這類型的影片從今年八月開始陸續增加,累積超過百萬的觀看次數,這些不當影片內容的製作者還能因Youtube的自動廣告抽成,賺取可觀收入。

另外,YouTube上還有許多以兒童為拍攝主題的影片,或是帶有色情成分的兒童影片,近來有戀童網友會在影片下方發布猥褻留言,YouTube未能及時處理這些不當留言,以及撤下內容不當的影片,甚至演算法還會推薦用戶相關的影片,導致許多知名廠商的廣告在影片播出前露出,間接導致品牌形象受損,部分廣告商也停止在YouTube上下廣告。

YouTube
明顯暴力、虐待的影片容易識別,但像是用卡通包裝不當內容,這類遊走灰色地帶的影片並不容易被演算法揪出。
圖/ shutterstock

增聘萬名內容審查員,要來優化演算法

YouTube上每分鐘有400多小時的影片被上傳,內容審查一直是YouTube心中最難的那一塊。

明顯暴力、虐待的影片容易識別,但像是用卡通包裝不當內容,這類遊走灰色地帶的影片並不容易被演算法揪出;另外一個值得思考的問題是,兒童究竟可以參與父母親的影片拍攝到什麼程度?許多以兒童為主題的影片並非單純記錄小孩有趣的生活,對部分費心經營頻道的父母來說,當YouTuber幾乎是全職的工作,兒童參與拍攝的負荷量就會相當大,這當中又有沒有可能涉及虐童?以美國來說,有專門針對兒童演員(童工)的法律規範,但YouTube並非正規的電視產業,也因此一直遊走在灰色地帶。

YouTube執行長沃潔希奇也曾說:「YouTube的開放性的確可能出現另一個令人不安的一面。」由於影音內容量龐大, YouTube相當仰賴演算法幫助審核內容,內部也不斷再調整演算法,上周YouTube靠著演算法一共刪除15萬則充斥網友猥褻留言的兒童影片,並表示未來會啟用新的留言過濾工具,甚至主動完全關閉一部影片的留言區。「我們移除98%的影片中,都是由機器學習演算法標記出來的。」YouTube執行長沃潔希奇說,藉由機器學習的進步,讓YouTube在暴力極端主義內容上傳八小時內就能撤下70%的內容。

不過,要解決用卡通包裝不雅內容,規避演算法的影片,YouTube想在明年增聘審查員工,透過人力協助審查,並進一步訓練演算法,YouTube表示,在這一萬名員工中,除了有內容審查員,還包括政策專家以及優化機器學習技術的工程師,雙方將會一起合作優化、訓練演算法。

除了增聘審查員工,YouTube還表示未來會定期公布相關內容審查報告,將被舉報的影片內容、標準更加透明化。

關鍵字: #YouTube #演算法
往下滑看下一篇文章
AI Agent 時代來了!SUPER 8 Studio ORRA 如何讓企業快速招募、治理 AI 團隊?
AI Agent 時代來了!SUPER 8 Studio ORRA 如何讓企業快速招募、治理 AI 團隊?

隨著微軟、Google、AWS 等巨頭紛紛喊出「AI Agent將接管工作流程」,企業營運已正式宣告進入 AI 代理人時代。在可預見的未來,真人員工將與大量 AI Agent 協同工作,而企業也將面臨新的挑戰—如何規模化部署與管理這些 AI Agent。

對企業來說,打造一隻 AI Agent 並不難,但當企業需求的是數十、甚至數百隻 Agent 時,該如何快速招募、有效管理,並確保每位 AI 員工都遵循企業的權限規範與治理機制,成了普遍的落地痛點。對此,SUPER 8 Studio 雲發互動科技創辦人暨執行長陳子龍認為,解方就在於一套兼顧開發效率與治理能力的平台。

從招募一位 AI 員工,到管理一支 AI 團隊

陳子龍觀察,市面上的 AI Agent 開發工具多半要自行寫程式、設計工作流程或串接 API,且缺乏權限管理、流程控管與稽核追蹤等治理機制,導致企業無法大規模部署。

也因此,SUPER 8 Studio 推出能建立企業 AI 員工團隊的平台 – ORRA,使用者不需撰寫程式,只要以自然語言描述需求,例如:我需要一個每天整理競品動態、9 點前發到通訊軟體的 AI 員工,或依照 ORRA 平台引導回答三個問題,也就是 AI 員工的權責範圍、日常工作內容及角色定義,ORRA 就會生成一個已經設定好角色、權限與工作流程的 AI 員工,並於半小時內完成調校與部署,且每位 AI 員工都能在相同的治理框架下運作。

換句話說,ORRA 不是 Agent 開發工具,而是建立企業 AI 團隊的平台。企業需要什麼樣的 AI 人才,ORRA 就能快速打造符合需求的 AI 員工。

#2 AI Agent 時代來了!SUPER 8 Studio ORRA 如何讓企業快速打造、治理
SUPER 8 Studio 推出能建立企業 AI 員工團隊的平台 - ORRA,企業免程式,以自然語言描述需求,生成具治理機制的 AI 員工團隊並快速部署。左起 SUPER 8 Studio 資深產品總監王婕、SUPER 8 Studio 雲發互動科技創辦人暨執行長陳子龍、SUPER 8 Studio 商務長陳之逵
圖/ 數位時代

招募只是開始,AI 員工更需要管理

招募只是第一步。真正決定 AI 員工能否進入企業日常營運的關鍵,在於治理。為此,ORRA 將治理機制納入平台設計,建立一套涵蓋角色定義、權限設定、測試驗證到持續優化的 AI 員工管理五階段。

第一階段是定義角色,如同招募人才前必須先寫好職務說明(Job Description),企業在尋找 AI 隊友前,也必須先清楚界定它的工作內容、責任範圍與目標,再進入招募階段。

通常具備「高頻率、重複性高」、「有明確輸入與輸出」、「可用數據評估品質」及「可以設定清楚權限與邊界」四項特性的工作,最適合作為 AI 員工的第一個應用場景。相反地,涉及財務匯款、人際互動、情感信任,或美感判斷等高風險、難以標準化的工作,則不應完全交由 AI 執行,而應保留 Human in the Loop 機制,由人在關鍵節點負責把關與決策。

第二階段則是設定權限邊界,包括 AI 員工可以存取哪些資料、串接哪些系統、哪些動作必須經過人工核准、產出結果是草稿還是可以直接上線等,避免因權限設定不清而超出職責範圍。

第三階段是進入沙盒(Sandbox)環境測試,AI 員工開發完成後,不能直接進入正式環境,必須先在可控的測試環境裡驗證能力。陳子龍形容,沙盒就像 AI 員工的專屬訓練室,在接觸真實資料與工作流程前,企業可以先觀察它如何完成任務、沒有 AI 幻覺、提示詞注入(Prompt Injection)等風險,再加以調整與修正,確認符合預期後,再讓它進入正式環境。

第四階段則是指派一位員工,擔任正在招募的 AI 員工的直接負責人:就是這位 AI 員工的主管,雖然不必盯著這位 AI 員工的每一個動作,但要檢視其是否達成既定 KPI、何時需要真人介入,以及是否需要調整工作內容,而非放任它自行運作。

#1 AI Agent 時代來了!SUPER 8 Studio ORRA 如何讓企業快速打造、治理
陳子龍表示,招募只是第一步。真正決定 AI 員工能否進入企業日常營運的關鍵,在於治理。
圖/ 數位時代

與管理真人不同的是,AI 員工的每一次任務執行都會留下完整的數位軌跡與數據,以便負責人檢視 AI 員工的運作狀況與執行成果,了解 AI 員工 有沒有出錯或做了超出權限的行為,如果有,也能進一步找出原因再思考解決方法。

最後一個階段,企業還必須像管理員工績效一樣,定期檢視 AI 員工的表現,包括品質、用量、成本、延遲、失敗案例等,若表現未達預期,便透過調整能力、重新訓練,甚至汰換更適合的 AI 員工,持續優化整體運作品質。

只有 1 名員工,卻有一支 AI 團隊:SecureTalk 的營運新模式

「在目前的亞洲市場中,我還沒有看到像 ORRA 一樣,能夠同時兼顧快速招募 AI 員工並能嚴謹治理的平台,」陳子龍強調。

ORRA 的核心價值,不只是讓每個人都能快速招募 AI 員工,更重要的是,將開發與治理整合於同一個平台,讓企業可以快速招募、部署與管理大量 AI 員工,加速建構出一支能被信任、能被管理的 AI 團隊。

新創團隊 SecureTalk 只有一名員工,卻能同時處理產品研發、銷售、行銷、出貨與客服等作業,背後靠的就是這樣一支各司其職的 AI 團隊。

陳子龍分享,ORRA 在正式發表前,曾邀請部份企業試用,SecureTalk 便是最早導入 ORRA 的合作案例之一。該公司的核心產品為 AI 離線語音辨識與翻譯工具,初期在群眾募資平台上架,目前已順利達標並進入出貨階段。在這過程中,該公司運用 SUPER 8 Studio 的 ORRA 平台招募多個不同職責的 AI 員工,例如:專責回答客戶問題的 AI 客服、協助解決客戶使用問題的售後 AI 客服等,與 SecureTalk 創辦人並肩作戰,撐起日常營運作業。

「以前什麼都得自己做,現在,人不必親自處理每一項工作,只要管理 AI 員工、確認任務完成就可以。」陳子龍表示,透過 ORRA,企業能快速建立一支分工明確的 AI 團隊,讓真人員工可以從大量重複、繁瑣卻不得不做的工作中抽身,轉而專注於產品創新、策略思考、與 AI 員工的協作管理,以及真正需要創造力、同理心與判斷力的工作。

#3 AI Agent 時代來了!SUPER 8 Studio ORRA 如何讓企業快速打造、治理
陳子龍表示,AI 時代最值得追求的方向,就是人擁有更多時間與心力投入對企業、社會與未來做有價值的事情,這正是 ORRA 誕生的初衷。左起 SUPER 8 Studio 商務長陳之逵、SUPER 8 Studio 雲發互動科技創辦人暨執行長陳子龍、SUPER 8 Studio 資深產品總監王婕
圖/ 數位時代

這不僅是他希望 ORRA 能為企業帶來的價值,也是 SUPER 8 Studio 提出的品牌使命—Infinite Power for Infinite Good。陳子龍表示,當 AI 能無限放大每個人的能力,人就有更多時間與心力投入對企業、社會與未來更有價值的事情,這正是 ORRA 誕生的初衷,也是 AI 時代最值得追求的方向。 了解更多 https://no8.io/zh-tw/

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
台達電全解讀
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓