網路虐童影像抓不完?Google出招加快審查團隊效率

2018.09.04 by
高敬原
shutterstock
兒童色情影像氾濫的問題,近年來日趨嚴重,英國許多媒體機構紛紛呼籲政府,應組成獨立監管機構,解決假新聞、兒童性剝削等問題。Google本周宣布推出一項AI工具,要為網路內容的把關,提出更有效率的解決方案。

每一秒鐘,都有大量的文字、影像內容在網路世界中生成,內容是否符合規範?演算法會不會構成偏誤?這些都是近來讓科技巨頭們傷腦筋的問題,像是美國總統川普(Donald Trump)上周就在Twitter上抱怨,Google搜尋輸入「Trump News」出來的結果都是負面報導,質疑Twitter審查保守派言論,直言:「他們(指Twitter)正在控制我們什麼能看,什麼不能看。」

此外,兒童色情影像氾濫的問題,近年也日趨嚴重,英國許多媒體機構紛紛呼籲政府,應該組成一個獨立監管機構,解決假新聞、兒童性剝削等問題,當然,科技巨頭們也是難辭其咎,Google本周就宣布推出一項AI工具,要為網路內容的把關,提出更有效率的解決方案。

直播、手機普及,兒童網路性威脅事件暴增

兒童色情在網路世界有多嚴重?英國國家家打擊犯罪調查局(National Crime Agency)在周一時表示,光是2017年,英國就有八萬多人在網路上對兒童構成某種性威脅,而這樣的情況在過去五年增加了七倍之多,10歲以下的兒童受害的比例也激增。

當然,兒童色情的惡化,跟近年行動裝置、直播平台的興起脫不了關係,除了傳統的影片照片,近年「直播式的虐待」比例直線上升,過去這類影像比較多存在於暗網(Dark Web),而現在只要有一台手機,加上方便使用的直播平台服務,一連上網路,影像就能即時傳千里,根據英國國家家打擊犯罪調查局統計,2017年平均每天就有15名兒童在網路上受虐。

兒童色情的惡化,跟近年行動裝置、直播平台的興起脫不了關係,除了傳統的影片照片,近年「直播式的虐待」比例直線上升。
shutterstock

也正因為如此,英國廣播公司(BBC)、英國獨立電視台(ITV)、第四頻道(Channel 4)等主流媒體高層近日聯合呼籲,當局應該設立一個獨立監管機構,來解決假新聞、兒童性剝削、騷擾等網路問題,這些媒體高層認為,在沒有任何第三方監督的狀態下,要指望網路巨頭對內容做出正確的判斷,不僅不現實,同時也不適合,「這不是網路審查,而是要讓網路平台更安全,確保這些私人企業做出有透明度的決定。」他們說。

Google推新AI工具,工程負責人:避免兒童受進一步侵犯

網路兒童性虐待爭議持續延燒,英國內政大臣賈維德(Sajid Javid)公開表示:「這類威脅的發展比業界回應速度還要快,簡直跟不腳步。我對Google、Facebook、微軟、蘋果、Twitter在反恐方面進展印象深刻,但他們現在必須在防制兒童性剝削上,作出同等程度的努力才可以。」英國當局本周發出警告,如果這些網路巨頭不能好好處理網路兒童性虐待問題,未來將面臨嚴重懲處。

網路兒童性虐待爭議持續延燒,英國內政大臣賈維德(Sajid Javid)表示,Google、Facebook、微軟、蘋果、Twitter等科技巨頭必須在防制兒童性剝削上作出努力。
shutterstock

微軟(Microsoft)表示:「正與其他業者、政府和民間社會密切合作。」;歷經個資風波的Facebook強調,網路兒童性剝削是真正的挑戰,也是必須非常認真看待的問題,「這就是我們跟兒童保護專家、警方以及其他科技公司密切合作的原因。」

在這股打擊網路兒童性虐待的浪潮下,Google則是採取更積極的作為,宣布推出一個「內容安全應用程序界面(Content Safety API)」,能透過深層神經網絡來處理圖片,可以更有效率審查可能違規的影像內容。

其實,這類結合人工智慧(AI)的工具早已不稀奇,不過這類型的科技,都是以先前被辨識出違規的影像資料庫為基礎,來檢核圖片或影片,像是由微軟所開發的工具PhotoDNA,被應用在 Facebook以及Twitter上,算是一個蠻有效率的方式,去阻止這類已知的色情圖片散布。

但有個缺點,如果沒有被事前標記出來的圖片(像是新的性虐待招式等),可能就會無法辨識,這時候就必須仰賴人類審查員的介入。而這樣的痛點,正是Google新AI工具想要解決的,透過機器視覺(machine vision),可以協助審查員分類影像、下標籤分類,將這些可能違規的檔案,排列出優先順率,加快審查員的效率。

「迅速辨識新圖片,意味著那些遭到性侵犯兒童的影像,被辨識出來的可能性增加,有助於避免他們受進一步侵犯。」Google工程負責人Nikola Todorovic說。
shutterstock

「迅速辨識新圖片,意味著那些遭到性侵犯兒童的影像,被辨識出來的可能性增加,有助於避免他們受進一步侵犯。」Google工程負責人Nikola Todorovic說。根據Google官方說法,這項AI工具可以幫助人類審查員,移除比平常多出700%的違規內容,能讓人力吃緊的審查團隊,運作得更有效率。

每日精選科技圈重要消息