每一秒鐘，都有大量的文字、影像內容在網路世界中生成，內容是否符合規範？演算法會不會構成偏誤？這些都是近來讓科技巨頭們傷腦筋的問題，像是美國總統川普（Donald Trump）上周就在Twitter上抱怨，Google搜尋輸入「Trump News」出來的結果都是負面報導，質疑Twitter審查保守派言論，直言：「他們（指Twitter）正在控制我們什麼能看，什麼不能看。」
此外，兒童色情影像氾濫的問題，近年也日趨嚴重，英國許多媒體機構紛紛呼籲政府，應該組成一個獨立監管機構，解決假新聞、兒童性剝削等問題，當然，科技巨頭們也是難辭其咎，Google本周就宣布推出一項AI工具，要為網路內容的把關，提出更有效率的解決方案。
直播、手機普及，兒童網路性威脅事件暴增
兒童色情在網路世界有多嚴重？英國國家家打擊犯罪調查局（National Crime Agency）在周一時表示，光是2017年，英國就有八萬多人在網路上對兒童構成某種性威脅，而這樣的情況在過去五年增加了七倍之多，10歲以下的兒童受害的比例也激增。
當然，兒童色情的惡化，跟近年行動裝置、直播平台的興起脫不了關係，除了傳統的影片照片，近年「直播式的虐待」比例直線上升，過去這類影像比較多存在於暗網（Dark Web），而現在只要有一台手機，加上方便使用的直播平台服務，一連上網路，影像就能即時傳千里，根據英國國家家打擊犯罪調查局統計，2017年平均每天就有15名兒童在網路上受虐。
也正因為如此，英國廣播公司（BBC）、英國獨立電視台（ITV）、第四頻道（Channel 4）等主流媒體高層近日聯合呼籲，當局應該設立一個獨立監管機構，來解決假新聞、兒童性剝削、騷擾等網路問題，這些媒體高層認為，在沒有任何第三方監督的狀態下，要指望網路巨頭對內容做出正確的判斷，不僅不現實，同時也不適合，「這不是網路審查，而是要讓網路平台更安全，確保這些私人企業做出有透明度的決定。」他們說。
Google推新AI工具，工程負責人：避免兒童受進一步侵犯
網路兒童性虐待爭議持續延燒，英國內政大臣賈維德（Sajid Javid）公開表示：「這類威脅的發展比業界回應速度還要快，簡直跟不腳步。我對Google、Facebook、微軟、蘋果、Twitter在反恐方面進展印象深刻，但他們現在必須在防制兒童性剝削上，作出同等程度的努力才可以。」英國當局本周發出警告，如果這些網路巨頭不能好好處理網路兒童性虐待問題，未來將面臨嚴重懲處。
微軟（Microsoft）表示：「正與其他業者、政府和民間社會密切合作。」；歷經個資風波的Facebook強調，網路兒童性剝削是真正的挑戰，也是必須非常認真看待的問題，「這就是我們跟兒童保護專家、警方以及其他科技公司密切合作的原因。」
在這股打擊網路兒童性虐待的浪潮下，Google則是採取更積極的作為，宣布推出一個「內容安全應用程序界面（Content Safety API）」，能透過深層神經網絡來處理圖片，可以更有效率審查可能違規的影像內容。
其實，這類結合人工智慧（AI）的工具早已不稀奇，不過這類型的科技，都是以先前被辨識出違規的影像資料庫為基礎，來檢核圖片或影片，像是由微軟所開發的工具PhotoDNA，被應用在 Facebook以及Twitter上，算是一個蠻有效率的方式，去阻止這類已知的色情圖片散布。
但有個缺點，如果沒有被事前標記出來的圖片（像是新的性虐待招式等），可能就會無法辨識，這時候就必須仰賴人類審查員的介入。而這樣的痛點，正是Google新AI工具想要解決的，透過機器視覺（machine vision），可以協助審查員分類影像、下標籤分類，將這些可能違規的檔案，排列出優先順率，加快審查員的效率。
「迅速辨識新圖片，意味著那些遭到性侵犯兒童的影像，被辨識出來的可能性增加，有助於避免他們受進一步侵犯。」Google工程負責人Nikola Todorovic說。根據Google官方說法，這項AI工具可以幫助人類審查員，移除比平常多出700%的違規內容，能讓人力吃緊的審查團隊，運作得更有效率。
