直播謀殺影片3小時才下架,Facebook監測系統再次面臨挑戰

2017.04.18 by
PingWest
PingWest 查看更多文章

宣導「有品好玩的科技一切與你有關」,開始構建科技創新實踐者與消費者的共用社區,成為科技融入生活與消費方式的創新實驗室。

直播謀殺影片3小時才下架,Facebook監測系統再次面臨挑戰
Facebook
智慧監測系統的開發者說,要對影片直播內容進行即時監控識別,主要存在兩個技術難題:首先是電腦視覺識別的演算法必須足夠快。另外系統也必須對違規影片直播進行優先級決策,讓某些內容獲得優先處理。

直播的一大障礙,就是無法及時掩藏人性的惡。

4月16日,在美國克里夫蘭街頭,一名男子開著車似乎在尋找著什麼,一邊還自言自語:「找個人,我要殺人,就那個人,那個老人。」隨後他拿著槍下車走向那位老人,要求他說出一個女性的名字,老人表示不知道,槍聲響起,老人倒下。

這不是某一個電影或者電視劇的劇情,而是4月17日透過Facebook Live直播的真實謀殺事件。

PingWest

直播的主角,也就是作案男子名叫Steve Stephens,是一名47歲的非裔男子,目前正在被克里夫蘭市的警方通緝。社交網站為凶手變態的殺人炫耀心理提供了天然溫床,Stephens在Facebook上記錄了這個變態殺人狂的發展路線,還發文講述自己的「復活節大屠殺」,一間棄屋和15具屍體。

PingWest

直播中被害的老人是78歲的Robert Goodwin Sr,並非仇人,而是被Stephens隨機指定的。

Facebook在事後封禁了事件相關的影片,並發表聲明說:「這是一個可怕的罪行,我們不允許Facebook上的這種內容。我們努力在Facebook上保持安全的環境,並在緊急情況下與執法人員保持聯繫。」

但這個影片下架的過程耗時近三個小時。這三個小時,影片一邊被譴責一邊被轉發著就火了起來,也傳播到了網路上的各個地方,恐怖氛圍醞釀的很到位。這即不是Facebook第一次成為暴力恐怖事件的溫床,也不是第一次暴力影片沒有及時得到處理。

  • 2016年6月13日,一名自稱效忠「伊斯蘭國」極端組織的法國籍男子拉羅西·阿巴在巴黎附近持刀殺害了兩名警察,並且對殘忍殺害過程進行了直播。
  • 2016年7月,美國人Antonio Perkins遭到了芝加哥警方的槍殺在Facebook上直播。
  • 據《華爾街日報》統計,目前在Facebook Live上的自殺、謀殺類的暴力直播已經達到50起。堪比一個影片網站的恐怖頻道。

每次事故發生後Facebook都會自己檢討並表示杜絕此類影片的再次傳播,但是在這個用戶數量超過15億的社交平台,審查員審查的速度還是遠沒有跟上事故發生的速度。

Facebook最初的審查機制主要依靠用戶之間互相舉報,層層向上報告。用戶舉報不宜內容,然後工作人員再逐個對內容進行檢查,重要程度高的再往上交給高管決定,確定違反規定的再進行下架刪除。這一套流程完成時間,正好可以滿足一起暴力事件的充分發酵。

這樣的審查通常不夠及時而且還很耗力,僅僅是瀏覽被用戶標記過的影片就需要數個小時。

隨後Facebook開始開發智慧監測的軟件,可以對影片直播中的敏感內容進行監控和識別。這個系統可以對黃色、暴力、以及極端組織發布的畫面進行自動識別和標註。由於大量自殺直播事件的頻頻發生,在今年三月,Facebook把自殺也加入智慧監測的列表。

但是這樣的監測也有一定難度。智慧監測系統的開發者說,要對影片直播內容進行即時監控識別,主要存在兩個技術難題:首先是電腦視覺識別的演算法必須足夠快,預計目前Facebook的研發能夠達到應用水平。另外系統也必須對違規影片直播進行優先級決策,讓一些了解政策的專業人士決定是否應該停止某個直播。

從今天的事件看來,這個難度真實存在並且還沒有找到很好的解決辦法,智慧監測系統中的漏網之魚仍然很多。

中國的網路直播平台也在面臨一些相同的問題,雖說大部分的直播系統都自稱是機器+人工的審核方式,但機器只能排除一部分完全沒問題的畫面,大部分的直播影片還是需要人工判斷。去年12月在微博上流傳著這樣一張照片,這是某家直播平台的審核現場,這種場景是不是很熟悉?網咖的網管們面對的螢幕基本都是這個樣子。

PingWest

審核員會在後台瀏覽所有的直播間畫面,覺得不對勁的畫麵點進去親測,然後透過「忽略」和「處理」的按鈕對直播影片歸類。映客直播此前還公佈了自己審核員的門檻標準,必須經過嚴格的培訓和考核之後才能正式上崗。

直播的人工審核瓶頸在於事件的實時發生,也就是在你已經抓到非正常事件的時候很大可能事件已經造成了不良的後果。所以審核的意義就更大在於及時的採取後續措施,同時把不良影響擴大控制在最小程度。要求任何形式的審核機制在犯罪發生的正當時立刻檢測到並做出反映,是不現實的。

然而,對於性騷擾、自殺他殺、虐殺貓狗等暴力直播來說,直播時觀眾的反應可能已經刺激了直播者的犯罪心理。

當然,即便沒有直播這個世界上依然每天有無數的暴力事件在發生。只是直播在讓我們貼近彼此的同時,也離那些陰暗面更近了,這可能才是最可怕的地方。

本文授權轉載自:PingWest

每日精選科技圈重要消息