直播謀殺影片3小時才下架,Facebook監測系統再次面臨挑戰
直播謀殺影片3小時才下架,Facebook監測系統再次面臨挑戰
2017.04.18 | Facebook

直播的一大障礙,就是無法及時掩藏人性的惡。

4月16日,在美國克里夫蘭街頭,一名男子開著車似乎在尋找著什麼,一邊還自言自語:「找個人,我要殺人,就那個人,那個老人。」隨後他拿著槍下車走向那位老人,要求他說出一個女性的名字,老人表示不知道,槍聲響起,老人倒下。

這不是某一個電影或者電視劇的劇情,而是4月17日透過Facebook Live直播的真實謀殺事件。

bcdisbcdbscbdos.jpg
圖/ PingWest

直播的主角,也就是作案男子名叫Steve Stephens,是一名47歲的非裔男子,目前正在被克里夫蘭市的警方通緝。社交網站為凶手變態的殺人炫耀心理提供了天然溫床,Stephens在Facebook上記錄了這個變態殺人狂的發展路線,還發文講述自己的「復活節大屠殺」,一間棄屋和15具屍體。

149238920058f40d50af712.jpg
圖/ PingWest

直播中被害的老人是78歲的Robert Goodwin Sr,並非仇人,而是被Stephens隨機指定的。

Facebook在事後封禁了事件相關的影片,並發表聲明說:「這是一個可怕的罪行,我們不允許Facebook上的這種內容。我們努力在Facebook上保持安全的環境,並在緊急情況下與執法人員保持聯繫。」

但這個影片下架的過程耗時近三個小時。這三個小時,影片一邊被譴責一邊被轉發著就火了起來,也傳播到了網路上的各個地方,恐怖氛圍醞釀的很到位。這即不是Facebook第一次成為暴力恐怖事件的溫床,也不是第一次暴力影片沒有及時得到處理。

  • 2016年6月13日,一名自稱效忠「伊斯蘭國」極端組織的法國籍男子拉羅西·阿巴在巴黎附近持刀殺害了兩名警察,並且對殘忍殺害過程進行了直播。
  • 2016年7月,美國人Antonio Perkins遭到了芝加哥警方的槍殺在Facebook上直播。
  • 據《華爾街日報》統計,目前在Facebook Live上的自殺、謀殺類的暴力直播已經達到50起。堪比一個影片網站的恐怖頻道。

每次事故發生後Facebook都會自己檢討並表示杜絕此類影片的再次傳播,但是在這個用戶數量超過15億的社交平台,審查員審查的速度還是遠沒有跟上事故發生的速度。

Facebook最初的審查機制主要依靠用戶之間互相舉報,層層向上報告。用戶舉報不宜內容,然後工作人員再逐個對內容進行檢查,重要程度高的再往上交給高管決定,確定違反規定的再進行下架刪除。這一套流程完成時間,正好可以滿足一起暴力事件的充分發酵。

這樣的審查通常不夠及時而且還很耗力,僅僅是瀏覽被用戶標記過的影片就需要數個小時。

隨後Facebook開始開發智慧監測的軟件,可以對影片直播中的敏感內容進行監控和識別。這個系統可以對黃色、暴力、以及極端組織發布的畫面進行自動識別和標註。由於大量自殺直播事件的頻頻發生,在今年三月,Facebook把自殺也加入智慧監測的列表。

但是這樣的監測也有一定難度。智慧監測系統的開發者說,要對影片直播內容進行即時監控識別,主要存在兩個技術難題:首先是電腦視覺識別的演算法必須足夠快,預計目前Facebook的研發能夠達到應用水平。另外系統也必須對違規影片直播進行優先級決策,讓一些了解政策的專業人士決定是否應該停止某個直播。

從今天的事件看來,這個難度真實存在並且還沒有找到很好的解決辦法,智慧監測系統中的漏網之魚仍然很多。

中國的網路直播平台也在面臨一些相同的問題,雖說大部分的直播系統都自稱是機器+人工的審核方式,但機器只能排除一部分完全沒問題的畫面,大部分的直播影片還是需要人工判斷。去年12月在微博上流傳著這樣一張照片,這是某家直播平台的審核現場,這種場景是不是很熟悉?網咖的網管們面對的螢幕基本都是這個樣子。

Facebook直播謀殺
圖/ PingWest

審核員會在後台瀏覽所有的直播間畫面,覺得不對勁的畫麵點進去親測,然後透過「忽略」和「處理」的按鈕對直播影片歸類。映客直播此前還公佈了自己審核員的門檻標準,必須經過嚴格的培訓和考核之後才能正式上崗。

直播的人工審核瓶頸在於事件的實時發生,也就是在你已經抓到非正常事件的時候很大可能事件已經造成了不良的後果。所以審核的意義就更大在於及時的採取後續措施,同時把不良影響擴大控制在最小程度。要求任何形式的審核機制在犯罪發生的正當時立刻檢測到並做出反映,是不現實的。

然而,對於性騷擾、自殺他殺、虐殺貓狗等暴力直播來說,直播時觀眾的反應可能已經刺激了直播者的犯罪心理。

當然,即便沒有直播這個世界上依然每天有無數的暴力事件在發生。只是直播在讓我們貼近彼此的同時,也離那些陰暗面更近了,這可能才是最可怕的地方。

本文授權轉載自:PingWest

關鍵字: #Facebook #直播
往下滑看下一篇文章
大師兄林智勝引退賽 晶睿通訊員工、經銷夥伴同場見證榮耀時刻 
大師兄林智勝引退賽 晶睿通訊員工、經銷夥伴同場見證榮耀時刻 

邁入25年里程碑,晶睿通訊發展始終以人為本,透過AI安防專業,守護社會安全,同時,每年舉辦家庭日活動,關心員工,並藉由舉行全球合作夥伴大會,深化夥伴連結,從內而外凝聚力量,展現「關懷」的品牌價值。今年9月,公司首次將家庭日移師大巨蛋,邀請千名員工與跨國策略經銷夥伴,見證味全龍隊中職全壘打王林智勝引退賽,現場氣氛歡騰、向心力爆棚。這場熱情、乘載溫度的家庭日,象徵公司邁向下一個25年時所累積的力量與希望,既磅礴又溫暖,像一段未完序曲,待全體員工與夥伴合作譜寫。

圖2:晶睿通訊邀請全球策略經銷夥伴出席家庭日活動,共創更緊密合作情誼.jpg
晶睿通訊邀請全球策略經銷夥伴出席家庭日活動,共創更緊密合作情誼。
圖/ 晶睿通訊

熱血不只在球場上沸騰!攜手員工與全球夥伴,共聚家庭日榮耀時刻展現「關懷」

晶睿通訊總經理廖禎祺表示:「在這個具有紀念意義的特別活動,很高興邀請員工與他們的家人,以及全球夥伴出席家庭日,共襄盛舉經典賽事,家庭是每位同仁最強大的後盾,透過難得時刻,凝聚團隊、展現熱情,攜手迎向下一個25年。引退賽主角林智勝對棒球夢的追求是堅持求勝,從不放棄,正如同晶睿通訊在安防領域堅持的專業承諾。同時,林智勝長年支持偏鄉原民棒球發展,亦與公司秉持的關懷、信賴等價值不謀而合,是公司實現社會共融的最佳詮釋。」

參與家庭日員工在輕鬆愉快氛圍中,與同事和家人留下難忘回憶。其中,永續單位員工Bob表示:「第一次到大巨蛋看比賽,就是看林智勝的引退賽,意義重大且讓人感動,感受到公司對員工在工作與生活平衡的重視,讓我更有動力迎接職場上的挑戰。」人資單位員工Ruth表示:「拿到公司特製的25週年毛巾,還有賽前與味全龍隊的啦啦隊員合照,充分感受到公司體貼和關懷。」

圖3:晶睿通訊總經理廖禎祺(左2) 率千名員工到臺北大巨蛋,欣賞林智勝引退賽。.jpg
晶睿通訊總經理廖禎祺(左2) 率千名員工到臺北大巨蛋,欣賞林智勝引退賽。
圖/ 晶睿通訊

全球合作夥伴高峰會 聚焦AI雲端創新技術

安防產業正值 AI 核心驅動安防轉型的關鍵時刻,晶睿通訊同步舉辦全球合作夥伴高峰會,邀請來自美國、歐洲、紐澳、拉丁美洲等逾百位策略經銷夥伴齊聚台灣,體驗AI雲端安防應用成果,深化合作,透過技術展示與交流論壇,為未來營運成果注入成長動能,深化全球布局。

圖4:晶睿通訊邀請百位策略經銷夥伴齊聚台灣,強化合作深度,拓展營運新商機。.jpg
晶睿通訊邀請百位策略經銷夥伴齊聚台灣,強化合作深度,拓展營運新商機。
圖/ 晶睿通訊

展示軟硬體及雲端研發實力 三箭齊發展現高效安防

高峰會期間,晶睿通訊舉辦多場策略與創新講座,並帶領夥伴見證公司的品質實力。同時,展示從軟硬體到 AI 雲端的完整研發力,協助夥伴洞察 AI 與雲端安防趨勢,三箭齊發邁向智慧安防新世代:

一、軟體端: 打造「優質合作夥伴入口網站」(VIVOTEK Premium Partner Portal),提供一站式操作體驗,讓經銷夥伴即時掌握客戶安防系統運作狀態,快速提供智慧解決方案,深化客戶關係與合作黏著度。

二、硬體端: 展出全新低照全彩攝影機,搭載大型感光元件與大光圈鏡頭,結合 AI 技術,在極低光環境下,也能呈現明亮、銳利的全彩影像,夜間畫質顯著提升,全天候守護每一個角落的安全。

三、雲端平台 VORTEX: 全新 AI-Hub 應用整合亞洲安防領先技術與視覺語言模型,提供自然語言搜尋(Think Search)、智慧事件洞察(Event Insight)及案例庫(Case Vault),讓使用者快速鎖定目標、精準掌握異常,並清楚整理搜尋結果,大幅提升安防效率。

圖5:策略經銷夥伴參訪廠區,了解晶睿通訊產品品質實力。.jpg
策略經銷夥伴參訪廠區,了解晶睿通訊產品品質實力。
圖/ 晶睿通訊

晶睿通訊深耕安防領域,累積眾多夥伴與戰友,位於拉丁美洲、合作逾10年的經銷商執行長Christoper表示,晶睿通訊投入 AI 智慧發展,專注於人、車辨識,有效解決客戶所面臨的安全痛點,創造更安心居住的環境。另一位合作近20年的泰國經銷商執行長Yui指出,晶睿通訊除了以產品品質、AI技術取勝之外,還有對合作夥伴的關心與支持,滿足客戶需求,讓專案順利落地。

圖6:晶睿通訊總經理廖禎祺於全球合作夥伴高峰會演講,分享公司願景及產業趨勢。.jpg
晶睿通訊總經理廖禎祺於全球合作夥伴高峰會演講,分享公司願景及產業趨勢。
圖/ 晶睿通訊

隨著全球AI浪潮推進,晶睿通訊以 AI與雲端創新為引擎,加速拓展市場版圖,掌握安防產業的剛性需求,積極布局智慧城市、智慧工廠、智慧交通與智慧零售等多元應用場景。展望下一個25年,公司將持續深化全球合作,攜手利害關係人,強化AI雲端智慧安防,守護世界安全。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
蘋果能再次偉大?
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓