今年3月,恐怖攻擊襲擊紐西蘭基督城,殺手利用網路直播,線上轉播這場導致51人死亡的慘劇,透過直播散播仇恨與恐怖。針對這個事件,紐西蘭總理阿爾登(Jacinda Ardern)、法國總統馬克宏(Emmanuel Macron)在巴黎集結各大科技公司,希望對此作出對策,預防類似事件再次發生。
五大科技公司Facebook、微軟、Twitter、Google以及亞馬遜(Amazon)都出席這場會議,並且最後簽署「Christchurch Call to Action(基督城行動呼籲)」條款,攜手宣布遵照條款中的9點準則,防止網路平台再次成為散播恐懼的工具。
9點準則中的5點個人用戶規範如下:
- 使用條款:更新使用條款、社群準則與政策,來禁止散播恐怖主義與暴力極端相關內容。
- 用戶回報:將會建立更多方法,讓用戶更輕易、快速地回報與檢舉不適當的內容。
- 增強科技:會持續投資相關技術,更有效率地偵測、移除恐怖主義與暴力極端相關內容。
- 直播:會導入直播權利的幾項檢查,如直播主的評分、帳號活動紀錄、觀眾種類等。不符合的帳號就無法直播影片。
- 透明報告:會定期刊登平台上的恐怖主義與暴力極端相關內容偵測數量與移除數量。
Facebook也進而宣布,將會在Facebook直播導入新機制,當某個用戶違反平台的社群規範,假設用直播服務散布暴力、恐怖主義等不適當內容,或是發過類似貼文,轉貼與恐怖主義相關連結,這個帳號就會被禁止使用任何服務,違反一次使用權限就會被停30天。
其中4點公司協作規範則包含:
- 共享技術開發:將會攜手跨產業企業、政府、教育機構與非營利機構等,共同開發防止與移除恐怖與暴力內容的技術,這些技術也會成為開源資源,讓更多平台導入。
- 危機標準:跨產業企業、政府與非營利機構等,建立一個唯一標準,來反應恐怖與暴力極端主義事件發生。
- 教育:會與跨產業企業、政府、教育機構與非營利機構等合作,共同教育大眾理解線上的恐怖與暴力極端主義內容。
- 與仇恨主義與偏執者對抗:會跨產業合作,來打擊線上平台的極端與仇恨主義根源。
Facebook也進一步表示,會投資750萬美元,建立新的研究夥伴關係,來發展自動偵測影像內容的技術,讓暴力或仇恨相關內容在上傳網路平台之前,就會先被系統偵測並擋下內容。