準確率高達99.99%,英政府打擊極端影片,研發這套機器學習軟體

2018.02.14 by
高敬原
shutterstock
網路上流竄的極端主義ISIS資訊,英國政府與民間科技新創ASI Data Science攜手合作,打造一款機器學習軟體,號稱高達99.99%準確率,可提供中小型影音網站攔截極端主義影音。

英國在2017年頻頻遭受恐怖攻擊,為了打擊網路上流竄的極端主義資訊,英國政府與民間科技新創攜手合作,打造了一款機器學習演算法,號稱有高達99.99%的準確率可以偵測出ISIS極端主義素材,要提供中小型影音網站協助審核內容。

從源頭攔截極端影片,錯誤率僅0.005 %

根據英國內政部統計,2017年ISIL的支持者透過400多個網路平台來宣揚極端主義思想,且有高達三分之一的影片,在上線的一個小時內就被廣泛散布,兩個小時後就能出現在各大影音平台上。

為了打擊恐怖主義,英國內政部斥資60萬英鎊(約合新台幣2490萬元)的公共基金,與英國新創ASI Data Science一起攜手合作,打造了一款適用於任何平台,專門揪出極端主義影音素材的機器學習演算法。

根據ASI說法,這套演算法可以偵測出94%的ISIS素材,且有99.99%的準確率,錯誤率大約只有 0.005 %,若以每天上傳量500萬支影片的網站來說,約有250支影片被錯誤標記,需要人類二次審核。而這樣的成果已經能攔截絕大多數的惡意宣傳影片進一步散布,再藉由人類與演算法的相互合作,可望大幅提升成效。

恐怖攻擊頻傳,英國政府與新創ASI Data Science合作,打造了一款專門揪出極端主義影音素材的機器學習演算法。
shutterstock

ASI並沒有透露演算法詳細的衡量標準,但根據外媒報導,這款工具以大量伊斯蘭國武裝組織ISIL宣傳影片做為訓練素材,會分析影片中的的聲音及影像,甚至是影片上傳的地點,綜合多項數據來判讀。

提供中小型影音網站使用

英國內政部部長Amber Rudd表示,這些極端主義影片目的是要扇動暴力行為,以及在社會中製造恐慌情緒,而這類科技可以協助打擊恐怖主義,避免人們接觸到這類恐怖影像。

英國內政部表示,像Facebook、YouTube這大型科技公司都已經有自行研發的演算法,去年12月,YouTube 稱他們移除了15萬支暴力極端主義影片,演算法可以標記出98%有問題影片;Facebook則稱他們的軟體可以移除99% ISIS相關的極端主義內容。因此這套軟體將專門提供給Vimeo、pCloud 這類中小型影音平台使用。

但專家也警告,這類的演算法並非遏止極端主義影片傳播的終極解方,這就像是「貓捉老鼠」的遊戲,恐怖組織永遠都有辦法找新的宣傳散布手法,因此平台就算使用這類輔助工具,還是必須隨時以最高標準把關。

資料來源:The VergeBBCGizmodo

每日精選科技圈重要消息