一個月找到100人想輕生,Facebook用AI過濾關鍵字以預防自殺

2017.11.28 by
楊晨欣
截圖自Y Combinator影片
經幾個月在美國測試過後,Facebook宣佈正式將旗下的AI防自殺系統推出全球,透過關鍵字與影片內容分析,來預防使用者自殺行為。

於3月在美國推出的Facebook人工智慧防自殺分析系統,經幾個月測試後,於今日正式推出至平台上20億用戶,希望透過用戶貼文與直播影片,提早察覺自殺傾向、預防此事件發生。

今年秋天,美國阿拉巴馬州的一位女性用戶,在Facebook開啟直播影片,同時揮舞著一把刀、說著自己想自殺。Facebook的AI系統偵測到這個事件、聯絡當地警方,最後順利阻止,並帶她到醫院接受觀察治療。

根據國際衛生組織(WHO)資料,每40秒就有一起自殺事件在地球上的某處發生,另外,對15至29歲年齡族群,第二大致死因正是自殺。這些用戶中,部分會在自殺前到社群媒體上,透露自己想輕生的念頭,Facebook的偵測系統就希望在此時發揮作用,在遺憾發生之前,對其身邊的人發出消息,讓想輕生者獲得身旁人救助。

Facebook透過AI掃描貼文與影片的防自殺機制,正式推出給全球20億用戶。
Facebook

Facebook的人工智慧系統,會對用戶的貼文或直播影片進行掃描,當偵測到關鍵字句,如「我想死」、「我討厭我的人生,我想自殺」等,就會把這些用戶標記起來,轉發給內部的社群營運部門,透過員工搶在第一時間過濾並查驗,若發現確實有自殺傾向,Facebook就會通知當地官方機構前往關心。

據Facebook表示,這樣的AI查驗系統,比其他用戶手動回報消息的檢查速度快上30%,而對有輕生念頭的用戶來說,能抓緊時間發現、回報附近親友獲得關心,更能夠降低自殺事件發生率。而光在上個月中,Facebook就透過AI系統,於全球發現100個想輕生案例,需要聯絡身旁人關心救助。

Facebook在5月多雇用3千名員工,負責監控平台上的貼文與影片,除了檢舉不當內容外,也對預防自殺盡一分力。Facebook將在全球各地設立會說當地語言的專人,來處理發現自殺傾向用戶的案例。

這個新機制,也是Facebook執行長祖克柏說要「打造更安全、更好的社群」宣言中的體現之一。

資料來源:FortuneFast Company

每日精選科技圈重要消息