Instagram反霸凌新功能,AI揪出鍵盤酸民

2019.07.10 by
陳建鈞
Ink Drop via Shutterstock
網路霸凌一向是社群媒體上的嚴重問題,作為深受青少年少女喜愛的交流平台,Instagram推出兩項新功能幫助解決霸凌問題。

互不相見的網路上,人們發言往往比面對面更肆無忌憚,進而導致霸凌行為頻傳。為了減少平台上的言語暴力,Instagram宣布推出兩項新功能,要以AI技術將霸凌的幼苗扼殺在搖籃之中。

自網際網路誕生以來,網路霸凌一直是個難以解決的問題,甚至不時成為少年少女輕生的導火線。作為深受年輕人喜愛的社群平台,Instagram希望能為這樣的現象帶來改變,創造一個任何人都能放心表達自我、交流喜好的空間。

想要留言攻擊別人?AI先問「你確定嗎?」

過去數年來,Instagram一直試圖透過AI技術,將霸凌行為防範於未然,近日更進一步推出新功能,可在用戶發言前檢視內容,標記出具有攻擊性的言論。

如果AI認定你輸入的內容具有攻擊性,有言語暴力疑慮,那系統就會率先通知,詢問「你確定想張貼這則貼文嗎?」給予每位用戶自省的空間,避免一時衝動而逞口舌之快,傷害網友甚至整個社群。

在用戶發送攻擊性消息前,系統會率先詢問「你確定嗎?」
Instagram

Instagram透露,在早期測試中,這項AI技術成功勸阻部份用戶的霸凌行為,讓他們重新分享一些沒那麼具殺傷力的內容。

以AI找出霸凌言論很重要,但難免會有漏網之魚,提供用戶、社群保護自己的手段也是同樣要緊的一件事。Instagram表示,年輕用戶往往害怕霸凌變得更為嚴重,而不願舉報、反抗霸凌行為,尤其霸凌者是現實認識的人時更是如此。

Instagram推出的另一項限制用戶功能,便是讓用戶隱藏掉其他人的言論,且不會被發現。

當你將一位用戶設定為限制狀態時,其他人便無法在你這看見他發表的言論。
Instagram

不同於強硬的封鎖用戶功能,被隱藏掉的用戶依舊能在你的貼文上留言,一如既往地進行活動,但其他人不會看見被限制用戶留下的內容,換句話說,只有他能看見他自己留下的攻擊性言論。另外,被限制的用戶無法看見你的即時活動,也不能知道你是何時閱讀他的私訊。

防青少年做傻事,Instagram杜絕霸凌行為

2017年時,一位14歲英國少女茉莉.羅素(Molly Russell)走上絕路,今年年初,她的父親控訴Instagram推播的負面內容,是害死女兒的幫兇。從這時起,Instagram對孩童帶來的負面影響受到嚴厲檢視。

4月底舉辦的F8開發者大會上,Instagram負責人亞當.莫瑟里(Adam Mosseri)表明,他們正把焦點放在解決霸凌問題上。如今推出的新功能,可說是兌現了當初的承諾。

Instagram表示,杜絕霸凌行為是一個漫長的過程,這次推出的新功能,不過是這漫漫長路上的兩小步,未來他們也將繼續投入解決霸凌問題,並計劃會有更多後續更新。

責任編輯:陳映璇

資料來源:InstagramBBCThe Verge

延伸閱讀

每日精選科技圈重要消息