發文前讓AI揪出霸凌文字!Instagram上線新工具,提醒用戶修正貼文內容

2019.12.17 by
Dylan Yeh
發文前讓AI揪出霸凌文字!Instagram上線新工具,提醒用戶修正貼文內容
shutterstock
Instagram透過AI工具自動過濾貼文中是否有霸凌內容,若違反則會跳出對話框告知用戶「此內容與其他被舉報的文字相似」,並建議用戶重新編輯內容。

受到全球年輕人喜愛的圖像社交平台Instagram,今起將其反霸凌政策從評論內容,擴大範圍至用戶的貼文內容,嚴格禁止任何帶有暴力辱罵文字的言語暴力。

若用戶編輯貼文時,Instagram透過人工智慧(AI)工具自動過濾貼文中是否有霸凌內容,若是照片或影片的配文、字幕中帶有「可能令人不悅或有攻擊性」的內容,則會跳出對話框告知用戶「此內容與其他被舉報的文字相似」,讓用戶可選擇重新編輯內容,但用戶若認為是Instagram的判斷錯誤,也可直接忽略提醒並直接分享。

Instagram最新上線的AI反霸凌工具,會幫助用戶在發文前過濾霸凌內容、提醒用戶。
Instagram

Instagram的反霸凌通知已陸續在部分國家/地區推出,未來幾個月會推展至全球市場。

Instagram於7月份首先透過AI工具審查評論內容,並在評論違反反霸凌政策時跳出對話框提醒,而這次推出的「反霸凌貼文提醒」功能就是這套AI工具的延伸應用。Instagram表示,提醒用戶重新編輯內容以避免發布可能傷害他人的內容,對打擊網路霸凌已漸有成效。

為解決平台上的霸凌問題,Instagram陸續推行多項反霸凌策略。
shutterstock

Instagram為有效解決平台上的網路霸凌行為,而陸續推行了一系列的反霸凌政策。去年10月,Instagram發布一項「限制」功能,讓受到霸凌的用戶可以主動屏蔽欺凌自己的施暴者,同時也在去年開始透過AI工具,過濾有攻擊性的評論內容,並主動檢測照片和字幕中的霸凌行為。

Instagram表示,除了限制霸凌行為之外,同時也協助用戶更了解哪些是基於反霸凌政策所不允許的內容,以及什麼狀況可能違反Instagram的規則。

資料來源:InstagramThe Verge

延伸閱讀

每日精選科技圈重要消息