發文前讓AI揪出霸凌文字!Instagram上線新工具,提醒用戶修正貼文內容
發文前讓AI揪出霸凌文字!Instagram上線新工具,提醒用戶修正貼文內容
2019.12.17 | Facebook

受到全球年輕人喜愛的圖像社交平台Instagram,今起將其反霸凌政策從評論內容,擴大範圍至用戶的貼文內容,嚴格禁止任何帶有暴力辱罵文字的言語暴力。

若用戶編輯貼文時,Instagram透過人工智慧(AI)工具自動過濾貼文中是否有霸凌內容,若是照片或影片的配文、字幕中帶有「可能令人不悅或有攻擊性」的內容,則會跳出對話框告知用戶「此內容與其他被舉報的文字相似」,讓用戶可選擇重新編輯內容,但用戶若認為是Instagram的判斷錯誤,也可直接忽略提醒並直接分享。

Instagram fight against online bullying.jpg
Instagram最新上線的AI反霸凌工具,會幫助用戶在發文前過濾霸凌內容、提醒用戶。

Instagram的反霸凌通知已陸續在部分國家/地區推出,未來幾個月會推展至全球市場。

Instagram於7月份首先透過AI工具審查評論內容,並在評論違反反霸凌政策時跳出對話框提醒,而這次推出的「反霸凌貼文提醒」功能就是這套AI工具的延伸應用。Instagram表示,提醒用戶重新編輯內容以避免發布可能傷害他人的內容,對打擊網路霸凌已漸有成效。

Instagram
為解決平台上的霸凌問題,Instagram陸續推行多項反霸凌策略。
圖/ shutterstock

Instagram為有效解決平台上的網路霸凌行為,而陸續推行了一系列的反霸凌政策。去年10月,Instagram發布一項「限制」功能,讓受到霸凌的用戶可以主動屏蔽欺凌自己的施暴者,同時也在去年開始透過AI工具,過濾有攻擊性的評論內容,並主動檢測照片和字幕中的霸凌行為。

Instagram表示,除了限制霸凌行為之外,同時也協助用戶更了解哪些是基於反霸凌政策所不允許的內容,以及什麼狀況可能違反Instagram的規則。

資料來源:InstagramThe Verge

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
一次搞懂Vibe Coding
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓