2024年是選舉的一年,包括美國、英國、印度、印尼、墨西哥及台灣在內,全球40億人口所在的國家,都將在這一年迎來重大選舉。不過在各國選民考慮投給哪位候選人之餘,與前一次的選舉相比,這次多了一個令人擔憂的因素:AI。
國內首度出現以總統參選人製作的假影片在網路瘋傳,總統蔡英文、副總統賴清德皆受害。刑事局接獲,有人運用AI深偽技術合成假影片,內容是總統蔡英文及副總統賴清德公開受訪談論加密貨幣投資,並置入廣告詞「投資加密貨幣250美元,每月賺取20,000美元」,片尾出現「點擊鏈接,今天就開始賺錢!」的廣告。
經刑事局查證,影片內容不僅出現大陸用語「軟件」,且嘴形因偽冒而出現模糊與不自然的情況,聲音亦與本人有明顯的落差,刑事局以深偽鑑識軟體檢測,判定影片合成後製的假影片。
隨著選舉將至,而大型語言模型蔚為風潮,明年選舉可能面臨什麼變化?首先是假新聞、偽造資訊的數量可能成幾何級數增長,鋪天蓋地的虛假宣傳可能影響選民的選擇;其次則是假消息的逼真度更高,生成式AI可以創造極為真實的捏造圖片或影片,達到以假亂真;同時AI還能客製化虛假消息,而且散播消息的機器人可能更難被平台封鎖殆盡。
AI假消息釀隱憂,Alphabet、Meta開抓Deepfake造假
雖然AI帶來的影響令人擔憂,有理由相信亂竄的假消息沒那麼容易破壞選舉制度,事實上大多選民很難被另一方說服,各國各方的競選團隊花費無數金錢宣傳,都只能小幅度的改變選民偏好。面對生成式AI可能肆虐大選期間的隱憂,各個社群平台及AI公司都非常關注,開發ChatGPT的OpenAI表示,會監控旗下技術的使用狀況,檢測是否有政治影響力相關的操作,而社群平台在經歷2016、2020年選舉後,也對辨識虛假內容與機器人帳戶更為擅長。2大數位廣告巨頭Alphabet及Meta均表示,他們在政治廣告中禁止任何變造的圖像或影音內容,並會快速處置Deepfake內容。
政治從來不是片純淨美好的園地,認為AI會破壞這一切或許過於片面,固然AI讓生成逼真的虛假消息更唾手可得,但在技術沒有這麼發達以前,諸如此類的政治攻擊也從未少過,只是用的不是AI如此先進的技術,甚至只是政治人物的一番抹黑或一句口號。
責任編輯:蘇柔瑋
