惡名昭彰的deepfakes換臉技術,居然幫候選人圈住千萬選民的心!怎麼做到的?

2020.02.20 by
陳建鈞
惡名昭彰的deepfakes換臉技術,居然幫候選人圈住千萬選民的心!怎麼做到的?
路透社
被貼上各種負面標籤的deepfakes技術,在印度選舉中首度被用於正向的競選活動中,幫助觸及更多選民,為換臉技術的未來揭示另一種可能性。

能夠替影片人物換臉的deepfakes技術自誕生以來,其遠播的惡名已被各方網路平台視為洪水猛獸。Facebook今年一月正式宣佈禁止這項技術後,YouTube、Twitter也相繼頒布規範阻止類似的換臉影片在平台上流通。

然而在與美國日夜顛倒的印度,對待deepfakes的態度似乎也截然不同。2月上旬舉辦的德里議員選舉中,這項技術成為了政黨用於宣傳政見、表達訴求的有力工具。

根據外媒《Motherboard》報導,就在德里議員選舉揭幕前一天,印度人民黨德里主席Manoj Tiwari兩段批評現任政府的影像在WhatsApp上大肆流傳,其中一部影片的語言是英語,而另一部則是以一種稱為哈里亞納語的印度方言述說。

原版影片
使用deepfake技術改造的英文版影片

這兩部44秒短片乍看之下只是尋常的政治宣傳影片,實際卻是利用Deepfakes技術所創造,而製作這些影片的不是別人,正是印度人民黨的資訊部門。他們與政治傳播公司The Ideaz Factory合作,攜手設計了兩種語言版本的宣傳影片。

換臉技術爭議難解,各大平台紛頒禁令

2017年,一位名為deepfakes的網友利用深度學習技術,將A片女主角臉蛋替換成飾演神力女超人的蓋兒.加朵而聲明大噪,這項換臉技術也因此為眾人所知悉。

沒多久,deepfakes除在成人影片領域發光發熱外,其在政治領域的「潛能」也被學者們挖掘出來。同年華盛頓大學研究團隊發表了一系列偽造的歐巴馬影片,以deepfakes技術調整眼神嘴型,再對上完全不同的對話內容。

此後deepfakes被用於干預選舉的擔憂甚囂塵上,Facebook、YouTube、Twitter等眾多平台都為了即將到來的美國總統大選,在今年頒布禁令限制相關影片曝光,而deepfakes用戶過去最大的集散地Reddit,也更新政策禁止所有類似的仿造內容。

甚至在台灣,今年總統大選前一個名為「哈囉樓主Lucid Film」的YouTube帳號,上傳了一支利用deepfakes製作,由「新店周星馳+景美吳孟達」主講的影片,其中因出現候選人韓國瑜的身影而引起一陣討論。

延伸閱讀:韓國瑜拍電影了?新創用Deepfake惡搞候選人,這是神創作還是惡趣味?

台灣2020總統大選前,一部利用deepfakes製作的影片在網路上引起宣然大波。
截圖自「哈囉樓主Lucid Film」YouTube

助候選人克服印度多元語言,貼近千萬選民的心

但很多事物都有兩面性,deepfakes也不例外。早已被貼上負面標籤的這項技術,依據使用方法同樣能創造正面價值。印度人民黨聲稱,deepfakes幫助他們貼近國內更多選民,「deepfakes技術幫我們把競選活動推展到前所謂有的規模。」

印度是個語言極度紛雜的國家,光是認定的國家語言就有22種,實際被民眾使用的語言更是多達上千種,這為候選人創造了競選門檻,就如同不會說台語的候選人,很難獲得台灣部份地方選民的青睞。

印度人民黨社群媒體及IT負責人Neelkant Bakshi表示,即使候選人沒有實際講選民的語言,deepfakes創造的影片仍讓他們更為貼近目標觀眾。以deepfakes打造的影片,沒有配音的不自然與突兀。

運用deepfakes製作的宣傳影片,在WhatsApp內產生病毒式擴散,觸及多大1,500萬位印度選民。
YouTube

印度人民黨透露,德里有相當大量的哈里亞納語移工。這部影片無疑是打入選民心中的關鍵策略,甚至有家庭主婦在群組中表示,很高興看見領導人在說他們的語言。

至於成績?非常成功。deepfakes製成的宣傳影片在社群媒體引發病毒式擴散,於德里及大首都圈(NCR region)約5,800個WhatsApp群組裡傳播,觸及民眾達1,500萬人。

Ideaz Factory策略長Sagar Vishnoi表示,這是deepfakes首度被應用於正向競選活動之中,雖然目前技術還不是很純熟,無法連聲音一起生成,依舊看好未來應用,甚至打算使用在2020年的美國總統大選上。

解鈴還須繫鈴人,deepfakes要洗刷污名還得靠AI

但並非所有人都像Ideaz Factory如此樂觀看待deepfakes,因為換臉技術最大的疑慮並非怎麼被使用,而是在「很難辨認真偽」上。印度事實查核網站AltNews創辦人Pratik Sinha就說,當無法核實影片真偽時,「這非常危險。」

尤其印度仍是開發中國家,民眾的資訊素養及求證能力都還有待培養,即使不那麼精巧的deepfakes影片都可能令廣大群眾深信不疑。不過,Ideaz Factory的應用依舊證明deepfakes可以為社會做出貢獻。

但未來,這項技術該如何納入規管、合理運用、杜絕假新聞,目前各國都還沒得出結論,解鈴還須繫鈴人,或許唯有識別deepfakes技術的AI普及那天,換臉技術才有得到平反的機會。

資料來源:MotherboardThe Verge

延伸閱讀

每日精選科技圈重要消息