從新型態網路詐騙到形塑社會矛盾，Deepfake技術出現至今3年間，對「信任」一詞的傷害力，恐怕比想像中還要巨大。
2019年3月，國際間出現了前所未見的網路詐騙行為。一位英國能源公司CEO接到他德國母公司老闆的電話，要求他代墊約730萬新台幣款項，將費用轉給該集團位於匈牙利的一家供應商，並表示之後會再將錢補還給他。
然而，這位CEO不但沒領到錢，反而又一次接到老闆電話，指定他支付另一筆款項。這時他才驚覺，即便老闆德國口音聽上去很正常，實際上卻是由Deepfake模擬出來的人聲。那筆730萬元的款項，也從匈牙利被轉到墨西哥，再匯往多個不同地區，難以追查下落。
資安大廠趨勢科技機器學習研究員張佳彥表示，這是一種進階版「變臉詐騙」（Business Email Compromise，又稱商業電郵詐騙）。他說，隨著Deepfake技術門檻降低，過去在商業郵件中模仿他人文字風格為主的詐騙行為，開始走向影像與聲音應用，彰顯了Deepfake逐漸擴張的威脅性。
打假辦法才被提出，一下子就被「突破」
「一旦Deepfake製造時間能壓縮到數分鐘內，Deepfake詐騙就可能愈來愈常見。」張佳彥說。
張佳彥表示，要做出比較擬真的Deepfake，以現有技術來說，影片會需要約數百到數千張人臉素材照片、聲音則需要約20分鐘錄音檔，並讓深度學習的模型演算約一個禮拜時間才可行，時間、技術成本較高。但他也認為，未來Deepfake詐騙的發展性，恐怕難以估量。
令人稍微慶幸的，趨勢科技目前尚未在台灣發現Deepfake網路詐騙行為。「相較於傳統網路釣魚攻擊一次就可以發上萬則電子郵件，用Deepfake做變臉詐騙技術成本還是比較高。」張佳彥說。
值得注意的是，近年來Deepfake的進展速度，正不斷超越現有檢測技術。
2018年時，紐約州立大學奧爾巴尼分校電腦科學系副教授呂思偉曾提交一篇論文，點出Deepfake影片中人物眨眼頻率過低，便建議以此作為檢測標準。
原來，他發現許多名人Deepfake影音的訓練素材，都來自於公開照片，鮮少有閉眼的圖像數據，導致眨眼動作顯得不流暢。然而，在這則論文公開以後，Deepfake製造者很快就更新了他們的AI訓練模型，克服了眨眼問題。「這是一個持續戰鬥的過程。」呂思偉表示。
就現階段而言，若想防止自身相關影片被有心之人拿來做Deepfake，張佳彥提出一個建議：「你可以試著在影片中用手晃過自己臉上，」他說，「東西晃過去時會切割臉部畫面，就現階段技術而言，很難沒有破綻。」
然而，誰也不知道，這招防禦方法，是否哪天會被持續進步的技術破解。
Deepfake威脅，除了金錢損失以外，透過假資訊造成的意見分歧，也可能造成社會劇烈影響。在中非國家加彭（Gabon），甚至成為一起政變導火線。
總統拜年影片是Deepfake？被不信任催化的一場政變
2019年1月7日，一群武裝軍人占領了加彭國家廣播電台，指責現任總統邦戈（Ali Bongo）已無能力繼續領導國家，要發動政變。究竟這個近年來政局相對穩定的非洲重要石油生產國，為何會遭遇政變？《紐約時報》指出，Deepfake是一大關鍵因素。
時間往前至2018年10月底，邦戈在拜訪沙烏地阿拉伯時驚傳就醫，此後3個月內，除了一些官方照片以外，加彭當局鮮少釋出其他訊息。人民強烈的焦慮感，點燃了陰謀論的火種，各種流言四起。直到2019年新年除夕，邦戈親自出現在電視上向人民拜年，但螢幕上的他看似中風的模樣，卻引發大眾揣測。
有反對黨成員跳出來，指責這是一支Deepfake影片；也有人懷疑，邦戈健康狀態已嚴重到不能露面，而實際掌權的，是他身旁貪腐的裙帶集團。影片播出後第7天，武裝集團便展開政變行動。
後來，政變在數小時內遭當局平定，邦戈也在同年3月底康復返回加彭。呂思偉後來檢驗了該影片，認定其「極可能」並非Deepfake——但造謠容易，澄清卻很困難。這起事件也證實了假資訊操弄手段，加上早已動亂的輿論氛圍，對社會影響相當深遠。
假資訊造成的紛亂，在世界各地都有了先例。今年是美國大選年，也是Deepfake一詞在2017年誕生後，首次遭遇美國總統大選。為了防堵Deepfake惡意操弄，社群平台如Facebook也在2020年1月宣布，除了刻意用來嘲諷的影片以外，他們會下架所有Deepfake影片。
此外，Facebook也與其他科技大廠如微軟、AWS（亞馬遜網路服務）聯手，發起Deepfake偵測挑戰賽，投入100萬美元總獎金來激勵偵測技術研發，希望破解更多層出不窮的Deepfake手法。
然而，無論社群平台對抗操弄資訊者，或是資安公司對抗網路詐欺犯，兩者最終都指向一場不斷升級的AI軍備競賽。站在這個看不到盡頭的競賽起跑點，我們將要奔向的未來，或許正是一個「眼見不能為憑」的時代。
責任編輯：林美欣
