AI換臉的偽造影片到處流竄,識別造假的軍備競賽開打
AI換臉的偽造影片到處流竄,識別造假的軍備競賽開打

Deepfake自問世以來,一路向著人性陰暗面奔去。

民間技術流已經對AI換臉教程玩得不亦樂乎。但每個人也更容易成為受害者:偽造綁架影片勒索詐騙,不雅影片毀壞名譽,或者恐怖影片製造混亂,都因為Deepfake的開源技術變得空前容易。

Deepfake2
讓一眾名人換上美國前總統布希的面部動作圖TED
圖/ 品玩

在Photoshop摧毀了大眾對圖片的信任後,Deepfake正在摧毀大眾對影片的信任。沒人想在網路上看到自己的面孔說著自己沒說過的話。許多針對個人的傷害,也因為影響不夠巨大而投訴無門。

美國正在組成一支Deepfake打假隊伍,不僅是各大實驗室、研究中心在尋找Deepfake的破綻,一股創業潮流也正在興起。

但這是一場造假AI與鑑假AI之間「你有張良計,我有過牆梯」的競賽。每一篇檢測Deepfake的論文,彷彿都能提示造假技術修補自身漏洞,從而更上一層樓。

關上Deepfake的潘朵拉魔盒,他們能做到嗎?

用打假Deepfake創業

西瓦.金塔利(Shiva Kintali)離開擔任講師4年的普林斯頓資工系,正在矽谷創業鑑別偽造影片。他的合作對像有警察、記者、保險公司等,透過機器學習尋找偽造影片的破綻,用區塊鏈記錄信息等技術來輔助鑑別。

金塔利的網站已經可以上傳圖像、音樂、影片,來分析檢測是否有修改痕跡。他同時在開發一個手機相機應用程式,用人工智慧為圖像添加時間、地點、浮水印,並將圖片原始信息印在區塊鏈上。一旦傳播圖像的信息與原始圖片不符,就容易判斷真偽。

這些產品希望幫助記者、媒體公司、政治競選團體、執法機構(例如:FBI、NSA),保險公司(面臨虛假事故照片的保險索賠問題)和大公司(例如:Facebook、Twitter、Redditt、Pornhub),在其平台上阻止虛假的影片、音樂、照片傳播。

由於Deepfake降低了影片造假的門檻。面對真偽難辨的影像資料,記者不知道能否發布,保險公司不知是應該理賠還是報警詐騙,警察收集證據後,也需要專業工具去鑑定圖片和影片的真偽。

目前流傳的假影片大多是「淺度造假」,但因為數量多,造成了無數困擾。史丹佛的研究人員向鑑別公司了解到困擾他們的三大問題:數量太多,可用鑑別時間太短,缺乏標準化的工具。

因此,研究者們在尋找能夠大規模應用的打假方法。Facebook、Twitter等社交網絡上爆炸式傳播的圖片和影像,給闢謠留下的時間窗口越來越短。普通大眾也不可能僱傭專業人士進行鑑別。

搶先商用化的圖像驗證平台Truepic已經上線了一款智慧相機應用。用戶拍下的圖像將上傳至服務器,在創建時對照片和影片進行身份驗證,獲得唯一編碼。相機應用捕獲設備的感測器數據,在傳輸之前加密照片或影片,運行20多個圖像取證測試,並在幾秒鐘內,將圖像的加密簽名印在公共區塊鏈上,使得信息不可被篡改。

這是一種「自證清白」的方式,適用於電子商務平台和公民記者類用戶。如果用戶將圖片發送給接收者,Truepic允許收件人驗證圖像的原點和元資料的完整性。任何二次傳播的多媒體材料,都可以與區塊鏈上的原始信息對比,辨別真假。

在Deepfake的威脅下,鑑定圖片、影片的真實性,都成了相機應用的賣點。但這類以營利為目的的產品又引起了用戶新的隱私擔憂。畢竟,誰能確保Truepic不作惡呢?

演算法打演算法

位於矽谷的史丹佛實驗研究院(SRI International)的AI中心則「以毒攻毒」,用偽造的影片訓練演算法,讓演算能夠更好識別出偽造痕跡。在人們上傳影片到社交網站的時候,平台需要對影片重新編碼。這是一個檢測虛假影片的好時機。

但隨著Deepfake的漏洞日漸優化,用演算法打演算法的難度也日益加大。

打假AI原本就是訓練造假AI的一部分,二者剛好在生成對抗性網路的兩端。一個生成器,一個鑑別器,道高一尺,魔高一丈。

由於Deepfake的技術在於篡改數據,那麼鑑別方則在尋找一切篡改數據的痕跡。一種方法是基於像素的影片檢測,影片其實是成千上萬幀圖片連放,細緻到檢測每個像素的改變痕跡,是一件頗為浩大工程。

此外,偽造的面部表情目前仍有缺陷。偽造的臉部表情往往與其他部分存在不一致,電腦演算可以檢測圖片或影片中的這種不一致。

Deepfake#
加州大學柏克萊分校的研究者比較真假人物的面部差異
圖/ 品玩

舉例而言,初代Deepfake影片中的人物,眨眼的方式都有點奇怪。

紐約州立大學奧爾巴尼分校電腦科學系副教授呂思偉曾撰文表示,成年人的眨眼間隔為2秒到10秒,一次眨眼需要十分之一到十分之四秒。這是正常影片人物應有的眨眼頻率,但很多Deepfake影片的人物沒能做到這一點。

彼時由於缺乏閉眼圖像數據,算法的訓練並不完美,影片人物面孔總有一種「哪裡不對」的不和諧感。

然而,通過閉眼的面部圖像、或使用影片序列進行訓練,可以改善眨眼間隔。虛假影片的質量總會提高,而研究人員需要繼續尋找檢測它們漏洞的方法。

南加大的研究者威爾.阿布達-阿爾瑪基德(Wael Abd-Almageed)表示,社群網路可以使用算法來大規模識別Deepfake。為了實現這一過程的自動化,研究人員首先建立了一個神經網絡,「學習」人類在說話時如何移動的重要特徵。然後,研究人員使用這些參數將偽造影片的堆疊幀輸入AI模型,以檢測隨時間的不一致性。

普渡大學的研究人員也採用了類似的方法,他們認為,隨著訓練模型的Deepfake影片數據量越來越大,模型也會更加精確,更容易檢測出偽造的影片。

美國2020年大選在即,如何阻止Deepfake從低俗娛樂發展到操縱民意,是研究者們最迫切的動力之一。但願一鍵打假的速度,能追上一鍵換臉的速度。

責任編輯:江可萱

本文授權轉載自:PingWest

往下滑看下一篇文章
迎接AI代理時代,中國信託3大策略重點加速金融轉型
迎接AI代理時代,中國信託3大策略重點加速金融轉型

台灣年度AI盛會「2025 AI TAIWAN未來商務展」日前圓滿落幕,展會期間同步登場的「2025 AI TAIWAN國際趨勢高峰論壇」也吸引來自產官學界的高度關注。副總統蕭美琴親臨現場致詞時指出,人工智慧正以前所未有的速度改變全球產業版圖,台灣正站在這場關鍵變革的十字路口,必須積極布局。

「我們已在硬體供應鏈上打造出一座堅固的山頭,接下來,台灣更要以AI與軟體應用為核心,開創下一座新高峰,讓台灣持續站穩世界舞台。」蕭美琴強調。

AI應用邁入「代理時代」,大量數位員工走進職場

目前,AI應用的發展已從單純的聊天問答與內容生成,邁入全新的「代理時代」。Google前台灣董事總經理簡立峰說明,所謂AI代理(AI Agent),不僅能理解與回答問題,更具備推理、規劃甚至執行任務的能力。像是特斯拉的無人計程車服務,或Amazon的倉儲與送貨機器人,都意味著AI不再只是螢幕中的語言模型,而是直接參與了人們的日常生活,甚至取代部分白領工作,成為職場上的虛擬同事,舉凡代理撰寫軟體程式碼、產出研究報告等任務,AI都能勝任。

受邀擔任主題演講嘉賓的中國信託金控資訊最高主管賈景光,對此趨勢也有相同見解。他預期,未來金融職場將迎來大量數位員工,AI角色亦將從過去的助理定位,躍升為具備博士班水準的專業夥伴,全面協助企業提升營運效率與生產力。

事實上,為了迎接這股變革浪潮,中國信託早在2018年便前瞻性地成立AI實驗室,積極借鏡國際金融業的成功經驗,推動各項AI專案。這項超前部署的策略,也讓中國信託成為台灣首家連續四年榮獲《Global Finance》雜誌「全球傑出金融創新實驗室」殊榮的金融機構,展現其在AI創新應用領域的領導地位。

中國信託金控
首家連續四年榮獲《Global Finance》雜誌「全球傑出金融創新實驗室」殊榮的金融機構_中國信託金控,受邀分享AI創新應用領域的經驗與策略。
圖/ 數位時代

中信AI發展策略的3大核心重點

進一步探究中國信託金控的AI應用發展策略,可以歸納出3大核心重點。

第一是採取「導入通用工具+自建AI模型並行」的雙軌推動模式。目前市面上由科技大廠或新創企業提供的AI工具已相當成熟,如:語意搜索、摘要總結、內容生成等工具,只要確保符合資安與內控標準,即可快速導入與應用。此外,針對中信獨有的經營Know-how、產品知識、關鍵決策能力等核心競爭優勢,則透過自建AI模型的方式內化至系統中,藉此強化差異化競爭力,與通用工具形成有效互補。
第二為打造AI賦能的企業文化。賈景光強調,推動AI賦能,絕非單純的技術導入專案,而是一場全方位的企業文化變革,必須由高階主管帶頭學習與使用AI,再結合員工教育訓練、不定期內部應用成果與外部趨勢分享、建置學習資源庫、以及Prompt Engineering的技巧養成與實戰演練等方式,循序漸進,逐步型塑出AI賦能的企業文化。

尤其考量到「如何下正確指令」(Prompt Engineering)是AI效益最大化的關鍵,中國信託也將內部累積的指令設計技巧與應用實例,整理為知識庫,讓全體員工得以共同學習、快速上手,加速落實AI於日常工作中。目前,中國信託金控已經盤點出超過200個AI應用情境,協助員工有效提升40%至70%生產力。

第三則是鎖定關鍵應用場景、最大化AI導入成效。每個產業都有自己的關鍵議題,企業在導入AI時應回歸業務本質,從產業策略與關鍵流程出發,找出痛點並對症下藥,才能創造出AI應用的最大價值。

中國信託金控
中國信託金控資訊最高主管賈景光,開場時提到,目前全球市值最高的企業,很大的比例都與AI有關。
圖/ 數位時代

像中國信託便聚焦於優化客戶體驗、提昇內部效率與風險管理3大金融業核心議題,發展相關的AI應用,例如:智能客服已實現70%的客戶詢問可於1秒內快速回應、自主研發的AI模型能主動偵測並攔截可疑交易,2024年累計成功阻擋的詐騙金額已達8.4億元新台幣,為客戶資產安全提供有力保障。

隨著內部AI應用已小有所成,如今,中國信託正積極邁向產業共創階段,並響應金管會倡議成立的「金融科技產業聯盟」,擔任「金融科技應用研發工作圈」的首屆召集人。透過聯合學習、金流履歷、資料整合等方式,研發可以解決金融業共通性問題的AI相關應用,如 : 目前的首要任務是建構全國性金融同業防詐平台,以科技精準阻詐、達到守護民眾財產安全的目的。賈景光強調,唯有打破單打獨鬥,串聯產業力量,才能加速AI在金融業的落地與深化,進一步提升台灣在國際舞台上的AI應用實力,真正讓台灣的金融科技在全球發光發熱。

中國信託金控
賈景光強調,唯有共同合作,串聯產業力量,才能加速AI在金融業的落地與深化。
圖/ 數位時代

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
電商終局戰
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓