AI換臉的偽造影片到處流竄,識別造假的軍備競賽開打
AI換臉的偽造影片到處流竄,識別造假的軍備競賽開打

Deepfake自問世以來,一路向著人性陰暗面奔去。

民間技術流已經對AI換臉教程玩得不亦樂乎。但每個人也更容易成為受害者:偽造綁架影片勒索詐騙,不雅影片毀壞名譽,或者恐怖影片製造混亂,都因為Deepfake的開源技術變得空前容易。

Deepfake2
讓一眾名人換上美國前總統布希的面部動作圖TED
圖/ 品玩

在Photoshop摧毀了大眾對圖片的信任後,Deepfake正在摧毀大眾對影片的信任。沒人想在網路上看到自己的面孔說著自己沒說過的話。許多針對個人的傷害,也因為影響不夠巨大而投訴無門。

美國正在組成一支Deepfake打假隊伍,不僅是各大實驗室、研究中心在尋找Deepfake的破綻,一股創業潮流也正在興起。

但這是一場造假AI與鑑假AI之間「你有張良計,我有過牆梯」的競賽。每一篇檢測Deepfake的論文,彷彿都能提示造假技術修補自身漏洞,從而更上一層樓。

關上Deepfake的潘朵拉魔盒,他們能做到嗎?

用打假Deepfake創業

西瓦.金塔利(Shiva Kintali)離開擔任講師4年的普林斯頓資工系,正在矽谷創業鑑別偽造影片。他的合作對像有警察、記者、保險公司等,透過機器學習尋找偽造影片的破綻,用區塊鏈記錄信息等技術來輔助鑑別。

金塔利的網站已經可以上傳圖像、音樂、影片,來分析檢測是否有修改痕跡。他同時在開發一個手機相機應用程式,用人工智慧為圖像添加時間、地點、浮水印,並將圖片原始信息印在區塊鏈上。一旦傳播圖像的信息與原始圖片不符,就容易判斷真偽。

這些產品希望幫助記者、媒體公司、政治競選團體、執法機構(例如:FBI、NSA),保險公司(面臨虛假事故照片的保險索賠問題)和大公司(例如:Facebook、Twitter、Redditt、Pornhub),在其平台上阻止虛假的影片、音樂、照片傳播。

由於Deepfake降低了影片造假的門檻。面對真偽難辨的影像資料,記者不知道能否發布,保險公司不知是應該理賠還是報警詐騙,警察收集證據後,也需要專業工具去鑑定圖片和影片的真偽。

目前流傳的假影片大多是「淺度造假」,但因為數量多,造成了無數困擾。史丹佛的研究人員向鑑別公司了解到困擾他們的三大問題:數量太多,可用鑑別時間太短,缺乏標準化的工具。

因此,研究者們在尋找能夠大規模應用的打假方法。Facebook、Twitter等社交網絡上爆炸式傳播的圖片和影像,給闢謠留下的時間窗口越來越短。普通大眾也不可能僱傭專業人士進行鑑別。

搶先商用化的圖像驗證平台Truepic已經上線了一款智慧相機應用。用戶拍下的圖像將上傳至服務器,在創建時對照片和影片進行身份驗證,獲得唯一編碼。相機應用捕獲設備的感測器數據,在傳輸之前加密照片或影片,運行20多個圖像取證測試,並在幾秒鐘內,將圖像的加密簽名印在公共區塊鏈上,使得信息不可被篡改。

這是一種「自證清白」的方式,適用於電子商務平台和公民記者類用戶。如果用戶將圖片發送給接收者,Truepic允許收件人驗證圖像的原點和元資料的完整性。任何二次傳播的多媒體材料,都可以與區塊鏈上的原始信息對比,辨別真假。

在Deepfake的威脅下,鑑定圖片、影片的真實性,都成了相機應用的賣點。但這類以營利為目的的產品又引起了用戶新的隱私擔憂。畢竟,誰能確保Truepic不作惡呢?

演算法打演算法

位於矽谷的史丹佛實驗研究院(SRI International)的AI中心則「以毒攻毒」,用偽造的影片訓練演算法,讓演算能夠更好識別出偽造痕跡。在人們上傳影片到社交網站的時候,平台需要對影片重新編碼。這是一個檢測虛假影片的好時機。

但隨著Deepfake的漏洞日漸優化,用演算法打演算法的難度也日益加大。

打假AI原本就是訓練造假AI的一部分,二者剛好在生成對抗性網路的兩端。一個生成器,一個鑑別器,道高一尺,魔高一丈。

由於Deepfake的技術在於篡改數據,那麼鑑別方則在尋找一切篡改數據的痕跡。一種方法是基於像素的影片檢測,影片其實是成千上萬幀圖片連放,細緻到檢測每個像素的改變痕跡,是一件頗為浩大工程。

此外,偽造的面部表情目前仍有缺陷。偽造的臉部表情往往與其他部分存在不一致,電腦演算可以檢測圖片或影片中的這種不一致。

Deepfake#
加州大學柏克萊分校的研究者比較真假人物的面部差異
圖/ 品玩

舉例而言,初代Deepfake影片中的人物,眨眼的方式都有點奇怪。

紐約州立大學奧爾巴尼分校電腦科學系副教授呂思偉曾撰文表示,成年人的眨眼間隔為2秒到10秒,一次眨眼需要十分之一到十分之四秒。這是正常影片人物應有的眨眼頻率,但很多Deepfake影片的人物沒能做到這一點。

彼時由於缺乏閉眼圖像數據,算法的訓練並不完美,影片人物面孔總有一種「哪裡不對」的不和諧感。

然而,通過閉眼的面部圖像、或使用影片序列進行訓練,可以改善眨眼間隔。虛假影片的質量總會提高,而研究人員需要繼續尋找檢測它們漏洞的方法。

南加大的研究者威爾.阿布達-阿爾瑪基德(Wael Abd-Almageed)表示,社群網路可以使用算法來大規模識別Deepfake。為了實現這一過程的自動化,研究人員首先建立了一個神經網絡,「學習」人類在說話時如何移動的重要特徵。然後,研究人員使用這些參數將偽造影片的堆疊幀輸入AI模型,以檢測隨時間的不一致性。

普渡大學的研究人員也採用了類似的方法,他們認為,隨著訓練模型的Deepfake影片數據量越來越大,模型也會更加精確,更容易檢測出偽造的影片。

美國2020年大選在即,如何阻止Deepfake從低俗娛樂發展到操縱民意,是研究者們最迫切的動力之一。但願一鍵打假的速度,能追上一鍵換臉的速度。

責任編輯:江可萱

本文授權轉載自:PingWest

往下滑看下一篇文章
補齊未來電子業版的關鍵拼圖!矽眾科技以高階溫度補償驅動晶片IP,助攻高階AI與車用市場
補齊未來電子業版的關鍵拼圖!矽眾科技以高階溫度補償驅動晶片IP,助攻高階AI與車用市場

你是否曾好奇,為何今日的手機能在艷陽下持續運作,而電動車也能從零下的極地順利駛出,精準感測周遭環境?

看似尋常的應用場景背後,其實隱藏著一顆默默進行的「溫度偏移校正」關鍵晶片。這類負責環境感知、並能進行溫度補償的「驅動晶片」,是電子元件穩定運作不可或缺的一環 。然而,這塊高階驅動IC的研發,長期以來卻是臺灣在全球半導體供應鏈中相對薄弱的環節,使得臺灣眾多在零組件領域傲視全球的廠商,在高階應用市場中受制於人。

矽眾科技鎖定高階溫度補償驅動晶片IP,要替臺灣補足產業鏈缺口

「我們臺灣在零組件領域,其實有很多世界第一,例如在全球市佔率領先的振盪器,但始終難以打進高階產品線,就是因為缺少能驅動這些零組件的高階晶片。」矽眾科技創辦人陳世綸開宗明義地指出產業痛點。他解釋,許多臺灣零組件廠商雖擁有卓越的製造能力,但在高階驅動晶片上卻高度仰賴美日大廠,而國際大廠往往不願開放最先進技術,臺灣廠商因此缺乏在價值鏈高附加價值鏈段的話語權,只能在低利潤的紅海市場中競爭。如何打破技術封鎖、強化自主關鍵技術,成為臺灣電子產業邁向國際高端市場的關鍵課題。

而矽眾科技的成立,正是為了補上這道斷鏈而生。作為少數專注零組件驅動晶片矽智財(Silicon Intellectual Property , IP)開發的企業,當AI運算與電動車市場爆發性成長,矽眾科技以可重複授權、穩定可靠的矽智財解決方案,成為產業鏈中不可或缺的關鍵推手。陳世綸說當高階電子產品對穩定性的要求日益嚴苛,就更考驗元件必須能在高溫、低溫甚至劇烈溫度變化下維持效能。這正是「溫度補償」(Temperature Compensation)技術的關鍵價值所在。

「矽眾科技的IP 就像貼心的助理,提醒元件「冷了多穿衣服、熱了脫下外套」,透過溫度補償即時調整參數,即使處於零下 40 度的嚴寒或高達 140 度的酷熱環境,訊號依然能保持精準一致。」陳世綸生動地形容 。

透過開發板進行晶片溫度感測與數位校準測試,確保 MEMS 感測器在不同溫度下依然能維持精準運作。
透過開發板進行晶片溫度感測與數位校準測試,確保 MEMS 感測器在不同溫度下依然能維持精準運作。
圖/ 數位時代

他進一步解釋,晶片內整合了類比的溫度感測器來偵測環境溫度,並將數據傳送給數位電路進行判斷與分析,數位電路再發出指令,精準校準MEMS(Micro-Electro-Mechanical Systems) 感測器的參數,確保其在不同溫度下都能提供正確值,避免因溫度變化導致的誤差和功能喪失,例如手機熱當或汽車失靈 。這種「類比感知+數位判斷校準」的整合能力,正是矽眾科技在高階驅動晶片領域所構築的技術壁壘。

陳世綸表示,矽眾科技之所以選擇IP這條賽道,正是看準了其在產業中的獨特價值。作為IP公司,其設計模組能適用於從0.18微米的成熟製程到小於10奈米的先進製程,客戶可根據自身產品需求快速整合,大幅縮短開發週期。這種靈活性,不僅讓矽眾能服務更廣泛的客戶群,也賦予了臺灣零組件廠商快速切入高階市場的機會。

晶創IC補助計畫奧援,矽眾科技以IP挺進高階市場布局全球

然而,IP的研發是條燒錢的漫漫長路。陳世綸坦言,由於IP的價值在於其穩定性與可重複使用性,但要達到這個門檻需反覆測試與驗證 。他透露,矽眾科技的IP中,每個驅動電路區塊都必須經過數次的設計定案(tape-out)與實體測試,而每次的成本都高達數萬至數十萬美金不等。「沒有政府的計畫支持我們根本做不到,」陳世綸感念地表示,而他口中的計畫正是由經濟部產業發展署所推動的「驅動國內IC設計業者先進發展補助計畫」(以下簡稱晶創IC補助計畫),讓團隊得以持續突破與精進,追求每個電路區塊的極致穩定性與精準度。

晶創IC補助計畫的資金補助,不僅加速矽眾科技的測試進程,也成功讓這個具備溫補能力的高階驅動晶片IP跨入車用與AI市場 。陳世綸說明,此IP主要針對高階MEMS零組件,特別是應用於5G手機、低軌道衛星、AI伺服器中需要高頻率、高準確度且耐溫的振盪器 。同時,它也符合嚴苛的車用認證,確保車載系統在極端溫度下的穩定性 。此外,此IP亦可支援手機中的胎壓偵測、高度偵測等MEMS感測器,因未來的電子產品將大量使用這類元件,且需具備溫度補償能力以維持精準度 。

如今,矽眾科技已與美加、日本、歐洲及臺灣等國內外大廠展開合作。陳世綸欣喜地表示,許多客戶原本因買不到關鍵驅動晶片而受限於低階市場,現在矽眾科技的IP補上了這一塊,他們也終於能進軍高毛利產品線。目前,已有合作夥伴將矽眾的高階驅動晶片IP導入車用認證流程,未來甚至可望進一步進入低軌道衛星與醫療穿戴市場。

矽眾科技站穩利基市場,與全球MEMS企業共舞

有了晶創IC補助計畫的挹注,矽眾科技更能以關鍵 IP 、溫度補償技術,帶領團隊協助臺灣半導體產業鏈從
有了晶創IC補助計畫的挹注,矽眾科技更能以關鍵 IP 、溫度補償技術,帶領團隊協助臺灣半導體產業鏈從「代工製造」轉向「設計賦能」。
圖/ 數位時代

比起一家公司從頭到尾包辦整顆IC的傳統模式,IP公司更像是站在舞臺後方的設計者,協助每一位客戶量身打造表演服、背景道具與燈光效果,讓他們能快速踏上國際舞臺。「我們不做整套產品,但我們讓臺灣的零組件有機會躋身高階應用,不再只是代工。」陳世綸堅定地說,矽眾科技的策略,是站在面對未來5到10年需求的位置上,看見即將來臨的市場缺口,然後在它出現前就先把技術準備好 。

「我們希望矽眾科技未來是跟著全球 MEMS 企業一起共舞,」陳世綸生動的描繪出公司的願景,矽眾科技透過獨特的IP商業模式、關鍵的溫度補償技術以及晶創IC補助計畫的強力奧援,不僅成功在利基市場中站穩腳步,更為臺灣半導體產業開闢了一條高值化的新路徑。這項成果不僅是矽眾科技自身的里程碑,也證明臺灣的IC設計實力,已在全球高階半導體供應鏈中找到了新的戰略位置,從過去的「代工製造」轉向「設計賦能」,引領臺灣零組件產業邁向更高層次的全球市場競爭力。

|企業小檔案|
- 企業名稱:矽眾科技
- 創辦人:陳世綸
- 核心技術:5G通信、人工智慧、物聯網、車用電子矽智財(IP)設計服務
- 資本額:新臺幣1仟700萬元
- 員工數:6人

|驅動國內IC設計業者先進發展補助計畫簡介|
在行政院「晶片驅動臺灣產業創新方案」政策架構下,經濟部產業發展署透過推動「驅動國內IC設計業者先進發展補助計畫」,以實質政策補助,引導業者往AI、高效能運算、車用或新興應用等高值化領域之「16奈米以下先進製程」或「具國際高度信任之優勢、特殊領域」布局,以避開中國大陸在成熟製程之低價競爭,並提升我國IC設計產業價值與國際競爭力。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
蘋果能再次偉大?
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓