隨著生成式AI的普及，網路上的數位內容愈來愈真假難辨。Google近日宣布，計畫於未來幾個月內，在Google Search等平台上，推出標示圖片是否由AI生成及編輯的功能。
為強化數位內容透明度推C2PA
這項功能透過採用C2PA（Coalition for Content Provenance and Authenticity，內容來源與真實性聯盟）技術標準，幫助使用者更清楚地辨識數位內容的來源。
C2PA由多家公司組成，包括Google、亞馬遜、微軟、OpenAI和Adobe，致力於推動內容憑證（Content Credentials）的技術發展。圖片的來源將在Google Search、Google Lens及Circle to Search等功能中的「關於此圖片」視窗中被標示。未來，這項標示措施也可能擴展至YouTube等平台。
Google也計畫利用C2PA協助YouTube觀眾確認哪些畫面是真的透過相機拍攝，但這取決於相機廠商是否支援C2PA標準，目前只有Leica、Sony相機支援這一標準。
C2PA技術的挑戰
儘管C2PA技術能為數位內容提供真實性保證，但其推廣和應用仍面臨不少挑戰。
目前只有含C2PA元數據的圖片會被標示為AI生成或編輯，但C2PA元數據是可被移除或刪除的，甚至在傳輸過程中損壞至無法閱讀的狀態，造成Google無法辨識。此外，此技術需建立在AI技術廠商加入C2PA聯盟，譬如xAI的Grok聊天機器人所使用的Flux生成工具，因為尚未採納C2PA標準，因此並不具備這些元數據。
對此Google表示透過C2PA指導委員會，針對內容憑證的技術標準進行了升級。新版內容憑證技術（2.1版）強化了防篡改功能，不過在跨平台的採用上仍有待克服。
Deepfake層出不窮，過去一年AI詐騙事件激增245%
近年有關Deepfake深偽技術所造成的犯罪層出不窮，譬如韓國在今年8月被爆出的「N號房2.0」事件，多名女性成為deepfake色情影像的受害者。AI生成內容的詐騙案件也在激增。
根據Deloitte的統計，從2023年至2024年，涉及AI生成內容的詐騙案件增長了245%。Deloitte進一步預測，與深偽技術相關的經濟損失將從2023年的123億美元（約3929億8254萬）暴增至2027年的400億美元（約1兆2779億），顯示了加強數位內容來源驗證技術的迫切性。
延伸閱讀：Google自學神器！上傳資料到NotebookLM可一鍵生成「模擬podcast」，2步驟一次看
Google與新創Holocene簽約！砸1000萬美元買「每噸100美元」碳捕捉協議
本文初稿為AI編譯，整理．編輯/黃若彤
