這項功能透過採用C2PA(Coalition for Content Provenance and Authenticity,內容來源與真實性聯盟)技術標準,幫助使用者更清楚地辨識數位內容的來源。
C2PA由多家公司組成,包括Google、亞馬遜、微軟、OpenAI和Adobe,致力於推動內容憑證(Content Credentials)的技術發展。圖片的來源將在Google Search、Google Lens及Circle to Search等功能中的「關於此圖片」視窗中被標示。未來,這項標示措施也可能擴展至YouTube等平台。
Google也計畫利用C2PA協助YouTube觀眾確認哪些畫面是真的透過相機拍攝,但這取決於相機廠商是否支援C2PA標準,目前只有Leica、Sony相機支援這一標準。
目前只有含C2PA元數據的圖片會被標示為AI生成或編輯,但C2PA元數據是可被移除或刪除的,甚至在傳輸過程中損壞至無法閱讀的狀態,造成Google無法辨識。此外,此技術需建立在AI技術廠商加入C2PA聯盟,譬如xAI的Grok聊天機器人所使用的Flux生成工具,因為尚未採納C2PA標準,因此並不具備這些元數據。
對此Google表示透過C2PA指導委員會,針對內容憑證的技術標準進行了升級。新版內容憑證技術(2.1版)強化了防篡改功能,不過在跨平台的採用上仍有待克服。
根據Deloitte的統計,從2023年至2024年,涉及AI生成內容的詐騙案件增長了245%。Deloitte進一步預測,與深偽技術相關的經濟損失將從2023年的123億美元(約3929億8254萬)暴增至2027年的400億美元(約1兆2779億),顯示了加強數位內容來源驗證技術的迫切性。
本文初稿為AI編譯,整理.編輯/黃若彤
