蘋果表示將透過hashing演算法過濾使用者上傳至iCloud服務的照片內容,是否涉及兒童性虐情況或違反使用規範行為。此項技術將從近期內開始投入測試,同時也說明此項技術必須配合更新至iOS 15的iPhone裝置使用。
由於蘋果在iCloud與iPhone等裝置均採用複雜加密機制,因此基於隱私考量,蘋果並不會直接針對使用者上傳圖面進行掃描比對,因此將會透過掃描hash資料串方式比對,一旦發現上傳至iCloud的圖片與網路傳播涉及兒童性侵照片的hash資料串相符,即可判定上傳圖片至iCloud的使用者涉及違法。
蘋果表示新的機制將與美國國家失蹤與受虐兒童中心 (NCMEC)所提供散列資料庫存放內容比對,並且計畫在iOS 15整合此項機制,意味使用者實際將照片上傳至iCloud之前,系統就會先在iPhone等裝置端進行掃描,而非上傳至iCloud之後才作比對。
若系統持續偵測相當次數的違規行為,此時就會由蘋果透過人工方式進行檢測,確認是否有誤判情況,避免將父母上傳大量幼小子女照片等情況誤判為涉及兒童性侵行為,同時使用者也能向蘋果提出誤判申訴。
但如果確認沒有誤判,蘋果就會停止使用者持有iCloud帳號,並且在有必要情況下,將把相關資料轉交給美國國家失蹤與受虐兒童中心,或是轉送執法單位處理。不過,蘋果也說此項機制僅能管制上傳至iCloud的照片,若使用者選擇將照片傳送到其他雲端服務存放的話,此項系統就無法發揮作用。
另一方面,蘋果也表示項機制僅用於比對與美國國家失蹤與受虐兒童中心合作數據,因此並不會用於識別其他照片內容,強調不會危害一般使用情況下的隱私安全。
資料來源:Apple、BBC、Tech Crunch-1、Tech Crunch-2
責任編輯:蕭閔云