蘋果大轉彎,暫緩實施會掃描照片的兒童保護政策!為何會自砸腳引罵聲?
蘋果大轉彎,暫緩實施會掃描照片的兒童保護政策!為何會自砸腳引罵聲?

2021.9.6更新:蘋果宣布暫緩實施

>

蘋果上月公布三項針對保護兒童的新政策,但由於有掃描用戶照片等隱私疑慮,引起大量爭議,蘋果近日表示,計畫將會延後實施,並且表示,在向大眾公開推出之前,會再多花時間將這些功能修改的更加完善。

為何保護兒童的政策會演變成隱私問題?往下看原報導一探究竟

2016年2月16日,蘋果收到了法官傳來的長達42頁的政府請求。FBI試圖解鎖槍擊殺人案嫌疑人的iPhone,未果,於是要求蘋果馬上開發一個特殊的iOS版本:可以無限次輸入密碼,直至成功解鎖嫌犯手機。

讓人意外的是,提姆·庫克拒絕了執法者,「建構一個能夠繞過安全保護的iOS版本無疑就是開了一個『後門』。雖然政府可能會爭辯說它僅限於這種情況使用,但事實上,這樣的控制是根本無法保證的。」蘋果看似站到了恐怖份子那一邊,但卻在很多人心裡樹立起了捍衛用戶隱私的形象。

apple
圖/ TenMax

然而,令人想不到的是,蘋果對「隱私」的態度,轉變得如此之快。

最近,蘋果針對兒童性虐待保護推出了三條新政,其中最讓人不安的一條是:用戶照片在上傳到iCloud前,將會先在裝置端進行雜湊值比對。如果和現存的兒童性虐待資料庫有一定匹配量,那麼,會有人工查驗問題照片是否涉及兒童性虐待,之後採取封鎖帳號、報告機構等措施。

這些還未落地的政策,引發了強烈的輿論地震。 6000多家組織和個人在GitHub上發起聯名信,「儘管打擊兒童虐待的出發點是絕對善意的,但該系統以及背後的智慧算法實際上給蘋果系統加裝了一個『後門』,而這可能侵犯所有蘋果用戶的個人隱私。」曾經曝光美國棱鏡門的「吹哨者」愛德華·斯諾登也簽署了這份聯名信,他警示道: 「今天能掃描兒童虐待照片,明天就能掃描任何東西。」

在這些安全專家和普通用戶看來,蘋果自己打破了「捍衛用戶隱私」的金身。

「我幫孩子洗澡時拍了些照片,會被抓嗎?」

蘋果主動披露,他們開發了一個用於「掃描」用戶相簿以揪出CSAM(兒童性虐待內容)的加密算法。這個算法被稱為「NeuralHash」,是一種利用雜湊值來進行匹配的算法。雜湊值通常是一長串的數字,可以簡單理解成是一段數據(某個文件,或者是字符串)的DNA,或者身份證。之所以比作DNA,是每個文件的雜湊值都是獨一無二的,基於這個特性,雜湊值常常被用來判斷兩個文件是否相同。

這個算法目前在NCMEC(美國國家兒童失蹤與受虐兒童援助中心,是美國國會成立的兒童保護組織,以下簡稱為「兒童保護中心」)提供的「20萬張圖像」上進行訓練,再過幾個月,會隨著iOS 15和macOS Monterey等新系統的上線正式推出。蘋果表示,這項「掃描」用戶照片的特性會率先在美國推行。

NCMEC
美國國家兒童失蹤與受虐兒童援助中心(NCMEC)。
圖/ NCMEC

據蘋果的說法,「掃描」照片的過程是這樣的:

蘋果事先獲得了兒童保護中心提供的已在網上傳播的兒童性虐待數據庫,這個數據庫並非直接提供給蘋果,而是被「分解」成了無數組雜湊值,然後加密儲存在蘋果用戶的裝置上。

用戶裝置上的照片也能被計算出一組雜湊值,在上傳到iCloud之前就在裝置與兒童保護中心的數據庫匹配,原理類似指紋比對。為了防止誤判,只有當匹配達到一定量的時候才能交由人工審核,審核員能看到的也是低解析度的圖像,如果涉事用戶最終被判定為違規,會被停權和上報NCMEC。

有網友提出了疑問: 「我幫孩子洗澡時拍了些照片,會被抓嗎?」 蘋果解釋稱,他們並不能直接看到用戶的照片,比對依靠的是圖像雜湊值。假如用戶的相簿裡沒有那些特定的、在網上廣泛流傳的違規照片,便不會被上報。

針對那些特定的違規照片,蘋果表示他們的雜湊值匹配技術也能「對抗」歹徒對圖片的二次處理。即便原片經過裁剪或者其他顏色處理,蘋果也能確保視覺上相近的圖片會有一樣的雜湊值。

蘋果強調,如果用戶禁用iCloud,那存放在本地的照片就不會被掃描。同時,用戶已經上傳在iCloud裡的照片也會被拿來比對。

掃描這類違規內容並非蘋果「首創」,Facebook、Twitter、Reddit 等公司也會根據Hash庫掃描用戶的文件,他們一般使用的是微軟開發的工具PhotoDNA,通常是掃描用戶儲存在他們伺服器上的文件。按照美國法律,這些公司一旦發現了兒童性虐待內容,就有義務向兒童保護中心報告。蘋果新政和這些公司的不同之處,在於蘋果在用戶裝置端進行掃描、比對。

另外,蘋果針對兒童性虐待保護還將推出兩項更新。一項是在Siri和搜尋功能中提供求助資源和提示訊息,另一項是在訊息app裡加入本地機器學習圖像識別,主動向未成年人及其家長發出「黃色」預警。後者同樣惹來不少非議。

如果用戶在iOS中設置了家人共享功能,未成年人的Apple ID在訊息app中的對話將受到基於本地機器學習的監控。

如果未成年人用戶在iMessage中發送和接收色情照片,蘋果系統也會在本地掃描後進行判定,然後一般會先做模糊處理,如果未成年人繼續操作,蘋果會先警告,然後通知其家長。但蘋果表示,家長並不能直接看到孩子瀏覽的內容,這個過程並沒有違背他們對iMessage加密的承諾。

iMessage
圖/ shutterstock

聯名抗議還在繼續

斯諾登在Twitter上控訴蘋果: 「蘋果2015年:我們不讓FBI查看死掉的恐怖份子的手機,只為保護你的隱私;蘋果2021年:我們會用官方黑名單檢測你的相冊和iCloud照片,除了報警之外,還會告訴你家長。」

科技巨頭也站出來指責蘋果。WhatsApp主管Will Cathcart表示,Facebook旗下的平台不會採用蘋果的方法,他們依靠用戶報告兒童性虐待內容。WhatsApp也會掃描用戶未加密的訊息,比如用戶檔案和群組描述,然後尋找違規內容。

「這是一個由蘋果建立和營運的監視系統,可以非常容易地用於掃描私人內容,以獲取他們或政府決定要控制的任何東西。銷售iPhone的國家會對什麼是可接受的內容有不同的定義。」Cathcart說。在配合監管機構方面,儘管我們看到蘋果曾經拒絕了FBI的傳令,但總體而言蘋果支持監管, 支持在各地的法律框架下經營。

約翰霍普金斯大學學者Matthew Green提出質疑,目前iCloud照片儲存沒有採用端到端加密,為何還要煞費苦心設計如此複雜的機制?畢竟這一機制顯然是為了核驗端到端加密內容而準備的。

一個好的假設是,蘋果會在照片上傳中也應用端到端加密技術;然而壞的假設也有一定可能——蘋果在試圖拓寬監管邊界。

Green還指出,無論是蘋果設計的雜湊值比對算法,還是兒童保護中心提供的資料庫,都是不透明的。若蘋果公開算法,則可能會被利用於釣魚。另外,被當作是判定依據的違規照片庫,更是任何普通用戶甚至蘋果都無法查驗的。

EFF(電子前哨基金會)撰文指出,蘋果在用戶裝置上做本地掃描的做法完全顛覆了「端到端加密」存在的意義,因為用戶難以驗證蘋果究竟「掃描」和「攔截」了什麼,而服務器端也有可能通過這個方法,獲取大量傳輸內容的雜湊值,並進行數據分析。「再小的後門也是後門。」 EFF寫道。

行業分析師Ben Thompson在自己的部落格上寫道,「問題不在於蘋果是否只向父母發送通知或將其搜索限制在特定內容。問題在於,蘋果在數據離開你的手機之前就開始掃描了。」Thompson還說,「沒錯,你可以關閉iCloud同步,但關鍵是蘋果用戶很難擺脫雲端同步。」蘋果生態下的產品協同,就是靠iCloud才能互通互聯的。 「真正令人失望的是,蘋果公司如此執著於他們對隱私的特殊看法,最終呢,用戶根本沒法相信,他們買來的裝置真正屬於自己。」

蘋果的自辯

上週,蘋果軟件副總裁Sebastien Marineau-Mes寫了一份內部備忘錄, 「有些人對這些功能運作方式有誤解」 ,公司將在未來做出更多的解釋。在內部看來,蘋果的三項新政既提供了保護兒童的工具,但也保持了蘋果對用戶隱私的堅定承諾。「我們知道,未來將會充斥著少數人的刺耳聲音,但我們的聲音會蓋過他們的。」

「這項技術僅限於檢測儲存在iCloud中的違規內容,我們不會答應任何政府的要求,擴大它的範圍。」蘋果還在另一文件中說,「我們將拒絕任何此類要求。」

Matthew Green在Twitter上爆料稱,「有人告訴我蘋果表示對人們的反應很『震驚』,原本以為上週五就可以平息,週末(蘋果發布了相關問題與答覆)大家就都會接受。」

但事件還在繼續發酵,聯名抗議的組織和個人的數量仍在上漲。用戶對技術被濫用的擔憂,蘋果用一句「相信我們」顯然無法服眾。

限編輯使用_shutterstock_iCloud_175540514.jpg
圖/ Gil C via Shutterstock

沒有人不支持兒童保護。據美國國家兒童協會報告, 平均5個兒童中就有1個在網路遭遇過性騷擾 ,另一兒童性侵害保護中心數據顯示,有30%的侵害從來未曾被報告過。兒童性侵害範圍很廣,但更多潛伏在水面之下不為人知。

但隱私掃描太容易引起公眾恐慌,即便是加了密的隱私掃描,即便是由每次發布會都長篇大論強調隱私保護的蘋果發出的。有用戶表達了自己的擔憂,「這就好比為了預防我犯錯,在我家裡加裝了個攝影機。」 在他們看來,商業公司沒有「審查」用戶數據的權利。

顯然,即便一個可以用科技去解決的真問題,一個哪怕確實源於正義的出發點,也一樣要對面對信任和授權的巨大挑戰。

責任編輯:傅珮晴、錢玉紘

本文授權轉載自:極客公園

最新8月號雜誌《區塊鏈上的金融新世界》馬上購:傳送門
「電子雜誌」輕鬆讀:傳送門

往下滑看下一篇文章
迎接AI代理時代,中國信託3大策略重點加速金融轉型
迎接AI代理時代,中國信託3大策略重點加速金融轉型

台灣年度AI盛會「2025 AI TAIWAN未來商務展」日前圓滿落幕,展會期間同步登場的「2025 AI TAIWAN國際趨勢高峰論壇」也吸引來自產官學界的高度關注。副總統蕭美琴親臨現場致詞時指出,人工智慧正以前所未有的速度改變全球產業版圖,台灣正站在這場關鍵變革的十字路口,必須積極布局。

「我們已在硬體供應鏈上打造出一座堅固的山頭,接下來,台灣更要以AI與軟體應用為核心,開創下一座新高峰,讓台灣持續站穩世界舞台。」蕭美琴強調。

AI應用邁入「代理時代」,大量數位員工走進職場

目前,AI應用的發展已從單純的聊天問答與內容生成,邁入全新的「代理時代」。Google前台灣董事總經理簡立峰說明,所謂AI代理(AI Agent),不僅能理解與回答問題,更具備推理、規劃甚至執行任務的能力。像是特斯拉的無人計程車服務,或Amazon的倉儲與送貨機器人,都意味著AI不再只是螢幕中的語言模型,而是直接參與了人們的日常生活,甚至取代部分白領工作,成為職場上的虛擬同事,舉凡代理撰寫軟體程式碼、產出研究報告等任務,AI都能勝任。

受邀擔任主題演講嘉賓的中國信託金控資訊最高主管賈景光,對此趨勢也有相同見解。他預期,未來金融職場將迎來大量數位員工,AI角色亦將從過去的助理定位,躍升為具備博士班水準的專業夥伴,全面協助企業提升營運效率與生產力。

事實上,為了迎接這股變革浪潮,中國信託早在2018年便前瞻性地成立AI實驗室,積極借鏡國際金融業的成功經驗,推動各項AI專案。這項超前部署的策略,也讓中國信託成為台灣首家連續四年榮獲《Global Finance》雜誌「全球傑出金融創新實驗室」殊榮的金融機構,展現其在AI創新應用領域的領導地位。

中國信託金控
首家連續四年榮獲《Global Finance》雜誌「全球傑出金融創新實驗室」殊榮的金融機構_中國信託金控,受邀分享AI創新應用領域的經驗與策略。
圖/ 數位時代

中信AI發展策略的3大核心重點

進一步探究中國信託金控的AI應用發展策略,可以歸納出3大核心重點。

第一是採取「導入通用工具+自建AI模型並行」的雙軌推動模式。目前市面上由科技大廠或新創企業提供的AI工具已相當成熟,如:語意搜索、摘要總結、內容生成等工具,只要確保符合資安與內控標準,即可快速導入與應用。此外,針對中信獨有的經營Know-how、產品知識、關鍵決策能力等核心競爭優勢,則透過自建AI模型的方式內化至系統中,藉此強化差異化競爭力,與通用工具形成有效互補。
第二為打造AI賦能的企業文化。賈景光強調,推動AI賦能,絕非單純的技術導入專案,而是一場全方位的企業文化變革,必須由高階主管帶頭學習與使用AI,再結合員工教育訓練、不定期內部應用成果與外部趨勢分享、建置學習資源庫、以及Prompt Engineering的技巧養成與實戰演練等方式,循序漸進,逐步型塑出AI賦能的企業文化。

尤其考量到「如何下正確指令」(Prompt Engineering)是AI效益最大化的關鍵,中國信託也將內部累積的指令設計技巧與應用實例,整理為知識庫,讓全體員工得以共同學習、快速上手,加速落實AI於日常工作中。目前,中國信託金控已經盤點出超過200個AI應用情境,協助員工有效提升40%至70%生產力。

第三則是鎖定關鍵應用場景、最大化AI導入成效。每個產業都有自己的關鍵議題,企業在導入AI時應回歸業務本質,從產業策略與關鍵流程出發,找出痛點並對症下藥,才能創造出AI應用的最大價值。

中國信託金控
中國信託金控資訊最高主管賈景光,開場時提到,目前全球市值最高的企業,很大的比例都與AI有關。
圖/ 數位時代

像中國信託便聚焦於優化客戶體驗、提昇內部效率與風險管理3大金融業核心議題,發展相關的AI應用,例如:智能客服已實現70%的客戶詢問可於1秒內快速回應、自主研發的AI模型能主動偵測並攔截可疑交易,2024年累計成功阻擋的詐騙金額已達8.4億元新台幣,為客戶資產安全提供有力保障。

隨著內部AI應用已小有所成,如今,中國信託正積極邁向產業共創階段,並響應金管會倡議成立的「金融科技產業聯盟」,擔任「金融科技應用研發工作圈」的首屆召集人。透過聯合學習、金流履歷、資料整合等方式,研發可以解決金融業共通性問題的AI相關應用,如 : 目前的首要任務是建構全國性金融同業防詐平台,以科技精準阻詐、達到守護民眾財產安全的目的。賈景光強調,唯有打破單打獨鬥,串聯產業力量,才能加速AI在金融業的落地與深化,進一步提升台灣在國際舞台上的AI應用實力,真正讓台灣的金融科技在全球發光發熱。

中國信託金控
賈景光強調,唯有共同合作,串聯產業力量,才能加速AI在金融業的落地與深化。
圖/ 數位時代

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
電商終局戰
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓