超過450名亞馬遜員工連署,抗議貝佐斯把這款軟體出售給軍方

2018.10.18 by
高敬原
陳炳勳攝影
最近在Medium上出現了一篇亞馬遜員工的公開匿名信,文中提到幾周前,有超過450位員工寫了一封信給執行長貝佐斯,希望公司能夠停止販售一款叫做「Rekognition」的軟體給警方,不過目前為止仍沒有得到公司的官方回應。

「我是亞馬遜的員工,我們不應向軍方出售人臉識別技術。」這麼立場堅定的一句表態,出自於在Medium上發布的一篇亞馬遜(Amazon)員工匿名公開信。

這整起事件要先從以「不做惡(Don't be evil)」作為信念的Google說起,今年(2018)10月,Google宣布退出一個叫做《聯合企業防禦基礎設施》(Joint Enterprise Defense Infrastructure,JEDI )的政府計畫,計畫的內容是讓美國國防部把大量資料移轉至商業雲端運作,總價值超過100億美元,合約可能長達10年,之所以會退出,Google表示是因為無法確定這項合作是否符合Google的AI標準。

由於與美國國防部的合作案,涉及到公民隱私問題,先前Google員工也多次反對與國防部合作,而Google退出後,亞馬遜也就成了接手的最佳人選。本周在舊金山舉行的《連線》(Wired)雜誌 25 週年峰會上,亞馬遜執行長貝佐斯(Jeff Bezos)說:「我們將繼續支持國防部,我認為我們應該這樣做,」他認為:「公司高層的工作就是做出正確的決定,即使它不受自家員工歡迎。」甚至認為:「如果大型科技公司打算退出國防部,這個國家將陷入困境。」被認為是在暗酸Google。

不過這一切在亞馬遜員工看來,完全跟亞馬遜一直以來所倡導的企業價值大相逕庭。

當一家公司將新技術帶進這個世界時,就有責任和義務衡量這項技術可能帶來的後果。
亞馬遜員工

當新科技用於執法,隱私與個人自由可能被侵犯

最近在Medium上出現了一篇亞馬遜員工的公開匿名信,文中提到幾周前,有超過450位員工寫了一封信給執行長貝佐斯,希望公司能夠停止販售一款叫做「Rekognition」的軟體給警方,不過目前為止仍沒有得到公司的官方回應。

人臉辨識軟體Rekognition,是基於亞馬遜的AWS圖像識別和分析平台,可以提供物體、場景、人臉辨識與分析,主打可以在機場、車站等人潮擁擠的公眾場所準確地監控,最近正積極向政府以及執法部門推銷。

透過亞馬遜的辨識軟體Rekognition,與資料庫中 25,000 名嫌犯的臉部資料進行比對,結果顯示有 28 個國會成員都是疑犯。
ACLU

今年七月,美國民權聯盟(ACLU)最近做了一項測試,將國會議員照片與資料庫內的嫌犯照片進行比對,結果亞馬遜的人臉辨識軟體Rekognition,竟然將28名議員誤認為嫌犯,外界呼籲在執法中導入人臉辨識技術,必須有更嚴謹的討論。人臉辨識系統還有一個很大的爭議,就是演算法偏見,因為系統一開始使用大量的白人男性資料作為學習基礎,因此一直以來有色人種以及女性遭到系統誤認的比例極高。在這次ACLU測試中,比對結果出錯的28位議員中,11人是有色人種,約占整體39%,過去ACLU也曾發信給貝佐斯強烈表達人臉辨識系統偏見的疑慮。

新技術缺乏監管機制,無辜大眾可能成為受害者

「當一家公司將新技術帶進這個世界時,就有責任和義務衡量這項技術可能帶來的後果,我任職的公司亞馬遜,正在允許美國各地的執法部門購買臉部識別軟體 Rekognition,我和其他員工要求這項業務立即停止。」

員工如此憤慨不是沒有道理,亞馬遜官方表示,臉部識別軟體 Rekognition一次能夠存儲和搜索數千萬張人臉,讓執法部門使用的同時,卻沒有相對應的監管機制,「從過去的經驗我們可以發現,因為缺乏監督機制,國家將手中的強大監視工具瞄準那些可能是無辜的人,在美國已經導致有色人種、移民和那些正在行使美國憲法權利的人們遭受過度監控和過度干擾。」

當政府、執法單位大規模採用新科技辦案時,忽略背後可能潛在的社會問題,是相當不負責任的行為。「我們都有權在不受政府監控的情況下生活,像我們這樣的公司不應該去協助監控。」
Microsoft

員工認為,當政府、執法單位大規模採用新科技辦案時,忽略背後可能潛在的社會問題,是相當不負責任的行為。「我們都有權在不受政府監控的情況下生活,像我們這樣的公司不應該去協助監控。」

「貝佐斯一定知道這些疑慮,」員工認為,貝佐斯在外面大肆談論新科技可能被獨裁者濫用的問題,但在公司內部卻希望員工靜觀其變,而非具體向員工解釋亞馬遜將如何採取行動,來防止技術被濫用。

「亞馬遜常常在談論領導的價值,」員工說:「如果我們想作為產業的領導者,必須在民眾的利益與公司利潤之間做出選擇,我們可以把危險的監控系統賣給警方,或者為對的事情挺身而出,然而我們永遠做不到兩者兼顧。

延伸閱讀

每日精選科技圈重要消息