無人機變軍事武器?Google給美軍AI工具引爆員工不滿

2018.03.07 by
高敬原
無人機變軍事武器?Google給美軍AI工具引爆員工不滿
shutterstock
Google宣布與五角大廈合作,提供AI開源工具TensorFlow ,來分析無人機所拍攝到的影像,此舉除了引發部分Google員工憤怒,也引起科技、軍事之間界線的討論。

科技的演進,尤其隨著人工智慧(AI)技術趨於成熟,人們對於「AI軍備競賽」以及「殺人機器人」都曾感到擔憂,而作為全球領導科技創新之一的佼佼者Google,最近與美國五角大廈(又稱美國國防部)合作,打算提供軍方AI工具來分析無人機影像,不僅許多內部員工對此舉感到憤怒,在全球擁有數十億用戶的Google將科技與軍事結合,自然也引起不少人的擔憂。

提供軍方AI開源工具,分析無人機影像

Netflix知名科幻影集《黑鏡》當中有一集「金屬頭(Metalhead)」,描述一隻金屬機械狗殘忍追殺拾荒者,讓人看見「殺人機器人」的黑暗面。

Google曾在2013年收購替美國軍方開發四足機器人的公司波士頓動力(Boston Dynamics),當時因為Google評估不太可能在近期推出商業產品,加上不願成為軍事武器的承包商,因此在2017年將這家公司賣給日本軟銀(SoftBank),當然最後Google並沒有製造任何軍事機器人,但也卻讓人看見科技大廠與軍方之間突破傳統的微妙性。

美國軍方打算使用Google的AI開源工具TensorFlow ,來分析無人機所拍攝到的影像。
shutterstock

不過最近卻傳出,美國軍方打算使用Google的AI開源工具TensorFlow ,來分析無人機所拍攝到的影像。Google發言人表示,他們會提供TensorFlow的API給國防部代號「Maven」的計畫,強調僅會用於分析影像數據,並不會有任何侵入性的使用,但Google沒有透露詳細的合約細節。

美國國防部「Maven」計畫成立於2017年4月,主要目的是「加速國防部與大數據、機器學習技術的結合」,而「Maven」計畫的首要任務,就是幫美國國防部分析大量無人機影像。

Google正在危害自己最大的資產?

此消息一出,部分Google員工對公司向軍方提供涉及無人機監控技術的資源感到相當生氣,甚至認為這項合作引發了對於使用機器學習技術的道德問題。事實上為了確保科技不被濫用,2014年Google收購DeepMind 時,就有設立倫理委員會。

Google的AI技術可以清楚辨別手中拿著書本的學生,以及手中拿著槍械的敵人,這可能演變成軍方決定是否發動攻擊的參考依據;過去Google也曾有跟政府機關合作的經驗,像是提供雲端服務,聲明中Google強調,雙方的合約內容絕對沒有任何不妥。值得注意的是,前Google執行長艾立克·史密特(Eric Schmidt)於2016年3月被任命為國防創新顧問委員會主席,希望協助五角大廈跟上矽谷最新趨勢,將新技術應用在國防領域,他曾說:「在科技業普遍存在一種擔憂,就是科技公司與軍方的合作可能會使用技術來做不正確的事。」

Google要如和確保技術不被用於戰爭,甚至是利用軍事力量危害到一般用戶權益,這恐怕也是Google需要跟用戶好好解釋的。
shutterstock

對在全球擁有龐大用戶的Google來說,「用戶信任」絕對是公司最大的資產,不論是手機定位、照片備份、搜尋紀錄,Google掌握了多數人重要的個人資料,這些資料代表無比強大的力量。雖然Google與軍事單位合作不是一件錯事,也是Google本身的自由,不過要如何確保技術不被用於戰爭,甚至是利用軍事力量危害一般用戶權益,這恐怕也是Google需要跟用戶好好解釋的。

資料來源:BusinessInsiderBloombergEngadget

延伸閱讀

每日精選科技圈重要消息