特斯拉執行長馬斯克（Elon Musk）和Google DeepMind共同創辦人蘇萊曼（Mustafa Suleyman）等超過一百名人工智慧和機器人專家，今日聯合發表一封公開信，敦促聯合國將自動武器列入禁用清單。

公開信：自動武器為火藥和核武後，第三次武器革命的威脅

聯合國常約武器公約（CCW）的審議小組，過去一致同意將無人機、坦克和自動機關槍等武器列入討論，其中，有19名會員國都主張應完全禁止殺人機器人。不過，原訂於本月21日的會議，因故延期到11月。

而這次共116名、來自26個國家的機器人和人工智慧專家共同發表公開信，希望聯合國遏止將人工智慧和機器人技術用於發展自動武器，防止各國展開自動殺人武器的軍備競賽。他們呼籲，聯合國應將這類「道德錯誤」的致命無人武器系統，和化學攻擊和雷射致盲武器等相同，列入《特定常約武器公約（CCW）》中的禁用名單。

信中指出，致命的自動化武器，將是繼火藥和核武之後的第三次武器革命，並將成為恐怖的武器，被暴政、恐怖份子、駭客所利用。「一旦開發成功，它們將使衝突規模來到前所未有的巨大。」

「我們沒有多少時間了。一旦潘朵拉的盒子被打開，就很難被關上。」信中提到。

無人武器已經進入開發階段，戰機、軍艦、坦克皆有

人工智慧就像其他科技一樣，可以促進人類社會發展，但一旦被用在不好的面向，便可能成為致命的殺人武器。

馬斯克雖然在太陽能、太空探索和電動車等領域的科技進展相當樂觀，但一直以來，他對人工智慧的發展總是特別擔心，過去已經不只一次警告人類人工智慧對人類生存是一大威脅，還創辦非營利人工智慧組織OpenAI，要防止人工智慧顛覆人類世界。本月初，他更發文表示人工智慧比北韓危險多了。

If you're not concerned about AI safety, you should be. Vastly more risk than North Korea. pic.twitter.com/2z0tiid0lc
— Elon Musk (@elonmusk) August 12, 2017

以開發掃雷機器人起家的加拿大機器人公司Clearpath Robotics，其創辦人、同時也是第一位簽署該公開信的加里皮（Ryan Gariepy）也表達他的擔憂，因為無人武器不像其他人工智慧潛在應用仍只存於科幻領域，目前已經進入發展階段。

事實上，部分自動化武器早就已經被廣泛使用，如用於偵查的掠奪者無人機、自動化航空母艦導彈防禦系統，而北韓的非武裝地帶（DMZ）所裝載的三星SGR-A1步哨防禦槍SGR-A1，也具備自動射擊能力。不僅如此，目前機器在戰爭中也比以往參與更多決策過程，如幫助軍隊確認目標。

根據《衛報》報導，還有許多自動化武器系統正在開發中，包含英國的隱形無人戰機Taranis Drone、美國的無人軍艦Sea Hunter以及俄羅斯的無人坦克Uran-9。

這並非首次人工智慧和機器人專家聯合要求禁止研發軍事機器人。馬斯克、史蒂芬霍金、蘋果共同創辦人沃茲尼克（Steve Wozniak）等超過3千名專家，在2015年也曾簽署一份公開信，要求禁止開發可超出人類控制、可自行決策的自動化武器。

只不過，當時信中只用「餿主意」形容這場人工智慧軍備戰，但隨著技術成熟、這些武器越來越可能實現，新的連署信改口警告，這個餿主意將成為一大災難。

資料來源：The Guardian、ZDNet、