開發AI武器能救更多性命?新創Clarifai助美軍惹爭議

2019.03.04 by
蔣曜宇
shutterstock
當越來越多有著AI技術的公司開始與政府進行合作項目,AI發展與企業倫理之間的拉扯,也逐漸浮上檯面。

去年12月,總部位於紐約的AI新創公司Clarifai因與美國國防部進行合作專案而受到矚目,Clarifai將利用辨識技術協助軍備更精準。

當時,針對AI技術是否會被用來強化軍事武器的問題,公司創辦人暨執行長Matt Zeiler強調,這項合作案的重點在於協助拯救更多士兵與平民的性命。他表示,公司正計劃增設一個新的管理職位,專門審核新企劃是否符合企業道德及倫理。

然而,這個「倫理守門人」的角色始終沒有出現,Clarifai的員工也對此產生疑慮與不滿。

Zeiler與美軍方合作AI,引發自家員工抗議

擔心自己的工作成果被濫用,Clarifai的員工於今年一月底向Zeiler遞出公開信,對公司未來的方向提出質疑。信中寫道:「我們必須要有足夠的企業操守,才能在得到大眾信賴的基礎下開發我們的技術。向外界說明我們的企業倫理,也是我們該擔負的社會責任。」

員工們最後並沒有得到想要的回答。根據三名匿名內部人士表示,Zeiler在數天後召開了一場內部會議,直白地表示倫理長的職位設置不符合小公司的利益,並告訴員工們,投入開發AI武器是Clarifai未來的方向。

Zeiler認為,AI武器最終會協助拯救更多性命,因為它能讓武器變得更精準,因而減少平民的傷亡。

AI技術發展,是增進人類福祉還是開發殺人武器?

Clarifai的技術強項在於即時辨識相片及影片中物件的分析能力。這項技術像是一把雙面刃,既可以協助開發運輸、醫療及科研等領域的技術,增進人類福祉,同時也能被國家利用,成為網路監控、散播假新聞以及提升軍武設備的幕後幫手。

日前微軟員工透過公開信,反對公司與美國軍方的一筆高達480萬美元的合作案。
截自 Microsoft 直播

除Clarifai外,許多大公司也陷入同樣的難題。日前微軟員工也透過一封公開信,反對公司與美國軍方的一筆高達480萬美元的合作案。對此,微軟執行長Satya Nadella表示微軟願意將技術提供給透過民主制度選出來的政府,協助他們保護民主自由。

微軟:科技公司有維護人權的道德責任

事實上,在美中俄等強權在軍事發展上相互較勁的國際局勢下,開發關鍵AI技術的公司,很難不在企業倫理上作出讓步。許多倡議者甚至公司本身都認為法律制度才是保障公司企業倫理的唯一途徑。就連微軟自家總裁兼首席法務長Brad Smith都曾表示科技公司有維護人權的道德責任,而且相關法規的制定是必須的。

一間專門探討AI如何影響社會的研究機構AI Now Institute的共同創辦人Meredith Whittaker表示,許多人慢慢開始意識到AI技術所帶來的倫理及社會問題,並想要改變它。

Clarifai員工的抗議行為就是一個例子。不過Whittaker也認為,這樣的改變不能只來自於公司內部,外部的法規也是必要的。然而,在經濟利益的誘惑下,科技公司發展並應用AI技術的速度,恐怕也將快過守護企業倫理的速度。

資料來源:The New York TimesFastCompanyZDNet

延伸閱讀

每日精選科技圈重要消息