Google開除AI倫理學先鋒引論戰!CEO親上火線,為何卻被批「最糟糕手法」?

2020.12.15 by
地球圖輯隊
地球圖輯隊 查看更多文章

希望打造一個讓台灣人能輕鬆上手的國際要聞的網站,與其一堆文字,不如就用圖片說故事吧。這裡沒有審判,不帶情緒,也沒有艱澀的字彙。同樣身為地球人,就一起關心地球事!

Google開除AI倫理學先鋒引論戰!CEO親上火線,為何卻被批「最糟糕手法」?
Flickr
近日,科技與學術界被投下一記震撼彈!作為AI倫理學領域首屈一指的學者格布魯被Google「辭職」,她也接連在推特上將炮火對準前東家,引發喧然大波!

身為AI倫理學領域首屈一指的學者,格布魯加入Google本該能幫助這間科技巨頭更上一層樓,沒想到,雙方的合作如今卻在一片錯愕與批評聲中畫下句點……

12月2日晚上,Google AI倫理學部門的主管格布魯(Timnit Gebru)突然在Twitter上宣布她已經被Google開除,她懷疑自己「被辭職」的原因是她在員工群組中抱怨自己的一篇論文被高層退件、不得發布,以及她在論文被擋下的當天於員工群組中分享論文被退件的遭遇和批評Google招募政策成效不彰,才導致她最終不得不離開Google。

Uladzik Kryhin via shutterstock

一記震撼彈!「被辭職」的重量級科學家

格布魯離開Google的消息一出,立刻在海內外的AI學界、Google內部引發軒然大波,因為她不僅是AI倫理學領域首屈一指的學者,長年以來也積極為AI領域中的種族平權議題奔走,因而使外界格外關注這起Google內部的人事異動案。

目前學術界以及Google員工已經發起各式各樣力挺格布魯的活動,像是透過連署要求Google澄清擋下格布魯論文的原因等,更有部分科學家已經開始拒絕審查其他Google提交、計畫要發表的論文。

AI倫理學領域的開創者,致力於推廣種族平權

格布魯是AI領域首屈一指的學者,擅長研究AI系統可能潛藏的歧視、偏見問題,曾於2018年發表一篇指出現有臉部辨識系統容易誤判黑人女性臉部的論文,這篇論文間接促使亞馬遜於今年6月暫停獲得美國執法部門採用的臉部識別平台Rekognition服務,重新改善AI系統容易誤判有色人種的問題。

Amazon Rekognition
Amazon

專門提供客戶AI管理方案的公司Parity創辦人喬杜里(Rumman Chowdhury)將格布魯譽為「AI倫理學領域的開創者」,她說:「格布魯是AI倫理學領域的先鋒,也是這個領域的奠基者之一。有了格布魯的貢獻,資訊科學家及工程師才開始真正邁入這個領域。」

在學術領域之外,格布魯投身於種族平權議題中,創立了「AI領域中的黑人」(Black in AI)組織,致力於增加當前全球AI領域的多元性。

延伸閱讀:天啊!我的面試官是機器人?

論文的內部審查引發爭議

格布魯的離職風暴始於今年11月,當時她提交一份闡述當前自然語言處理(Natural Language Processing,NLP)缺陷的論文給Google審查。自然語言處理是科技公司近年來發展出的一項技術,只要利用網路上大量的文件訓練AI,AI就能自動產生文字片段。Google內部也有開發類似的系統,主要用於改善自家瀏覽器的表現上。

格布魯在論文中指出,自然語言處理採用自網路上資料來訓練AI,因此較難避免使用到部分內含偏見、歧視的資訊,而這些偏差的資訊也都有可能會影響AI產出文件的品質。除此之外,格布魯也指出自然語言處理在運作過程中有消耗大量能源等諸多缺失。

metamorworks via shutterstock

延伸閱讀:訓練AI模型,要多少數據?拆解企業人工智慧專案為何難落地

滿足條件 VS 辭職走人

經過審查後,Google於12月1日告知格布魯她的研究不符合內部標準,因此將論文退件。格布魯隨即寫信向高層要求更完整的解釋,開出揭露審查者身分、審查者的完整意見等條件,並表示如果Google無法滿足這些要求,她將辭職離開。

同一天,格布魯也在一個名為「Google智慧女性及盟友」(Google Brain Women and Allies)的群組中回應另一份研究的研究者,分享自己論文被退件的遭遇,並批評Google的多元招募政策執行效果不力的情形。

緊接著,隔日Google方面回信給格布魯並說明無法滿足她開出的條件,因此接受並尊重她辭職的決定,而格布魯的Google帳號權限也在短時間內被取消。格布魯相信,那篇被撤回的論文,以及在員工群組內部批評公司招募政策的舉動,便是導致她被開除的真正原因。

但在錯愕之餘,格布魯也對Google拒絕與她討論論文退件原因的舉動感到失望,她在接受《紐約時報》訪問時說道:「 這真的很有沒人性,Google可能出於某些理由而決定將我的論文退件,但最讓人沮喪的是,他們不願意和我一起討論退件的原因。

論文遭退件的真正原因?

從12月3日Google AI部門的主管迪恩(Jeff Dean)所發出的內部信件來看,Google將其論文退件的主因,是因為這份論文「忽視太多相關研究」,而且趕在截止期限的最後一天才送件,導致審查小組沒有足夠的時間審批所致。

但是,迪恩的說法在公開後卻遭遇格布魯團隊的質疑,團隊表示這份論文只有不到一半的篇幅是在截止期限的最後一天繳交,而且在提交內部審查之前,這篇論文已經獲得28位Google內、外專家的回饋。同時,論文的其中一名作者,美國華盛頓大學的語言學教授本德(Emily Bender)也出面表示,這篇論文總共引用了128份論文,遠高於一般學術研討會論文的引用數量。

各界力挺,以「#相信黑人女性」聯署支持

格布魯離開Google的事件在爆發後,已經在AI學術界、各科技公司內部引發軒然大波,Twitter上也已經有不少人透過「 #相信黑人女性 」(#BelieveBlackWomen)標籤表達對格布魯的支持;Google、微軟、蘋果等科技巨頭的部分員工更聯手發表公開信,要求Google出面解釋將格布魯論文退件的原因;學術界有部分學者已經發起抵制,拒絕替Google審閱計畫要發表的論文。

Twitter用戶以#BelieveBlackWomen表達支持
截圖自Twitter

如果我們無法暢談AI面臨的倫理學危機,那我們永遠都沒有機會建立起一個屬於AI的道德體系。 」英國AI公司DeepMind的員工加布里埃爾(Iason Gabriel)說道。

AI研究者的困局!常態發生的選擇性發布研究

英國倫敦大學學院(University College London)榮譽助理教授科尼布斯(Julien Cornebise)表示,這種大型公司「選擇性發表」特定研究的行為,過往在糖業、煙草產業與癌症研究、能源產業與氣候變遷中都能找到先例。

AI領域的研究者必須了解他們進行研究的地點至關重要,因為最終研究者們可能沒有決定是否使用、發布這些研究的權利。 」科尼布斯說道。

但是對AI研究者們來說,即使研究者們明瞭研究地點的重要性,他們往往也沒有選擇,仍然得與Facebook、Google這類科技巨頭合作,因為只有這些公司才有執行研究所需的資源。

美國加州大學柏克萊分校(UC Berkeley)的資工系教授哈特(Moritz Hardt)說道:「目前AI倫理學領域的研究者還不清楚未來該如何進行研究工作。」

「 我會說,這是一個令人膽寒的時刻。 」

Google執行長親上火線,遭轟「最糟糕的寫作手法」

在格布魯的離職案鬧得沸沸揚揚後,上週三(9日)Google執行長皮查(Sundar Pichai)總算親自出馬,以內部信件的方式向員工們解釋Google的立場。

簡而言之,皮查坦承Google與格布魯的分手並不愉快,Google願意盡速檢討整個流程究竟發生什麼問題,以確保未來若有類似情形發生的時候,員工不會在流程中感受到自己不被尊重。

可是整封信看在格布魯眼裡,根本不能算做「道歉」。皮查伊於信中指出,很多Google員工在格布魯離開後,開始對自己的工作產生疑慮,他願意為此致歉並努力恢復過往員工對公司的信任,至於針對格布魯本人以及這起事件的幾個癥結點,皮查伊卻沒有進一步說明。

截圖自Timnit Gebru推特

「所以我將這封信視為『 Google對格布魯離開一事的結果感到抱歉,但Google對格布魯的所作所為則不在道歉的範圍中。 』」格布魯在Twitter上寫道。

AI研究公司OpenAI Policy的政策總監克拉克(Jack Clark)表示,他並不常對這類事件發表評論,但這回Google發布的內部信卻讓他感到十分震驚。

格布魯事件才剛發生,這封信卻以一種彷彿在報導天氣的口吻加以回應。 」克拉克說道:「這是最糟糕的寫作手法。有人真的做了這些事,而他們現在正試圖遮掩這一切。」

責任編輯:文潔琳、蕭閔云
本文授權轉載自:地球圖輯隊

延伸閱讀

每日精選科技圈重要消息