戴上「白口罩」才能被AI辨識? 她的遭遇讓科技大咖知錯了

2020.09.09 by
張庭銉
戴上「白口罩」才能被AI辨識? 她的遭遇讓科技大咖知錯了
flickr cc by Ars Electronica
AI技術的革新,為人類社會的發展帶來新的契機。而這位迦納裔電腦科學家為何要成立「演算法正義聯盟」,挺身而出對抗科技大咖的AI辨識技術?

亞馬遜、微軟停止向警方提供人臉辨識技術,IBM則決定完全退出該領域業務⋯⋯在非裔男佛洛伊德(George Floyd)死後,誰有辦法讓科技大咖(Big Tech),在AI(人工智慧)影像分析技術的發展與競爭中相繼「退縮」?

自稱「程式碼詩人」(poet of code)的喬伊.布蘭薇妮(Joy Buolamwini),是麻省理工學院媒體實驗室(MIT Media Lab)的迦納裔電腦科學家。她曾於2018~2019年間發表兩項重大研究,指明許多科技公司的AI在辨識膚色較深的女性臉孔時,無法如分析白人男性臉孔般地準確,尤其IBM系統失誤率高達34%。此外,亞馬遜的人臉辨識技術Rekognition,會將19%的女性誤認為男性;若分析對象為深膚色女性,誤判機會更高達31%。

研究成果公開後,IBM於2018年投入解決AI歧視的問題,微軟則馬上採納報告以改善誤差。反觀亞馬遜,卻於2019年用「詆毀」的手段來反擊她的研究,引來逾70名AI研究員在同年4月連署,呼籲電商巨頭停止服務警察。同年底,美國商務部國家標準暨技術研究院(NIST)針對商用臉部辨識技術,完成史上最大規模演算法歧視的審查,逐一比對近百家公司旗下技術後,發現AI對上亞裔、非裔臉孔的誤判率是白人的10~100倍。

flickr cc by Ars Electronica

布蘭薇妮成功打破演算法「中立性神話」,如今她持續揭露AI造成的社會影響,其創辦的「演算法正義聯盟(AJL)」已在聯邦、州與地方各級法院上作證,告訴大家:當人臉辨識技術深入人類社會,法令無法監督的危險性。

對這位平權鬥士而言,科技大咖的收手還不足以扭轉局勢。在「黑人的命也是命(Black Lives Matter)」的抗議聲浪進行期間,布蘭薇妮以個人網站名義,號召科技公司向Data 4 Black Lives、Black in AI等黑人公益組織捐出超過100萬美元,以促進科技領域的種族正義。

不只透過科學方法(論文與專著)分享發現,布蘭薇妮更用「聲音」傳達理念,盼更多人能了解正視AI帶有偏見的重要性。像2016年,她在TED演講介紹了AJL;2018年以朗誦(Spoken Word)的表達形式,拍下廣為流傳的影片《AI,我不是一個女人嗎?》,畫面帶出女權運動家特魯絲(Sojourner Truth)到歐巴馬夫人(Michelle Obama)等著名黑人女性,都被AI誤判成男性。她的故事被拍成紀錄片《編碼歧視》(Coded Bias),於今年初發表,特別是與國會議員的對談過程,她簡潔地串起演算法歧視和刑事司法體系中的不平等。

談到布蘭薇妮的「布道」功力,美國公民自由聯盟(ACLU)自由科技計畫主任克洛福特(Kade Crockford)指出,「人們不可能全記住你說什麼,卻始終能記住你為他們帶來的感受。喬伊談到AI演算法時,總先從發現問題的故事開頭講起。」他回憶在一場會議中,ACLU要求執法官員支持麻州政府停用人臉辨識技術,該名官員被說服後隨口表示,布蘭薇妮的遭遇令其難以置信,「她說這種技術甚至看不到她的臉,因此她不得不戴上白色口罩。」

布蘭薇妮的影響力正不斷擴大,以往由研究員及擁護者組成的AJL,最近聘了第一任「政策與合作夥伴關係負責人」;同時,AJL將發動成立迄今最具野心的計畫「演算法漏洞賞金計畫」,促公眾回報AI軟體引起的歧視和危害。其中一位擔任研究員的麻省理工學院教授透露,他們希望由曾是AI系統受害者的個人和社區組織,領頭進行這項工作。

在此之前,人們認為演算法不可能帶有種族主義;現在,企業領袖和立法者皆承受著消除AI偏見的壓力,這可歸功於布蘭薇妮的嚴謹與創造力相得益彰,同時也令她宣揚的理念能獲得社會廣大共鳴。

在此之前,人們認為演算法不可能帶有種族主義;現在,企業領袖和立法者皆承受著消除AI偏見的壓力,這可歸功於布蘭薇妮的嚴謹與創造力相得益彰,同時也令她宣揚的理念能獲得社會廣大共鳴。
flickr cc by Ars Electronica

駭客劇透、故事線重構,《最後生還者2》評價兩極

遊戲開發商頑皮狗(Naughty Dog)2013年於Play Station主機發行的生存冒險遊戲《最後生還者》(The Last of Us),玩家預設從第一人稱視角,體驗殭屍疫情席捲全球20年後,男女主角情同父女、相依為命的故事。

在頑皮狗副總裁、製作人尼爾.德魯克曼(Neil Druckmann)對擴展遊戲劇情複雜度的癡迷下,該遊戲傳達小說般的角色親密關係、多如兩季HBO影集的故事含量,充分利用互動體驗帶出爆炸性內容。且不同於影視作品的心碎結局,玩家更能親歷悲劇的衝擊,堪稱當代遊戲敘事「神作」標竿,成功擴大社會對於電子遊戲效果的理解與討論。

《最後生還者》衍生的文化現象,似乎透露著遊戲續作可能創造更多商機,但實際上卻並非如此。今年4月,《最後生還者2》的發行因疫情而延宕,未公開的大量內容卻經駭客「劇透」,在社群網站上瘋傳,觸動廣大玩家的負評開關。

playstation

面對不滿聲浪,德魯克曼指控酸民忽略了遊戲政治取向與故事線的關係,此舉有如提油救火,遭多元族群批評「拿錯擋箭牌」。直到6月續作發行,劇情的轉折、新角色的塑造,老玩家紛紛表態不能接受,加上過度暴力的殘酷元素,加劇「口碑炸裂」。

即便吃下許多負評炸彈,但遊戲後半段以出乎意料的方式豐富了敘事,獲得多數業界媒體滿分好評,確定翻拍的真人影集則由HBO執手。「無論其他人怎麼講,都比不上你從頭到尾地玩這個東西,」德魯克曼說,「這是影像遊戲,你得去親自玩它。」

壟斷網路搜尋的Google,更想從你的「身心健康」圖利

在網路廣告與搜尋服務領域,Google常表示與Facebook和亞馬遜競爭激烈;事實上,對於服務供應商來說,這說法並不完整,人們瀏覽最新動態不是為了找專家諮詢,也沒有人會去亞馬遜探尋疾病療法。

畢竟很多賣服務的可不像賣書或燈具那麼簡單,以心理治療而言,費用可以非常昂貴,並牽涉高度隱私問題。就有廣告商發現,疫情肆虐的前幾個月間,由於心理治療相關需求暴增,關鍵字價格平均上漲50%,某些單字甚至達到單次點擊10美元的地步,令獨立心理治療師負擔沉重。

除了高昂廣告費,Google近年來大力推動廣告自動化,效果並不理想,如感情諮詢、精神創傷各有領域專家,AI卻不易區分,使得採用「智慧廣告活動」服務的治療師,落入失焦的關鍵字競逐,無從提升轉換率。

此外,Google搜尋結果常從其他網站汲取段落文字,呈現在列表頂端,減少下方連結被點擊的機率。知名網站《關注使用者》(Focus on the User)就批評,網路巨頭對小企業的傷害擴及內容層面、公開濫用壟斷權力,竊取流量與智慧財產權,讓競爭者不公平的曝光待遇雪上加霜。

近來,Google展現進軍醫療領域的野心,優先布局「數據」,如聘請前醫院高管帶領Google Health,與醫療機構合作,高舉「建置電子病歷系統」大旗,並著手收購智慧手錶Fitbit。用戶藉著網路「自我診斷」的現象日益普及,對病歷資料志在必得的Google,將藉此掌握所有人類的身心,抑或增進社會集體健康的福祉?我們很快就能知道答案。

本文出自《數位時代》雜誌316期專欄〈全球掃描〉,為讀者精選、梳理各大外雜焦點內容,資料來源:Fast CompanyWiredBloomberg Businessweek

延伸閱讀

每日精選科技圈重要消息