亞馬遜、微軟停止向警方提供人臉辨識技術，IBM則決定完全退出該領域業務⋯⋯在非裔男佛洛伊德（George Floyd）死後，誰有辦法讓科技大咖（Big Tech），在AI（人工智慧）影像分析技術的發展與競爭中相繼「退縮」？
自稱「程式碼詩人」（poet of code）的喬伊．布蘭薇妮（Joy Buolamwini），是麻省理工學院媒體實驗室（MIT Media Lab）的迦納裔電腦科學家。她曾於2018～2019年間發表兩項重大研究，指明許多科技公司的AI在辨識膚色較深的女性臉孔時，無法如分析白人男性臉孔般地準確，尤其IBM系統失誤率高達34％。此外，亞馬遜的人臉辨識技術Rekognition，會將19％的女性誤認為男性；若分析對象為深膚色女性，誤判機會更高達31％。
研究成果公開後，IBM於2018年投入解決AI歧視的問題，微軟則馬上採納報告以改善誤差。反觀亞馬遜，卻於2019年用「詆毀」的手段來反擊她的研究，引來逾70名AI研究員在同年4月連署，呼籲電商巨頭停止服務警察。同年底，美國商務部國家標準暨技術研究院（NIST）針對商用臉部辨識技術，完成史上最大規模演算法歧視的審查，逐一比對近百家公司旗下技術後，發現AI對上亞裔、非裔臉孔的誤判率是白人的10～100倍。
布蘭薇妮成功打破演算法「中立性神話」，如今她持續揭露AI造成的社會影響，其創辦的「演算法正義聯盟（AJL）」已在聯邦、州與地方各級法院上作證，告訴大家：當人臉辨識技術深入人類社會，法令無法監督的危險性。
對這位平權鬥士而言，科技大咖的收手還不足以扭轉局勢。在「黑人的命也是命（Black Lives Matter）」的抗議聲浪進行期間，布蘭薇妮以個人網站名義，號召科技公司向Data 4 Black Lives、Black in AI等黑人公益組織捐出超過100萬美元，以促進科技領域的種族正義。
不只透過科學方法（論文與專著）分享發現，布蘭薇妮更用「聲音」傳達理念，盼更多人能了解正視AI帶有偏見的重要性。像2016年，她在TED演講介紹了AJL；2018年以朗誦（Spoken Word）的表達形式，拍下廣為流傳的影片《AI，我不是一個女人嗎？》，畫面帶出女權運動家特魯絲（Sojourner Truth）到歐巴馬夫人（Michelle Obama）等著名黑人女性，都被AI誤判成男性。她的故事被拍成紀錄片《編碼歧視》（Coded Bias），於今年初發表，特別是與國會議員的對談過程，她簡潔地串起演算法歧視和刑事司法體系中的不平等。
談到布蘭薇妮的「布道」功力，美國公民自由聯盟（ACLU）自由科技計畫主任克洛福特（Kade Crockford）指出，「人們不可能全記住你說什麼，卻始終能記住你為他們帶來的感受。喬伊談到AI演算法時，總先從發現問題的故事開頭講起。」他回憶在一場會議中，ACLU要求執法官員支持麻州政府停用人臉辨識技術，該名官員被說服後隨口表示，布蘭薇妮的遭遇令其難以置信，「她說這種技術甚至看不到她的臉，因此她不得不戴上白色口罩。」
布蘭薇妮的影響力正不斷擴大，以往由研究員及擁護者組成的AJL，最近聘了第一任「政策與合作夥伴關係負責人」；同時，AJL將發動成立迄今最具野心的計畫「演算法漏洞賞金計畫」，促公眾回報AI軟體引起的歧視和危害。其中一位擔任研究員的麻省理工學院教授透露，他們希望由曾是AI系統受害者的個人和社區組織，領頭進行這項工作。
在此之前，人們認為演算法不可能帶有種族主義；現在，企業領袖和立法者皆承受著消除AI偏見的壓力，這可歸功於布蘭薇妮的嚴謹與創造力相得益彰，同時也令她宣揚的理念能獲得社會廣大共鳴。
駭客劇透、故事線重構，《最後生還者2》評價兩極
遊戲開發商頑皮狗（Naughty Dog）2013年於Play Station主機發行的生存冒險遊戲《最後生還者》（The Last of Us），玩家預設從第一人稱視角，體驗殭屍疫情席捲全球20年後，男女主角情同父女、相依為命的故事。
在頑皮狗副總裁、製作人尼爾．德魯克曼（Neil Druckmann）對擴展遊戲劇情複雜度的癡迷下，該遊戲傳達小說般的角色親密關係、多如兩季HBO影集的故事含量，充分利用互動體驗帶出爆炸性內容。且不同於影視作品的心碎結局，玩家更能親歷悲劇的衝擊，堪稱當代遊戲敘事「神作」標竿，成功擴大社會對於電子遊戲效果的理解與討論。
《最後生還者》衍生的文化現象，似乎透露著遊戲續作可能創造更多商機，但實際上卻並非如此。今年4月，《最後生還者2》的發行因疫情而延宕，未公開的大量內容卻經駭客「劇透」，在社群網站上瘋傳，觸動廣大玩家的負評開關。
面對不滿聲浪，德魯克曼指控酸民忽略了遊戲政治取向與故事線的關係，此舉有如提油救火，遭多元族群批評「拿錯擋箭牌」。直到6月續作發行，劇情的轉折、新角色的塑造，老玩家紛紛表態不能接受，加上過度暴力的殘酷元素，加劇「口碑炸裂」。
即便吃下許多負評炸彈，但遊戲後半段以出乎意料的方式豐富了敘事，獲得多數業界媒體滿分好評，確定翻拍的真人影集則由HBO執手。「無論其他人怎麼講，都比不上你從頭到尾地玩這個東西，」德魯克曼說，「這是影像遊戲，你得去親自玩它。」
壟斷網路搜尋的Google，更想從你的「身心健康」圖利
在網路廣告與搜尋服務領域，Google常表示與Facebook和亞馬遜競爭激烈；事實上，對於服務供應商來說，這說法並不完整，人們瀏覽最新動態不是為了找專家諮詢，也沒有人會去亞馬遜探尋疾病療法。
畢竟很多賣服務的可不像賣書或燈具那麼簡單，以心理治療而言，費用可以非常昂貴，並牽涉高度隱私問題。就有廣告商發現，疫情肆虐的前幾個月間，由於心理治療相關需求暴增，關鍵字價格平均上漲50％，某些單字甚至達到單次點擊10美元的地步，令獨立心理治療師負擔沉重。
除了高昂廣告費，Google近年來大力推動廣告自動化，效果並不理想，如感情諮詢、精神創傷各有領域專家，AI卻不易區分，使得採用「智慧廣告活動」服務的治療師，落入失焦的關鍵字競逐，無從提升轉換率。
此外，Google搜尋結果常從其他網站汲取段落文字，呈現在列表頂端，減少下方連結被點擊的機率。知名網站《關注使用者》（Focus on the User）就批評，網路巨頭對小企業的傷害擴及內容層面、公開濫用壟斷權力，竊取流量與智慧財產權，讓競爭者不公平的曝光待遇雪上加霜。
近來，Google展現進軍醫療領域的野心，優先布局「數據」，如聘請前醫院高管帶領Google Health，與醫療機構合作，高舉「建置電子病歷系統」大旗，並著手收購智慧手錶Fitbit。用戶藉著網路「自我診斷」的現象日益普及，對病歷資料志在必得的Google，將藉此掌握所有人類的身心，抑或增進社會集體健康的福祉？我們很快就能知道答案。
本文出自《數位時代》雜誌316期專欄〈全球掃描〉，為讀者精選、梳理各大外雜焦點內容，資料來源：Fast Company、Wired、Bloomberg Businessweek
