[AI學術]機器學習公不公平？|數位時代 BusinessNext

演算法公平性（algorithmic fairness）是與大數據、機器學習相關的新興研究主題之一，大約從2015年開始受到媒體報導與關注。

這個主題研究的是，當我們開始在醫療、保險、法律、金融或其它領域，運用資料與演算法進行某些傳統上由人進行的決策時，能不能確保演算法的結果符合這些領域應維繫的「公平原則」？

如何避免數學模型學到人類的歧視行為？

其中一個重要議題是反歧視（non-discrimination）。

運用機器學習技術的演算法，都會用到大量的人類活動歷史資料，訓練數學模型進行決策。而過往的人類行為很可能內含偏見與歧視，如何避免數學模型學到人類的歧視行為，是演算法公平性研究的一個重要問題。

這些隱含的偏見與歧視行為，不是把可能造成歧視問題的資料欄位去除或去識別化，就可以消除的。

Google Research Blog這篇文章就舉了一個例子：對於少數群體，很可能我們手上的dataset顯著地缺乏。而機器學習的準確度很大程度取決於訓練資料量的多少，因此「少數族群」就可能較容易被誤判為高風險，而受到不公平的對待。

如果人類社會本來就存在一些偏見與歧視，那麼歧視就不是機器才有的行為，為什麼機器學習領域還要特別關注這個問題呢？

因為機器與自動化可以放大隱含的偏見與歧視，而且放大的程度可能難以控制（參見《大數據的傲慢與偏見》一書），因此避免機器複製這些行為，對於擴大機器學習的運用與社會安定是重要的。

目前在這個主題上的研究，大部份在設計公平的分類演算法（classifier），方法通常是對「公平」這個概念提出一個數學定義，再找出一個可行的演算法或訓練方法。少部份研究如Skirpan et al（2017）[1]則試圖擴大公平性研究的範圍。

Skirpan等人認為「公平」的內涵會隨著討論的脈絡而改變，必須要看是關於誰？是什麼群體？在什麼時間？如何達成公平來考慮一個演算法是否公平。

因此與前述先確定一個公平的定義再進行討論的研究路線稍有不同。

以下先以Skirpan等人的分類說明一些研究方向的進展，「公平的定義與數學模型」一節再說明幾個常見的公平的數學定義與其研究進展。

公平性研究的範圍

Skirpan et al（2017）這篇論文，把機器學習的公平性研究分為3個大問題：

Fairness of a system問的是：建立一個X這樣的機器學習系統是否公平？例如Bird at el（2016）[2]就從實驗倫理的角度提出對於自動化實驗（autonomous experimentation）的疑慮，認為在建立某些機器學習自動化實驗系統之前，我們需要有機器學習實驗倫理與覆核機制，否則這可能本身是有問題的（類似於對人體進行某些實驗是有倫理問題的）。
Fairness of an approach問的是：要建立一個X這樣的機器學習系統，有沒有技術上公平的作法？這可能是目前最多研究著墨的問題，但Skirpan等人在這裡所列舉的成果，完整度似乎不若公平分類演算法設計的文獻。可參考下一節「公平的定義與數學模型」。
Fairness of a result問的是：建立了一個X這樣的機器學習系統之後，它產出的結果是公平的嗎？這相當於事後補救，用黑箱測試的方式檢驗機器學習系統需不需要修正。在美國，由於再犯預測模型（recidivism prediction system）的運用稍早，有不少相關研究。這部份的文獻量（可查詢recidivism prediction與disparity等關鍵詞）不少。

公平的定義與數學模型

這方面的研究常引用經濟學、哲學對於公平概念的操作型定義，討論的對象都是分類演算法。

概念上可以這樣看：集合X是所有要被分類的個體，A是X之中「被保護的」（可能會被歧視的）部份，x是一個任意的個體。那麼有幾種方式定義公平：

Fairness through unawareness：忽略個體x是不是在A之中。這等於演算法完全無視「x是否屬於A」這個條件，只用其它條件進行分類。這個方式可能很直觀，但可能反而對非A群體不公平，並且有redundant encoding的問題，因此目前研究上多不採用。
Demographic parity（也稱作statistical parity、group fairness）：A與非A兩個群體，被分類到各個類別的比例一樣。例如某個行業的從業人口男女比為1:2，那麼受僱用的男女比也應該接近1:2。這個作法可以完全避免redundant encoding，但Dwork et al（2012）[3]指出這可能造成整體看來公平但對個體而言不公平。例如在非A中的個體x可能條件比A之中入選的個體要好，但因為名額限制而沒有入選。
Individual fairness：Dwork et al（2012）提出這個想法來取代group fairness。概念上是用兩兩比較的方式，也就是「如果x跟y的條件很相近，那麼他們被分類的結果也要很相近」。這個作法要先取一個度量d(x, y) 來表示「x與y兩個個體的條件有多相近」，然後規定愈相近的個體，被分類到各類別的機率分佈要愈接近。這個作法容許Skirpan等人所提倡的不同脈絡下的公平定義，不同專業領域的公平條件可能不一樣。實作上，則可以看成是增加一個訓練時的fairness constraint條件。這個作法可以用linear programming加入優化演算法中。
Equal opportunity：Hardt et al（2016）[4]提出的想法，想法是保障機會均等，也就是「可以入選的人，不論身在A或非A之中，入選的機率都一樣」。這個作法只能保障對於「可以入選」的那部份人是公平的，所以適用於僱用、信用評分（入選的人才核發貸款）這些應用。實作上，Woodworth et al（2017）[5]認為Hardt等人原始論文的作法效用不好，再提出一個效用比較好的作法。Hardt等人的作法不需要重新訓練model，只需要事後修正；Woodworth等人的作法要修改訓練程序。
Avoid disparate mistreatment：Zafar et al（2017）[6]的想法，目標是讓不同群體的人被誤判的機會相近，所以訓練資料比較少，誤判機會相對高的群體就不會受到差別待遇。這個想法跟equal opportunity非常接近。

Google Research有個視覺化網站可以說明fairness through unawareness（即「group unaware」）、demographic parity與equal opportunity這些作法的差異。

參考文獻

M. Skirpan and M. Gorelick, “The Authority of ‘Fair’ in Machine Learning,” arXiv:1706.09976 [cs], Jun. 2017.
S. Bird, S. Barocas, K. Crawford, F. Diaz, and H. Wallach, “Exploring or Exploiting? Social and Ethical Implications of Autonomous Experimentation in AI,” Oct. 2016.
C. Dwork, M. Hardt, T. Pitassi, O. Reingold, and R. Zemel, “Fairness Through Awareness,” in Proceedings of the 3rd Innovations in Theoretical Computer Science Conference, New York, NY, USA, 2012, pp. 214–226.
M. Hardt, E. Price, and N. and Srebro, “Equality of Opportunity in Supervised Learning,” in Advances in Neural Information Processing Systems 29, D. D. Lee, M. Sugiyama, U. V. Luxburg, I. Guyon, and R. Garnett, Eds. Barcelona, Spain: Curran Associates, Inc., 2016, pp. 3315–3323.
B. Woodworth, S. Gunasekar, M. I. Ohannessian, and N. Srebro, “Learning Non-Discriminatory Predictors,” arXiv:1702.06081 [cs], Feb. 2017.
M. B. Zafar, I. Valera, M. Gomez Rodriguez, and K. P. Gummadi, “Fairness Beyond Disparate Treatment & Disparate Impact: Learning Classification without Disparate Mistreatment,” 2017, pp. 1171–1180.

本文由Pomin Wu授權轉載自部落格Trustable AI — 機器學習公不公平?。

《數位時代》長期徵稿，針對時事科技議題，需要您的獨特觀點，歡迎各類專業人士來稿一起交流。投稿請寄edit@bnext.com.tw，文長至少800字，請附上個人100字內簡介，文章若採用將經編輯潤飾，如需改標會與您討論。

（觀點文章呈現多元意見，不代表《數位時代》的立場。）

一間小店的行動，如何匯聚成改變地方的能量？由永豐金控支持、永豐基金會推動的第4屆「小店永豐故事展」，10月1日於台北華山1914文化創意產業園區中4B館登場，精選展出10家來自全台各地的在地實踐故事。現場由入選團隊高雄「台青蕉」香蕉創意工作坊旗下的台青蕉樂團，以活力充沛的不插電演出點燃氛圍。

「台青蕉樂團帶來充滿在地生命力的演出，熱鬧活潑的演唱，就像小店的鮮活生命力。」永豐基金會董事長陳思寬表示，「當有人看見、有人回應、有人加入，一間小店的行動，就會慢慢成為一群人的力量。」她也邀請民眾週末前往華山，「走走、看看、吃吃、買買，讓我們一起成為改變地方的力量。」

10家獲選小店，橫跨飲食、工藝與循環經濟

「小店永豐計畫」源自永豐金控深耕在地、關注不同群體獨特需求的理念，以經濟為樞紐轉動地方生活。計畫自2022年10月啟動，每年投入上千萬資源，支持兼具自立與利人精神的小店，足跡遍及臺灣本島與離島城鄉，逐漸在社會各角落帶來迴響。

今年成果發表以「成團，開張！」為題，10家獲選小店齊聚華山，把一路累積的方法與故事向更多人打開，呈現10個正在地方發生的行動。本屆小店的經營型態涵蓋飲食、文化、工藝、環境、循環經濟及社會參與，領域各異，共同之處在於讓原本停下來、散開來，或逐漸被遺忘的人事物重新產生關係：地方因此開始說話，文化開始流動，人重新聚在一起。

作為微型經濟主體，小店靈活發展出多元型態的交流體驗，從量到質，再走向有意識的串連協作，成為社區鄉里的韌性據點。從一間店到一個街區，再從街區擴展至鄉里，大企業觸及不到的人間煙火，就由小店帶來改變。

addLEss把舊衣送回市場、杉恆壹樹讓玫瑰進企業供應鏈

同樣從地方需求出發，兩家獲選小店各自找到不同的熱情領域。

身為母親，也愛買衣服，「addLEss循環時尚」創辦人黃瑾茹不捨衣物因孩子長大或喜新厭舊而閒置，以「讓舊衣重返市場、平價流通」為初衷創辦平台，投入後才發現營運遠比預期複雜。

在addLEss，二手衣須歷經「初篩、細篩、送洗、定價、上架、拍照、入庫」7道工序，並依品質細分為5級。目前平台每月處理的衣物，上架率僅約4成；其餘6成無法上架的衣物，則依特性捐贈社福機構，或轉製為再生衣架等環保商品。

「單純的二手衣買賣，我認為還不足以解決衣物浪費的問題，我想做的是盡可能讓所有衣服都進到循環。」黃瑾茹指出，二手衣產業的流程高度仰賴人工、產能有限，是營運最大的瓶頸，也是她參與「小店永豐計畫」的契機。

在永豐支持下，addLEss導入AI智慧倉儲、將超商物流納入衣循環生態系，預計處理量可提升至3倍。在參與計劃過程中，她印象深刻的是永豐評審曾說：「我覺得你是想要做一個生態系」，這句話說中她心中所想、令她倍感欣慰。隨著數位後台逐步完備，黃瑾茹期盼串連更多品牌與消費者投入減碳經濟，朝著「讓每件衣服都有去處」的目標邁進。

在高雄杉林，青農王宥勝則把家中原本打算收掉的休閒農場，轉型為有機食用玫瑰產地。

擁有20年餐飲資歷的他，起初將玫瑰製成花醬赴歐洲參賽，沒想到獲得不錯的成果，就此帶著家裡轉種玫瑰，將食用玫瑰嫁接於台灣原生薔薇，種植有機樹玫瑰。「我不想只是當一個年輕的勞動力，而是希望我的投入能為地方帶來新氣象。」王宥勝表示，盼藉由玫瑰提升地方認同感，因此他將大愛商業中心建置作為地方創生基地，讓在地人有地方可匯集、也讓外地人藉此認識杉林。

隨著產量暴增，玫瑰也成為連結社區長輩的紐帶。周邊客家、閩南與原住民社區的長輩會協助分選、撥花，動動手指、也聊聊天；再結合在地小農契作，產量從年產270公斤躍升至月產1,800公斤，所種植的玫瑰原料更進入知名企業供應鏈，玫瑰果醬與花茶亦獲iTQi星級肯定。

王宥勝坦言，第2屆曾報名未入選，本屆獲選後認為，除了有資金挹注，最大的支持是曝光。在永豐支持下，他將持續優化新設的青農共創基地；短期讓大家知道國產玫瑰可媲美進口玫瑰，長期則期待台灣成為玫瑰輸出國，「希望大家想到台灣有機玫瑰的時候，可以想到高雄杉林！」

小店持續發光，第5屆小店永豐計畫啟動徵選

除了成果發表，本屆「小店永豐故事展」同步於華山1914文化創意產業園區中4B館展出。作為永豐基金會每年匯集地方第一線觀察與土地故事的平台，今年透過10家獲選小店的實踐行動，向大眾展現地方正在萌芽的轉變。

10月3日至4日週末登場的「小店永豐市集」，更集結眾多小店設攤，讓民眾在走逛、品嚐與選購之間，近距離感受扎根在地的鮮活風土。

隨著第4屆圓滿落幕，第5屆「小店永豐計畫」也已正式展開徵選，持續尋找兼具自立與利他精神的在地經營者。永豐基金會將持續提供實質資金、陪伴資源與推廣舞台，支持更多以一間店回應地方需求的夥伴；當更多小店加入，原本散落各地的人事物得以重新連結，地方的未來，也有了繼續發生的可能。

第5屆小店永豐計劃徵選資訊請見官網 https://www.sinopacfoundation.org.tw/sinopac_found/public/event-method.html