看不見最可怕!三種AI偏見,都是人臉惹的禍
看不見最可怕!三種AI偏見,都是人臉惹的禍

自從蘋果在今年九月推出搭載FaceID的新一代旗艦機iPhone X,「人臉辨識」成為一般大眾熱門討論的話題,不僅在中國出現靠刷臉就能進入的無人商店、台灣Accupass活動通也開發出了可以刷臉觀展的技術,甚至俄羅斯一家人臉辨識新創「VisionLabs」喊出要在15~20年後,讓人臉辨識取代護照查驗。

臉部辨識用於犯罪防治引發歧視問題

雖然人臉技術應用的未來看似多元又方便,但若是應用在涉及人權的犯罪防治工作上,則引發了歧視問題。

2015年,美國佛羅里達州的警方在執行毒品查緝臥底時,暗中拍攝了幾張嫌犯的照片,後來透過臉部辨識軟體搜捕嫌犯,儘管當時許多科技專家認為呈現的結果存有瑕疵,但當局仍逮捕了由軟體辨識出的嫌犯人選,但人臉辨識逮捕嫌犯真得精準嗎?

根據2016年美國喬治城隱私暨技術法律中心公佈的一份調查報告,指出在美國執法機構中,可存取的美國成人人臉辨識資料超過1.17億人,這個數字幾乎是一半的美國成年人都被記錄在資料庫中;同時,美國至少有26州允許執法機構執行人臉辨識搜尋,大約有一半的美國成人因此受到影響,而現階段還沒有針對公民臉部識別數據隱私設立的法律規範,警方不需要任何的證據或理由就可以監控民眾的資料。

這份報告中還提到,臉部識別數據庫會「無意識」的偏向識別黑人,但依據現在的演算法技術,識別黑人的準確度相對較低、較容易出錯,黑人被歸類在「高風險」類別的機率是白人的兩倍,本來應該提供客觀意見的人工智慧(AI)演算法,也如同現行司法系統一樣,並不是完美的生物辨識系統,新技術潛在的偏見,也讓許多民權團體呼籲美國當局應該立法,避免技術被濫用甚至侵犯人權,這樣的狀況讓黑人、少數族群在新的科技時代面臨新的困境。

facial recognition
人臉辨識並不是完美的生物辨識系統,新技術潛在的偏見,也讓許多民權團體呼籲美國當局應該立法,避免技術被濫用甚至侵犯人權。
圖/ shutterstock

AI偏見案例層出不窮,全是人臉惹的禍

不只是臉部辨識系統,過去也曾發生過AI演算法延伸出的偏見問題。

2015年Google Photos 把黑人的照片標籤為「大猩猩」,利用同樣的演算法在 Google Search上搜尋照片,「醫生」通常會跟「白人男性」連結、「護士」會跟「女性」連結,將人類潛意識下對於性別、種族的觀念在搜尋結果中產生連結。

AI不經意的學習人類長期以來的偏見,要徹底解決其實並不容易,微軟紐約研究院資深研究員 Hanna Wallach 曾說:「只要機器學習的程式是透過社會已存在的資料訓練,那麼只要這個社會有偏見,機器學習就會重現這些偏見。」

今年九月,史丹佛大學教授 Michal Kosinski在《性格與社會心理學期刊》發表了一份研究,AI 可以根據臉部照片判斷是同性戀或異性戀,且男性性取向的準確率高達91%、女性準確率則是83%;這項研究在當時影發爭議,許多 LGBT團體紛紛跳出來抗議,認為這類軟體極有可能成為迫害人權的工具。

但研究團隊則認為,是政府的監管以及隱私保護規範未能跟上 AI 的發展,就如同人臉辨識也能用於司法判決參考、學校針對入學學生的智商推論、大型活動入場前暴力威脅的判定,AI、人臉辨識技術、數據含有人類的偏見成分,後果當然令人擔憂,史丹佛大學教授Michal Kosinski強調,這份研究的目的不是要判別誰是同志,而是要大家警惕AI所帶來的影響。

facial recognition
人類則必須時時警惕自己不要讓AI受到人性弱點的影響。
圖/ shutterstock

為什麼AI會模仿人類的偏見?

為什麼走在時代前端的科技技術也會存在著「偏見」呢?麻省理工學院媒體研究室的研究員Joy Buolamwini認為,這是因為許多人臉辨識背後的演算法,都是由白人男性工程師寫的,而演算法要做出好的決策,就必須仰賴過往的資料所累積的經驗,而工程師也許無意識的讓自身的偏見、判斷影響了演算法的運作。

本月於加州登場的「神經訊息處理系統大會」,有一個組織「Black in AI」專門推廣黑人電腦科學家在AI領域研究的成果,致力於促進研究人員之間的合作,提高黑人在AI領域的參與度。不過也引發部分學者跟研究人員的質疑是否有必要舉辦僅關注黑人科學家研究的活動,在過度追求多元化的政治正確下忽略了技術能力。

「這實際上推動AI的隔離,黑人參加為黑人舉辦的活動,女性參加女性活動。」俄羅斯軟體公司SKB Kontur資料科學家Timofey Yarimov說;另外參與活動的一派意見認為,AI領域確實存在對女性和非白人男性的歧視,但如果「Black in AI」組織只是利用特定族群的困境,來吸引群眾參加活動,那麼只會破壞反對歧視的原則,但無論如何,系統背後的科學家缺乏多元組成,某種程度上勢必也會影響演算法的運作。

不過,人類跟機器最大的不同,在於無法擺脫過往經驗在潛意識中產生對於特定事務的偏見,隨著AI、人臉識別成為未來生活的日常,要讓AI保持客觀、中立的判斷,人類則必須時時警惕自己不要讓AI受到人性弱點的影響,說起來容易,但這也成為人類與AI發展之間不能停止努力的功課。

往下滑看下一篇文章
業績兩年從28億突破百億,諾億保經攜手自由系統強化IT與資安以接住高速成長
業績兩年從28億突破百億,諾億保經攜手自由系統強化IT與資安以接住高速成長

企業高速成長,市場最先看見的是業務營收與市場排名的飆漲,但真正決定企業能走多遠的,往往是水面下看不見的IT與營運骨幹。

諾億保經就是一個經典案例。

2024年,諾億保經的全年保費規模約28億元,隔年直接翻被衝破60億,今年,更預計挑戰120億到150億大關,強勢躍居台灣前十大保經公司;業績快速成長的同時,諾億保經的組織配置也很精實:外勤業務團隊約500人,負責核保、行政與稽核的後勤單位卻僅約30人。

值得特別注意的是,隨著營收在短時間內翻倍,受到考驗的不只是業務能力,也包括後台系統、資訊設備、網路、資安,以及法遵與內控能否同步跟上。

諾億保經總經理賴柏翰直言:「客戶資料是諾億保經的核心資產,特別是我們以投資型保單為主力業務,對個人隱私與財務資訊的防護要求極高。」此外,隨著營運規模擴大,金管會對資訊安全與內控稽核的監管標準也隨之提高,必須重塑IT與資安體質以回應高速成長。

評估完自身資源後,諾億保經做了一個重要決定:不從零自建IT團隊,而是採取資訊外包模式,提供企業擴展所需的支援。

諾億保經
諾億保經總經理 賴柏翰
圖/ 數位時代

諾億保經總監張維倫表示:「我們需要合作夥伴提供完整支援,自由系統不僅具備金融產業經驗與深厚維運實力,還能提供一站式服務,因而雀屏中選。」由自由系統負責台北與台中辦公室的端點設備、儲存架構、網路與資安維運等工作。

診斷重於工具:先清查環境盲點,再談防禦升級

缺乏專職資訊人力的中小企業或快速成長型組織,很常陷入一個迷思:市場上出了什麼新工具、新架構,就急著導入;然而,自由系統的作法是先回歸營運本質:盤點現況。

在雙方正式簽約前,自由系統的顧問團隊便深入檢視諾億保經的既有環境,找到一個最急迫的營運隱患:內勤行政人員與外勤業務人員,竟在辦公室內共用同一套網路網段,這意味著外部裝置一旦連網中毒,極可能直接橫向感染存放敏感保單資料的內部系統,為降低風險,自由系統隨即協助諾億保經進行網段隔離與權限切割,在第一時間化解安全未爆彈。

這套「先釐清現況、確認優先級、消弭落差」的邏輯,也體現在資安合規的推進上。

自由系統服務顧問黃麒翰以ISO 27001認證輔導為例指出:「諾億的認證合規由專職顧問主導,但底層關鍵的端點偵測回應(EDR)、託管偵測回應(MDR)、防火牆規則、特權帳號管理及硬體資產盤點,全由自由系統提供技術支援。我們的目標是替企業建立完整的『環境可視性』(Visibility),讓風險一目了然。」

對諾億保經來說,資訊設備、網路與日常維運雖然是營運不可或缺的基礎,卻不是公司的核心業務,如果自行建立完整IT部門,不僅要負擔人力成本,也必須長期維持涵蓋網路、設備、資安與系統維運的專業能力;相較之下,將這些工作交給自由系統的專業團隊負責,諾億保經可以將時間與精力放在可直接創造營收的核心業務。

「與自由系統合作至今,我們不僅更好強化IT體質、順利補強合規缺口,也為接下來的AI應用打下穩健基礎。」張維倫如是說道。

從防守走向進攻:雲地協同架構,讓AI真正走入第一線

IT與資安基礎逐步穩定後,諾億保經開始將資源放到下一階段:如何利用AI提升業務與營運效率。

在業務端,諾億嘗試透過AI實現「保險情境遊戲化」。

賴柏翰指出,一般客戶很難體會重大疾病帶來的財務衝擊,與其單向說明「萬一罹癌怎麼辦」,不如透過AI模擬動態情境,讓客戶在虛擬人生中面臨關鍵決策;甚至,將台股加權指數、S&P 500走勢融入情境,模擬面臨資金缺口時,抵押借款或贖回投資將對個人資產產生何種實質影響,讓保險規畫轉化為主動的探索體驗。

同樣的邏輯也導入內部培訓與後勤自動化。

過去高度仰賴資深講師與紙本教材的訓練流程,被轉化為AI互動式推演,讓500位業務能在高度擬真的客戶抗拒或理財情境中反覆演練,大幅縮短新人上手週期。至於在行政方面,傳統業務助理得耗費大量時間進行分類、掃描、校對保單文件的繁瑣流程,也交由AI與自動化工具處理,助理僅需做最終核對與歸檔,使30人的後勤編制得以支撐暴增數倍的合規案件。

在AI探索的過程中,自由系統就像是諾億保經的IT團隊、協助評估與提供所需產品服務。

自由系統售前顧問劉威利強調:「金融保險業涉及大量機敏個資,絕不能盲目把所有資料拋上公有雲AI。」因此,自由系統協助諾億精準劃分「地端與雲端邊界」,例如,哪些非機敏資料可藉助雲端模型運算、哪些敏感核保數據必須保留在地端進行私有化推論,並協同評估相應的地端硬體算力與加密機制,讓創新應用不以犧牲資安為代價。

總的來說,從28億飆升至百億規模,諾億保經展現了一家新銳金融服務企業的高敏捷度;而自由系統則證明了託管服務(MSP)已不再只是被動的修電腦與顧網路,更是高速成長企業在架構選擇、資安風控與AI轉型路上,不可或缺的最佳夥伴。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
一次搞懂工業AI
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓