看不見最可怕!三種AI偏見,都是人臉惹的禍
看不見最可怕!三種AI偏見,都是人臉惹的禍

自從蘋果在今年九月推出搭載FaceID的新一代旗艦機iPhone X,「人臉辨識」成為一般大眾熱門討論的話題,不僅在中國出現靠刷臉就能進入的無人商店、台灣Accupass活動通也開發出了可以刷臉觀展的技術,甚至俄羅斯一家人臉辨識新創「VisionLabs」喊出要在15~20年後,讓人臉辨識取代護照查驗。

臉部辨識用於犯罪防治引發歧視問題

雖然人臉技術應用的未來看似多元又方便,但若是應用在涉及人權的犯罪防治工作上,則引發了歧視問題。

2015年,美國佛羅里達州的警方在執行毒品查緝臥底時,暗中拍攝了幾張嫌犯的照片,後來透過臉部辨識軟體搜捕嫌犯,儘管當時許多科技專家認為呈現的結果存有瑕疵,但當局仍逮捕了由軟體辨識出的嫌犯人選,但人臉辨識逮捕嫌犯真得精準嗎?

根據2016年美國喬治城隱私暨技術法律中心公佈的一份調查報告,指出在美國執法機構中,可存取的美國成人人臉辨識資料超過1.17億人,這個數字幾乎是一半的美國成年人都被記錄在資料庫中;同時,美國至少有26州允許執法機構執行人臉辨識搜尋,大約有一半的美國成人因此受到影響,而現階段還沒有針對公民臉部識別數據隱私設立的法律規範,警方不需要任何的證據或理由就可以監控民眾的資料。

這份報告中還提到,臉部識別數據庫會「無意識」的偏向識別黑人,但依據現在的演算法技術,識別黑人的準確度相對較低、較容易出錯,黑人被歸類在「高風險」類別的機率是白人的兩倍,本來應該提供客觀意見的人工智慧(AI)演算法,也如同現行司法系統一樣,並不是完美的生物辨識系統,新技術潛在的偏見,也讓許多民權團體呼籲美國當局應該立法,避免技術被濫用甚至侵犯人權,這樣的狀況讓黑人、少數族群在新的科技時代面臨新的困境。

facial recognition
人臉辨識並不是完美的生物辨識系統,新技術潛在的偏見,也讓許多民權團體呼籲美國當局應該立法,避免技術被濫用甚至侵犯人權。
圖/ shutterstock

AI偏見案例層出不窮,全是人臉惹的禍

不只是臉部辨識系統,過去也曾發生過AI演算法延伸出的偏見問題。

2015年Google Photos 把黑人的照片標籤為「大猩猩」,利用同樣的演算法在 Google Search上搜尋照片,「醫生」通常會跟「白人男性」連結、「護士」會跟「女性」連結,將人類潛意識下對於性別、種族的觀念在搜尋結果中產生連結。

AI不經意的學習人類長期以來的偏見,要徹底解決其實並不容易,微軟紐約研究院資深研究員 Hanna Wallach 曾說:「只要機器學習的程式是透過社會已存在的資料訓練,那麼只要這個社會有偏見,機器學習就會重現這些偏見。」

今年九月,史丹佛大學教授 Michal Kosinski在《性格與社會心理學期刊》發表了一份研究,AI 可以根據臉部照片判斷是同性戀或異性戀,且男性性取向的準確率高達91%、女性準確率則是83%;這項研究在當時影發爭議,許多 LGBT團體紛紛跳出來抗議,認為這類軟體極有可能成為迫害人權的工具。

但研究團隊則認為,是政府的監管以及隱私保護規範未能跟上 AI 的發展,就如同人臉辨識也能用於司法判決參考、學校針對入學學生的智商推論、大型活動入場前暴力威脅的判定,AI、人臉辨識技術、數據含有人類的偏見成分,後果當然令人擔憂,史丹佛大學教授Michal Kosinski強調,這份研究的目的不是要判別誰是同志,而是要大家警惕AI所帶來的影響。

facial recognition
人類則必須時時警惕自己不要讓AI受到人性弱點的影響。
圖/ shutterstock

為什麼AI會模仿人類的偏見?

為什麼走在時代前端的科技技術也會存在著「偏見」呢?麻省理工學院媒體研究室的研究員Joy Buolamwini認為,這是因為許多人臉辨識背後的演算法,都是由白人男性工程師寫的,而演算法要做出好的決策,就必須仰賴過往的資料所累積的經驗,而工程師也許無意識的讓自身的偏見、判斷影響了演算法的運作。

本月於加州登場的「神經訊息處理系統大會」,有一個組織「Black in AI」專門推廣黑人電腦科學家在AI領域研究的成果,致力於促進研究人員之間的合作,提高黑人在AI領域的參與度。不過也引發部分學者跟研究人員的質疑是否有必要舉辦僅關注黑人科學家研究的活動,在過度追求多元化的政治正確下忽略了技術能力。

「這實際上推動AI的隔離,黑人參加為黑人舉辦的活動,女性參加女性活動。」俄羅斯軟體公司SKB Kontur資料科學家Timofey Yarimov說;另外參與活動的一派意見認為,AI領域確實存在對女性和非白人男性的歧視,但如果「Black in AI」組織只是利用特定族群的困境,來吸引群眾參加活動,那麼只會破壞反對歧視的原則,但無論如何,系統背後的科學家缺乏多元組成,某種程度上勢必也會影響演算法的運作。

不過,人類跟機器最大的不同,在於無法擺脫過往經驗在潛意識中產生對於特定事務的偏見,隨著AI、人臉識別成為未來生活的日常,要讓AI保持客觀、中立的判斷,人類則必須時時警惕自己不要讓AI受到人性弱點的影響,說起來容易,但這也成為人類與AI發展之間不能停止努力的功課。

往下滑看下一篇文章
從「矽盾之島」到「資本樞紐」,國發會聯手證交所為AI新十大建設引進資源活水
從「矽盾之島」到「資本樞紐」,國發會聯手證交所為AI新十大建設引進資源活水

在人工智慧(AI)浪潮席捲全球的當下,臺灣不僅要守住半導體矽盾,更要將這股技術優勢轉化為長期的經濟動能,國家級計畫「AI新十大建設」將是重要推力之一!盤點AI新十大建設目標,最關鍵是2040前創造超過15兆元產值,提供50萬個AI高薪就業機會。然而,這項宏大的計畫若要成功,除了技術研發,最核心的動力來源正是「市場資本」。

打磨技術引擎的重要資源,對接全球資本作為動力

攤開AI新十大建設的政策綱領,可發現這項計畫涵蓋數位基磐、關鍵技術、智慧應用共三大層面的整合發展。主導規劃這項計畫的國家發展委員會(以下稱國發會)過去曾指出,AI若要普及到百工百業,必須建構強韌的數位基磐,這不僅包含主權AI與高效算力的布建,更涵蓋資料治理、人才培育,甚至引導市場資金驅動創新等核心支柱。

確實,發展AI極需大量資金挹注。依據CB Insights資料,全球資金持續向AI領域靠攏,2025年Q3單筆一億美元以上的交易件數,較去年同期增加41.82%。至於國內情況,國發基金與數位部合作推動AI新創方案,從今年3月底啟動到11月,已投資3家AI及數位經濟相關企業,累積投資6,100萬元,帶動民間投資約2億3,000萬元。另其他各項方案投資於AI產業累積129家,投資金額24.12億元。

不過從民間角度來看,臺灣投入AI創新的資本規模仍有成長空間。國家發展委員會常務副主委詹方冠就以AI新十大建設的三大關鍵技術之一「矽光子」為例,他表示:「在台積電帶動下,臺灣的矽光子技術已處於全球領先地位,但我們陪同總統參加矽光子產業聯盟座談時發現,廠商最憂心的問題之一就是『資金』的充沛」。

「相較於國外大廠動輒有30、50億美元的併購規模,臺灣矽光子廠商多屬中小企業,儘管我們技術優異,若要進入大量生產或與國際巨頭競爭,就需要資本市場支持,這也是為什麼『亞洲創新籌資平臺』將扮演關鍵角色,」詹方冠補充道。換言之,亞洲創新籌資平臺將為前瞻科技增添「燃油」的戰略價值,透過活絡資金與提升新創成功率,帶動下一波經濟動能。

啟動資本樞紐戰略!國發基金與市場資本協作賦能新創

至於亞洲創新籌資平臺如何讓具備利基技術但尚在成長期的新創或企業,更有效率上市及籌集擴張所需的資金?詹方冠觀察到,證交所創新板近兩年大幅鬆綁制度。相關措施包括縮短集保期間(2年變1年)、免除3年的承銷商保薦、上市後申報會計師內控審查報告期間,從3個會計年度縮短為1個會計年度,有助於縮短企業掛牌時程。

另外詹方冠也提到,國發會的國發基金與證交所的市場資本,兩者也可以相輔相成,扶植更多代表性的AI新創獲得成長需要的銀彈。國發基金先以「創業天使投資方案」提供早期育成支援,當企業具備一定規模後,隨後由亞洲創新籌資平臺輔導機制接手,轉向資本市場獲取更多資源。待企業上市後,國發基金再將獲利的資金進行再投資,形成資本的正向循環。

隨著亞洲創新籌資平臺將其定位為「亞洲那斯達克」,資本投資標的也將突破國界,轉向吸納全球頂尖的創新能量。詹方冠解釋,為了讓臺灣成為亞洲新創資本的匯聚地,國發會的投資政策更趨於開放且具有彈性。他表示,「國發基金的投資並不受限於傳統的公司註冊地,只要外國新創的研發團隊在臺灣、營運主體或主要市場與臺灣連結,無論是國發基金直接投資,或是透過合作的VC共同參與,皆能靈活注資。」

這種跨國投資、落地臺灣的模式,即是「引水入渠」且已有實際案例。詹方冠舉例,過去臺灣為了促進與中東歐合作,設立「中東歐投資基金」,即是瞄準當地具實戰優勢的無人機產業進行布局。換言之,藉由國發會及亞洲創新籌資平臺雙方的協作,有助於臺灣從研發優勢,進一步成為全球產業的資本樞紐與技術整合中心。

培養人才、催化產業生態系,打造臺灣AI導向的護國群山

資本市場不僅吸引資金,更能留住全球頂尖人才。針對AI人才的培育與延攬,詹方冠提到政府採取「教育扎根」與「即戰力養成」雙軌並行,經濟部推動「AI新秀計畫」讓非AI工程背景的畢業生在一年內的培訓、實作後為企業所用。穩固本土人才根基後,目光也會轉向吸引國際人才,目前已修訂《外國專業人才延攬及僱用法》來招攬國際人才。

對內培養、對外延攬的策略,也與亞洲創新籌資平臺相輔相成。當國際AI企業或新創因籌資環境友善而選擇在臺掛牌、投資或設立據點,協助在地人才吸收世界級的實務經驗。更重要的是,資本市場的推動力將帶動AI職缺的薪酬競爭力,進一步吸引海外優秀人才來臺,或驅使旅外臺灣人才歸國發展,為臺灣創造具國際競爭力的高薪職位。

回顧過去十年,臺灣新創家數已擴增三倍,最後詹方冠強調,下一階段國發會的戰略將引導更多創新領域的企業朝向規模化成長。此目標不僅促成單一公司的成功,更期望讓AI、半導體、安控、次世代通訊等「五大信賴產業」產生群聚效應,進而打造科技創新的「護國群山」,藉此鞏固臺灣在全球供應鏈中的戰略地位。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
進擊的機器人
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓