看不見最可怕！三種AI偏見，都是人臉惹的禍|數位時代 BusinessNext

看不見最可怕！三種AI偏見，都是人臉惹的禍

人臉辨識隨著iPhone X推出，成為討論度極高的生物辨識，但演算法也是由人所寫出來的，當臉部辨識用於犯罪防治，引發歧視問題。過去也有許多AI演算法延伸出的偏見問題，像是Google照片搜尋、用人臉判別性取向。無形的AI偏見，更值得人類警惕。

臉部辨識用於犯罪防治引發歧視問題

雖然人臉技術應用的未來看似多元又方便，但若是應用在涉及人權的犯罪防治工作上，則引發了歧視問題。

2015年，美國佛羅里達州的警方在執行毒品查緝臥底時，暗中拍攝了幾張嫌犯的照片，後來透過臉部辨識軟體搜捕嫌犯，儘管當時許多科技專家認為呈現的結果存有瑕疵，但當局仍逮捕了由軟體辨識出的嫌犯人選，但人臉辨識逮捕嫌犯真得精準嗎？

根據2016年美國喬治城隱私暨技術法律中心公佈的一份調查報告，指出在美國執法機構中，可存取的美國成人人臉辨識資料超過1.17億人，這個數字幾乎是一半的美國成年人都被記錄在資料庫中；同時，美國至少有26州允許執法機構執行人臉辨識搜尋，大約有一半的美國成人因此受到影響，而現階段還沒有針對公民臉部識別數據隱私設立的法律規範，警方不需要任何的證據或理由就可以監控民眾的資料。

這份報告中還提到，臉部識別數據庫會「無意識」的偏向識別黑人，但依據現在的演算法技術，識別黑人的準確度相對較低、較容易出錯，黑人被歸類在「高風險」類別的機率是白人的兩倍，本來應該提供客觀意見的人工智慧（AI）演算法，也如同現行司法系統一樣，並不是完美的生物辨識系統，新技術潛在的偏見，也讓許多民權團體呼籲美國當局應該立法，避免技術被濫用甚至侵犯人權，這樣的狀況讓黑人、少數族群在新的科技時代面臨新的困境。

AI偏見案例層出不窮，全是人臉惹的禍

不只是臉部辨識系統，過去也曾發生過AI演算法延伸出的偏見問題。

2015年Google Photos 把黑人的照片標籤為「大猩猩」，利用同樣的演算法在 Google Search上搜尋照片，「醫生」通常會跟「白人男性」連結、「護士」會跟「女性」連結，將人類潛意識下對於性別、種族的觀念在搜尋結果中產生連結。

AI不經意的學習人類長期以來的偏見，要徹底解決其實並不容易，微軟紐約研究院資深研究員 Hanna Wallach 曾說：「只要機器學習的程式是透過社會已存在的資料訓練，那麼只要這個社會有偏見，機器學習就會重現這些偏見。」

今年九月，史丹佛大學教授 Michal Kosinski在《性格與社會心理學期刊》發表了一份研究，AI 可以根據臉部照片判斷是同性戀或異性戀，且男性性取向的準確率高達91%、女性準確率則是83%；這項研究在當時影發爭議，許多 LGBT團體紛紛跳出來抗議，認為這類軟體極有可能成為迫害人權的工具。

但研究團隊則認為，是政府的監管以及隱私保護規範未能跟上 AI 的發展，就如同人臉辨識也能用於司法判決參考、學校針對入學學生的智商推論、大型活動入場前暴力威脅的判定，AI、人臉辨識技術、數據含有人類的偏見成分，後果當然令人擔憂，史丹佛大學教授Michal Kosinski強調，這份研究的目的不是要判別誰是同志，而是要大家警惕AI所帶來的影響。

為什麼AI會模仿人類的偏見？

為什麼走在時代前端的科技技術也會存在著「偏見」呢？麻省理工學院媒體研究室的研究員Joy Buolamwini認為，這是因為許多人臉辨識背後的演算法，都是由白人男性工程師寫的，而演算法要做出好的決策，就必須仰賴過往的資料所累積的經驗，而工程師也許無意識的讓自身的偏見、判斷影響了演算法的運作。

本月於加州登場的「神經訊息處理系統大會」，有一個組織「Black in AI」專門推廣黑人電腦科學家在AI領域研究的成果，致力於促進研究人員之間的合作，提高黑人在AI領域的參與度。不過也引發部分學者跟研究人員的質疑是否有必要舉辦僅關注黑人科學家研究的活動，在過度追求多元化的政治正確下忽略了技術能力。

「這實際上推動AI的隔離，黑人參加為黑人舉辦的活動，女性參加女性活動。」俄羅斯軟體公司SKB Kontur資料科學家Timofey Yarimov說；另外參與活動的一派意見認為，AI領域確實存在對女性和非白人男性的歧視，但如果「Black in AI」組織只是利用特定族群的困境，來吸引群眾參加活動，那麼只會破壞反對歧視的原則，但無論如何，系統背後的科學家缺乏多元組成，某種程度上勢必也會影響演算法的運作。

不過，人類跟機器最大的不同，在於無法擺脫過往經驗在潛意識中產生對於特定事務的偏見，隨著AI、人臉識別成為未來生活的日常，要讓AI保持客觀、中立的判斷，人類則必須時時警惕自己不要讓AI受到人性弱點的影響，說起來容易，但這也成為人類與AI發展之間不能停止努力的功課。

對已經成熟發展的企業來說，最大的挑戰不是如何創新，而是經驗無法有效傳承，而生成式 AI 的價值正在於此，它讓分散的知識從「共同保存」走向「即時運用」，使組織得以在既有經驗之上，持續累積能力並向上成長。

由旭瑞文化傳媒成立、全台最大直播平台浪LIVE，正是這種轉變的最佳寫照。「我們其實一直都有在整理內部的知識、技術文件和作業流程規範，但做法比較像是集中在倉庫裡，雖然找得到，卻不一定用得快。」旭瑞文化傳媒技術研發中心技術總監黎欣捷（James）形容。

為此，浪LIVE 攜手網創資訊導入 AI 知識管理系統 NAVI，打造出一顆可以分析與調用歷史資料並產製新內容的「企業智慧大腦」，讓經驗不再只是被保存，而能實際參與日常營運流程。網創資訊總經理吳炳鈞進一步說明，這是因為 NAVI 將浪LIVE既有資料整理成可被運用的知識基礎，並在此基礎上生成內容，故能真正融入浪LIVE使用場景，提升文章產製與活動規劃的效率。

用 AI 提速，回應高頻、快節奏的營運需求

作為直播產業的領導平台，浪LIVE 不僅市占率超過 50%，每月活躍用戶數更高達 40-50 萬人。能夠寫下高黏著度、高互動率的成績，除了堅持以才藝直播為主軸、在市場上做出差異化特色，快速更新的內容與密集的行銷活動，同樣是浪LIVE 維繫用戶黏著度的關鍵。

黎欣捷表示，浪LIVE 每日都會更新社群貼文與文章內容、每個月平均規劃約 20 至 25 檔活動，不僅內容產出量龐大，對速度的要求也極高。編輯團隊在完成採訪後，必須在最短時間內產出文章，且要符合品牌的風格和版型，而營運團隊不僅要不斷發想新的玩法，還得預先估算不同設計下的投資報酬率、參與人數等機率，以確保活動能兼顧創意與成效。

這種高頻的營運節奏不僅極具挑戰性，還容易使團隊感到疲憊。因此，浪LIVE 開始思考如何利用 AI 來提升文章產出與活動企劃的效率，而 NAVI 正是思考後的最佳解答。

應用場景1：文章產製，不再從零開始

吳炳鈞進一步說明，網創資訊如何協助浪LIVE 將 NAVI 應用於文章產製與活動企劃。

先就文章產製來看，網創資訊將浪LIVE 過往累積的大量文章匯入 NAVI，由系統學習品牌文章的語氣與編排方式，及不同編輯的寫作風格並加以分類。之後，編輯只要提供採訪逐字稿或相關素材，並指定想要的文章風格，NAVI 便可依此生成初稿，再由編輯進行調整與潤飾，大幅加快整體產出速度，也讓編輯可以將更多心力投入內容品質的把關與主題發掘，用快速更新而主題有趣的文章，吸引會員持續留在平台。

吳炳鈞強調，NAVI 不是憑空寫文章，而是根據企業過去累積的內容與規範來生成，這樣的產出結果，才會更貼近原本的品牌風格與實際需求。更重要的是，網創資訊還能根據客戶使用情境進行客製化調整。例如，NAVI 可以整合圖片和文字，生成一篇圖文並茂的文章，並同步輸出對應的 HTML 程式碼，浪LIVE 編輯只需貼至後台系統，就能完成上稿作業，不必再花費大量時間去調整版面配置。

應用場景2：活動規劃，從歷史經驗找出新玩法

再就活動規劃來看，網創資訊同樣先將浪LIVE 的歷史活動範本、禮物清單與獎勵機制導入 NAVI，由系統學習營運團隊在發想活動時的思維脈絡，之後，團隊成員只要輸入關鍵字，NAVI 就能建議相應的活動方式與獎勵組合，作為活動規劃時的參考。

黎欣捷認為，NAVI 就像一位資深顧問，不僅提供更多元的視角與玩法建議，縮短活動規劃所需的時間和心力，也能即時調閱過往經驗，協助團隊跳脫個人思考盲點，避免重複規劃過去已經做過的活動內容。

吳炳鈞進一步以禮物清單為例，說明 NAVI 帶來的效益。浪LIVE每一檔活動都需要重新設計禮物或做不同的組合搭配，因此資料庫已累積上百種不同類型的禮物，這使得團隊成員在規劃活動時，常常要花很多時間去發想新禮物或搜尋資料。而在導入NAVI後，系統可以根據歷史資料提供合適的禮物搭配建議，協助團隊在規劃新活動時，更有效率地運用既有資源。

不只生成內容：NAVI 三大特色，讓 AI 真正嵌入企業流程

在資料管理與內容生成外，網創資訊也從企業管理需求出發，規劃出以下 3 大系統特色，使 NAVI 得以真正融入企業的營運流程中。

第一，NAVI 支援至少 20種大型語言模型，能因應不同使用需求，處理文字、圖片、音訊和影片等多種形式的內容。第二，系統可部署於私有雲或地端環境，讓資料能留在企業內部，降低被外部 AI 模型使用的疑慮。第三，整合 AD 身份驗證與授權機制，可依部門和角色別去設定資料存取權限，確保 AI 在回應問題或產生內容時，只會引用該使用者可存取的資料範圍，避免誤用或資料外洩的風險。吳炳鈞補充，由於系統可進行部門切割，也能進一步統計各單位的使用量，方便企業進行內部成本分攤與管理。

「企業需要的是能嵌入流程的 AI，而不是只會回答問題的工具。」吳炳鈞指出，因此 NAVI 一開始就定位在企業知識管理系統，從而發展上述系統設計。近年來，因應 AI Agent 趨勢，網創資訊亦將相關概念融入 NAVI，使系統具備更高的主動性，能依任務需求串接不同資料庫與內部系統，協助使用者完成特定工作流程。

未來，網創資訊將持續與浪LIVE 深化合作，逐步導入更多內容至系統中、拓展更多應用場景。也期待在與客戶合作的過程中，共同發掘更多具體的應用靈感，並視需求開發對應功能，持續放大知識與經驗的價值，讓技術不只停留在工具層次，而能真正轉化為企業成長的動能。