找不到女總統、小眼睛就偵測不到!AI複製人類「歧視」,管理者該如何對症下藥?
找不到女總統、小眼睛就偵測不到!AI複製人類「歧視」,管理者該如何對症下藥?

美國人工智慧國家安全委員會(NSCAI)今年4月建議,國防部每年應至少分配3.4%的預算投入科技領域,並提撥80億美元研發AI。企業方面,微軟於4月宣布,將以197億美元收購語音辨識開發商紐安斯通訊(Nuance Communications);後者是雲端與AI軟體的先驅。

從企業到國家,都愈來愈重視人工智慧,知道要想辦法運用AI創造更好的生活。不過,目前AI發展到底處於什麼階段?我們又該如何應用?

美國加州大學洛杉磯分校(UCLA)電腦科學系助理教授張凱崴形容,目前人工智慧技術已經可以幫助人類完成很多事,像是疫情來襲,電腦可以從大數據中篩選條件,自動搜尋、判讀潛在病例,幫助醫生大幅減少檢查時間,但AI也並非萬能,要先認知它的局限。他研究如何讓AI更符合人性,獲得2021年的史隆研究獎(Sloan Research Fellowships)。

UCLA電腦科學系助理教授張凱崴_(來源_張凱崴).jpg
UCLA電腦科學系助理教授張凱崴。
圖/ 張凱崴

延伸閱讀:AI將搶人類飯碗?企業人資主管不藏私:4種策略助員工升級戰力

AI局限一:資料寬廣度不足時,會複製人類偏見

張凱崴認為,電腦在學習的時候,是依賴「彙整數據資料」來判斷,並沒有真正思考,如果資料來源太狹隘、不夠多元,資料寬廣度不足,電腦判斷就會出現偏差,「 你跟電腦講清楚input(輸入)、output(輸出),提供足夠的數據資料,它可以對應、學得很好,但還有很多面向AI做不到 。」

舉例來說,亞馬遜於2014年推出智慧音箱(Amazon Echo),使用者口頭下指令給語音助理Alexa就能放音樂、查資訊。然而, 有些人口音較罕見或是用字較特殊,智慧音箱的資料庫沒有「不同口音」、「不同用詞」的檔案,就有可能會失靈 ,這是當前AI的其中一大問題。

張凱崴進一步解釋, AI另一項挑戰是,它無法清楚分辨「不曾出現」與「不能出現」(無法出現)之間的區別 ,只是從資料統計出要學的東西,無法像人類一樣進行邏輯思辨。

AI的運作方式,第一步是輸入資料,第二步是分析,但這過程容易出現偏見。例如電腦在理解「總統」這個字,會去看四周有什麼字詞,來學習總統這個詞,由於許多總統都是男性,電腦就會「覺得」總統是男性。

這也是為什麼,如果讓AI學習,在它的認知裡,女性「不可能」當美國總統(因為沒有資料紀錄)。「 你可以跟人類說,任何職業、性別都是平等的,但對電腦來講,這很困難 ,」張凱崴說明,一旦資料的寬廣度受限,電腦就容易產生偏見。

就像在自然語言處理(Natural Language Processing,讓電腦把輸入的語言變成有意義的符號)領域,張凱崴說明,AI需要知道代名詞指的是「哪個名詞」,才能運算下去。但如果資料受限,使用男性的「他」,電腦可能判斷這個代名詞是指總統、總理、執行長;但換成女性的「她」,由於數據不足,電腦就會混亂,出現系統性誤差。

蔡英文
圖/ 蔡英文Facebook

他再舉一例,美國人工智慧研究組織OpenAI提出「生成式預先訓練」系統(GPT,Generative Pre-training),推出到GPT3版本,屬於書寫類AI,電腦能夠揣測人們說完上一句話,下一句可能會講的句子,自動完成後半段。

好比有人上一句寫下「我正在和教授聊天」,系統可能推導出「我們在研究室討論學術問題」,因為電腦藉由蒐集來的語料資料中判讀出「教授」和「學術」具高度相關。但研究也顯示,GPT2(前一代版本)系統也從資料中學習到許多偏見,像是如果句子前半談論白人男性,系統傾向產生正面評價;如果句子前半是黑人女性,系統竟會產生負面句子。對企業來說,許多組織接觸AI,想讓它們取代部分工作,首先需要留意資料的廣度、多元性,才能減少電腦犯錯的機會。

AI局限二:即便條件相同,也無法每次都做出正確判斷

「 其實,現在的AI就像一台原型飛機,還缺乏穩定性 。」張凱崴說,現行的AI就好比萊特兄弟(Wright brothers)剛發明飛機,看似可以做很多有趣的事,但「可以飛」跟「飛得很好」,有一大段落差。

紐西蘭的簽證系統曾鬧出笑話。人們上傳簽證照片,AI掃描後,確認是不是本人,但當時系統沒有估算到某些亞洲人眼睛比較小,一名亞裔男子被判定「沒有張開眼睛」,因此照片無效。

張凱崴說,在這個例子中,凸顯出AI的穩定性不足,「系統沒有考慮到不同人種的差異,很死板地認為你眼睛沒張開。」 所謂的缺乏穩定性,指的是AI沒辦法在相同條件下,每次都做出正確決策 ,這也是使用AI時,須留意的第二個挑戰。

他再舉例,許多模型可以準確分析,一則影評對電影的評價是正面或負面。然而研究顯示,有時只要將影評中一些字換成同義詞,例如把電影(movie)換成影片(film),或改寫句子,即使意思並未改變,系統卻把原本判斷為正面的影評標註成負面。這顯示AI系統還未真正了解語言的含義。

在設計這些程式時,人們必須注意到AI可能有局限,設定的資料範圍要更完整,考慮這些因素,就能減少偏見、落差,進而加強穩定性。

AI_人工智慧_機器人
圖/ shutterstock

延伸閱讀:5年後,這十大工作可能被AI取代!與機器人當同事有哪些必學技能?

餵指令給AI要多元化,嘗試「換句話說」、刻意混淆

經理人雖然不一定具備A方面的專業知識,但只要掌握觀念,再透過AI領域專才協助,也能優化系統。張凱崴指出, 最直接的方法是,設計AI模型時,要把來源群組不同的資料分門別類測試,在測試階段讓群體多元化,並確保不同特色的使用者,用起來都沒有問題 。

優化AI系統的3方法
圖/ 經理人

舉例來說,一套A系統擁有來自各地的使用者,如果設計者是台北人,設計系統的思維容易以台北生活為主,很可能因為當地習慣不同,導致花蓮使用者操作不順。

另一個方法,則是用不同的「語意」,去測試AI有沒有徹底學會一個概念 。例如,有一套餐廳評鑑的AI系統,只要蒐集、整理使用者意見,就能判斷每個顧客對於餐廳的評比是高分或低分。那麼要如何確認這套系統的穩定性?張凱崴建議,可以利用「 抽換詞面 」的方法。

比如,把詞彙換成同義字,再看AI是否能運算出相同結果,「你可能會發現,原本評比結果是食物很美味,但如果美味換成比較困難的詞,AI就會分不出這則評比是好是壞。」因此在訓練模型時,可以將詞彙隨機抽換成同義詞,增加AI的詞彙量。

第三種方式更進階:改變句型、重寫句子 。張凱崴指出,同樣一句話,如果換成不同說法,電腦可能判讀錯誤,將「因為發生A事件,所以導致B事件」,改寫成「B事件發生了,是因為A事件的緣故」,明明兩句話意思一樣,但AI很可能因為穩定性不足,搞混兩者的差別。如果要鞏固AI的穩定性,可以使用自動改寫的方式,增加資料的多樣性。

張凱崴表示,經過這些測試,讓AI接受更多元化的訓練,得到更廣的學習範圍,往後碰到同義詞、相似資訊,才能有效判讀。

張凱崴總結,AI還在快速發展,或許可以創造更多工作機會、新的職位,但現行階段,它只是輔助角色。AI並非魔術盒子,使用它就一定有更好結果,人們還是要保持高度耐心,先認識它的缺陷,才能在技術更迭下,發揮出最好的結果。

張凱崴

台灣大學資訊工程系碩士、美國伊利諾大學(UIUC)電腦科學博士。美國加州大學洛杉磯分校(UCLA)電腦科學系助理教授,研究領域包括人工智慧、機器學習、自然語言處理。2021年獲得史隆研究獎(Sloan Research Fellowship),研究團隊開發的運算方法,使人類語言處理的程序更有效率、更多元,同時兼具公平性。

本文授權轉載自:經理人

責任編輯:文潔琳、錢玉紘

關鍵字: #AI
往下滑看下一篇文章
AI時代,從Day One看見全球需求!亞馬遜跨境電商高峰會,開啟台灣品牌出海新航線
AI時代,從Day One看見全球需求!亞馬遜跨境電商高峰會,開啟台灣品牌出海新航線

長久以來,台灣企業走向海外的順序,多是先依自己的技術、產能和過去的經驗,把產品做好,再來思考產品可以賣到哪個市場。但當全世界消費者的搜尋、瀏覽、評論、退貨和價格變化,都變成看得見的數據,AI又能把數據整理成可以做為判斷的線索,順序就開始被改寫了。10月29日,一年一度的「Amazon Seller Summit | 2026台灣跨境電商高峰會」盛大登場。今年以「Go Global From Day One」為主題,強調全球化不再是企業發展成熟後才啟動的下一步,而是從產品構想、品牌定位到商業決策的第一天,就應將全球消費者需求納入考量。面對AI時代,企業又該如何建立持續成長的全球化模式?

從Day One看見全球需求,啟動成長飛輪

亞馬遜全球開店台灣總經理謝孜希開場以「AI時代的全球化新路徑:從Day One看見全球成長機會」為題,從與台北市進出口商業同業公會合作的〈2026跨境電商焦點報告〉發現,在受訪的419家企業中,有75.9%在未來的12到24個月,已有計畫、正在評估或有興趣拓展新市場,顯示台灣企業積極尋求全球成長機會的企圖心。然而,儘管64%的企業已將市場需求作為選品依據,真正有系統研究市場需求的企業卻僅18.6%,另有52.6%認為拓展海外市場最需要的是海外銷售市場資訊或數據,凸顯企業的關鍵挑戰不只是看見全球機會,更在於如何系統性掌握需求,將市場洞察轉化為產品決策。

至於該怎麼走,亞馬遜把走向全球的過程拆解成「探索全球需求、驗證產品決策、加速新品上市、拓展全球成長」等四個階段的全球成長飛輪,透過全球的需求分析,探索更多市場與品類發展機會,這也意味著,全球化不再是一次性的市場拓展,而是持續從全球消費需求分析中尋找下一個成長機會。

Amazon Seller Summit
亞馬遜全球開店台灣總經理謝孜希以「探索、驗證、上市、拓展」四階段全球成長飛輪,說明企業如何從 Day One 將全球需求轉化為持續成長動能。
圖/ 數位時代

謝孜希強調,在全球成長的不同階段,亞馬遜都提供相應的AI工具與營運資源。其中,亞馬遜賣家助理 (Seller Assistant) 能協助賣家掌握營運狀況、辨識需要關注的問題,並提供後續行動建議,讓AI成為跨境經營的重要助手。此外,商機探測器、選品模擬器與創意工作室等工具,也能分別支持市場需求分析、產品機會評估與商品內容製作,協助企業將全球市場洞察轉化為實際行動, 「市場洞察會帶動產品創新,產品上市則帶來顧客回饋,回饋又會指引企業找到下一個成長機會,形成持續轉動的成長飛輪,轉得愈久,就會轉得愈快、愈穩。」

AI副駕駛共同啟航,開啟全球成長新航線

亞馬遜全球開店全球產品行銷負責人Leslie Hsu提到:「AI時代不單是數據更完整、更透明,善用AI代理工具,也進一步為企業決策者更高效訂定成長目標和發展計畫。從賣家使用分析發現, 賣家對 Seller Assistant 賣家助理提出的建議,大約有九成,會實際採取行動。現在AI能把全球消費者的需求,提早整理成看得懂的線索,讓台灣企業在產品構想的第一天,就能為全球市場做決策。 」

呼應今年「Go Global From Day One」的主題,高峰會特別以AI副駕駛啟航儀式,透過機場塔台廣播、AI語音與啟航模擬設計,象徵台灣企業在AI助力下開啟全球成長新航線。這場充滿未來感的啟航時刻,也將Amazon AI創新解決方案與全球化願景相互連結,展現AI如何從市場洞察、產品決策到日常營運,協助企業加速全球成長。

Amazon Seller Summit
高峰會以 AI 副駕駛啟航儀式揭開序幕,象徵台灣企業在 AI 助力下,開啟全球成長新航線。左起為亞馬遜全球開店全球產品行銷負責人Leslie Hsu、亞馬遜全球開店台灣總經理謝孜希。
圖/ 數位時代

資料變多不等於看懂市場,關鍵在找出真實需求

在以「AI × 品牌 × 市場:重新定義企業的全球化起點」為題的論壇中,則邀請到《數位時代》總編輯王志仁主持,台灣科技大學資訊管理系專任特聘教授盧希鵬、台達電、中磊和巨大獨立董事鄒開蓮、圓剛科技資深副總經理莊善雯、亞馬遜全球開店台灣總經理謝孜希,分別從學界、跨國經營、企業實務和平台的角度對話。

盧希鵬首先從經濟學的觀點切入,強調產品本身沒有價值,「價值是因為有人需要,價格則衡量了需要程度。」他將市場上的訊號,分成市場熱度、真實需求和值得投入的商機等三種層次,他提醒,市場熱度不等於真實需求,必須進一步理解消費者的使用情境、痛點與願付價格,同時評估自身技術與成本條件,才能將市場訊號轉化為真正值得投入的商機。

Amazon Seller Summit
上午場的重磅對談,本次邀請《數位時代》總編輯王志仁(右一)主持,與談人(左起)為台科大資管系專任特聘教授盧希鵬、台達電、中磊和巨大獨立董事鄒開蓮、亞馬遜全球開店台灣總經理謝孜希、圓剛科技資深副總經理莊善雯。
圖/ 數位時代

曾任雅虎亞太區最高主管,管理過日本、香港、台灣、東南亞、印度和紐澳等市場的鄒開蓮則一針見血指出:「世界上沒有真正的『全球』市場,唯有善用工具,更快、更精準讀懂需求並制定在地化策略,才能真正 Go Global。」她觀察,許多企業常把「在地化」想得太表面,以為翻譯好文案、換個廣告代言人就足夠;但真正的在地理解,涵蓋了當地人如何使用產品、通路如何運作、信任如何建立,以及做決定的節奏是快或慢。她強調,台灣企業應善用分析工具,加速理解不同市場的消費者,同時結合在地人才與市場經驗,將產品優勢轉化為全球競爭力,「企業要找到對的領導人,來負責全球市場,還要擁抱在地人才、帶著好奇心跑市場,和當地建立信任關係。」

圓剛科技的經驗,正好說明一家台灣硬體公司,如何在轉型時找到新的市場。 圓剛科技資深副總經理莊善雯分享,圓剛早年以電視卡、電視棒為主力產品,網路電視崛起後,舊市場結構性消失。圓剛於是採取「先射箭,再畫靶」 的做法,運用公司內部有限的資源,把影像處理、擷取卡等核心技術做成簡單的產品,先上架到亞馬遜試水溫。產品上架後,圓剛從後台數據、買家評論中意外發現,許多消費者買擷取卡,是用來錄製遊戲和直播,這才找到真正的靶心,進而深入研究遊戲直播、VTuber、內容創作者和直播帶貨等使用情境,發展出完整的產品線,「對圓剛來說,我們找到靶心的方法,都是回到消費者實際怎麼使用產品。」

Amazon Seller Summit
論壇現場座無虛席,與會者專注聆聽講者分享 AI 時代的全球化策略。
圖/ 數位時代

AI讓全球市場觸手可及,亞馬遜全球開店降低跨國經營負擔

謝孜希最後補充,亞馬遜透過「One Global Business」服務,便能提供市場洞察和跨境營運服務,「AI 就像企業開闢全球新航線時的『副駕駛』,出海不必再組建龐大的機組團隊,企業可以精準啟航試飛,再逐步擴大全球航線網絡。 」但她提醒,營運能整合,消費者需求和品牌溝通仍要在地化,因為不同市場消費者的需求完全不同,重點在於「全球在地化」(glocalization),「當AI降低跨境營運的複雜度,賣家就能把心力集中在真正需要差異化的地方,也就是產品價值和品牌信念。」

從產品創新到品牌成長,台灣企業展現全球化成果

2026 Amazon Seller Awards也表揚在全球市場拓展、AI應用、品牌轉型與科技創新等領域展現成果的台灣企業,從不同產業的實際經驗中,展現台灣品牌透過產品創新與市場洞察,持續拓展全球成長機會的多元可能性。

Amazon Seller Summit
2026 Amazon Seller Awards 表揚在全球市場拓展、AI 應用、品牌轉型與科技創新等領域表現亮眼的台灣企業,得獎者與亞馬遜全球開店團隊合影。
圖/ 數位時代

而各專家們分享的出海心法,已經被這些得獎企業實際落地應用,進而產出成果。從B2B玻璃鍋蓋供應商轉型自有品牌的明格企業,運用亞馬遜數據與消費者評論開發微波爐防噴濺蓋,成功躋身同品類前十名,「Amazon能清楚看見消費端,讓品牌和定價掌握在自己手中。」珍食堡實業則以自有品牌A Freschi srl布局美國、日本市場,透過搜尋與銷售數據優化火雞筋犬用零食的尺寸、造型及包裝,強調「不要等到產品完全準備好,才開始理解全球市場。」

(立即閱讀更多精彩賣家故事)

Amazon Seller Summit
「決勝全球・火線對談」中,明格企業、珍食堡實業、圓剛科技等台灣賣家代表,分享以產品力結合品牌力、突圍全球市場的實戰經驗。
圖/ 數位時代

從AI趨勢走向實際應用,聚焦策略品類找到全球成長新機會

今年高峰會規劃多場AI相關議程,從市場研究、產品內容製作、營運效率提升等面向,探討企業如何將AI應用於日常營運與商業決策,協助賣家掌握將AI工具轉化為實際業務價值的應用方法。

議程之外,也透過AI副駕駛試飛體驗區展示一系列亞馬遜AI工具,與Seller Café一對一跨境諮詢,聚焦消費性電子、家居用品,以及運動與寵物用品等策略品類,由亞馬遜品類團隊針對產品定位、市場需求及營運挑戰提供專業建議,協助不同成長階段的賣家探索全球市場機會,協助賣家將市場洞察轉化為實際行動。

現場一位新賣家分享,透過體驗亞馬遜AI工具,看見在人力有限的情況下拓展海外市場的更多可能;加上品類經理針對產品選品提供具體建議,讓他更有信心啟動跨境業務。另一位以代工模式經營的企業主分也分享到,透過當場一對一品類經理諮詢,幫助他更了解海外市場商機,對拓展新業務有了更明確的方向。

從AI工具的實際應用,到品類專業洞察與市場趨勢建議,高峰會不僅協助賣家掌握當前機會,更為下一階段的全球成長找到具體方向。

Amazon Seller Summit
AI 副駕駛試飛體驗區展示商機探測器、選品模擬器、創意工作室與賣家助理等亞馬遜 AI 工具,吸引與會者駐足體驗。
圖/ 數位時代
Amazon
Seller Café 由亞馬遜品類團隊提供一對一跨境諮詢,聚焦消費性電子、家居、運動與寵物用品等策略品類,協助賣家將市場洞察轉化為行動。
圖/ Amazon

對台灣企業而言,全球化不必等到規模夠大才開始,而是從Day One起,就將全球消費者需求納入產品創新與品牌決策。從全球成長飛輪的策略思維、Seller Assistant與AI創新解決方案,到策略品類專業支持,亞馬遜持續協助不同階段的台灣企業,將全球市場洞察轉化為實際成長動能,從Day One啟航,開拓全球市場的新機會。

全球航線已啟程!掌握AI時代的全球化新路徑。
立即觀看Amazon Seller Summit 2026 | 台灣跨境電商高峰會精彩回放

【Seller Summit 2026 】

Global Stage|上午主會場
Global Stage|下午主會場
Launch Stage 啟動舞台|下午分場 A
Growth Stage 成長舞台|下午分場 B

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
一次搞懂工業AI
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓