為霸凌事件做民調、決策保險是否理賠,盤點5大企業錯用生成式AI案例
為霸凌事件做民調、決策保險是否理賠,盤點5大企業錯用生成式AI案例

ChatGPT 從2022年底問世以來,全球有關生成式 AI 的應用呈現爆炸性的增長,許多企業躍躍欲試、紛紛導入新技術,希望能藉此提升人員的工作效率,或是發展出新商機、在不增加巨額成本的情況下幫助公司擴大規模,為組織帶來新氣象。

然而,就跟所有商業掏金風潮一樣,這股風氣至今並未促成大量的企業成功案例,反而延伸出更多風險。美國商業媒體《Inc.》因此評論:「輸家比贏家多。」

提供錯誤決策挨告,企業撤銷AI應用

生成式AI的不穩定及不確定性,讓許多企業承受失敗的後果。

比方說,利用AI模型進行保險決策的聯合健康集團(UnitedHealth Group)被2名不幸過世的病患家屬控訴,公司故意使用一個錯誤率高達9成的AI模型,拒絕原本應該要按照醫療保險計畫提供給老年患者的相關照護,導致聯合健康自身商譽受損,在去年10月正式宣布停用產出決策的AI模型。

另一個例子是加拿大航空(Air Canada),因為聊天機器人提供錯誤的服務條款而被要求退款給一名消費者。雖然加拿大航空表示,該機器人是採用比較早期的技術,但這起事件也讓他們體會到直接讓AI提供客戶服務的風險,因此已將機器人從服務中撤出。

美國公關公司Mind Meld PR在工作上需廣發推廣信件給媒體記者,而曾試圖用生成式AI讓工作流程自動化,不過效果不如預期,因為整個過程,包含磨練輸出結果,所需時間和員工直接執行整個工作流程一樣長。Mind Meld執行長喬納森.納維(Jonathon Narvey)表示,AI在回答問題時,會提供自信的答案,但後來卻會承認這些回答實際上是錯的。「我們嘗試過,但完全失敗。」

取代真人給心理建議,被抨擊「不道德」

提供能讓用戶匿名討論心理健康問題、尋求建議的美國線上平台Koko,其創辦人羅伯特.莫里斯(Robert Morris)在社群平台X(前身為推特)上承認,部分的支援和建議並不是「人」給予的。許多用戶收到品質高又快的回覆,內容富有同情心,能讓對方感受到自己感同身受,部分來自於Koko官方使用 ChatGPT製作,再由人類編輯、按下傳送鍵的結果。

當人們正處於需要心理健康支援的狀態時,在他們不知情或未經他們同意的情況下,隱瞞他們成為實驗對象,被視為一件不道德的應用。這起事件讓許多學者和同行指責他的行為,莫里斯之後在X上表示,「一旦人們知道到這些訊息是和機器共同協作的,就不起作用了。模擬的同理心令人感覺奇怪且空虛。」他也提到,在找到更好的應用方式以前,會停止導入生成式AI的技術。

入口網站用AI做民調引眾怒

他們在去年8月,於主頁上刊登一篇美國總統喬.拜登(Joe Biden)在夏威夷毛伊島野火導致百人喪命的默哀活動中睡著的假新聞;9月美國前NBA球員布蘭登.亨特(Brandon Hunter)過世,MSN發布一篇標題為「布蘭登.亨特於42歲無用」(Brandon Hunter useless at 42)的新聞,被嚴厲指責「AI不應該拿來寫訃聞」。

這些事件一波未平、一波又起。10月時,MSN被英國《衛報》(The Guardian)指控損害報譽,原因是網站轉載一篇有關澳大利亞校園霸凌致死的新聞,用生成式AI做了一項民意調查,放在新聞報導中,詢問讀者:「你認為這名女性死亡的原因為何?」還列出 3種選項(包括謀殺、意外或自殺)讓讀者選擇,不道德的舉動引發眾人批評:「這是我見過最可悲、最令人厭惡的民意調查。」

這項使用生成式AI導致的荒謬意外,讓微軟迅速道歉,禁用MSN新聞文章的所有民意調查。

風險仍多,部分企業禁用生成式AI

看到如此多失敗的案例後,可以確定不是所有企業都會大力推動、投入生成式AI。軟體開發公司思科系統(Cisco Systems)針對隱私和安全領域的專業人士進行一項調查,有超過9成的人認為,因為生成式 AI本質上不同於其他技術,需要有新方法來管理資訊和相應風險,甚至已有超過1/4的人禁止使用這項技術。

顯然新技術並不是單純導入即可,其周邊問題才是需要花費大量時間討論並解決的課題,企業主還需要考慮到企業內部的資訊整合程度、制定AI相關使用政策和條款、人才培訓等面向,才有可能降低失敗風險,做好萬全準備。

美國第二大菸草公司雷諾茲菸草(Reynolds American)便是採取謹慎的態度,以有限度的方式測試生成式AI;資訊長亞倫.格溫納(Aaron Gwinner)表示,生成式AI仍存在著一些固有風險,因此他們目前僅會實驗用AI改善大數據分析,不會將它應用在高風險的金融用途,以及會和客戶打交道的工作裡。

即使生成式AI這2年迅速在全球擴散開來,但要讓這波趨勢普及化、真正落實到商業模式中,仍有很長一段路要走。

延伸閱讀:Sora實測|用文字生成的「魔幻MV」出爐,準確度拚過Runway、Pika?

參考資料:The Wall Street JournalInc.CNNNBCX(Twitter)

責任編輯:李先泰

關鍵字: #AI
往下滑看下一篇文章
邁達特的人才經營戰略!攜手「有福企」,打造個人化福利新體驗
邁達特的人才經營戰略!攜手「有福企」,打造個人化福利新體驗

走進邁達特的辦公室,最熱鬧的不是茶水間,而是 LINE 群組裡的「福利話題」。有人分享如何用點數換到電子票券,有人則教同事在電商平台搭配福利點數折抵,精打細算換來小確幸。對人資長楊碩祐來說,這樣的畫面格外珍貴,因為在他剛接手的那幾年,如何精準投放福利資源是重要的課題之一。

當時,邁達特正面臨跟同業一樣高達2成的離職率。高薪或許能吸引人,卻不一定能留住人,如何改善流動率,已成為企業的當務之急。「薪資能解決短期問題,但要讓人留下,必須讓員工在組織裡克服挑戰、獲得成就與實現價值。」他回憶。也因此,邁達特開始思考:如何讓「福利」不再只是行政支出,更成為穩固人才的關鍵?

永續人才經營,不只是花錢

楊碩祐的第一步,是回到員工需求本身。邁達特自 2022 年起,將員工滿意度調查頻率拉高到每半年一次,以即時掌握心聲。疫情趨緩後,公司除了宣布可彈性上/下班之外,如有特殊需求也可向主管提出居家工作的申請,讓每個人保有調整空間;當時從員工滿意度調查中發現,過去被視為亮點的零食飲料吧,只排到第 10 名;前幾名則是偏向彈性化的管理,如居家辦公和彈性上下班等。

「當福利能回應真實需求,滿意度可達 8 成;若與員工期待落差過大,則可能僅有 4 成。」楊碩祐說,這讓他確信,與其把資源花在公司自認重要的福利上,不如傾聽員工真正想要什麼,把錢花在刀口上、福利給得精準,才能成為長期的人才經營策略。

邁達特
邁達特人資長楊碩祐
圖/ 經理人

有福企一站整合福利,滿足員工多元彈性需求

如何讓福利走進日常?楊碩祐找到的答案是數位化。幾個月前,邁達特導入神坊資訊的「有福企®」數位平台——專為 HR 及福委打造的數位福利管理工具,讓員工能自主選擇福利,也讓行政流程大幅簡化。

「第一眼看到平台時,我就很喜歡它的 UI/UX 設計,清楚易懂又好上手。」楊碩祐回憶。以往福利公告、點數發放、特約簽約、活動管理分散在不同流程,耗費大量人力,也不易協作,如今透過有福企一站式平台即可完成。「福利是需要重複宣導的。」楊碩祐還記得,為了讓同仁理解平台價值,他特地花了一個週末做簡報,親自向全體員工示範說明。結果,導入初期就有9成以上員工完成開通登入。

為了讓員工福利更精準滿足個人化需求、提升使用彈性,邁達特將企業福利的固定預算轉換成「小樹點(生活)」(註1) ,透過平台發放數位福利點數,讓員工能依需求兌換折抵票券、宅配商品或旅遊體驗等日常生活消費。不僅能實現員工自選自用,企業也能在員工生日、福委活動、課程進修獎勵等多元時機點發送點數,創造更多與員工互動的機會。

甚至有員工自發性在 LINE 群組分享「點數使用攻略」,顯見認同度高。「現在我能兼顧員工自選福利、提供彈性,同時控制成本,這讓我更容易說服管理團隊,也能回應員工期待。」楊碩祐分享。

神坊資訊營運總監劉容先則補充,平台的核心設計之一在於「分眾」。以往分眾多應用於行銷操作,但員工同樣需要差異化經營:不同年齡層、職能或生活階段,各有不同需求。而邁達特員工結構正好呈現三個世代共融——20、30、40 歲以上各約佔三分之一,差異化經營更顯重要。有福企串連企業、HR、員工與供應商四方角色,整合了多元特約資源、EAP 員工協助與健康促進活動,再結合小樹點生態圈的廣泛通路,讓員工無論是日常娛樂、進修學習,或心理與法律諮詢,都能找到符合需求的選項。HR 不再受限於繁瑣行政流程,可更專注在策略規劃與成效評估,提升部門能見度與角色價值。

她進一步指出,平台也提供「活動」管理功能,讓 HR 及福委能以數位化方式舉辦家庭日、聚餐、健康與團建等各式員工活動,除了活動報名、問卷調查及員工簽到,也能透過平台發放點數獎勵,將繁瑣的紙本流程在線上一條龍完成,不僅讓 HR 節省時間,當活動體驗更流暢,員工參與意願也自然提升。

「HR 常常缺乏 IT 支援,有福企就是專為人資打造的數位工具,能持續優化迭代,並提供數據追蹤功能,讓決策更精準。」未來,也計畫推出會議室及按摩等服務預約功能,讓預算有限的中小企業也能輕鬆享受數位化帶來的效率與便利。

善用有福企,邁達特讓福利成為留才戰略

基於對數據與科學化人才經營的重視,邁達特進一步落實福利數位化。透過每半年一次的員工滿意度調查與同業數據比較,公司能更精準地掌握員工偏好,再搭配三十多項軟硬體福利調查,讓決策從感覺走向可驗證,進而推動政策宣傳與資源分配。

楊碩祐指出,邁達特以數位工具優化「選、用、育、留」四大流程,從求職、入職到職涯發展與日常照顧,HR 在每個環節都扮演要角,建構完善的「數位人才旅程」;其中,有福企更是「留才」關鍵,因為福利經營不再是附加價值,而是直接影響組織韌性與文化的核心環節。

「借用外部平台資源、交給專業,比起自己開發更有效率。有福企最大的價值,是幫助企業留才,並透過平台傳遞企業的正向福利文化。」楊碩祐說。甫獲 2025 年「亞洲最佳企業雇主獎」的邁達特,之所以能脫穎而出,不僅在於持續深耕人才經營,也來自善用外部資源,如導入「有福企®」後,將預算轉化為彈性點數,滿足跨世代需求,讓福利從「成本支出」提升為「策略資源」。

邁達特
邁達特屢獲雇主品牌獎項肯定,展現長期以人為本的人才經營承諾
圖/ 經理人

「這些努力在當初或許不會立刻看到成效,但卻能在同業尚未改善之際,率先走快一步,為未來奠下穩固基礎。」楊碩祐分享,隨著福利策略逐步落地,邁達特的離職率逐年下降,並持續創新低,讓公司更有底氣對外傳遞雇主品牌,也展現了長期重視人才的承諾。

被母公司佳世達點名為「集團軟體先鋒」的邁達特,擁有逾 25 年經驗,代理超過 50 種全球 IT 產品。面對缺工時代,當薪酬只是基本盤,決定新世代工作者是否留任的關鍵,在於能否持續挑戰自我、獲得成就感,並與企業文化建立連結。

因此,邁達特導入「有福企®」,不只是導入一套福利平台,背後更有將福利視為留才之道的策略思維。展望未來,楊碩祐期盼有福企持續開發創新服務,陪伴企業在人資數位化的道路上持續進化。透過與時俱進的平台設計,協助企業落實以人為本的人才經營,奠定組織永續的基礎。

註1:「小樹點」點數系統,分為小樹點 (生活) 與小樹點 (信用卡) 兩種點數類型,本文所述為小樹點 (生活)

[本文由經理人整合行銷部與神坊資訊有福企共同製作]

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
一次搞懂Vibe Coding
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓