AI幻覺惹禍!Deloitte澳洲分公司亂掰判決、學術研究,被迫退還875萬報告費
AI幻覺惹禍!Deloitte澳洲分公司亂掰判決、學術研究,被迫退還875萬報告費

全球專業顧問公司Deloitte近日捲入一起因AI使用不當而產生的爭議,其在澳洲為政府部門撰寫的一份報告中,被發現充斥著多處疑似由「AI 幻覺」(AI hallucination)產生錯誤連篇的資訊,包括捏造的聯邦法院判決引文,以及引用不存在的學術研究論文。

面對錯誤曝光,Deloitte Australia (Deloitte澳洲分公司) 已經同意將之前收取的440,000澳元(約為新台幣875萬元)報告費用進行部分退還,以償還合約尾款。

弔詭的是,面臨因AI產出不準確內容而導致退款的尷尬處境時,Deloitte在同一天宣布拍板與AI公司Anthropic的企業級合作協議,顯示業界在擁抱 AI 轉型的浪潮中,還得一面處理AI技術不成熟的諸多挑戰。

審查報告被抓包虛構引文,Deloitte證實用 GPT-4o 助寫

這項報告原本為澳洲就業與工作場所關係部門(DEWR),委託Deloitte製作共237頁的澳洲福利津貼支付的審查報告。

然而,報告在今年7月發布後,由雪梨大學健康與福利法研究員羅吉(Chris Rudge)發現內容存在多項「完全捏造的參考資料」,例如名為「Amato 控訴聯邦政府」的虛假案件。

Deloitte隨後證實承認「部分註腳和參考資料不正確」,並在一個月後發布了修訂版本,其中移除了10多個被錯誤引用的聯邦法官言論,以及多篇不存在的報告參考資料。

新版本更坦承確實使用了生成式AI語言模型 Azure OpenAI GPT-4o 協助撰寫,但也將焦點引向了 AI 生成內容的可靠性。Deloitte強調,在修正錯誤後,報告的實質內容與整體建議並未受到影響。

AI 幻覺頻傳,恐成企業信譽致命傷

事實上,Deloitte並非近期唯一一家因為 AI 幻覺而面臨窘境的案例。

例如,2023年,一名美國律師在一宗航空訴訟案件中,使用 ChatGPT 來協助起草法律文件,卻引用了6個憑空杜撰的法律判例,遭法院嚴厲訓斥與罰款,嚴重損害其職業道德和信譽。

就連Anthropic也曾在AI幻覺吃癟,在與音樂出版商的一場法律糾紛中,其律師使用了自家 AI 聊天機器人 Claude 生成的虛假引用資訊,後來不得不承認錯誤並公開道歉,稱這是一個「令人尷尬且非故意的錯誤」(an embarrassing and unintentional mistake)。

這些事都在在顯示:AI工具雖能提高效率,但其產出的「幻覺」內容,可能嚴重損害信譽,人工查核的必要性仍然極高。

爭議曝光也未止步,Deloitte將砸重金聯手 Anthropic

儘管前腳剛為AI的錯誤付出代價,Deloitte在同一天宣布,將與Anthropic擴大策略聯盟,全面推動其近50萬名全球員工導入Anthropic的聊天機器人 Claude。這項合作可說是Anthropic至今為止最大的企業級AI部署案。

根據Anthropic發布的合作內容,Deloitte將成立專門的「Claude卓越中心」,由受過專業訓練的專家組成,負責推動AI應用從試點走向大規模生產。此外,Deloitte和Anthropic將投入資源,共同設計一個正規的認證培訓計畫,目標是讓 15,000名 專業人士獲得 Claude 的專業認證,協助公司內外部的AI轉型工作。

延伸閱讀:OpenAI前30大客戶名單意外曝光,Duolingo、Salesforce⋯還有誰在「一兆Token俱樂部」?
台灣AI採用率26.4%排全球第22名!每4名勞工就有1人用AI,為何仍輸新加坡、阿聯酋?

資料來源:abcTech crunchBusiness InsiderAFR

本文初稿為AI編撰,整理.編輯/蘇柔瑋

往下滑看下一篇文章
代理式商務來襲:萬事達卡與NCCC攜手產業打造信任新基礎
代理式商務來襲:萬事達卡與NCCC攜手產業打造信任新基礎

隨著代理式 AI(AI Agent)的快速普及,其在商務交易中的應用也從智慧搜尋、商品比價一路延伸至自主下單,逐步形塑出全新的代理式商務(Agentic Commerce)模式。為因應此一趨勢,萬事達卡攜手聯合信用卡處理中心(NCCC)於 15 日舉辦「 AI 時代支付安全與數據信任高峰會」,匯聚產官學界專家共同交流,深入探討代理式商務下的支付授權與驗證機制,以及 AI 時代金融監理的演進與詐欺防治重點。

萬事達卡台灣區董事總經理陳懿文表示,無論交易是由人或代理式 AI 發起,都應該在安全可信的環境中完成,萬事達卡將持續強化支付安全的把關能力,不僅著眼於風險控管,更期望將「信任」轉化為未來創新的基礎與成長動能。聯合信用卡處理中心董事長桂先農則認為,面對 AI 浪潮,支付安全已不再只是技術問題,更要在消費體驗、數據運用與隱私保護之間取得動態平衡。金融監督管理委員會主任委員彭金隆表示,金管會未來將持續秉持安全與發展並進的原則,致力於打造可信賴、穩健且具有包容性的環境,加速金融 AI 應用的發展。

Mastercard-02.jpg
金融監督管理委員會主任委員彭金隆特別出席,表示金管會核心理念為「負責任創新」,並於2025 年成立『金融科技產業聯盟』,期待結合金融周邊單位與金融機構的力量,打造可信任及穩健的AI 金融應用環境。
圖/ 數位時代
Mastercard-03.jpg
萬事達卡台灣區董事總經理陳懿文(左)攜手聯合信用卡處理中心董事長桂先農(右)致詞不約而同提到:面對 AI 浪潮,支付安全將會是如何在消費體驗、數據運用與隱私保護之間取得動態平衡的治理課題。
圖/ 數位時代

AI Agent 重新定義消費旅程,萬事達卡提 4 大要素保障支付安全

Google Cloud 台灣技術總經理林書平認為,代理式商務正在重新定義消費旅程,而 Universal Commerce Protocol(UCP)則是支撐這場變革的關鍵。他表示,UCP 就好像電商界的 Type-C 接口,可以串聯不同代理式 AI 與電商平台後台系統,讓代理式 AI 可以根據消費者需求,自主完成商品搜尋與推薦、比價到下單的交易流程,打造更即時、更個人化的消費體驗。

在此情況下,支付不再只是交易流程中的最後一步,而是串聯個人化服務、授權機制、風險控管與信任的核心環節。萬事達卡數據與顧問服務部資深副總裁戴輝瑾指出,要確保代理式商務下的交易安全,必須具備 4 個關鍵要素,包括可驗證代理式 AI 身份、明確的使用者授權、確保代理式 AI 執行的任務沒有超出授權範圍,以及在發生爭議時,能透過公開透明且可追溯的機制進行處理,確保各方權益。

此外,他也強調,風險管理不應侷限於付款當下,需從交易前、交易中、交易後到持續性的監控,建立端到端的治理架構。為此,萬事達卡推出多元解決方案強化整體防護能力,包括以 Identity Solution 強化數位身分驗證、以 Decision Intelligence Pro 提升即時風險判斷能力、透過 Ethoca 優化爭議處理流程,以及藉由 Recorded Future 提供即時網路威脅情報,全面覆蓋交易生命週期,打造更完整的支付安全生態系。

AI 監理邁入新階段,以信任為核心的監管新框架

從監理角度來看,AI 所帶來的變革也同步改寫治理思維。金管會銀行局局長童政彰指出,監理機關不僅要加強國際合作,更應深化與金融業及科技業的對話,建立更開放且具前瞻性的監理模式。進一步針對代理式商務來看,政大金融AI創新中心主任王儷玲認為,金融監理重心應由模型與資料管理,轉向代理式 AI 安全,尤其當 AI 可以代理消費者進行支付時,如何確保代理式 AI 在授權範圍內執行交易,將成為未來的監理重點。

在國際監理趨勢方面,萬事達卡數據與顧問服務部副總裁 Audrey Wong 分析亞太與全球支付生態並指出,AI 時代的監管核心已轉向「以信任為基礎」,金融業在應用 AI 時,必須具備可解釋性、可問責性與可稽核性,確保決策透明且可追溯。同時,隨著詐騙與洗錢行為跨境化,監理機制也應向外延伸,確保跨境一致性,並透過如 ISO 20022 等標準強化資料透明與治理能力。

回到金融機構實務面,國泰世華銀行數據長梁明喬表示,代理式 AI 將對既有支付與風控機制帶來結構性改變,以信用卡支付為例,過往的驗證重點在於是否為本人,但在代理式 AI 情境下,則轉變為驗證 AI 的身份、授權來源與行為意圖。未來,隨著代理式 AI 的普及發展,授權與權限管理將變得更加重要。

Mastercard-04.jpg
關鍵對談以「AI 時代的資安監管趨勢與企業應對策略 」為題,左起邀請:數位時代總編輯 王志仁主持及重磅與談人國立政治大學金融 AI 創新中心主任 王儷玲、國泰世華銀行數據長 梁明喬及萬事達卡數據與顧問服務部副總裁 Audrey Wong與會。
圖/ 數位時代

AI 詐騙升級,聯防機制成新關鍵

最後,本場研討會亦聚焦討論 AI 造成詐欺風險升級的議題。台灣大哥大資訊長蔡祈岩觀察,詐騙已從單一管道演變為跨平台、跨場景的複合型攻擊,尤其是假冒「代理式 AI 」的詐騙手法,透過對話引導消費者提供個資與支付資訊,正成為新興且高風險的威脅來源。

萬事達卡 Franchise Innovation 副總裁Dennis Koh 進一步歸納出 3 大詐欺發展趨勢。第一,Deepfake 服務化使詐騙門檻與成本大幅降低。第二,詐欺行為跨境化與遠端化,已經突破地理限制、走向全球攻擊。第三,社交工程從大量投放釣魚信件,轉為高度個人化、難以辨識的精準攻擊。

面對詐欺手法持續演進,聯合信用卡處理中心風險管理部資深協理李錦堯表示,聯卡中心正透過區塊鏈與FIDO生物識別技術,打造無密碼的數位身分認證系統,並結合AI數據模型提升TRACE風險預警系統的效能。未來,聯卡中心將持續優化模型,並建立跨機構資料共享的聯防機制,整合發卡機構與國際組織資源,以提升整體防詐能力,對抗日益複雜的詐欺攻擊。

代理式商務將為消費者帶來更好的消費與支付體驗,但同時也對安全、治理與信任造成更大的影響,促使產業必須從單點防護走向跨機構、跨生態系的整體治理思維。在此趨勢下,萬事達卡將持續扮演關鍵推動者角色,攜手監理機關與產業夥伴,強化支付安全標準,推動台灣支付產業的監管框架與創新發展,打造兼顧效率與信任的數位商務環境。

Mastercard-05.jpg
回應AI 代理經濟下的詐欺防制與個資挑戰,本論壇特別邀請台灣大哥大資訊長 蔡祈岩、聯合信用卡處理中心風險管理部資深協理 李錦堯、萬事達卡Franchise Innovation副總裁 Dennis Koh交流趨勢觀點。
圖/ 數位時代

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
AI全球100+台灣20
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓