ChatGPT 回答程式問題錯誤率高達5成!為何用戶還是信?被什麼誤導了?
ChatGPT 回答程式問題錯誤率高達5成!為何用戶還是信?被什麼誤導了?

美國普渡大學的研究發現,OpenAI 開發的人工智慧聊天機器人 ChatGPT 在回答軟體程式問題時,錯誤率超過一半,且能騙過三分之一的提問者。

該研究團隊分析了 ChatGPT 對 517 個 Stack Overflow 網站上的問題的回答,評估了其正確性、一致性、全面性和簡潔性。他們還對回答進行了語言和情感分析,並對 12 名志願參與者進行了問卷調查。

ChatGPT 回答軟體程式問題 52% 是亂講的,為何用戶還信?

這份研究報告的結論是:ChatGPT 的回答雖然語言風格良好,但其實有 52% 的回答是錯誤的,77% 是太過於冗長的。參與者只有在回答中的錯誤很明顯時,才能識別出來。否則,他們會被 ChatGPT 的友好、權威和細緻的語言風格所誤導。

他們的論文指出:「在我們的研究過程中,我們觀察到,只有當 ChatGPT 答案中的錯誤很明顯時,用戶才能識別出錯誤。但是,當錯誤不易驗證或需要用到外部IDE時,用戶往往沒有能力去發現錯誤,或低估答案中的錯誤程度。」

不過,論文中也指出,即使答案存在明顯錯誤,12 名參與者中仍有兩人仍然會選擇採用 ChatGPT 的答案。論文認為,這是因為 ChatGPT 具有令人愉快、權威的風格。

該論文解釋說:「從半結構化訪談中可以明顯看出,禮貌的語言、清晰的教科書風格的答案、全面性和答案的關聯性,將使得就算是完全錯誤的答案也能看起來是正確的。」

chatgpt
由於ChatGPT的答案常具有煽動性、暗示或成就的語言,例如:當然我可以幫助你、這肯定會解決它,讓用戶不自覺地選擇相信。

該論文的作者之一 Samia Kabir 表示:參與實驗的人更喜歡不正確且冗長的ChatGPT答案,而不是 Stack Overflow 的答案,這是由於多種原因造成的。

主要原因之一是ChatGPT的答案非常詳細。在很多情況下,如果參與者從冗長而詳細的答案中獲得有用的信息,他們並不介意回答的長度此外,積極的情緒和答案的禮貌是另外兩個原因 。」

「當參與者發現ChatGPT的答案很有洞察力時,他們就會忽略了答案中實際存在的錯誤。ChatGPT 自信地傳達有洞察力的訊息(即使訊息不正確)的方式贏得了用戶的信任,這使他們更喜歡錯誤的答案。」

延伸閱讀:20萬本盜版書都在「book 3」,AI巨頭從這偷數據!這是什麼?

Stack Overflow 是一個專門為程式設計師提供問答服務的網站,被認為是開發者獲取程式碼片段和解決問題的重要來源。然而,該網站近年來也面臨著流量下降、內容品質下降和使用者信任下降等問題。據 SimilarWeb 在 4 月份的一份報告顯示,自 2022 年 1 月以來,該網站每月流量下降了 6%,3 月份下降了 13.9%,而 ChatGPT 可能是導致其流量下降的原因之一。Stack Overflow 則否認了 SimilarWeb 的評估,並表示其流量受到搜尋演算法和 ChatGPT 興趣激增的影響。

作者觀察到,ChatGPT 的答案還更有煽動性——暗示成就或成就的語言——。「在很多情況下,我們觀察到 ChatGPT 插入了諸如『當然我可以幫助你』、『這肯定會解決它』等單詞和短語。」

在其他發現中,作者發現 ChatGPT 更容易犯概念錯誤,而不是事實錯誤。該論文發現:「由於 ChatGPT 無法理解所提出問題的潛在背景,許多答案都是不正確的。」

作者對 ChatGPT 答案和 Stack Overflow 答案的語言分析表明,機器人的反應「更正式,表達更多分析思維,展示更多實現目標的努力,並表現出更少的負面情緒。」他們的情緒分析得出的結論是:ChatGPT 的答案比 Stack Overflow 的答案表達了「更積極的情緒」。

OpenAI 在其 ChatGPT 網站上承認其軟體「可能會產生關於人、地點或事實的不精準資訊。」該公司暫未對普渡大學的研究作出回應。

延伸閱讀:AI幫你做廣告,成本省20倍!雀巢、可口可樂都擁抱AI,背後會有什麼風險?

本文授權轉載自:T客邦

關鍵字: #AI
往下滑看下一篇文章
核保、理賠、客服全面AI化:富邦人壽導入「三大智能助理」升級保險服務鏈
核保、理賠、客服全面AI化:富邦人壽導入「三大智能助理」升級保險服務鏈

近年談 AI 轉型的金融業者不少,多半從技術切入,闡述架構藍圖與導入策略。富邦人壽則選擇從行政端著手,先問哪個場景最攸關保戶,再決定 AI 該往哪裡導入。「關鍵在於回歸以人為本的核心,專注於客戶體驗。」保單行政處處主管蔡佳蓉副總經理指出,核保、理賠與客服,是服務價值鏈中與保戶互動最直接的三大關鍵,自然成為富邦人壽 AI 布局的起點。

以 AI 賦能核保,審查時間省六成

開始一張保單的旅程,核保是第一步,攸關保戶是否能儘速取得保障。投保過程中,若涉及既有病史或體況,核保便須介入評估,綜合審視商品條款、投保規則與法律規範,以決定是否承保,可說是一項高度專業的決策工程。

「以一份新契約為例,客戶的病歷資料可能厚達百頁。核保員得逐頁翻找診斷紀錄、用藥史與手術紀錄,判斷其對承保的影響。但大多數核保人員並不具備醫護背景,這方面的專業判斷力全靠長期經驗積累,導致傳統作業十分耗時。」蔡佳蓉解釋。

為此,富邦人壽建構「核保智能助理」,運用生成式 AI 摘要病歷,解決過往判讀大量專業英文病歷的痛點。這可不是把資料丟進 AI 資料庫就好——蔡佳蓉分享,導入過程中的挑戰之一,是為特種個資去識別化,需先透過個資遮罩工具處理病歷;此外,針對 AI 常見的「幻覺」風險,團隊也反覆調校提示詞,讓摘要報告力求精準正確。

她強調, AI 定位為「初篩與重點整理」的助手,最終決策權仍歸於核保員。透過 AI 摘要、核保員決策的人機協作模式,體況審查平均作業時間成功從 40 分鐘縮短至 15 分鐘,核保效率提升六成,讓核保同仁能將心力集中於高風險案件與例外處理。

以 AI 輔助判讀,加速理賠條款今昔對照

同樣面對大量資料判讀挑戰的,還有理賠。理賠是保險公司實踐承諾、展現服務價值的重要時刻,但隨著醫療技術不斷進步,許多保單條款當年訂定的手術項目,到了今天可能已發展出全新的治療方式。理賠人員需要從大量醫療資料中,判斷新技術是否符合條款約定,過程相當耗時,也需要高度的醫療專業知識。

對此,富邦人壽導入「理賠智能助理」,整合醫療資訊與內部顧問醫師的專業意見,協助理賠人員快速比對保單條款與客戶所接受治療的對應關係。例如,當醫療科技演進產生新的手術方式時,AI 可協助理賠人員快速了解該疾病與手術的進行方式,並檢索相關條款與內部規則,提供理賠判斷建議,縮短過去需逐一查找資料的時間。此外,系統亦能協助摘錄擷取診斷書、病理報告及醫療費用單據等理賠文件審核重點,大幅縮短人工判讀比對時間,讓理賠人員更專注於專業判斷與保戶溝通,加速理賠服務效率與一致性。

客戶服務處處主管張婉茹指出:「AI 除了加速理賠作業,也能將資深理賠人員的專業經驗與判斷邏輯濃縮為高效吸收的知識庫,協助新進同仁快速掌握案件重點與判斷依據,縮短學習曲線,並提升理賠判斷的一致性與品質。」透過 AI 助理減輕資料整理的負擔,理賠人員得以將精力回歸專業決策與客戶溝通。

以 AI 客服加速分流,前線服務更到位

在核保與理賠之外,最大量的服務場景是客服。張婉茹表示,隨著數位原生世代逐漸成為保戶主力,客戶傾向先自主操作解決問題,不會直接撥打電話;一旦選擇撥打電話,就代表問題已超出自助服務能處理的範圍。

對此,AI 客服的導入,不只是回答問題,更是協助客戶找到最適合服務管道的「智慧導航員」。「我們是第一線面對客戶,因此 AI 客服最重要的不是回答得多,而是回答得正確。」張婉茹表示,富邦人壽在設計上特別重視回答來源的可信度,透過既有知識庫與 FAQ 資料治理機制,讓 AI 優先扮演「理解需求、引導服務」的角色,確保保戶獲得正確且一致的資訊。

事實上,富邦人壽的文字客服早於大型語言模型盛行前便已上線,目前文字客服平均每月處理超過六萬則訊息,智能助理能即時理解客戶需求,將保單查詢、資料變更等簡易服務導引至 App 或線上平台快速完成;面對理賠、保單變更或保障內容等較複雜的需求,則由真人客服接手提供專業協助。讓簡單問題快速解決、複雜問題由專人服務,將有限的人力資源投入最需要專業與溫度的服務情境,讓分流機制發揮實際成效。

從核保員手中的病歷、理賠人員桌上的單據,到線上客服的迅速回應,富邦人壽的 AI 布局,始終緊貼第一線作業現場。張婉茹表示,科技發展不一定要一次 end to end 全到位,應該是不停小步快跑,慢慢把應用場景擴大。去年底推出的全新富邦人壽 App,將「簡單、貼心、隨行」的理念落實在使用者介面體驗上,就是一次階段性集大成的成果。

但無論 AI 如何加速資料判讀、優化流程,專業判斷與服務溫度仍是機器無法取代的核心。「要有專業,才能判斷 AI 的產出品質。」富邦人壽兩位主管也強調,科技迅速發展下,富邦人壽導入 AI,不是要取代核保員、理賠人員或客服人員,而是希望讓每一位同仁把時間花在最有價值的地方。當AI承接了流程中繁瑣的資料負荷,人員就能更專注在判斷、溝通與服務,讓同仁的專業與心力回歸到最需要判斷力與人情味的溝通之上,這才是真正以客戶為中心的 AI 轉型。也是富邦人壽實現「AI Everywhere」的旅途上不忘的目標。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
台達電全解讀
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓