哪一款AI最可靠?研究揭Claude家族最老實:為何對LLM來說,坦承無知比「已讀亂回」更難?
哪一款AI最可靠?研究揭Claude家族最老實:為何對LLM來說,坦承無知比「已讀亂回」更難?
哪一款AI最可靠?

重點一:依據 AA‑Omniscience 顯示,多數大型語言模型在高難度知識題上「猜錯比答對多」,僅三款例外;核心指標 Omniscience Index 以懲罰幻覺衡量可靠度。

重點二:在全知指數上,Claude 4.1 Opus因較低幻覺率領先;GPT‑5.1Grok 4則多靠較高準確率。

重點三:各模型在不同領域表現不一,沒有「一款通吃」。例如 Claude 4.1 Opus在法律、軟體工程、人文社科較穩

先進 AI 大模型雖然越來越強,但近期一份報告指出,在「少幻覺、敢承認不知道」這件事上,仍然是不及格。

第三方 AI 模型評比平台 Artificial Analysis 於 11 月 18 日公布全新基準「AA‑Omniscience(全知指標)」指出,在面對高難度知識題時,當前主流大型語言模型(LLMs)「猜錯比答對多」,僅有三款模型例外。

該評測以「Omniscience Index(全知指數)」為核心,採用加權懲罰幻覺(錯誤作答)的方法:答對加一分、錯誤且有作答扣一分、選擇不作答記零分,從而衡量「知識可靠度」,而非僅看正確率。

團隊強調,模型的嵌入知識對真實世界應用至關重要;在知識不足時,模型易做出錯誤假設。且即便有工具如網路搜尋輔助,模型也須「先知道該搜什麼」。例如,遇到「MCP」查詢時,不應錯把「Multi Client Persistence」當答案,而應辨識為「Model Context Protocol(模型上下文協定)」。

低幻覺的 Claude vs. 高正確率的 Grok/GPT

Artificial Analysis 指出,在整體「事實可靠度」(Omniscience Index)排名上,Anthropic 的 Claude 4.1 Opus 居首,其優勢主要來自「低幻覺率」。相較之下,OpenAI 與 xAI 的模型則以較高「正確率」拉升名次,但因更傾向在不確定時「冒險作答」,而非「不懂就閉嘴」,因此可靠度未達頂尖水準。

純以「正確率」衡量時,xAI 的 Grok 4 居首,OpenAI 的 GPT‑5 與 Google 的 Gemini 2.5 Pro 緊隨。Artificial Analysis 也提及伊隆·馬斯克近期披露 Grok 4「總參數達 3 兆」,暗示大模型規模與前訓練算力或許是支撐其正確率表現的因素。

最可靠AI有哪些?
這張圖把每個 AI 放在一個座標上。橫軸是「Omniscience Index」,越往右代表越可靠、越少幻覺;縱軸是「Accuracy」(準確率),越往上代表越常答對。
圖/ Artificial Analysis

值得注意的是,在「幻覺率」榜單上,Anthropic 三款機型包辦最低幻覺率前段班:Claude 4.5 Haiku 以約 26% 領先,Claude 4.5 Sonnet 與 Claude 4.1 Opus 分列其後。這也呼應評測核心觀點:高知識並不必然等於低幻覺;能否在不確定時「選擇不作答」是可靠度的關鍵。

知識量不等於可靠度!AI 懂更多,卻未必說得對

Artificial Analysis 團隊在報告中指出,AA‑Omniscience 涵蓋 6,000 題、42 主題、6 大領域(商業、人文與社會科學、健康、法律、軟體工程、工程與數學),並細分 89 子題(如 Python 資料函式庫、公共政策、稅務等),更細緻地刻畫各模型的強弱。

結果顯示: 各模型在不同領域輪流領先,並無「全能王」。 例如,Claude 4.1 Opus 在法律、軟體工程、人文社科領先;OpenAI 的 GPT‑5.1 在商業題表現最可靠;xAI 的 Grok 4 則在健康與「科學、工程與數學」領域居前。

AI 在六個領域的「可靠度分數」
這張熱力圖把各個 AI 在六個領域的「可靠度分數」做橫向比較。每一列是領域(法律、健康、商業、軟體工程、人文社科、理工),每一欄是一個模型。顏色已做「該領域內」的標準化:在同一列裡,最好的模型顯示為綠色,最差的是紅色,中間就落在黃橘色。
圖/ Artificial Analysis

另一個發現是,模型規模與正確率正相關,但不必然提升可靠度。

白話說,模型越大,代表知識量越多,所以在「正確率」排行榜表現亮眼;但由於「可靠度」看的是遇到不確定時會不會硬答、造成幻覺。因此,像 Kimi K2 ThinkingDeepSeek R1(0528) 雖然答對比例高,遇到不熟的題目仍可能胡亂作答,拉低了「全知指數」。

反過來說,Llama 3.1 405B 雖然不是最大的,但更懂得在不確定時不作答,幻覺率較低,整體「可靠度」因此勝過規模更大的 Kimi K2 款式。

結論:選用 AI 的建議,也是「誠實為上」

總結來說,AA‑Omniscience 的證據顯示:能在不確定時停手、降低幻覺的模型,才在真實場景更可靠;僅看準確率,會把「會猜」誤認為「會答」。因此,選擇模型時,應以事實可靠度、幻覺率與拒答行為為核心準則,並依領域差異做選擇。

最後,模型規模與準確率雖有正相關,但並不直接降低幻覺;縮減幻覺更依賴訓練與校準機制。基於此,企業在落地知識密集型任務時,應優先採用「校準佳、願意在不確定時拒答」的模型。

延伸閱讀:ChatGPT濫用破折號怎麼改?如何避免飄出超油膩「AI味」?實用指令教學快收藏!
「這是地表最強編碼模型!」Claude Sonnet 4.5上線:更快更穩不加價,它是GPT‑5 Codex最大剋星?

資料來源:AA‑OmniscienceArtificial Analysis

本文初稿為AI編撰,整理.編輯/ 李先泰

往下滑看下一篇文章
從黑客松到理賠第一線,富邦人壽如何讓 AI 從創新提案變成工作夥伴?
從黑客松到理賠第一線,富邦人壽如何讓 AI 從創新提案變成工作夥伴?

當許多企業還在討論 AI 能做什麼,富邦人壽更關注:AI 如何被第一線同仁使用?而這也是「理賠智慧助理」能從黑客松發想、走進理賠現場,成為真實工作夥伴的原因。

為什麼富邦人壽會選擇從最複雜、也最不易標準化的環節–理賠–切入、嘗試將AI從「回答問題的工具」轉變成進入核心營運流程的「決策輔助夥伴」?

保險理賠為何難以AI化?答案藏在大量非結構化資訊裡

相較於客服問答或行政流程,理賠工作最大的挑戰在於資訊高度分散且缺乏標準格式:從診斷證明、病理報告、手術紀錄到醫療收據,每份文件不同醫院格式都不同,內容還充滿專業醫療術語;理賠人員不僅必須理解文件內容,還需要同步比對保單條款、法規要求以及醫學知識,才能做出適當判斷。

更複雜的是,就算是相同疾病或手術名稱,不同案件背景也可能導致不同理賠結果,因此,理賠長期被視為高度依賴專業經驗與人工判斷的工作,很難透過傳統自動化工具處理。

近年來,隨著理賠案件量持續增加、醫療技術快速演進,以及新舊世代交替帶來的人才培育壓力,如何兼顧理賠品質、作業效率與知識傳承,成為刻不容緩的議題。

富邦人壽開始思考:如果AI無法取代專業判斷,是否能先協助理賠人員更快掌握資訊、縮短搜尋時間,讓專業人才把時間投入在更高價值的分析與決策工作?這個想法在富邦集團導入微軟Copilot Studio並舉辦黑客松活動後獲得實踐機會,理賠團隊將構想轉化為可驗證的AI提案,並在主管支持與跨部門合作下,於2026年1月正式導入理賠現場。

「黑客松讓我們有機會快速驗證想法,也讓AI應用從概念走向實際場景。」富邦人壽理賠部資深襄理郭乃瑀如是說道。

數位時代為此特別專訪富邦人壽黑客松獲獎團隊「ClaimAIngels」的成員,深入了解這項 AI 專案如何從創新提案一路走進理賠第一線,成為同仁日常工作的決策輔助夥伴。

富邦人壽
富邦人壽理賠智慧助理透過黑客松加速落地!數位時代專訪團隊成員郭乃瑀 (左上)、 王羽藍(左下)、陳子聆(右上)、林庭樂(右下),分享過程與收穫。
圖/ 數位時代

AI成功落地的關鍵,不只是模型,還有資料與流程重建

從創意發想到實際上線,最大的挑戰不是技術,而是如何讓AI真正符合第一線需求。

富邦人壽理賠部資深襄理林庭樂指出,團隊一開始便深入訪談理賠同仁,發現大家真正需要的並不是AI幫忙做決定,而是協助整理資訊,因此將理賠智慧助理專案聚焦於三大領域:手術等級建議、病理報告判讀輔助,以及國外醫療文件翻譯與摘要,目標是協助同仁降低資料蒐集與查詢時間,讓理賠同仁可以快速掌握案件重點。

但要做到這一步,必須先建立可信任的資料基礎。

由於醫療資料來源眾多且格式不一,團隊投入大量時間整理歷史案件、建立醫療名詞對應關係、標註資料來源與判斷依據,並透過跨部門討論及醫師顧問協作,逐步建立一致的判讀標準。林庭樂表示:「這項工作看似基礎,卻是AI能否提供可靠建議的關鍵,更重要的是,它讓過去散落在資深同仁腦中的經驗知識,逐漸轉化為可被組織保存與運用的數位資產。」

富邦人壽理賠部專員陳子聆便感受到明顯改變。她說:「過去遇到新的手術名稱,往往需要花費一到兩個小時查閱條款、搜尋歷史案例並向資深同仁請教,現在,透過理賠智慧助理協助,資料搜尋時間縮短50%以上,能將更多心力放在案件分析與專業判斷上。」

理賠部理賠審核科資深襄理王羽藍則形容,理賠智慧助理更像是一位隨身秘書。她說:「它會先幫我們整理案件重點,也能提醒是否遺漏重要資訊。無論是判讀國內外醫療文件、核對醫療收據,或分析病理報告內容,都能快速提供參考依據,讓我們把時間投入更重要的專業決策。」

除了資料基礎建設,金融業導入 AI 的另一個關鍵挑戰是風險與合規。

因應金融監理要求以及個資保護需求,團隊在設計理賠智慧助理時建立多層防護機制與使用護欄,並持續優化提示詞設計,以降低AI幻覺、資料外洩與誤判風險,確保AI始終在可控範圍內運作。

不過,對富邦人壽而言,上線並不代表結束,而是優化的開始。

團隊發現,理賠智慧助理初期使用率表現亮眼,但隨著時間推移逐漸下降,為了找出原因,團隊同仁與第一線理賠同仁召開多場討論會議,讓其了解,生成式 AI 並非一次建置完成就能長期發揮效益,必須持續蒐集使用回饋、改善建議,進而調整功能設計。

郭乃瑀表示:「根據同仁回饋,團隊目前正規劃新增實支實付手術給付比例分析等功能,目標是讓AI更貼近實際工作流程、滿足使用者需求。」

從單一專案到組織能力,理賠智慧助理帶來的真正改變

隨著理賠智慧助理逐步成為理賠同仁的日常工作夥伴,其帶來的影響也不再侷限於效率提升,而是開始擴散至組織文化與創新模式的改變。

郭乃瑀表示,過去AI專案多半由資訊部門主導,但這次經驗讓大家發現,真正了解痛點的人其實是第一線同仁,因為只有其最清楚哪些流程最耗時、哪些資訊最難取得,以及哪些環節最適合導入AI。「隨著理賠智慧助理成果逐漸顯現,愈來愈多部門開始主動詢問專案推動經驗,如資料整理、風險控管、流程設計與使用者導入等做法,加速 AI 創新在組織內部的擴散與落地。」

對富邦人壽而言,理賠智慧助理並不只是單一 AI 工具,而是一次工作方式與文化的改變:從第一線提出需求、跨部門共同打造,到持續優化與回饋機制,AI 不再只是科技部門的工具,而逐漸成為工作現場的一部分,也讓數位轉型成為一種持續發生的創新能力。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
代理式商務連動百兆商機
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓