為什麼AI會出現幻覺?OpenAI揭評測漏洞:回答「不知道」零得分,所以模型寧可瞎猜
為什麼AI會出現幻覺?OpenAI揭評測漏洞:回答「不知道」零得分,所以模型寧可瞎猜
##### 三大重點一次看 **重點一**:語言模型會產生「幻覺」的主因,在於訓練與評測機制獎勵「猜測」,而非誠實表達不確定,導致錯誤輸出持續存在。

重點二:現行主流評測標準採二元計分,對「不知道」或「不確定」的答案給予零分,促使模型傾向猜測。

重點三:研究建議修改主流評測機制,明確納入「信心門檻」與錯誤懲罰,以減少AI幻覺並提升可信度。

生成式AI無疑是人類近年最受矚目的生產力工具。但發展至今,「人工幻覺」(hallucination)——也就是AI「睜眼說瞎話」的機率仍存,這讓不少大量使用AI的工作者,仍需花費時間審核、排除AI生成的錯誤。

但絕頂聰明的AI,又為何時不時會吐出AI本身也不確定的「答案」?

針對這個問題,OpenAI於近日釋出論文〈Why Language Models Hallucinate〉, 直言人工幻覺的根本原因並非技術缺陷或人為疏忽,而是訓練與評測機制本身獎勵模型在不確定時選擇「猜答案」,而非誠實表達「不知道」。

這個情況十分類似 面對選擇題的考生 ,如果不確定答案,「合理猜測」是效益最高的方案。

##### 評測機制是幻覺元兇:瞎猜可能得分,不猜肯定0分 這份研究主要透過「統計歸約」與「行為分析」方法,揭示AI語言模型在面對不確定問題時,為何傾向猜題,而不是考慮坦承不知道。

研究分析指出,主流語言模型評測的計分方式,由於多採用二元評分(正確=1分,錯誤或「不知道」=0分)。在這種規則下,模型如果選擇「不知道」或空白,得分必然為零;但即使隨機猜測,仍有機會獲得分數。

從期望值角度來看,這種推導不僅用於AI模型,也類比人類考試行為——只要規則懲罰空白,考生自然傾向猜題。

OpenAI以「要求AI猜測某人生日」舉例說明,若被問某人生日而不知情,隨便猜「9月10日」有 1/365 的機率碰巧正確;回答「我不知道」則保證得零分,長期下來猜測在記分板上更吃香。

根據實測數據,在 GPT-5 系統卡的 SimpleQA 測試中,GPT-5-Thinking-Mini「棄權率」52%、「錯誤率」26%;較舊的 OpenAI o4-mini「棄權率」僅 1% 但「錯誤率」高達 75%。這顯示低棄權(不肯說不知道)雖可換取些許準確率(24% 對 22%),卻伴隨大量自信錯誤,反映評分標準鼓勵猜題而非謙遜。

指標 GPT-5-Thinking-Mini OpenAI o4-mini
棄權率 52%(未給出具體答案) 1%
準確率 22%(正確答案,越高越好) 24%
錯誤率 26%(錯誤答案,越低越好) 75%
總計 100% 100%

因此整體結論是:當評估只重準確率、不給「恰當表達不確定性」部分得分時,模型就寧願猜測而非承認不知道,導致幻覺率居高不下。

什麼是二元分類?
研究將語言模型的生成任務(即產生一段文字或答案)視為一個「二元分類」問題,也就是判斷每個生成結果到底是「有效」(正確、合理),還是「錯誤」(不正確、幻覺)。這種歸約方法稱為「Is-It-Valid(二元分類)」。

簡單來說,每個模型生成的答案都被標記為「+」(有效)或「−」(錯誤)。這樣的好處是,可用統計學和機器學習理論(如分類誤差率)來量化和解釋語言模型的錯誤來源。

##### OpenAI拋4解方:改革評測方式,讓AI更謙遜並坦率 論文結論指出,預防語言模型(AI)產生幻覺,不能僅靠新增幻覺檢測或後續微調,而必須從根本上改革主流評測與訓練機制。具體包括以下4大重點:
  1. 修改評測標準:在主流語言模型評測中,應明確納入「信心門檻」與錯誤懲罰。例如,要求模型僅在置信度高於某一門檻時才作答,否則應選擇「不知道」(IDK),並對錯誤答案給予分數懲罰,對IDK不扣分。

  2. 鼓勵誠實表達不確定:評測機制應獎勵模型在不確定時誠實表達,而非一味猜測。這樣可降低幻覺發生率,提升模型在實際應用中的可信度。

  3. 將改革納入主流基準:僅靠新增幻覺專用評測無法扭轉現有激勵結構,必須將上述改革納入現有主流評測(如SWE-bench、MMLU等),才能真正改變模型行為。

  4. 行為式校準(Behavioral Calibration):推動模型在不同信心門檻下,能根據自身置信度選擇最合適的回應,並可用於客觀審計。

總結來說,只有當評測與訓練機制不再懲罰「不知道」或不確定的誠實表達,並對過度自信的錯誤給予懲罰,AI幻覺現象才有望被有效抑制,AI系統的可靠性與社會接受度才能提升。

延伸閱讀:ChatGPT是廢文製造機?英國學者揭:AI不在乎真實性,只會生成「看似可信」的文本

哪一款AI最會讀書?冠軍「不是ChatGPT」:5款主流AI大PK,只有「它」沒出現幻覺

資料來源:OpenAIWhy Language Models HallucinateTechChurch

本文初稿為AI編撰,整理.編輯/ 李先泰

往下滑看下一篇文章
一文看懂 AI 電視可以幹嘛?不只有 AI 演算法,頂級硬體帶來高畫質表現
一文看懂 AI 電視可以幹嘛?不只有 AI 演算法,頂級硬體帶來高畫質表現

火熱的 AI 風潮掀起客廳革命,到底 AI 電視可以幹嘛?簡單來說,AI 電視透過 AI 處理器與演算法,即時進行 AI 畫質優化、音效調整、智慧語音搜尋和極致的個人化推薦,全面顛覆傳統智慧電視。在 AI 電視功能中,最讓消費者有感的是 AI 畫質優化,但許多人往往忽略了,畫質提升不只關乎演算法,更取決於底層的背光、色彩與控光技術。Sony BRAVIA True RGB LED 電視,正是將軟體思維與硬體工藝深度結合的最好示範。透過創新的 XR 認知智慧處理器搭配 True RGB 技術,精準呈現 AI 電視的畫質優化能力。

AI 電視是什麼?不只是能上網看串流的智慧電視

要理解 AI 電視可以幹嘛,首先必須釐清 AI 電視與一般智慧電視的差異。傳統智慧電視是為電視接上網路,讓使用者單向觀看連網影音。AI 電視則是在智慧電視的基礎上,導入了 AI 處理器與先進演算法,讓智慧電視具備「主動分析與學習」的能力,可即時判斷每一幀影像的畫質特徵、聲音頻率、觀看環境(如白天強光或夜晚暗光),甚至是家庭成員的使用習慣,進而動態調整視聽呈現。簡單來說,傳統智慧電視解決的是「能不能連網看內容」的問題,而 AI 電視解決的是「如何讓內容呈現得最好」的體驗問題。

但當 AI 演算法分析出最佳的畫面設定後,如果硬體無法精準跟上,優化效果就會大打折扣。這也是為什麼高階顯示技術 True RGB 開始受到市場矚目,確保 AI 算出的極致色彩與對比,能精準落地在觀眾眼前。

傳統電視容易出現暗部發灰或亮處過曝。Sony BRAVIA 9 II 透過 True RGB 三色獨立背光,能將 AI 算出的極致對比與飽和色彩精準落地。
傳統電視容易出現暗部發灰或亮處過曝。Sony BRAVIA 9 II 透過 True RGB 三色獨立背光,能將 AI 算出的極致對比與飽和色彩精準落地。
圖/ 數位時代

AI 電視可以幹嘛?從畫質、場景、音效到個人化推薦的四大核心進化

面對消費者的核心疑問「AI 電視可以幹嘛?」,可從四大 AI 電視功能深入拆解。

AI 畫質升頻與降噪:讓低解析度內容更清晰

透過 AI 升頻與降噪技術,可分析解析度較低或經過壓縮的影音內容,改善線條、紋理與雜訊,使畫面在 4K 螢幕上呈現得更清晰。True RGB 則能協助 AI 優化後的畫面亮度、色彩與對比度精準呈現。不過實際效果仍會受到原始片源解析度與壓縮品質影響。

智慧場景辨識:依電影、球賽、遊戲自動調整畫面

AI 電視能即時辨識播放內容,自動調整畫面呈現,比如看電影時調整為劇院感色溫、看球賽即時插幀消除動態殘影、玩遊戲時自動切換至低延遲模式。在不同場景轉換時,True RGB 讓亮度與色彩對比表現依然精準自然。

左圖為電影模式,右圖為遊戲模式。智慧場景辨識功能會根據電影、球賽或遊戲自動切換最佳模式。搭配 True RGB 技術,即使在動態或暗部場景下,色彩依然自然不失真。
左圖為電影模式,右圖為遊戲模式。智慧場景辨識功能會根據電影、球賽或遊戲自動切換最佳模式。搭配 True RGB 技術,即使在動態或暗部場景下,色彩依然自然不失真。
圖/ 數位時代

AI 音效優化:讓人聲與環境音更清楚

AI 音效演算法能分離出人聲對白與背景音效。看動作大片時,能放大環繞立體感;看新聞時,則優化人聲頻率,甚至能根據客廳結構進行空間音效校正。

除了頂級畫質,Sony 將 AI 音效演算法與機身背部揚聲器深度結合,能根據客廳結構進行空間校正,分離出清晰人聲與震撼環繞音效。
除了頂級畫質,Sony 將 AI 音效演算法與機身背部揚聲器深度結合,能根據客廳結構進行空間校正,分離出清晰人聲與震撼環繞音效。
圖/ 數位時代

語音互動與個人化推薦:減少尋找內容時間

AI 語音互動更能理解複雜語意,當你說出「我想看適合週末晚上的搞笑電影」時,AI 便會結合使用者的觀看偏好推薦清單,真正做到懂你所想。

整體而言,在眾多 AI 電視功能中,消費者最能直觀感受到的是 AI 畫質升頻與場景優化。但不論軟體演算法如何強大,都需要有對應的硬體執行力,而 True RGB 正是讓這些高階 AI 畫質能精準落地的關鍵技術。

AI 畫質優化的關鍵:不只靠演算法,硬體也是決勝點

在討論 AI 電視時,大眾常有一種迷思,認為只要電視內建強大的 AI 處理器和演算法就行,事實上,AI 電視的畫質優化不是靠單一演算法完成,而是包含「AI 判斷」與「硬體呈現」兩大層次:

首先由 AI 負責辨識畫面中的主體物件、人眼焦點、光影分佈及動態物體的移動軌跡等。根據 AI 判斷結果,演算法在底層即時計算出一套優化藍圖,決定哪些區域需要進行 AI 升頻、降噪、提高畫質、調整亮度、對比或色彩飽和度等。而硬體則負責最終畫面呈現,包含電視的背光、面板、控光技術與色彩控制技術,才是真正決定這張優化藍圖能被實現到什麼程度的關鍵。

而 Sony BRAVIA True RGB LED 電視便精準示範,硬體如何賦予 AI 電視極致表現。傳統 LED 電視使用單一藍色 LED,再搭配濾光片混色的方式,容易產生色彩混濁或亮度減損,True RGB 技術則以獨立驅動紅(Red)、綠(Green)、藍(Blue)三原色 LED 作為背光源,當 XR 認知智慧處理器分析影像內容,發出畫面調整指令後,True RGB 能精準響應,讓紅、綠、藍三色背光以極高精度進行獨立控光,將 AI 畫面調整的判斷精準呈現。

一般智慧電視、AI 電視、搭載 True RGB 的 AI 電視差在哪?

跳脫複雜的規格參數,一次搞懂三代智慧電視有何不同。簡單來說,一般 AI 電視可以做到升頻、降噪與場景辨識;搭載 True RGB 的 AI 電視則進一步把 AI 判斷延伸到背光與色彩控制,真實還原亮度、色彩與對比。

一般智慧電視 AI電視 搭載 True RGB 的 AI 電視
核心定位 解決「連網與內容獲取」 解決「基礎畫面自動優化」 解決「極致高階畫質精準執行」
畫質處理能力 支援基本的數位降噪,無法因應訊號源差而改善 具備 AI 升頻技術,能動態辨識場景並優化低解析度影片 結合 XR 認知智慧處理器與硬體優勢,進行深度的 AI 畫面優化
背光技術 傳統常亮背光,容易產生漏光與局部發灰現象 具備區域控光,但演算法與硬體匹配度較為普遍 採用 True RGB 三色獨立背光,控光精準度極高,無溢光與色偏
色彩與亮度表現 色彩表現較為平淡,高亮處易過曝,暗部細節容易丟失 色彩飽和度高,但有時因演算法過度補償而顯得不夠自然 實現豐富飽和的色彩表現層次,精準還原真實色彩
主要適合情境 看第四台、日常追劇 看 4K 串流,希望電視能自動適應不同影音內容 追求劇院級體驗,喜歡高畫質影音、球賽、遊戲的用戶
跳脫傳統電視容易漏光與發灰的痛點,Sony BRAVIA 9 II 結合旗艦級 XR 認知智慧處理器與 True RGB 背光技術,從底座美學到內在核心,皆為追求劇院級體驗的頂級用戶而生。
跳脫傳統電視容易漏光與發灰的痛點,Sony BRAVIA 9 II 結合旗艦級 XR 認知智慧處理器與 True RGB 背光技術,從底座美學到內在核心,皆為追求劇院級體驗的頂級用戶而生。
圖/ 數位時代

買 AI 電視時,真正該看哪些規格?

當你準備為家裡添購 AI 電視時,除了關心它是否支援智慧語音、刷新率有多高、個人化推薦好不好用之外,以下四個核心 AI 電視功能才是決定長期觀看品質的關鍵指標:

AI 處理器

大腦優劣決定電視表現,挑選時認準旗艦級的 AI 處理器,如 Sony 的 XR 認知智慧處理器,不只單純堆疊算力,而能模擬人類大腦的認知方式,打造身歷其境的畫面真實感。

AI 升頻能力

優秀的 AI 升頻能力應能精準區分「影像噪訊」與「畫面原生紋理」,在去除雜訊的同時保留皮膚毛孔、衣服編織等細節,而非一味抹平。

背光與控光技術

若重視高階畫質,True RGB 可作為判斷 AI 畫質能否精準呈現的重要顯示技術,徹底告別傳統畫面暗部發灰、亮部慘白的通病。

色彩與亮度表現

不能只看標榜的 HDR 規格,更要檢視硬體能否真實呈現。True RGB 能賦予 AI 電視更強悍的畫面執行力,銳利呈現 AI 算出的明暗對比與色彩飽和度。

關於 AI 電視與 True RGB 的常見問答

Q1:AI 電視適合哪些人?
AI 電視適合所有對影音品質有追求的人。不論你是愛看高畫質影音的追劇族、追求畫面流暢不殘影的運動迷、重視高刷新率與低延遲的遊戲玩家,AI 電視都能大幅提升觀影體驗。

Q2:AI 升頻會把影片變成 4K 嗎?
無法完全等同原生 4K,但能讓畫面更接近高解析度的觀看效果。AI 升頻利用比對與像素補插,將原本模糊線條變得銳利清晰,結合 True RGB 的高精細控光後,視覺表現會非常接近 4K 原生畫質。

Q3:買 AI 電視時,只看 AI 處理器夠嗎?
絕對不夠。演算法算出的完美畫面需要顯示硬體來執行,電視的背光技術、控光與色彩管理能力(如 True RGB)同樣重要。軟硬完美結合,才是高畫質的保障。

Q4:AI 電視對看球賽或玩遊戲有什麼差別?
AI 電視能根據不同場景優化畫面表現,觀看球賽時,能動態識別高速移動對象,即時插幀消除動態殘影;玩遊戲時,能自動切換至低延遲模式和強化暗部細節。

Q5:白天和晚上看電視,AI 電視會自動切換不同的畫質設定嗎?
Sony 搭載 True RGB 的 AI 電視內建環境光感測器,能根據環境光線變化動態調節畫面呈現,在白天明亮時自動增亮、晚上變暗時調降亮度並柔化對比,省去手動切換的麻煩。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
台達電全解讀
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓