你的AI越聊越笨?專家揭7種「上下文腐爛」徵兆:何時該開新對話,高效激發AI內容?
你的AI越聊越笨?專家揭7種「上下文腐爛」徵兆:何時該開新對話,高效激發AI內容?

ChatGPT與Claude都有記憶功能,美國科技媒體《Every》的AI評測主管Mike Taylor卻全部關掉,每換一個任務就開新對話。

他在2026年10月17日的專欄解釋這麼做的原因是,對話內容愈積愈多,AI可能被舊指令、早期錯誤和無關細節拖累,回答品質跟著下滑,這就是「上下文腐爛」(context rot)。

上下文指的是AI在對話裡看得到的所有內容。Taylor把新書《Context Engineering with DSPy》整理的7種成因,改寫成一般人聊天時就能辨認的徵兆,並教你怎麼重開對話又不丟進度。

前面聊過的東西,會綁住後面的回答

1. 上下文干擾(context distraction):舊範例框住新答案

Taylor常在AI培訓課上示範:請ChatGPT用賈伯斯(Steve Jobs)的風格替新產品取名。只給文字指示時,21%的名字以「i」開頭(如iPod、iPhone);再附上幾個i開頭的範例,比例就變成100%。長對話也一樣,前面做過的東西都會變成AI照著走的範例。

徵兆:你要求換方向,AI的建議還是照舊範例的套路。

對策:任務的語氣或類型一變,就開新對話。

2. 上下文衝突(context clash):早期假設卡住新資訊

微軟(Microsoft)與Salesforce的研究人員在2025年做過實驗:把原本一次交代完的指令,拆成好幾則訊息分批給AI,模擬一般人邊聊邊補充的習慣。結果在寫程式、做摘要等6類任務中,受測模型的表現平均下滑39%。AI常在資訊還不完整時就先猜答案,這個答案會跟你後來補充的內容打架。

徵兆:你補充說明了,AI還是沿著先前的假設做。

對策:Taylor建議把需求一次講完,全部放進第一則訊息;中途發現漏了,就帶著完整需求開新對話。

3. 上下文中毒(context poisoning):一個錯誤污染後續回答

Google的Gemini 2.5技術報告就描述過這種現象:Gemini 2.5 Pro玩《精靈寶可夢 藍》時,誤以為要拿到只有重製版才有的道具「TEA」才能通過守衛,花了許多個小時找一個不存在的東西。聊天時,AI早期記錯一個事實,之後每版草稿也會照抄。

徵兆:已經更正過的錯誤,又出現在下一版。

對策:Taylor建議不要在同一個對話裡跟AI爭論,因為錯誤和你的抱怨都還留在紀錄裡。不如回頭編輯出錯之前的那則訊息,或重新生成回答。他打了個比方:AI看到紀錄裡有錯,會以為自己在演「一個會犯錯的AI」。

資訊塞太多,AI反而抓不到重點

4. 上下文混淆(context confusion):無關細節左右回答

AI不太會略過無關資訊,只要寫在指令裡,它就當成有用意、設法用上。Taylor的同事Katie Parrott把給AI的寫作風格指南,從759個英文單字加長到3,855個,結果文章糟到認不出來,一篇改了127版。最後的解法是刪指令,新版只剩513個單字。

徵兆:AI一直扯到跟問題無關的事實、偏好或框架。

對策:Taylor的做法是關閉記憶功能,自訂指令(custom instructions,每次對話自動帶入的設定)也愈精簡愈好。

5. 上下文忽略(context neglect):中間的細節被跳過

史丹佛大學等研究人員2023年的論文〈Lost in the Middle〉發現,受測模型最記得住開頭和結尾的內容,關鍵資訊如果夾在中間,表現就明顯變差。Taylor也做過實驗:給AI看9份專案文件,把關鍵的錯誤回報放在第6份,再問專案有什麼風險,AI完全沒提到它。

徵兆:其他文件都引用對了,偏偏漏掉夾在中間的關鍵細節。

對策:只上傳需要的文件,不同文件的問題分開在不同對話問;重要資訊放在訊息最前面。

6. 上下文漂移(context drift):原始目標逐漸失焦

對話拉長後,AI的回答仍然通順,卻慢慢不照你一開始的要求做。Taylor舉例,開頭要求寫程式的AI嚴格遵守Python的程式碼風格規範PEP-8,聊了50則訊息後,它已完全不理。日常使用也常見,要求回答在200個字以內,一小時後又變回原本的長度。

徵兆:AI開始忽略你先前交代的規則。

對策:把固定偏好(拼字、語氣、長度)存成文件,每次開新對話就貼在最前面。Taylor也提醒,對話太長時,Claude與Codex會自動壓縮前面的內容,細節和重要指令可能就此不見。

資訊給太少也不行:換對話前先做交接

7. 上下文不足(context underspecification):缺資訊逼AI用猜的

前6種都是資訊太多,太少同樣會出問題。缺了關鍵資訊,AI只能猜,Taylor形容猜出來的是訓練資料的「平均值」,也就是不考慮你處境的通用建議。他經營過50人規模的行銷代理商,知道「價值定價」(依客戶獲得的價值收費)對代理商常常行不通,AI卻一再推薦。

徵兆:回答套在誰身上都說得通。

對策:長對話累積了有用的資訊、卻開始出現上述徵兆時,先請AI寫一份交接文件,整理重要事實、已做的決定和下一步,再帶進新對話。離開前也可以問AI:

這個任務一開始,有哪些資訊如果先知道,就能省掉好幾個步驟或避開錯誤?

把回答裡錯誤或過時的部分刪掉,再貼進新對話。

長期來看,Taylor把常用指令存成Markdown檔、放在GitHub上,讓AI需要時再讀,開新對話時直接拿來用。他在文末寫道,AI不會因為你重開15次而不耐煩,也不會提醒你對話已經一團亂,回答只會默默變差。每次都開新對話,他就能確定AI手上只有自己給的資料。

延伸閱讀:AI只花4小時就做出爆紅遊戲!「80億分之1」模擬人生:如果重新出生,你會在哪個國家?

資料來源:《Every》、Lost in the Middle論文、LLMs Get Lost In Multi-Turn Conversation論文、Google Gemini 2.5技術報告

本文初稿為AI編撰,整理.編輯/ 李先泰

關鍵字: #ai人工智慧
往下滑看下一篇文章
台灣不只要用國際標準,更要參與討論!TWNIC如何培養下一代網路人才,接軌國際技術社群?
台灣不只要用國際標準,更要參與討論!TWNIC如何培養下一代網路人才,接軌國際技術社群?

打開瀏覽器、觀看串流影片,看似日常的上網行為,背後其實仰賴一套套國際網路標準運作。當網路技術持續演進,台灣除了採用這些標準,能不能進一步參與它們形成的過程?

「即便有很多事情可能要做10年才會有效果,但我想我們應該擔任這樣的角色。」TWNIC執行長余若凡指出,台灣硬體產業在全球已有亮眼成果,但對底層網路技術與國際標準的關注、參與仍有成長空間。對TWNIC而言,除了管理「.tw」、「.台灣」網域名稱與台灣IP位址資源,也希望成為台灣與國際網路社群之間的橋梁。

TWNIC 執行長余若凡
圖/ TWNIC 執行長余若凡

這也是TWNIC與國立虎尾科技大學合作舉辦IETF研習課程的背景。從IETF組織運作、RFC標準形成,到IPv6-only等新一代網路技術,課程不只協助參與者理解國際標準,更希望培養實際參與與落地的能力。透過這場合作,TWNIC也試圖串起國際社群、校園人才與產業需求,讓台灣從採用標準,進一步走向參與標準。

硬體做到世界級,下一步讓台灣人才走進標準制定現場

IETF(Internet Engineering Task Force,網際網路工程任務組)作為全球網際網路技術標準形成的重要場域,許多技術規範最終透過RFC文件發布。對TWNIC而言,台灣若能讓更多企業、學校、研究者與工程師參與,不只能更早掌握國際網路技術變化,也有機會把台灣經驗帶進國際討論。

TWNIC因此一方面把國際議題帶回台灣,另一方面也把台灣人才送出去。透過TWNIC Academy學員計畫,每年資助8位學員參與重要國際組織,時間長達一年;部分學員返台後更自主形成社群,近期一場交流活動便吸引近40位參加,背景從網路工程延伸至政策、法律及社會科學。「我們希望最終有更多人可以參與。」余若凡說。從在台培訓、實際參與國際組織到返台形成社群,TWNIC希望讓人才培育不只停留在單次課程,而能持續累積參與國際標準討論的經驗。

會設定網路還不夠,學校補上「讀懂標準」的能力

但真正想要走進IETF,光是「會用網路技術」還不夠。國立虎尾科技大學電機工程系教授兼秘書室主任秘書蘇暉凱指出,大學課堂教授TCP/IP或網路設定,多半從教科書或整理過的教材入手;真正參與國際標準討論,面對的卻是RFC等第一手技術規範。

他將其中的差距歸納成三種能力:規範閱讀、實作驗證與技術表達。工程師除了讀懂規範,也要能透過實作與工具驗證實際網路行為,最後以精準的技術英文語言與國際社群溝通。「這三種能力不是短期間就能養成。」蘇暉凱指出,因此需要逐步融入大學與研究所的課程及專題。

這也凸顯學校在合作中的角色,TWNIC負責連結國際社群、技術趨勢與參與機會,學校則把這些標準帶進人才培育與實作現場。兩者合作,才能讓「參與國際標準」從少數專家的工作,逐漸變成年輕工程師可以累積的能力。

國立虎尾科技大學電機工程系教授兼秘書室主任秘書蘇暉凱
圖/ 國立虎尾科技大學電機工程系教授兼秘書室主任秘書蘇暉凱

IPv6走向主流,校園先成為產業轉型的試驗場

IPv6正是這套合作模式的具體案例。余若凡指出,全球IPv6使用率已正式跨過五成,迎來關鍵轉折。包含越南、捷克等國皆已將全面轉向IPv6排入國家政策時程,主流行動裝置與微軟Windows作業系統也已原生支援。過去許多環境仍採取IPv4與IPv6並行的架構,隨技術、終端與轉換機制逐漸成熟,進一步走向IPv6-only的條件也開始成形。IPv6-only並不代表與既有IPv4服務切割,而是透過NAT64、DNS64等轉換機制維持連線。對產業而言,真正的問題也逐漸從「技術能不能做到」,轉向是否有足夠經驗與信心部署。

為此,TWNIC 從人才培育到校園實作,持續推動 IPv6-only 環境的應用與部署,除了自行建置 IPv6-only Demo Site,也逐步於北、中、南三地拓展示範場域與實作據點。余若凡觀察,相較於企業在商業效益尚未明朗前,對導入新技術往往較為謹慎,校園更適合作為技術驗證與人才培育的場域。透過 TWNIC 推動的實作機制,讓師生在實際環境中理解 IPv6-only 如何運作,一方面培養未來進入產業的人才,另一方面也能累積可供業界參考的部署經驗。對蘇暉凱而言,這意味著學生不能只學會 IPv6 位址格式,更要從網路維運、資安到應用發展,建立面對 IPv6 環境的完整思維。

從Demo Site、教育訓練、技術活動到實作手冊,TWNIC希望逐步降低新技術的理解與部署門檻。當IPv6走向主流,台灣面對的已不只是「網路要不要升級」;如何讓更多人才讀懂國際標準、具備實作能力,甚至走進IETF參與討論,才是台灣從標準「使用者」走向「參與者」的下一步。

IETF研習課程

TWNIC將於10月29至31日2026年臺灣網際網路研討會(TANET 2026)暨國際計算機會議(ICS)設攤展示,規劃「新世代IPv6-Only Wi-Fi無線網路體驗與建置」及「TWNIC IPv6智慧工作室(IPv6 Smart Studio)」兩大主題。歡迎各界蒞臨參觀與體驗!
詳細介紹請參閱:https://twnic.tw/blog/contents.php?id=253&lang=zh-tw

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
一次搞懂工業AI
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓