提示詞越改越爛?Anthropic工程師:問題不在模型,4步驟救回失準AI系統
提示詞越改越爛?Anthropic工程師:問題不在模型,4步驟救回失準AI系統

今年5月,Anthropic 在倫敦舉辦的 Code w/ Claude 2026 開發者大會上,應用 AI 工程師 Margot van Laar 進行了一場 30 分鐘的實戰演講。這是一套針對正在維護真實生產系統的工程師與產品建構者,從失敗案例中逆推出來的方法論。

大多數人遇到 AI 系統表現變差,第一反應是換模型、調參數,或把提示詞愈寫愈長。但 van Laar 的核心論點是:問題往往不在模型,而在提示詞本身積累了太多歷史包袱。她在演講中的第一句話是:「我們很少從頭寫一個提示詞,我們大多數時候是在除錯一個舊的。」

為什麼你的提示詞會慢慢「爛掉」?

想像一個由多人協作維護的提示詞,沒有明確的負責人,幾個月下來混入了舊模型的補丁、不同業務場景的規則、直接複製貼上的官網文字。當你遷移到新模型,測試案例開始失敗,你第一個懷疑的是模型,但真正的問題可能是:提示詞本身已經不可讀了。

van Laar 用一個電信公司客服機器人(Meridian Mobile)作為全場示範案例,從一個存在多個問題的提示詞出發,逐步修復,帶出每一個最佳實踐背後的原因。

第1步:先建評估清單,再動提示詞

核心動作:在任何修改之前,先定義你的測試案例。

評估清單必須涵蓋的三種案例:
1. 控制組(Control case):模型本來就能正確處理的問題,確保你的改動不會造成退步
2. 邊緣案例(Edge cases):過去曾見過模型失敗的情境,改進後應持續通過
3. 能力邊界案例:哪些情況應該轉給人工、哪些應該直接拒絕回答

van Laar 強調:沒有評估清單,所謂的優化不過是憑感覺。評估清單還能幫你區分兩種不同性質的問題:一種是模型其實有能力處理,但因為指令不清導致行為偏差,這可以透過調整提示詞修復;另一種是模型本質上沒有這個能力,這時再多的提示詞優化都是徒勞,必須考慮換模型或引入外部工具。

第2步:別急著修問題,先把提示詞整理乾淨

核心動作:在開始針對具體失敗模式下手之前,先把提示詞的結構清乾淨。

van Laar 在演講中展示的原始提示詞,存在幾個典型問題:

  • 角色設定錯誤:提示詞開頭寫著「你是一位人類客服」,但這會讓模型在被問到「你是AI嗎」時產生混亂
  • 內容來源混雜:有段文字明顯是直接從官網複製貼上,包含 hero image 說明和 cookies 提示
  • 結構完全扁平:政策、語氣、角色設定全擠在同一個段落,沒有任何層次

修正方法是加入 XML 標籤結構,把不同性質的內容明確區隔:

<role>
你是 Meridian Mobile 的客戶服務助理...
</role>

<guidelines>
一般回應指引...
</guidelines>

<policy>
資費與計畫相關政策...
</policy>

<tone_of_voice>
語氣要求...
</tone_of_voice>

只做這一步,不針對任何具體失敗案例,5個測試案例中就有一個明顯改善了。van Laar 說:「如果你讀一個提示詞,分不清楚哪裡是指南、哪裡是政策、哪裡是資料,那模型大概也分不清楚。」

除了提示詞結構,van Laar 也建議同步在 API 呼叫層建立「輸出契約」。做法是在提示詞中要求模型把回應包在 XML 標籤內(例如 <response>),並在 API 參數加入 stop_sequences: ["</response>"],讓模型一輸出閉合標籤就自動停止,防止多餘的內容繼續生成。

van Laar 補充:這在回應格式較簡單的客服場景影響不大,但如果你的輸出是巢狀 JSON 等複雜結構,這個設定可以大幅提升格式一致性,也可以搭配 structured outputs 來強化。

第3步:一次只處理一個失敗案例

整理好提示詞的基本結構後,van Laar 開始針對每個失敗案例逐一修復,過程中帶出了三個值得記住的教訓。

一、不要讓舊補丁變成新詛咒

案例:客戶問「我的無限方案有多少熱點流量?」,模型卻叫客戶自己去查官網,明明客戶資料裡就有答案。

原因:提示詞裡有一條舊補丁:「絕對不要告訴客戶錯誤的方案資訊,請引導他們至查詢網址。」這條規則在舊模型時代有其必要,因為舊模型容易給出錯誤資訊。但新模型的指令跟隨能力更強,反而把這條規則過度執行,即使它已經有正確答案,它也不敢說。

修正方式:改為明確說明何時應該直接回答、何時才需要引導:「如果客戶資料中已包含該客戶的方案詳情,以客戶資料為準直接回答;只有在資料不足時,才引導至查詢網址。」

小結: 模型愈來愈聰明,這件事會讓你當初為舊模型寫的防禦性指令產生反效果。建議用版本控制記錄每條補丁的新增原因,以便日後追蹤和移除。

二、指令不能取代能力,要給確定的工具

案例:客戶問「如果我在月中升級方案,下個帳單是多少?」,模型給出了一個含糊的計算過程,但沒有給出確切金額。

原因:提示詞寫著「絕對不要給客戶模糊的答案,務必精確計算按比例費用(proration)」。問題是:要求模型做好某件事,並不等於讓它有能力做好。讓模型靠心算處理帳單計算,本來就不可靠。

修正方式:給模型一個計算工具。

提示詞中加入:
「每當需要進行任何計算時,請使用 calculate_proration 工具完成,不要自行心算。」

API 層面需要:
1. 定義工具 schema(告訴模型這個工具的用途和輸入格式)
2. 實作工具的實際計算邏輯

加入工具後,所有計算相關的測試案例全數通過。

小結:「指令不能增加能力。」(Instructions don't add capability)這是整場演講最值得記住的一句話。

三、只告訴模型代價,會容易做出錯誤決策

案例:出現帳單爭議,應該轉接人工,但模型反而試圖自己診斷問題。

原因:提示詞寫著「除非絕對必要,否則避免轉接客服專員,因為每次轉接費用約8美元,且計入團隊的快速解決率指標。」模型看到的只有「轉接的代價」,沒有「不轉接的代價」,所以它優化了一個單面的目標。

修正方式:補上另一面:「轉接一次費用約8美元;但若處理不當造成退款或客戶流失,損失遠大於此。請自行判斷哪種情境值得轉接。」

小結: 新一代模型愈來愈擅長自己做取捨判斷,你的任務是給它完整的資訊框架,而不是只告訴它你想要什麼結果。

第4步:建構新代理時,架構比模型更重要

上半場是維護舊提示詞,下半場 van Laar 示範了從頭建構一個代理:一個依據員工排班限制自動產生週班表的系統。

她做的第一件事不是寫一個完整的提示詞,而是逐步測試不同的模型 + 策略組合

組合 結果
Sonnet 4.6 + 簡單提示詞 所有案例失敗,違規數高
Opus 4.7 + 相同提示詞 仍全部失敗,但違規數明顯減少
Opus 4.7 + 動態思考(adaptive thinking) 全部通過,但 token 用量和延遲增加3倍
Sonnet 4.6 + 更好的提示詞(含自我檢查指令) 部分通過,但因輸出長度限制仍有問題
三段式代理循環(生成→評估→修復) 全部通過,token 用量和延遲最低

最後勝出的不是最強的模型,而是最聰明的架構。值得注意的是,van Laar 並沒有特別指定三段式代理要用哪個模型——三個提示詞都刻意保持簡單,重點不在模型的強弱,而在於把任務拆開、讓每個步驟只專注做一件事。這樣的設計反而比讓單一強模型硬撐整個任務更有效率。

三段式代理的運作方式如下:第一個提示詞負責生成第一版班表草稿,第二個提示詞逐條核對規則、列出所有違規項目,第三個提示詞接收違規清單後對草稿進行修正。三個提示詞各自獨立,每個只做一件事。

第一個提示詞(Generator):
根據員工資料與限制,生成第一版班表草稿

第二個提示詞(Evaluator):
逐條檢查每一條規則,列出違規項目與具體證據

第三個提示詞(Repairer):
接收違規清單,對草稿進行針對性修正

這個架構還有一個額外好處:軟性需求可以直接在第二個提示詞裡動態加入,例如「Harry 和 Sally 盡量不要排同一個班」,不需要動到負責硬性規則檢查的程式碼。

套用這套方法前,有幾點要注意

評估清單的品質決定一切。 van Laar 在演講中用的是5個測試案例做示範,實際生產環境的評估清單需要大得多,且邊緣案例的覆蓋率直接決定了你能改善到什麼程度。如果評估清單設計不良,你只是在對著一面錯誤的鏡子優化。

加入工具需要工程支援。 計算工具的新增,需要定義 schema、實作邏輯,這不是純提示詞工程師能單獨完成的,需要後端配合。

三段式代理有延遲開銷。 它比單一提示詞多了兩個 LLM 呼叫,雖然 van Laar 的示範顯示整體效能比 Opus 4.7 加動態思考更好,但在延遲極度敏感的場景仍需評估。

延伸閱讀:
Loop Engineering是什麼?一次解密6大組件,搞懂工程師為什麼不再寫提示詞
Claude Code Skill怎麼寫、SKILL.md放什麼?Anthropic官方揭9大實戰用法

本文初稿為AI編撰,整理・編輯/黃若彤

往下滑看下一篇文章
從黑客松到理賠第一線,富邦人壽如何讓 AI 從創新提案變成工作夥伴?
從黑客松到理賠第一線,富邦人壽如何讓 AI 從創新提案變成工作夥伴?

當許多企業還在討論 AI 能做什麼,富邦人壽更關注:AI 如何被第一線同仁使用?而這也是「理賠智慧助理」能從黑客松發想、走進理賠現場,成為真實工作夥伴的原因。

為什麼富邦人壽會選擇從最複雜、也最不易標準化的環節–理賠–切入、嘗試將AI從「回答問題的工具」轉變成進入核心營運流程的「決策輔助夥伴」?

保險理賠為何難以AI化?答案藏在大量非結構化資訊裡

相較於客服問答或行政流程,理賠工作最大的挑戰在於資訊高度分散且缺乏標準格式:從診斷證明、病理報告、手術紀錄到醫療收據,每份文件不同醫院格式都不同,內容還充滿專業醫療術語;理賠人員不僅必須理解文件內容,還需要同步比對保單條款、法規要求以及醫學知識,才能做出適當判斷。

更複雜的是,就算是相同疾病或手術名稱,不同案件背景也可能導致不同理賠結果,因此,理賠長期被視為高度依賴專業經驗與人工判斷的工作,很難透過傳統自動化工具處理。

近年來,隨著理賠案件量持續增加、醫療技術快速演進,以及新舊世代交替帶來的人才培育壓力,如何兼顧理賠品質、作業效率與知識傳承,成為刻不容緩的議題。

富邦人壽開始思考:如果AI無法取代專業判斷,是否能先協助理賠人員更快掌握資訊、縮短搜尋時間,讓專業人才把時間投入在更高價值的分析與決策工作?這個想法在富邦集團導入微軟Copilot Studio並舉辦黑客松活動後獲得實踐機會,理賠團隊將構想轉化為可驗證的AI提案,並在主管支持與跨部門合作下,於2026年1月正式導入理賠現場。

「黑客松讓我們有機會快速驗證想法,也讓AI應用從概念走向實際場景。」富邦人壽理賠部資深襄理郭乃瑀如是說道。

數位時代為此特別專訪富邦人壽黑客松獲獎團隊「ClaimAIngels」的成員,深入了解這項 AI 專案如何從創新提案一路走進理賠第一線,成為同仁日常工作的決策輔助夥伴。

富邦人壽
富邦人壽理賠智慧助理透過黑客松加速落地!數位時代專訪團隊成員郭乃瑀 (左上)、 王羽藍(左下)、陳子聆(右上)、林庭樂(右下),分享過程與收穫。
圖/ 數位時代

AI成功落地的關鍵,不只是模型,還有資料與流程重建

從創意發想到實際上線,最大的挑戰不是技術,而是如何讓AI真正符合第一線需求。

富邦人壽理賠部資深襄理林庭樂指出,團隊一開始便深入訪談理賠同仁,發現大家真正需要的並不是AI幫忙做決定,而是協助整理資訊,因此將理賠智慧助理專案聚焦於三大領域:手術等級建議、病理報告判讀輔助,以及國外醫療文件翻譯與摘要,目標是協助同仁降低資料蒐集與查詢時間,讓理賠同仁可以快速掌握案件重點。

但要做到這一步,必須先建立可信任的資料基礎。

由於醫療資料來源眾多且格式不一,團隊投入大量時間整理歷史案件、建立醫療名詞對應關係、標註資料來源與判斷依據,並透過跨部門討論及醫師顧問協作,逐步建立一致的判讀標準。林庭樂表示:「這項工作看似基礎,卻是AI能否提供可靠建議的關鍵,更重要的是,它讓過去散落在資深同仁腦中的經驗知識,逐漸轉化為可被組織保存與運用的數位資產。」

富邦人壽理賠部專員陳子聆便感受到明顯改變。她說:「過去遇到新的手術名稱,往往需要花費一到兩個小時查閱條款、搜尋歷史案例並向資深同仁請教,現在,透過理賠智慧助理協助,資料搜尋時間縮短50%以上,能將更多心力放在案件分析與專業判斷上。」

理賠部理賠審核科資深襄理王羽藍則形容,理賠智慧助理更像是一位隨身秘書。她說:「它會先幫我們整理案件重點,也能提醒是否遺漏重要資訊。無論是判讀國內外醫療文件、核對醫療收據,或分析病理報告內容,都能快速提供參考依據,讓我們把時間投入更重要的專業決策。」

除了資料基礎建設,金融業導入 AI 的另一個關鍵挑戰是風險與合規。

因應金融監理要求以及個資保護需求,團隊在設計理賠智慧助理時建立多層防護機制與使用護欄,並持續優化提示詞設計,以降低AI幻覺、資料外洩與誤判風險,確保AI始終在可控範圍內運作。

不過,對富邦人壽而言,上線並不代表結束,而是優化的開始。

團隊發現,理賠智慧助理初期使用率表現亮眼,但隨著時間推移逐漸下降,為了找出原因,團隊同仁與第一線理賠同仁召開多場討論會議,讓其了解,生成式 AI 並非一次建置完成就能長期發揮效益,必須持續蒐集使用回饋、改善建議,進而調整功能設計。

郭乃瑀表示:「根據同仁回饋,團隊目前正規劃新增實支實付手術給付比例分析等功能,目標是讓AI更貼近實際工作流程、滿足使用者需求。」

從單一專案到組織能力,理賠智慧助理帶來的真正改變

隨著理賠智慧助理逐步成為理賠同仁的日常工作夥伴,其帶來的影響也不再侷限於效率提升,而是開始擴散至組織文化與創新模式的改變。

郭乃瑀表示,過去AI專案多半由資訊部門主導,但這次經驗讓大家發現,真正了解痛點的人其實是第一線同仁,因為只有其最清楚哪些流程最耗時、哪些資訊最難取得,以及哪些環節最適合導入AI。「隨著理賠智慧助理成果逐漸顯現,愈來愈多部門開始主動詢問專案推動經驗,如資料整理、風險控管、流程設計與使用者導入等做法,加速 AI 創新在組織內部的擴散與落地。」

對富邦人壽而言,理賠智慧助理並不只是單一 AI 工具,而是一次工作方式與文化的改變:從第一線提出需求、跨部門共同打造,到持續優化與回饋機制,AI 不再只是科技部門的工具,而逐漸成為工作現場的一部分,也讓數位轉型成為一種持續發生的創新能力。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
代理式商務連動百兆商機
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓