AI瀏覽器爆資安漏洞!Perplexity Comet擋不住「隱形字」提示攻擊,ChatGPT Atlas也中招?
AI瀏覽器爆資安漏洞!Perplexity Comet擋不住「隱形字」提示攻擊,ChatGPT Atlas也中招?

重點一:Brave 揭露 Perplexity 的 Comet 存在「截圖隱性文字」的間接提示注入漏洞(Indirect Prompt Injection)。攻擊者可藉由 OCR 抽取「看不見的文字」,並指使瀏覽器工具執行惡意操作。

重點二:Fellou 雖對隱性指令有部分抵抗力,但在「僅導覽至網站」的情境下,仍將頁面文字作為可信輸入送入 LLM,導致行為可能被網站文本接管。

重點三:Brave 主張,當前的代理式瀏覽普遍失守「信任邊界」,同源政策失效風險升高;並倡議將代理式瀏覽與一般瀏覽隔離,且需由用戶明確觸發。

主打用戶隱私的瀏覽器開發商 Brave 在最新研究中指出,AI 驅動的代理式瀏覽正面臨系統性安全挑戰。其中,Perplexity 的 Comet 被發現存在「截圖隱性文字」的間接提示注入(Indirect Prompt Injection)漏洞。

Brave 指出, 攻擊者可在網頁或圖片中以人眼不易辨識的文字(例如淡藍字搭配黃色背景)植入惡意指令。當使用者以 Comet 功能截圖並提問時,文字辨識(可能透過 OCR,光學文字辨識)會將這些不可見文字抽取,並與使用者問題一併送入大型語言模型(LLM)

而模型可能將惡意內容視為「可信命令」,進而調用瀏覽器工具執行跨域操作,例如觸及已登入的金融或個資服務。

Brave 強調,這類攻擊無需使用者同意額外摘要或授權,就能在「看似安全」的互動中被觸發,風險相當高。

Fellou導覽即被注入:可見文本被視為可信輸入

Brave 也測試另一款 AI 瀏覽器 Fellou,發現其對「隱性指令」有一定抵抗力,但架構上仍將「可見的網頁內容」視為可信輸入。只要使用者要求導覽至某網站,瀏覽器就會把該網站文字與使用者查詢一併送入 LLM。此設計導致網頁文本能覆蓋或改寫原本的使用者意圖,等於提供攻擊者在公開頁面上直接「下命令」的管道。

Brave 披露兩案的通報時間線如下:

  1. Fellou 的問題於 2025 年 8 月 20 日回報,並於 2025 年 10 月 21 日公開細節。
  2. Comet 的截圖注入漏洞於 2025 年 10 月 1 日發現並回報,並於 10 月 21 日公開。

Brave 表示,相關廠商均已被負責通報,並期盼盡速修補。

ChatGPT Atlas 遭指安全防護不足

另一個 Brave 尚未深入檢驗的 AI 瀏覽器,是 OpenAI 昨日首發的 ChatGPT Atlas。

針對 AI 瀏覽器的資安漏洞問題,OpenAI 資安長 Dane Stuckey 於 X 坦承,Atlas 仍未完全解決惡意提示注入(Prompt Injection)的前沿安全問題,直言「攻擊者可能在網站、電子郵件或其他來源植入惡意指令,誘使代理偏離任務、甚至擷取並外洩私人資料」。

Stuckey 強調,現行策略是以「重疊護欄」(overlapping guardrails)、紅隊測試與偵測阻擋機制,並結合新式模型訓練以獎勵模型忽略惡意指令。但他也坦承,「對手將投入大量資源讓代理中招」,因此短期內無法宣稱問題已被根治。

Stuckey 表示:「正如 21 世紀初的電腦病毒一樣,我們認為每個人都應該了解負責任的使用方式,包括思考如何防範即時注入攻擊,這樣我們才能學會安全地利用這項技術。」

知名網頁開發者 Simon Willison 則直言,當前的 AI 瀏覽器在應用安全上「99% 不及格」——只要存在路徑,動機強的對手終會找到。

Willison 指出兩個結構性風險:其一,AI 不像人類同事,出了事沒有社會責任可追究,因此把「登入瀏覽器的操作權」交給代理必須格外謹慎;其二,把「何時用登入模式、哪些網站值得信任」的判斷丟給一般使用者,是不公平且容易出錯的設計。

他甚至在 GitHub 和網銀的實測中表示,根本未見所宣稱的「監看模式」啟動,對其實際防護效果抱持保留。

信任邊界崩解:Brave 倡議隔離代理式瀏覽並明確觸發

Brave 指出,當 AI 助理能代替用戶行動、且將「網頁內容」與「使用者指令」一併拼入提示時,傳統網路安全假設會失效。同源政策(Same-Origin Policy)無法約束 AI 助理的跨域行為,因為助理是以「用戶已認證身分」執行。於是網站上的自然語句甚至社群留言,都可能化為跨站指令,進入銀行、醫療、企業內網、電郵與雲端儲存等敏感領域。

Brave 認為,在缺乏對「可信輸入」與「不可信內容」嚴格分隔的前提下,整體代理式瀏覽皆屬高風險。短期建議是將代理式瀏覽與一般瀏覽隔離,且只有在使用者「明確」啟動時,才允許其開站、讀信等動作;中長期則由研究與資安團隊探索更具體且類別化的安全改進。

延伸閱讀:實測|OpenAI推出AI瀏覽器Atlas,比Comet、Dia更好用嗎?怎麼用?缺點是什麼?
AI瀏覽器Comet開放免費下載!Comet教學:6大好用功能+小技巧,快學起來

資料來源:BraveSimon WillisonOpenAI CISO

本文初稿為AI編撰,整理.編輯/ 李先泰

往下滑看下一篇文章
AI貫穿保險價值鏈、提升用戶體驗,國泰重新定義保險科技
AI貫穿保險價值鏈、提升用戶體驗,國泰重新定義保險科技

國泰未來保險體驗日(Cathay InsurX Day)是國泰金控攜手國泰人壽、國泰產險,所舉辦的台灣金融業首場以保險科技為主軸的產業盛會,打造產壽險對話平台,從台灣保險產業特性出發,以技術 + 場景 + 人性三大視角,重新定義台灣的保險科技。

國泰金控資深副總經理孫至德在開場致詞中,特別提到根據國泰多年的觀察,發現客戶需要的是數位結合實體的保險體驗,因此我們希望結合數位平台與業務員能力找到新的經營模式,同時運用科技讓體驗變得更方便、透明。國泰金控副總經理林佳穎也分享,國泰持續透過場景金融、數位體驗、AI賦能三大關鍵做法,期待能成為「以金融為核心的科技公司」。她強調,保險業不是單打獨鬥,需要更多跨域協作,面對充滿挑戰的未來,「我們更要Run Faster,Better Together」,才能在挑戰中找到新機會。

3.jpg
圖/ 國泰金控

過去,保險業的數位轉型多聚焦在「流程更快速」與「服務更便捷」等領域,但在生成式人工智慧(GenAI)與代理式人工智慧(Agentic AI)技術崛起後,國泰金控旗下國泰人壽與國泰產險勇於嘗試、將AI全面滲透核心業務流程,讓 AI 不再只是單點輔助,而是貫穿保險價值鏈、提升用戶體驗的關鍵。

以 AI 重塑保險全流程:國壽以 Agentic AI 提升體驗與效率

「我們的目標是以 AI 重塑保險全流程應用。」國泰人壽數據暨人工智慧發展部協理莊淑儀以理賠流程為例解釋,國泰人壽早在許多年前就透過數位與 AI 等技術協助理賠同仁加快服務與受理、登打、派件與審理的速度,例如,以 OCR(光學字元辨識)醫療文件擷取與 ICD(國際疾病分類)/手術選碼優化登打效率、以 CRSS(理賠風險識別系統)風險分級識別理賠浮濫與詐欺等高風險案件並將之派送給可以審理的同事,以及透過智能工作台與 AI 骨折判讀加快與優化審理流程等。然而,保險陪伴客戶的時間是很長的,隨著保戶年齡逐漸提高,再加上超高齡社會來臨,理賠案件數量持續攀升,需要更多 AI 與自動化強化效率與正確性。

國泰人壽的做法是在既有的 AI 基礎上,加入GenAI 與Agentic AI等技術,以 AI全面升級理賠流程。首先是以「DocAI Agent」突破傳統 OCR 覆蓋率低與高維運成本的限制,僅需一個月調校,即能快速適配不同醫院表單,維持原本的正確率並將覆蓋率由50%提升至近100%,大幅縮短登打時間。其次是透過「Abnormal Agent」打造圖形資料庫(Graph DB)建立理賠關係網,快速標示高風險關係案件提供判斷依據及建議後續的應對方式,加速理賠人員的決策。最後是藉由「Review Assistant Agent」協助整理病歷、醫療單據、診斷證明…等複雜且可能甚至上百頁的文件,並快速歸納出重點,幫助理賠人員快速找到關鍵資訊進行交叉查證,大幅節省審理時間。

莊淑儀指出,光是理賠流程,國泰人壽已打造30個以上的AI Agents,目標是協助理賠人員化繁為簡、更快完成相關工作。在善用科技提升流程體驗的思維下,國泰人壽沒有特別打造額外的AI平台,而是將AI Agent整合至現有理賠流程各個環節,讓同仁們可以在一個介面完成所有工作,兼顧便捷、好上手與效率提升。

除了理賠,國泰人壽也將 AI 應用延伸至商品知識管理,打造業務員的行動智慧助手,從保障缺口判斷、個人化商品推薦到業務員智能對練等流程,都有AI Agent協助提高同仁效率,讓客戶的保險體驗更便利且完善。舉例來說,隨著保險商品高度複雜化,國泰人壽推出「商品知識助理」,協助業務人員快速查詢 3,000 多檔的商品保單條款及規範、醫療行為理賠項目,幫助業務員更快速採取行動,也能將時間與心力投入在更有價值的保戶互動與服務。

「我們不會為了 AI 而 AI,而是建置AI Agent 生態圈,高度整合與重塑理賠、商品服務等核心流程,藉此提升用戶體驗與營運效率。」莊淑儀進一步解釋,國泰人壽不會單純以投資報酬率(ROI)評估AI成效,將以風險控管、流程優化、員工效率與客戶體驗四個構面衡量 AI 對公司影響的廣度、深度和商業價值,並勇於在新的商業模式上進行嘗試,確保每一次的 AI 投入都能為國泰帶來有意義、有實質效益的進步。

圖4.jpg
圖/ 國泰金控

從數據到智能,國泰產險以AI強化核心競爭力

國泰產險同樣積極透過數據與AI極大化競爭優勢。國泰產險督導吳香妮指出,面對火災、地震、颱風等難以預測的風險,需要數據與AI驅動的產險保護傘填補損害,把衝擊降到最低,讓生活、經濟與社會能持續穩定運轉。在具體實務上,國泰產險是從「Enrich加值服務」、「Enhance AI輔助風險決策」,以及「Empower生成式AI賦能」這三個面向切入。

台灣交通事故逐年攀升、平均1天發生1,100件交通事故,其中,大車事故發生率是小車的2.2倍,致死率比起小車高達6倍等現況後,國泰產險開始思考,除了提供大車事故後的理賠支援,還可以從事前提供哪些服務?也因此催生了業界首創的「CarTech智能車險加值服務」,透過跟運輸業者與學校等單位的合作,針對車險承保前、中、後提供相應的風險辨識、預警與防治等加值服務。國泰產險與陽明交通大學合作建立全台首個「運輸業者健檢」流程,透過駕駛行為及行車環境等多元數據建置AI模型,即時洞悉駕駛行為及風險分析,並提供運輸業者客製化的風險改善建議,實踐以數據及AI優化損害防阻。吳香妮強調,我們的目標是不僅提供理賠,更要守護客戶,提供超越價格的價值服務。

產險的核心業務之一是再保險,國泰產險的作法是運用AI及數據,化被動為主動,以AI輔助風險決策。過去再保險業務仰賴經驗法則、手動整理資料與透過國際再保險公司提供既有方案,現在則透過數據與AI驅動,主動精準拆解業務目標,以28項風險因子預測風險發生機率與損失金額,自動輸出並比較多種方案,從中探索最適合的再保險規劃。

國泰產險也將AI導入內部流程,解決長期困擾員工的報告製作痛點,包含資料查找費時、人工編寫品質不一、專業術語翻譯困難等。透過一鍵生成報告服務的三個GenAI模組,為員工省下6到7成的手動作業時間,將時間與精力聚焦在更具策略價值的工作,以新世代人機智慧協作模式提升效率與創造嶄新競爭力。

圖5.jpg
圖/ 國泰金控

從國泰人壽與國泰產險的實作,可以清楚看到:對國泰而言,AI不僅是新技術導入,更是保險價值鏈全面進化的核心動能,將以數據與AI驅動服務實踐用戶體驗的優化,持續引領台灣保險科技體驗走向新世代。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
一次搞懂Vibe Coding
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓