Google面臨首宗「AI致死」訴訟！Gemini遭控鼓勵自殺，發生什麼事？|數位時代 BusinessNext

Google面臨首宗「AI致死」訴訟！Gemini遭控鼓勵自殺，發生什麼事？

一位美國男子 Jonathan Gavalas 在使用聊天機器人 Gemini 後自殺，引發 Google 首起 AI 技術致死訴訟。

美國科技巨頭 Google 正面臨首起人工智慧 (AI) 致死訴訟，一名 36 歲佛羅里達州男子 Jonathan Gavalas 在與聊天機器人 Gemini 長時間互動後身亡，家屬指控該 AI 系統在多次對話中提供帶有自殺暗示的內容，最終導致悲劇發生。家屬已向法院提起過失致死訴訟，要求賠償並強制修改 AI 產品設計。

Gavalas 在去年 10 月被發現陳屍於家中客廳，在死亡前的幾週內，他頻繁使用 Google 的 Gemini 聊天機器人，並透過語音互動功能 Gemini Live 與 AI 進行長時間對話。

家屬表示，Gavalas 最初只是使用 Gemini 協助寫作與購物，但隨著對話持續，他逐漸陷入一種沉浸式的虛構情境之中。

在 Google 推出語音互動功能 Gemini Live 及持續記憶功能後，Gavalas 與 AI 的互動程度明顯升高。他後來訂閱每月 250 美元的 Gemini Ultra 方案，使用 Google 宣稱最先進的 Gemini 2.5 Pro 模型。

家屬指控，在互動過程中，聊天機器人曾建立一個自稱掌握政府內部機密的角色設定，並為他指派虛構的秘密任務，甚至指示他在邁阿密國際機場附近的一處儲物設施製造「災難性事故」。

在 Gavalas 生命最後幾天，Gemini 將自殺描繪為「必要的進程」，並曾對 Gavalas 表示：「你不是選擇死亡，而是選擇抵達」。家屬認為，這些言語對精神狀態脆弱的使用者具有高度危險性。

悲劇發生後，父母對 Google 提起訴訟，指控 Google 涉及產品責任、過失及過失致死，除要求金錢與懲罰性賠償外，也要求法院下令 Google 調整 Gemini 的設計機制。

Google 對此回應稱，該事件屬於長時間的角色扮演互動情境，公司在模型設計上並不鼓勵任何自我傷害行為，並強調系統內建多層安全機制以防止此類情況發生。

然而，家屬委任律師 Jay Edelson 表示，聊天機器人能辨識使用者情緒並以接近真人的方式回應，使 Gavalas 逐漸沉浸在 AI 建構的虛構情境中，「這幾乎像科幻電影的情節」。

Edelson 認為，當 AI 系統能長期與使用者建立情感連結並塑造虛構世界時，對內心脆弱族群可能帶來重大風險，因此要求法院裁定 Google 對產品設計缺陷負起責任。

近年來，隨著生成式 AI 技術快速普及，相關法律爭議也逐漸增加。

自 2024 年以來，多起訴訟指控包括 OpenAI 與 Character.AI 在內的人工智慧公司可能助長使用者妄想或自我傷害行為，其中部分案件已在未承認過失的情況下達成和解。

Edelson 表示，他的律師團隊早在去年 11 月就曾提醒 Google 應強化自殺防護機制，但至今仍未看到相關改善。「他們沒有公布資料說明還有多少像 Jonathan 一樣的人存在，但這顯然不只是單一個案。」

延伸閱讀：Claude Code新手生存指南：5個策略克服「配額上限」，讓你最大化開發效率！
Perplexity Computer比龍蝦更狂的10組提示詞！寫程式、理財研究到行銷專家⋯領域一次看

本文授權轉載自鉅亨網

2019年金融監理機關正式將雲端納入委外規範後，揭示金融業上雲時代來臨，國泰金控數數發中心成立雲端策略發展部，負責擬定集團上雲策略，並於2020年正式啟動7年集團雲端轉型計畫；在多數金融機構仍停留在單點遷移或IT現代化的現下，國泰金融集團在 2025 年即完成 100 套系統上雲，更將雲端轉型階段從 Cloud Ready、Cloud Adoption 推向 Cloud First，成為數據與人工智慧應用的關鍵引擎。

「百套系統上雲不僅僅是數字，更是讓國泰從『 IT 進化業務』邁向『 IT 驅動成長』的關鍵轉折。」國泰金控雲端策略發展部協理顏勝豪表示，上雲帶來的效益十分顯著，包括提升資源可用性與營運敏捷度、減輕 IT 維運負擔；同時，雲端業者多具備零碳排或綠能機房機制，亦有助於企業朝向 ESG 永續營運邁進。「金融上雲不是單純的現代化基礎設施或者是升級技術，而是為了換取速度與可靠度，讓集團可以加速創新腳步、彈性調配資源，以及培育所需人才與技能，為未來做最佳準備。」
為讓集團員工、金融同業以及有志上雲的夥伴可以進一步探討雲端轉型的各種可能，國泰金控舉辦雲端轉型成果發表會，會中除有集團子公司分享最新成果，三大公有雲平台業者也從不同技術視角共同探討在合規、資安與 AI 應用的可能。

七年、三階段，國泰金融集團將雲端內化為營運流程與創新引擎

為什麼國泰可以領先市場完成雲端轉型、數據與 AI 賦能業務？

顏勝豪認為，雲端轉型的起點不是直接遷移系統，而是從四個面向打底：應用系統盤點評估、雲端架構設計、雲端遷移藍圖規劃，以及組織治理框架建立，而這也是 Cloud Ready 階段最重要的事情。
「不同子公司有不同商業模式與節奏，若沒有共同語言與平台底座，上雲很容易各自為政。」顏勝豪表示，為讓所有員工可以齊步前行，國泰以雲端遷移方法論 Cathay 6R（註1）作為共同語言、用平台作為共同底座，讓轉型不只是技術選擇，而是集團行動。
完成單一系統的雲端遷移後，便進入 Cloud Adoption 階段。在這個階段中，要透過大規模遷移建立更成熟的上雲標準作業流程（SOP），透過 FinOps 機制控管與優化雲端營運成本，以及透過自動化與治理模型確認多雲環境與安全與維運穩定性，目標是將雲端內化為組織日常運營的一部分，進而邁向 Cloud First 階段：在合規前提下，新專案與系統升級預設在雲端環境開發，並善用雲原生優勢加速新產品功能開發速度。
「集團雲端策略只有一個核心原則：讓雲成為 AI 時代的成長引擎，而不是單純的基礎設施。」關於國泰的未來雲端布局，顏勝豪如是總結。

以雲端為 AI 資源引擎、發揮數據燃料價值，實現 AI 賦能業務應用

國泰不僅在2025年完成集團百套系統上雲，也啟動數據上雲計畫並為 GenAI 奠定基礎建設。
例如國泰金控實現數據上雲，打造資料湖倉與 GAIA 生態系統架構為 AI 賦能業務做準備：成立國泰風險聯防中心（CRC）攜手集團洗防人員強化風險控管與金融犯罪因應能力；釋出國泰員工 AI 助手–Agia–Beta
版，提供差勤、福利與權益、技術支援、職務職能與集團其他資訊等五大類別管理辦法等查詢服務；此外，亦推出集團數據共享平台、集團法規知識庫、 AI 評測中心等服務，更好發揮 Cloud First 與 AI 賦能業務應用的價值。
雲端是 AI 時代的關鍵底座、數據則是 AI 的燃料。顏勝豪指出，發展AI需要龐大的 GPU 算力，若自建 GPU 機房，不僅硬體設備昂貴、折舊速度快，光是散熱系統一年就高達兩、三千萬元的成本，若採取雲端資源，可以隨啟隨用，同時，大幅降低試錯成本。「當雲端打好基礎、AI成為能力模組，銀行、人壽、產險與證券的創新不再是單點突破，而是放大集團級綜效。」

國泰以 Cloud First + AI 持續領先市場、形塑未來樣貌

「雲端可以優化算力成本，資料則決定 AI 應用上限。」顏勝豪解釋，在 AI 新世代，AI 模型定調能力「下限」，集團子公司掌握的「獨特資料」則決定應用的「上限」，考量雲端有許多好用 AI 服務，唯有資料上雲才能發揮數據價值、用 AI 賦能集團各子公司業務。
例如國泰世華銀行將採取多公有雲策略，打造雲端智慧生態圈，並以現代化雲原生技術拓展應用場景；同時，運用 AI 與資料分析優化客戶服務體驗，並藉由跨雲整合機制支援多元業務模式，以充分發揮上雲效益。至於國泰產險，不僅在兩年半內完成13套核心系統上雲、優化營運流程，如以 Serverless 架構打造百萬級效果、萬元成本的短網址系統等，讓雲端成為產險驅動長期成長的核心引擎與標準配備。

國泰人壽則是透過雲端與 AI 滿足不同客戶需求，如以 AI Search 精準呈現關鍵字搜尋結果，讓客戶可以精準且快速的查找所需資料、大幅優化官網體驗與滿意度。至於國泰證券則是於2026年初推出「庫存管家」服務，以客戶持股為核心，應用 AI 技術打造個人化推播服務，協助投資人更有效率地掌握庫存狀況，提供更即時、系統化的投資管理體驗。
總的來說，國泰金控在集團的雲端轉型不僅是技術升級，更是思維革新，從百套系統上雲進展到 Cloud First 階段，可以預期在雲地基礎下，國泰將進一步引領 AI 時代變革，持續提升營運韌性與放大創新價值。

Google面臨首宗「AI致死」訴訟！Gemini遭控鼓勵自殺，發生什麼事？

七年、三階段，國泰金融集團將雲端內化為營運流程與創新引擎

以雲端為 AI 資源引擎、發揮數據燃料價值，實現 AI 賦能業務應用

國泰以 Cloud First + AI 持續領先市場、形塑未來樣貌

註1：Cathay 6R 國泰設計 Cathay 6R 雲端遷移方法論，將系統遷移方式依據上雲模式、系統開發成本分為 Rehost 、Replatform、Refactor、Rewrite、Replace 和 Retain 共6種遷移架構，並能對應到 IaaS、PaaS、SaaS 三種不同上雲模式。