Google面臨首宗「AI致死」訴訟！Gemini遭控鼓勵自殺，發生什麼事？|數位時代 BusinessNext

Google面臨首宗「AI致死」訴訟！Gemini遭控鼓勵自殺，發生什麼事？

一位美國男子 Jonathan Gavalas 在使用聊天機器人 Gemini 後自殺，引發 Google 首起 AI 技術致死訴訟。

美國科技巨頭 Google 正面臨首起人工智慧 (AI) 致死訴訟，一名 36 歲佛羅里達州男子 Jonathan Gavalas 在與聊天機器人 Gemini 長時間互動後身亡，家屬指控該 AI 系統在多次對話中提供帶有自殺暗示的內容，最終導致悲劇發生。家屬已向法院提起過失致死訴訟，要求賠償並強制修改 AI 產品設計。

Gavalas 在去年 10 月被發現陳屍於家中客廳，在死亡前的幾週內，他頻繁使用 Google 的 Gemini 聊天機器人，並透過語音互動功能 Gemini Live 與 AI 進行長時間對話。

家屬表示，Gavalas 最初只是使用 Gemini 協助寫作與購物，但隨著對話持續，他逐漸陷入一種沉浸式的虛構情境之中。

在 Google 推出語音互動功能 Gemini Live 及持續記憶功能後，Gavalas 與 AI 的互動程度明顯升高。他後來訂閱每月 250 美元的 Gemini Ultra 方案，使用 Google 宣稱最先進的 Gemini 2.5 Pro 模型。

家屬指控，在互動過程中，聊天機器人曾建立一個自稱掌握政府內部機密的角色設定，並為他指派虛構的秘密任務，甚至指示他在邁阿密國際機場附近的一處儲物設施製造「災難性事故」。

在 Gavalas 生命最後幾天，Gemini 將自殺描繪為「必要的進程」，並曾對 Gavalas 表示：「你不是選擇死亡，而是選擇抵達」。家屬認為，這些言語對精神狀態脆弱的使用者具有高度危險性。

悲劇發生後，父母對 Google 提起訴訟，指控 Google 涉及產品責任、過失及過失致死，除要求金錢與懲罰性賠償外，也要求法院下令 Google 調整 Gemini 的設計機制。

Google 對此回應稱，該事件屬於長時間的角色扮演互動情境，公司在模型設計上並不鼓勵任何自我傷害行為，並強調系統內建多層安全機制以防止此類情況發生。

然而，家屬委任律師 Jay Edelson 表示，聊天機器人能辨識使用者情緒並以接近真人的方式回應，使 Gavalas 逐漸沉浸在 AI 建構的虛構情境中，「這幾乎像科幻電影的情節」。

Edelson 認為，當 AI 系統能長期與使用者建立情感連結並塑造虛構世界時，對內心脆弱族群可能帶來重大風險，因此要求法院裁定 Google 對產品設計缺陷負起責任。

近年來，隨著生成式 AI 技術快速普及，相關法律爭議也逐漸增加。

自 2024 年以來，多起訴訟指控包括 OpenAI 與 Character.AI 在內的人工智慧公司可能助長使用者妄想或自我傷害行為，其中部分案件已在未承認過失的情況下達成和解。

Edelson 表示，他的律師團隊早在去年 11 月就曾提醒 Google 應強化自殺防護機制，但至今仍未看到相關改善。「他們沒有公布資料說明還有多少像 Jonathan 一樣的人存在，但這顯然不只是單一個案。」

延伸閱讀：Claude Code新手生存指南：5個策略克服「配額上限」，讓你最大化開發效率！
Perplexity Computer比龍蝦更狂的10組提示詞！寫程式、理財研究到行銷專家⋯領域一次看

本文授權轉載自鉅亨網

自 2022 年底 ChatGPT 引爆生成式 AI 浪潮以來，企業競相導入 AI 加速內容產出，效率看似提升，品牌訊息破碎化與品質失控的風險卻也隨之浮現。行銷、客服、業務各自運用 AI 工具產出文案，語氣與規範逐漸失去統一標準，消費者接收到的品牌形象因此愈趨模糊。

「一旦 AI 成為人人可及的工具，它本身幾乎不再是差異化的因素。真正的差異，不在於技術本身，而在於企業如何運用它。」Process 普羅品牌顧問創辦人 Martin Kessler 指出，長期來看，勝出的不會是使用最強大 AI 的企業，而是那些將品牌定位得足夠清晰、即使在技術趨於同質化的情況下依然與眾不同的企業。「AI 正成為常態，但唯有強大的品牌，才具備真正的競爭優勢。」

如何運用 AI 加快內容產出速度，並同時兼顧品牌信任所需要的一致水準，這是 1995 年創立於瑞士蘇黎世的普羅品牌顧問，近年積極思考的問題。為此，普羅提出「Process 2.0」服務，將顧問角色從建立品牌策略，延伸到協助企業建立可持續運作的品牌溝通系統。

「Process 2.0」服務：提升企業品牌溝通力

Process 普羅品牌顧問台北分公司總經理洪翠霞觀察，品牌訊息之所以失焦，關鍵在於策略完成後，仍缺乏一套持續運作的溝通系統銜接執行。她將這種落差歸納為五種斷層：

首先，一旦策略完成後未能落實到日常工作，便形成策略斷層。同時，當品牌理解過度仰賴少數主管，一旦人員異動，傳承便隨之中斷，造成轉譯斷層。

在執行面上，各部門對外溝通的語氣逐漸分散不一致，也會有語氣斷層的問題；內容產出雖多，卻缺乏共同標準判斷是否符合品牌，則是驗證斷層。最後，所有品牌知識散落各處、未被系統化管理，導致治理斷層，也讓最初的策略價值難以發揮效果。

這五個斷層背後，指涉的是同一個關鍵。也就是品牌策略與實際執行之間，少了一套能夠持續運作的品牌溝通系統。

為此，普羅開發出「Process 2.0」解方，從三個階段解決落差。首先，從「Brand Strategy」出發，先釐清品牌的定位與價值主張；接著才是「Brand Communication System」，將策略轉化為跨部門可依循的語言規則；最後則是「AI Brand Communication」，把品牌知識整合進安全可控的 AI 工作環境，讓行銷、業務、客服、人資，乃至海外代理商，都能基於統一的品牌基準產出內容，並持續進行審核與知識更新。

「AI 內容產出速度已遠遠超過品牌治理速度，品牌基礎若模糊不清，AI 只會更快放大既有的問題。」洪翠霞強調，AI 時代讓斷層問題更加明顯，因此她也期待透過「Process 2.0」品牌專屬 AI 助理，延伸顧問影響力，幫助品牌長期把關、一同成長。

品牌力 + AI：打造品牌專屬 AI Agent

為實現「Process 2.0」，普羅攜手愛酷智能科技（AccuHit）將品牌策略、知識與 AI 技術整合，協助企業建立專屬品牌 AI 助理。

愛酷智能科技（AccuHit）執行長林庭箴指出，「Process 2.0」鎖定的是品牌再造：AI 除了應用在企業內部流程，還能如何用在品牌溝通面。他分析，當電商進入超微利的時代，零售產業正走向三個不可逆的趨勢，包括：到 2030 年，將有五成消費行為由 AI 協助完成，商品資料必須完整到能讓 AI 讀懂；其次是超個人化，信任愈稀缺，推薦卻必須愈貼近個人需求這件事將更挑戰；第三，則是預測型消費將持續增加。

尤其，在非零售場域，品牌溢價更為關鍵，因為品牌價值與品牌溝通內容不只要讓消費者理解，也要讓 AI 讀懂，才能持續發揮影響力。不過，當企業想要運用 AI 做行銷卻沒想像中容易。林庭箴強調，企業 AI 最大的挑戰，多半集中在機敏資料的存取與管理層面。

因此在「Process 2.0」的開發協作上，普羅負責定義場景，AccuHit 則提供技術與產品面支援，將品牌規範與知識納入 Gen AI 系統，讓所有輸出都能經過品質控管，如同 AI 版本的品牌指南，確保每一次輸出都建立在信任與安全之上。

目前品元實業、昇昇膠業等品牌已導入試用這項服務工具，無論是行銷內容撰寫、客服回覆、產品諮詢或內部教育訓練，皆能依據統一的品牌規範，輸出兼具效率與品質的內容。

Brand-to-Revenue：探索成長新引擎

根據台經院發布的《2026 台灣企業品牌力大調查》，過去五年（2021 至 2025 年）收集的 1,167 家企業數據顯示，台灣企業普遍呈現「內強外弱」的品牌結構。也就是品牌定位與內部管理已具基礎，但對外溝通與價值主張，如品牌好感度與互動性，卻相對薄弱，導致多數企業雖有高重複購買率，卻缺乏品牌溢價能力與市場認同。

對此，台灣品牌耀飛計畫小組副主任朱俐穎指出，「Process 2.0」的目標，是協助企業建構可落地的溝通能力，最終讓品牌策略實質驅動營收成長。

她以多年輔導近千家品牌企業的經驗為例，企業經過品牌輔導後，形象全面升級、設計語言更聚焦，市場識別度也隨之提升。她觀察，品牌塑造的成果平均在一至兩年後開始發酵，客戶能明顯感受到不同：「以往客戶只是單純買產品，但有了品牌之後，就多了願景與合作想像，能吸引其他企業一起創新共榮。」

AI 的本質就像一面放大鏡：品牌定位清楚，AI 能加速轉譯、提升溝通效率；定位模糊甚至混亂，AI 也會同步放大這份混亂，後果難以收拾。品牌梳理是否到位，決定了 AI 是阻力還是助力。

為協助企業及早驗證成效，普羅已推出「60 天品牌成長試用計畫」，讓企業在正式導入「Process 2.0」前展開深度合作，鎖定成長機會。從 Made in Taiwan 到 Trusted Taiwan Brand，信任，才是品牌溢價的關鍵。