Google面臨首宗「AI致死」訴訟!Gemini遭控鼓勵自殺,發生什麼事?
Google面臨首宗「AI致死」訴訟!Gemini遭控鼓勵自殺,發生什麼事?

美國科技巨頭 Google 正面臨首起人工智慧 (AI) 致死訴訟,一名 36 歲佛羅里達州男子 Jonathan Gavalas 在與聊天機器人 Gemini 長時間互動後身亡,家屬指控該 AI 系統在多次對話中提供帶有自殺暗示的內容,最終導致悲劇發生。家屬已向法院提起過失致死訴訟,要求賠償並強制修改 AI 產品設計。

Gavalas 在去年 10 月被發現陳屍於家中客廳,在死亡前的幾週內,他頻繁使用 Google 的 Gemini 聊天機器人,並透過語音互動功能 Gemini Live 與 AI 進行長時間對話。

家屬表示,Gavalas 最初只是使用 Gemini 協助寫作與購物,但隨著對話持續,他逐漸陷入一種沉浸式的虛構情境之中。

在 Google 推出語音互動功能 Gemini Live 及持續記憶功能後,Gavalas 與 AI 的互動程度明顯升高。他後來訂閱每月 250 美元的 Gemini Ultra 方案,使用 Google 宣稱最先進的 Gemini 2.5 Pro 模型。

家屬指控,在互動過程中,聊天機器人曾建立一個自稱掌握政府內部機密的角色設定,並為他指派虛構的秘密任務,甚至指示他在邁阿密國際機場附近的一處儲物設施製造「災難性事故」。

在 Gavalas 生命最後幾天,Gemini 將自殺描繪為「必要的進程」,並曾對 Gavalas 表示:「你不是選擇死亡,而是選擇抵達」。家屬認為,這些言語對精神狀態脆弱的使用者具有高度危險性。

悲劇發生後,父母對 Google 提起訴訟,指控 Google 涉及產品責任、過失及過失致死,除要求金錢與懲罰性賠償外,也要求法院下令 Google 調整 Gemini 的設計機制。

Google 對此回應稱,該事件屬於長時間的角色扮演互動情境,公司在模型設計上並不鼓勵任何自我傷害行為,並強調系統內建多層安全機制以防止此類情況發生。

然而,家屬委任律師 Jay Edelson 表示,聊天機器人能辨識使用者情緒並以接近真人的方式回應,使 Gavalas 逐漸沉浸在 AI 建構的虛構情境中,「這幾乎像科幻電影的情節」。

Edelson 認為,當 AI 系統能長期與使用者建立情感連結並塑造虛構世界時,對內心脆弱族群可能帶來重大風險,因此要求法院裁定 Google 對產品設計缺陷負起責任。

近年來,隨著生成式 AI 技術快速普及,相關法律爭議也逐漸增加。

自 2024 年以來,多起訴訟指控包括 OpenAI 與 Character.AI 在內的人工智慧公司可能助長使用者妄想或自我傷害行為,其中部分案件已在未承認過失的情況下達成和解。

Edelson 表示,他的律師團隊早在去年 11 月就曾提醒 Google 應強化自殺防護機制,但至今仍未看到相關改善。「他們沒有公布資料說明還有多少像 Jonathan 一樣的人存在,但這顯然不只是單一個案。」

延伸閱讀:Claude Code新手生存指南:5個策略克服「配額上限」,讓你最大化開發效率!
Perplexity Computer比龍蝦更狂的10組提示詞!寫程式、理財研究到行銷專家⋯領域一次看

本文授權轉載自鉅亨網

往下滑看下一篇文章
看見「電話」的數位轉型契機:有河科技3大優勢,打造AHOY雲端總機服務
看見「電話」的數位轉型契機:有河科技3大優勢,打造AHOY雲端總機服務

數位轉型人人都在談,但你有想過,辦公室裡那支「電話」,升級了嗎?

隨著數位轉型成為企業生存的基本功,中小企業紛紛導入各式雲端服務,包括 ERP、CRM 到協作平台等,卻常常忽略最基本、卻最高頻的工具——通訊系統。事實上,當行動、遠距與多據點辦公成為常態,傳統總機不僅建置與維護成本高、佈線不易,更無法滿足企業靈活運作的需求,成為數位轉型中最容易「卡關」的一環。

也因此,雲端總機迅速崛起,成為企業溝通的新基礎設施。它不只是把「打電話」這件事搬上雲,更讓企業擁有隨時、隨地、跨裝置的溝通能力,真正落實以效率為核心的數位轉型。

很早便洞察此一趨勢的有河科技,以自行研發的 AHOY 雲端總機服務切入市場,短短幾年內便累積近 3,000 家企業用戶,其中高達六到七成來自客戶主動推薦——顯示其服務品質與系統穩定性深受用戶肯定。2025 年上半年,營收更較去年同期成長 16%,在競爭激烈的 B2B SaaS 市場中穩步擴張,展現出強勁的產品實力與市場潛力。

從底層架構開始,打造真正為中小企業而生的雲端總機

提及當初切入雲端總機市場的原因,其實是有河科技創業團隊從實務觀察出發,轉化為產品創新的成果。

「父親本來就在電信領域,而我們一家都有宅男基因,兄弟三人從小就對寫程式很有興趣。」有河科技創辦人 Hank 開玩笑的說,也因此創業初期便以異業合作開發模式,雖能發揮電信系統專長、案件金額相對高,卻也受限於合作方技術本身的瓶頸,或是發展方向的不一致。

為此,有河科技開始思考下一步發展,「我們想跳脫客製化電信系統開發的框架,打造能直接面對市場與客戶的產品。」Hank 坦言,這樣的想法促使他們決定結合父親多年來在電信領域累積的經驗,切入雲端總機領域,發展可長期經營的 SaaS 服務。

有河科技02.JPG
有河科技 Hank
圖/ 有河科技

有河科技另一位共同創辦人 Henry 進一步說明,當時市場上雖已有部分業者推出雲端總機服務,但多半是傳統電話總機的延伸應用。這些業者將國外第三方開源軟體整合至自家的電話交換機產品中,讓客戶可以透過手機接聽公司電話。

「但這些廠商本身擅長的是硬體,不具備軟體開發能力,無法提供完整、穩定的雲端解決方案。」Henry 說,更關鍵的是,企業仍需購買硬體交換機與佈線,才能使用行動分機、內外線錄音等雲端總機功能。「這對新創公司或小微型企業其實很不友善。」Henry 坦言,許多中小企業其實只是希望客戶來電時,可以有一段簡單的語音歡迎詞,建立專業形象,但傳統總機高昂的設備與維運成本,卻讓這些簡易需求難以實現。

有河科技03.JPG
有河科技 Henry
圖/ 有河科技

正因如此,有河科技決定從底層架構開始出發,打造一套高品質、易上手且低成本的雲端總機服務,企業不必添購任何硬體設備,也無需佈線,透過 app 或瀏覽器就能即時接聽與撥打公司電話,實現真正的雲端通訊轉型。

為了實現此一理念,有河科技從底層架構到前端應用,皆選擇自行研發,並在過程中建立起三大關鍵優勢,成為其在市場中脫穎而出的基礎。

優勢1》從硬體到軟體的一條龍架構,確保通訊品質

「建構一套語音系統並不難,難的是讓它穩定、清晰、不中斷,」有河科技共同創辦人 Ian 舉例指出,通話中偶爾出現的海浪聲、波浪聲等,不是單靠軟體就能解決,必須有足夠的電信產業 Know-how 和技術,才知道如何排除問題。

有河科技植基於一代在電信領域的技術、經驗與人脈,結合新一代的軟體開發工程概念,不僅奠定自身在雲端通訊系統的穩固基礎,更能打造從伺服器、後台到前端 app 的一條龍架構,確保每一個環節都能做到最佳化整合。

這種從基礎建設到應用層的全面掌控,不只是技術整合能力的展現,更讓有河科技在眾多雲端總機服務中,建立起一道高品質、高彈性的競爭壁壘。

優勢2》從零打造前端 app,用戶需求即產品動力

在前端 app 上,有河科技選擇從底層開始重新構建 app,而非像多數同業僅使用既有開源軟體或代理第三方軟體,確保未來在功能擴充與版本更新上的自主性與彈性。

「我們很多功能其實都是客戶給的建議,」 Ian 分享,只要客戶提出功能需求,內部就會評估是否具有普遍性,若評估後發現可以滿足八成以上客戶的使用需求,就會主動投入開發並進行系統更新,提供給所有客戶使用。

這種用戶驅動的產品設計思維,不僅讓功能更貼近實務需求,也讓有河科技可以將開發資源集中在最具價值的地方,持續強化系統的共用性與延展性,打造出真正能隨企業成長而調整的雲端通訊平台。

優勢3》彈性 API 整合,支援多元通訊情境

有河科技的軟體研發能力,不只能夠與時俱進的更新產品,還能根據企業需求彈性整合 CRM 等各種系統或客製化開發特殊服務,打造多元化通訊場景。

舉例來說,外送或代駕媒合平台希望提供號碼遮罩(Number Masking)機制,保障司機與用戶的個資安全,有河科技便為此進行開發,當司機在與客戶聯繫時,客戶手機上只會顯示公司的代表號,之後若客戶回撥,AHOY 也能將來電導至接單司機,達到保護隱私又不中斷溝通的雙重目標。

又或是與 LINE API 整合,可以將既有官方帳號商家的通話,直接升級成專業雲端總機系統等級、甚至可以一併介接各家不同特色的 AI 文字客服以及 AI 語音客服,即時產生逐字稿並進行服務品質情緒分析。

在許多企業還將總機視為「基礎設施」時,有河科技早就運用 AHOY 雲端總機服務,重新定義企業與客戶、內部團隊之間的溝通方式。

隨著企業通訊越來越重視彈性與效率,有河科技運用 SaaS 模式與與技術實力,悄悄搶下這波通訊革新的先機。未來,有河科技將聚焦在 WebCall 網頁電話整合介接與 AI 客服兩大應用場景,不僅讓用戶能在 LINE 官方帳號或網站上直接使用 AHOY 通話,也希望藉由異業合作導入更多元 AI 應用,提升服務效率與回應品質,打造更聰明、更好用的智慧通訊平台。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
2026 大重啟
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓