無人機變殺人武器，專家示警：AI濫用5年內看得到|數位時代 BusinessNext

無人機變殺人工具，濫用AI後果不堪設想

報告中指出，包括無人機、虛假影音和駭客攻擊，將是有心人士惡意使用人工智慧最普遍的三大途徑。

舉例來說，孤狼式攻擊者只要一台無人機，運用臉部辨識軟體強加訓練後，就可以鎖定特定人物攻擊，把無人機變成殺人工具。而透過機器學習，自動放送的虛假或不雅影音內容，人們很難分辨其真實性，可能被用於政治抹黑，操控公眾輿論。

惡意駭客也可能利用AlphaGo、各類開源平台上的技術，找出海量數據組成的規則或漏洞，藉此破解密碼，竊取個人機密資料；或是使用AI語音合成來模擬目標，移花接木影音和圖片內容等，如日前在網路論壇Reddit發生的「換臉」製作假影片事件。

劍橋大學「存在風險研究中心」（Centre for the Study of Existential Risk）專家Shahar Avin表示，這些預測並非存在遙遠的未來，而是在未來5年內隨時都有可能發生，該報告進一步示警，隨著AI發展成熟，可能被流氓國家、罪犯和恐怖分子利用。

「存在風險研究中心」執行主任Seán Ó hÉigeartaigh是這份報告的共同撰寫人之一，他強調，人工智慧將改寫眾多領域的遊戲規則，「我們正身處在一個恐因濫用AI而淪陷的世界，這些風險都是真實的，我們必須面對這些問題，盡快做出選擇。」而這份報告就是呼籲全球各政府、機構和相關人士採取行動。

事先設想新技術負面影響，降低AI使用風險

對此，該報告提出四點建議。首先，政策制定者和AI專家應共同合作，徹底掌握可能的惡意利用。第二，雖然AI帶來很多正面的應用，但它就像一把雙面刃，人工智慧研究員和軟體工程師應預先推敲其被誤用的可能性，在開發階段就設下保護機制。

第三，從歷史經驗中汲取教訓，像是資安、電腦科學等，歸納出新技術帶來的負面影響。第四，積極擴大並拉攏相關產業利益者，以預防和減輕惡意使用AI的風險。

報告也提到，AI正帶來全新的安全漏洞，虛擬與實體皆然，各國政府應盡速制訂相關法律，跟上時代需求。而個別使用者方面，除非已徹底了解AI新技術、新產品的風險性，否則不要貿然的傳播或分享。

牛津大學未來人類研究所（Oxford University's Future of Humanity Institute）研究員Miles Brundage表示，人工智慧將徹底改寫公民、企業組織和國家所面臨的風險，像是成為駭客犯罪時的訓練工具、介入隱私的管道等，對人類安全帶來顛覆性的影響。但他強調，雖然AI潛藏不少負面效應，但考量其帶來的正面助益，發展AI仍有其必要性。

AI貫穿保險價值鏈、提升用戶體驗，國泰重新定義保險科技

保險業正面臨客戶行為改變、人口結構老化、AI技術發展等挑戰，從人壽到產險，國泰金控翻轉保險與大眾的互動方式，展現大型保險公司的轉型路徑。

國泰未來保險體驗日（Cathay InsurX Day）是國泰金控攜手國泰人壽、國泰產險，所舉辦的台灣金融業首場以保險科技為主軸的產業盛會，打造產壽險對話平台，從台灣保險產業特性出發，以技術＋場景＋人性三大視角，重新定義台灣的保險科技。

國泰金控資深副總經理孫至德在開場致詞中，特別提到根據國泰多年的觀察，發現客戶需要的是數位結合實體的保險體驗，因此我們希望結合數位平台與業務員能力找到新的經營模式，同時運用科技讓體驗變得更方便、透明。國泰金控副總經理林佳穎也分享，國泰持續透過場景金融、數位體驗、AI賦能三大關鍵做法，期待能成為「以金融為核心的科技公司」。她強調，保險業不是單打獨鬥，需要更多跨域協作，面對充滿挑戰的未來，「我們更要Run Faster，Better Together」，才能在挑戰中找到新機會。

過去，保險業的數位轉型多聚焦在「流程更快速」與「服務更便捷」等領域，但在生成式人工智慧（GenAI）與代理式人工智慧（Agentic AI）技術崛起後，國泰金控旗下國泰人壽與國泰產險勇於嘗試、將AI全面滲透核心業務流程，讓 AI 不再只是單點輔助，而是貫穿保險價值鏈、提升用戶體驗的關鍵。

以 AI 重塑保險全流程：國壽以 Agentic AI 提升體驗與效率

「我們的目標是以 AI 重塑保險全流程應用。」國泰人壽數據暨人工智慧發展部協理莊淑儀以理賠流程為例解釋，國泰人壽早在許多年前就透過數位與 AI 等技術協助理賠同仁加快服務與受理、登打、派件與審理的速度，例如，以 OCR（光學字元辨識）醫療文件擷取與 ICD（國際疾病分類）/手術選碼優化登打效率、以 CRSS（理賠風險識別系統）風險分級識別理賠浮濫與詐欺等高風險案件並將之派送給可以審理的同事，以及透過智能工作台與 AI 骨折判讀加快與優化審理流程等。然而，保險陪伴客戶的時間是很長的，隨著保戶年齡逐漸提高，再加上超高齡社會來臨，理賠案件數量持續攀升，需要更多 AI 與自動化強化效率與正確性。

國泰人壽的做法是在既有的 AI 基礎上，加入GenAI 與Agentic AI等技術，以 AI全面升級理賠流程。首先是以「DocAI Agent」突破傳統 OCR 覆蓋率低與高維運成本的限制，僅需一個月調校，即能快速適配不同醫院表單，維持原本的正確率並將覆蓋率由50%提升至近100%，大幅縮短登打時間。其次是透過「Abnormal Agent」打造圖形資料庫（Graph DB）建立理賠關係網，快速標示高風險關係案件提供判斷依據及建議後續的應對方式，加速理賠人員的決策。最後是藉由「Review Assistant Agent」協助整理病歷、醫療單據、診斷證明…等複雜且可能甚至上百頁的文件，並快速歸納出重點，幫助理賠人員快速找到關鍵資訊進行交叉查證，大幅節省審理時間。

莊淑儀指出，光是理賠流程，國泰人壽已打造30個以上的AI Agents，目標是協助理賠人員化繁為簡、更快完成相關工作。在善用科技提升流程體驗的思維下，國泰人壽沒有特別打造額外的AI平台，而是將AI Agent整合至現有理賠流程各個環節，讓同仁們可以在一個介面完成所有工作，兼顧便捷、好上手與效率提升。

除了理賠，國泰人壽也將 AI 應用延伸至商品知識管理，打造業務員的行動智慧助手，從保障缺口判斷、個人化商品推薦到業務員智能對練等流程，都有AI Agent協助提高同仁效率，讓客戶的保險體驗更便利且完善。舉例來說，隨著保險商品高度複雜化，國泰人壽推出「商品知識助理」，協助業務人員快速查詢 3,000 多檔的商品保單條款及規範、醫療行為理賠項目，幫助業務員更快速採取行動，也能將時間與心力投入在更有價值的保戶互動與服務。

「我們不會為了 AI 而 AI，而是建置AI Agent 生態圈，高度整合與重塑理賠、商品服務等核心流程，藉此提升用戶體驗與營運效率。」莊淑儀進一步解釋，國泰人壽不會單純以投資報酬率（ROI）評估AI成效，將以風險控管、流程優化、員工效率與客戶體驗四個構面衡量 AI 對公司影響的廣度、深度和商業價值，並勇於在新的商業模式上進行嘗試，確保每一次的 AI 投入都能為國泰帶來有意義、有實質效益的進步。

從數據到智能，國泰產險以AI強化核心競爭力

國泰產險同樣積極透過數據與AI極大化競爭優勢。國泰產險督導吳香妮指出，面對火災、地震、颱風等難以預測的風險，需要數據與AI驅動的產險保護傘填補損害，把衝擊降到最低，讓生活、經濟與社會能持續穩定運轉。在具體實務上，國泰產險是從「Enrich加值服務」、「Enhance AI輔助風險決策」，以及「Empower生成式AI賦能」這三個面向切入。

台灣交通事故逐年攀升、平均1天發生1,100件交通事故，其中，大車事故發生率是小車的2.2倍，致死率比起小車高達6倍等現況後，國泰產險開始思考，除了提供大車事故後的理賠支援，還可以從事前提供哪些服務？也因此催生了業界首創的「CarTech智能車險加值服務」，透過跟運輸業者與學校等單位的合作，針對車險承保前、中、後提供相應的風險辨識、預警與防治等加值服務。國泰產險與陽明交通大學合作建立全台首個「運輸業者健檢」流程，透過駕駛行為及行車環境等多元數據建置AI模型，即時洞悉駕駛行為及風險分析，並提供運輸業者客製化的風險改善建議，實踐以數據及AI優化損害防阻。吳香妮強調，我們的目標是不僅提供理賠，更要守護客戶，提供超越價格的價值服務。

產險的核心業務之一是再保險，國泰產險的作法是運用AI及數據，化被動為主動，以AI輔助風險決策。過去再保險業務仰賴經驗法則、手動整理資料與透過國際再保險公司提供既有方案，現在則透過數據與AI驅動，主動精準拆解業務目標，以28項風險因子預測風險發生機率與損失金額，自動輸出並比較多種方案，從中探索最適合的再保險規劃。

國泰產險也將AI導入內部流程，解決長期困擾員工的報告製作痛點，包含資料查找費時、人工編寫品質不一、專業術語翻譯困難等。透過一鍵生成報告服務的三個GenAI模組，為員工省下6到7成的手動作業時間，將時間與精力聚焦在更具策略價值的工作，以新世代人機智慧協作模式提升效率與創造嶄新競爭力。

從國泰人壽與國泰產險的實作，可以清楚看到：對國泰而言，AI不僅是新技術導入，更是保險價值鏈全面進化的核心動能，將以數據與AI驅動服務實踐用戶體驗的優化，持續引領台灣保險科技體驗走向新世代。