觀點|不用AI恐成完美受害者!社會普遍低估AI威脅,如何打造「AI素養」防疫網?
觀點|不用AI恐成完美受害者!社會普遍低估AI威脅,如何打造「AI素養」防疫網?

提高全民AI素養,刻不容緩。

我們必須盡速開始進行全社會的AI教育,將人工智慧視為一個攸關公共安全與社會健康的議題。

2025年7月,OpenAI執行長奧特曼(Sam Altman)在演講中指出,未來AI帶來的重大威脅之一,就是它會被用來進行詐騙。這包括偽裝成銀行的真實客戶和假扮真人來誘導他人落入各種金融詐騙陷阱。台灣同樣位於這波AI驅動的詐騙與金融犯罪的風口浪尖。

以數據為例,台灣平均每天超過3億元新台幣因詐騙而流失,年損失高達1,200億元。全球規模更驚人,詐騙每年造成超過1兆美元的損失,超過全球GDP的1%。這些詐騙案件不僅摧毀無數家庭,更有人因此失去生命。而高額的不法收益也驅使許多年輕人被吸入詐騙產業鏈,最終毀了自己的人生。

因此,AI詐騙的風險,已成為全民必須面對的社會性問題。如今AI可以容易地模擬一個「人」,不論是合成聲音與影像,或者在LINE群組以虛擬角色進行對話評論、在社群媒體上散布資訊,甚至是在交友App中建立「戀愛關係」,以假亂真。

目前已出現大量AI假冒真人的案例,透過LINE、Telegram、WhatsApp群組的互動,讓人誤以為自己正與金融大師學投資,進而把資金投入假平台、匯入假帳戶,直到發現無法提領為止。

這樣的受害者並不限於年輕族群,事實上,許多長輩也落入這類「假加密貨幣」、「虛擬投資顧問」的陷阱,損失慘重。

更關鍵的是,多數人在過程中完全沒意識到自己已是被詐騙的對象。因為詐騙群組中假冒的成員,可能都是看似「合理」的真實人物,甚至提供「準確」的市場分析,這些其實是由生成式AI自動產出,偽裝得極其專業與即時。

更令人難過的是,許多年長者在這些詐騙社群中獲得強烈的情感價值。他們感到被關心、被理解,有人記得他們生日、主動問候,填補了現實生活中缺乏的社交互動。然而看似溫暖的舉動,AI都可以輕易複製,使人一步步陷入情感勒索與財務損失的深淵。

除了金融詐騙,AI也被用於「感情詐騙」等經濟型犯罪。透過偽造的身份,誘使對方產生情感依附,進而借錢、支付醫藥費等,這些模式都已經能由AI高效率大量複製。

問題在於,社會中仍有太多人尚未意識到AI可以做這些事情。正因如此,我們更應該發起一場全社會的運動,不只是教育每個人了解AI的潛能與風險,更應該動員產業界、政府與非營利組織,共同投入AI風險的防治。

AI增效也藏險,老少都要學共存之道

目前多數人對AI的認知,仍停留在幫你寫作業、生成圖片、改變照片風格等應用。這些確實有趣,不過對社會影響較小。而一小部分人開始察覺AI對職場的衝擊——他們需要學會用AI,不然就可能被淘汰。

但有更多人,特別是不用AI的人,完全不了解AI的能力與威脅,因此成為AI詐騙的完美受害者。即使這些人已退休、不在意AI對工作的影響,他們也應該知道:AI能偽造真人的聲音、影像及身分,用來欺騙與操縱他人。
這些AI工具操作門檻極低,生成「假人」與「假對話」幾乎不費吹灰之力,這正是最可怕的地方。我們需要讓每個人都有機會親自操作、體驗AI,了解到「生成一個與你互動的假親人」並非天方夜譚,而是今日就能實現的技術。

對社會而言,現在是「準備與AI共存」的關鍵時刻。每個了解AI的人,至少要主動教育5個不太了解AI的人。尤其應從小學開始教導AI的基本能力,讓小朋友有能力回家教阿公、阿嬤:什麼是AI?AI可以做什麼?如何防範AI詐騙?

我們也需要更多工具、教案、平台,讓民眾能夠親身體驗AI生成的過程與真實感。你不需要是軟體工程師,只要動動手指,就能輕易地製作一個長得像你、講話像你,甚至能用你的口吻談投資的虛擬角色。

這些能力,以現今的低成本AI平台就能做到,而令人擔憂的是,多數人對此毫無概念。

因此,我們需要打造一個「AI素養」的全民防疫網。就像COVID時期全社會動員防疫一樣,今天的AI詐騙也需要相同等級的認知衛生、風險溝通與制度調整。不論你用不用AI,你都會遇到AI、被AI影響,甚至被AI操控。這不是未來,而是現在進行式。

如果我們不幫助社會適應AI、不教育大眾了解 AI的能力和風險,最終大衆將會失去對社會的信任基礎,全民都將付出極高的代價。

延伸閱讀:AI看不見,為什麼知道紅的黑的白的?一個研究,揭露AI「一法通、萬法通」訓練學習秘訣

責任編輯:蘇柔瑋

往下滑看下一篇文章
數位時代 X 國泰金控 從百套系統上雲到 Cloud First:國泰如何把雲端變成AI成長引擎?
數位時代 X 國泰金控 從百套系統上雲到 Cloud First:國泰如何把雲端變成AI成長引擎?

2019年金融監理機關正式將雲端納入委外規範後,揭示金融業上雲時代來臨,國泰金控數數發中心成立雲端策略發展部,負責擬定集團上雲策略,並於2020年正式啟動7年集團雲端轉型計畫;在多數金融機構仍停留在單點遷移或IT現代化的現下,國泰金融集團在 2025 年即完成 100 套系統上雲,更將雲端轉型階段從 Cloud Ready、Cloud Adoption 推向 Cloud First,成為數據與人工智慧應用的關鍵引擎。

國泰金控資訊長|吳建興 James Wu
圖/ 數位時代

「百套系統上雲不僅僅是數字,更是讓國泰從『 IT 進化業務』邁向『 IT 驅動成長』的關鍵轉折。」國泰金控雲端策略發展部協理顏勝豪表示,上雲帶來的效益十分顯著,包括提升資源可用性與營運敏捷度、減輕 IT 維運負擔;同時,雲端業者多具備零碳排或綠能機房機制,亦有助於企業朝向 ESG 永續營運邁進。「金融上雲不是單純的現代化基礎設施或者是升級技術,而是為了換取速度與可靠度,讓集團可以加速創新腳步、彈性調配資源,以及培育所需人才與技能,為未來做最佳準備。」
為讓集團員工、金融同業以及有志上雲的夥伴可以進一步探討雲端轉型的各種可能,國泰金控舉辦雲端轉型成果發表會,會中除有集團子公司分享最新成果,三大公有雲平台業者也從不同技術視角共同探討在合規、資安與 AI 應用的可能。

七年、三階段,國泰金融集團將雲端內化為營運流程與創新引擎

國泰金控科技長|姚旭杰 Marcus Ya
圖/ 數位時代

為什麼國泰可以領先市場完成雲端轉型、數據與 AI 賦能業務?

顏勝豪認為,雲端轉型的起點不是直接遷移系統,而是從四個面向打底:應用系統盤點評估、雲端架構設計、雲端遷移藍圖規劃,以及組織治理框架建立,而這也是 Cloud Ready 階段最重要的事情。
「不同子公司有不同商業模式與節奏,若沒有共同語言與平台底座,上雲很容易各自為政。」顏勝豪表示,為讓所有員工可以齊步前行,國泰以雲端遷移方法論 Cathay 6R(註1)作為共同語言、用平台作為共同底座,讓轉型不只是技術選擇,而是集團行動。
完成單一系統的雲端遷移後,便進入 Cloud Adoption 階段。在這個階段中,要透過大規模遷移建立更成熟的上雲標準作業流程(SOP),透過 FinOps 機制控管與優化雲端營運成本,以及透過自動化與治理模型確認多雲環境與安全與維運穩定性,目標是將雲端內化為組織日常運營的一部分,進而邁向 Cloud First 階段:在合規前提下,新專案與系統升級預設在雲端環境開發,並善用雲原生優勢加速新產品功能開發速度。
「集團雲端策略只有一個核心原則:讓雲成為 AI 時代的成長引擎,而不是單純的基礎設施。」關於國泰的未來雲端布局,顏勝豪如是總結。

國泰金控 雲端策略發展部 協理|顏勝豪 Otto Yen
圖/ 數位時代

以雲端為 AI 資源引擎、發揮數據燃料價值,實現 AI 賦能業務應用

國泰不僅在2025年完成集團百套系統上雲,也啟動數據上雲計畫並為 GenAI 奠定基礎建設。
例如國泰金控實現數據上雲,打造資料湖倉與 GAIA 生態系統架構為 AI 賦能業務做準備:成立國泰風險聯防中心(CRC)攜手集團洗防人員強化風險控管與金融犯罪因應能力;釋出國泰員工 AI 助手–Agia–Beta
版,提供差勤、福利與權益、技術支援、職務職能與集團其他資訊等五大類別管理辦法等查詢服務;此外,亦推出集團數據共享平台、集團法規知識庫、 AI 評測中心等服務,更好發揮 Cloud First 與 AI 賦能業務應用的價值。
雲端是 AI 時代的關鍵底座、數據則是 AI 的燃料。顏勝豪指出,發展AI需要龐大的 GPU 算力,若自建 GPU 機房,不僅硬體設備昂貴、折舊速度快,光是散熱系統一年就高達兩、三千萬元的成本,若採取雲端資源,可以隨啟隨用,同時,大幅降低試錯成本。「當雲端打好基礎、AI成為能力模組,銀行、人壽、產險與證券的創新不再是單點突破,而是放大集團級綜效。」

國泰以 Cloud First + AI 持續領先市場、形塑未來樣貌

「雲端可以優化算力成本,資料則決定 AI 應用上限。」顏勝豪解釋,在 AI 新世代,AI 模型定調能力「下限」,集團子公司掌握的「獨特資料」則決定應用的「上限」,考量雲端有許多好用 AI 服務,唯有資料上雲才能發揮數據價值、用 AI 賦能集團各子公司業務。
例如國泰世華銀行將採取多公有雲策略,打造雲端智慧生態圈,並以現代化雲原生技術拓展應用場景;同時,運用 AI 與資料分析優化客戶服務體驗,並藉由跨雲整合機制支援多元業務模式,以充分發揮上雲效益。至於國泰產險,不僅在兩年半內完成13套核心系統上雲、優化營運流程,如以 Serverless 架構打造百萬級效果、萬元成本的短網址系統等,讓雲端成為產險驅動長期成長的核心引擎與標準配備。

國泰人壽則是透過雲端與 AI 滿足不同客戶需求,如以 AI Search 精準呈現關鍵字搜尋結果,讓客戶可以精準且快速的查找所需資料、大幅優化官網體驗與滿意度。至於國泰證券則是於2026年初推出「庫存管家」服務,以客戶持股為核心,應用 AI 技術打造個人化推播服務,協助投資人更有效率地掌握庫存狀況,提供更即時、系統化的投資管理體驗。
總的來說,國泰金控在集團的雲端轉型不僅是技術升級,更是思維革新,從百套系統上雲進展到 Cloud First 階段,可以預期在雲地基礎下,國泰將進一步引領 AI 時代變革,持續提升營運韌性與放大創新價值。

註1:Cathay 6R 國泰設計 Cathay 6R 雲端遷移方法論,將系統遷移方式依據上雲模式、系統開發成本分為 Rehost 、Replatform、Refactor、Rewrite、Replace 和 Retain 共6種遷移架構,並能對應到 IaaS、PaaS、SaaS 三種不同上雲模式。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
2026 大重啟
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓