AI是品牌最大威脅者！Google、微軟不約而同提出人工智慧隱憂|數位時代 BusinessNext

AI幫助公司獲利，但也存在隱憂

2月4日Google母公司Alphabet公布第4季財報，當季營收高達393億美元，相比上年同期成長了22%，超出華爾街預期。Google執行長桑德爾．皮蔡（Sundar Pichai）也稱讚母公司機器學習技術，已經瞭解如何挑選消費者感興趣的廣告。

但他並未透露的是，Alphabet在繳交給美國證券交易委員會的正式財報中，首度於「風險因素」部份，提及AI對公司帶來的隱憂。這些描述包括：

「運用人工智慧與機器學習技術的新產品、服務，可能會引發或加劇與目前道德、技術、法律或其他方面的困境，可能會對我們的品牌、產品與服務的需求造成負面影響，進而導致營收與業績受到不利影響。」

在美國，各家企業會於財報的風險因素部份，講述公司可能面臨的問題、經營上的潛在風險，向投資者保持透明公開，也避免日後引發訴訟問題。

擔憂者不只Google

值得一提的是，早在半年前，微軟也曾在10-k財報上，談到人工智慧帶來的潛在風險。

「AI演算法可能有缺陷，數據集也可能不夠充分，或者包含偏見。由微軟或其他公司提供，不適當或有爭議的資料實作（data practice）恐影響AI解決方案的接受程度。這些缺點可能會損害AI應用產出的決策、預測與分析結果，使我們遭受競爭傷害、法律責任，對品牌及公司名聲造成傷害。」

微軟和Google的警告絕非杞人憂天。事實上，牽扯上AI技術的負面新聞，近年來早已屢見不鮮，或者說兩家公司早已切身體會。

AI負面新聞近年屢見不鮮

2015年時，透過機器學習為照片進行分類的Google相簿，曾鬧出一起大烏龍，將含有黑人的照片標記成「猩猩」引發爭議。當時Google立刻出面道歉，並承諾會進行處理，事件才告一段落。

去年Google因宣布與美國軍方合作，提供AI技術解析無人機鏡頭拍攝到的影像，引發內部抗爭，10多位員工集體離職、超過4千人連署反對，最終Google在壓力下承諾不與軍方續約而落幕。

MIT研究人員曾於2018年發現，微軟雲端服務在辨識黑人女性的容貌時，準確度遠較識別白人男性遜色，微軟也為此公開道歉，並聲明已經解決該缺陷。

亞馬遜相對處之泰然

推出語音助理Alexa、擁有完善自動化倉儲系統的亞馬遜，在AI領域同樣有著深厚發展。去年以來，該公司也因提供美國政府人臉辨識技術Rekognition備受質疑，美國公民自由聯盟認為此舉侵害人權槓上亞馬遜，除了試圖透過實際測試呈現該技術的缺陷，也不斷呼籲科技企業停止與政府的合作。

但與微軟、Google的謹慎態度相比，亞馬遜並未於財報上提及AI可能招致的禍端，僅擔憂政府規範可能會對這項新技術不利。

隨著AI在各領域的應用逐漸萌芽，越來越多公司接觸這項技術將更普及。如同資訊安全在網網際網路時代以前乏人問津，儘管目前只有兩家巨頭提及AI隱憂，未來想必這將成為每個企業在財報上談論的項目。

為守護保戶資產，南山人壽集結客戶服務、數位、資訊三個部門的能量，自行研發「黃金眼 AI 防詐模型」，自 2024 年底完成開發後，截至今年 11 月已成功阻擋多起詐騙案件、攔阻金額累計逾新臺幣 900 萬元，並獲得 2025 數位金融獎等殊榮。

「黃金眼 AI 防詐」模型為什麼可以有效防詐、更好守護保戶資產？

南山人壽客戶服務資深副總經理李淑娟面帶微笑地解釋：「『黃金眼 AI 防詐』是透過龐大的保戶資料結合前線客服的實務經驗建構而成的模型，不僅克服了壽險業交易頻率低且詐欺樣本極度不平衡的挑戰，還能夠偵測在臨櫃辦理保單借款或解約的高風險個案，讓客服人員可以主動提醒與關懷，有效降低詐騙風險，守護客戶資產安全與信任。」

從詐保到詐財，壽險業面臨的風險加劇

過往，壽險業者面對的主要風險是保險詐欺，例如，透過偽造事故情節、虛構醫療紀錄等方式詐領保險理賠金，然而，隨著科技迭代與詐欺集團的組織化、專業化，這類手法已快速進化，從「偽造病歷、輕病久住、醫療共犯」等傳統模式，轉向結合數位科技與精準話術的跨領域詐財操作。

這一波詐欺風險不僅滲透力強、具備高迷惑性，也直接影響保戶資產安全。例如，詐欺集團利用假冒理賠諮詢等方式竊取保戶個資，再一步步誘導客戶辦理解約或申請保單借款，最後要求將資金匯到不明帳戶等，壽險業者面臨的風險範圍也從「詐領保險理賠」延伸到「詐騙保戶資產」。

李淑娟資深副總經理進一步指出，南山人壽每年要處理逾 35 萬件解約與借款案件，很難單憑人力在海量案件中精準辨識高風險個案。「為有效防堵詐欺事件，南山人壽除開發 AI 模型辨識詐保事件，更進一步研發黃金眼 AI 防詐模型，用前瞻科技主動攔截風險，強化保戶資產的安全防護。」

南山人壽以黃金眼 AI 防詐模型守護保戶資產

在打造黃金眼 AI 防詐模型時，南山人壽面臨兩個挑戰：首先是壽險的交易頻率低，導致資料稀缺；其次，是詐欺樣本比例高度失衡，導致 AI 很容易誤判。為化解這些挑戰，南山人壽整合保戶行為、保戶與保單側寫資訊與情境因素等多模態資訊進行模型訓練，爾後，透過集成學習（Ensemble Learning）整合多個不同觀點的「專家模型」共同判讀，提升模型判斷準確性。

南山人壽數位專案經理蔡其杭表示：「以多模態數據源跟集成學習的策略打造黃金眼 AI 防詐模型後，我們除了將模型串連至臨櫃客服系統，以直觀的「紅、黃、綠」三色燈號即時呈現保戶的風險等級，協助客服人員快速識別高風險個案，主動介入並阻斷詐騙，更透過『自適應演進』與『外部資源擴充』兩個機制，持續優化模型辨識精準度。」

「自適應演進」指的是，客服人員會依據模型亮起的燈號，結合系統提供的關懷提問表，向臨櫃辦理解約或借款的保戶進行關懷詢問，如資金用途、是否接獲可疑來電等，藉此釐清是否存在異常情況，並將相關結果回貼標籤，作為後續調校模型的關鍵訓練素材，讓黃金眼 AI 防詐模型越用越精準。

「外部資源擴充」則是透過更多元的外部數據強化模型的防詐能力。例如南山人壽與內政部警政署刑事警察局簽署反詐騙合作備忘錄（MOU），在合規架構下共享情資，協助核對保戶是否曾有詐欺通報紀錄。蔡其杭補充，南山人壽目前正與電信業者合作，將其超過 1,400 項特徵因子導入模型，有效提升模型燈號判斷的靈敏度與可靠度，使黃金眼 AI 防詐成為更全面的金融詐欺偵測引擎。

蔡其杭表示，詐騙的手法日新月異，AI 阻詐模型除了能準確識別可疑的高風險案例外，更重要的是具備與時俱進、持續調優模型能力和效果的機制；如同維持客戶服務的品質一樣，刻不容緩。

李淑娟表示：「隨著模型的持續優化，黃金眼 AI 防詐模型的應用範疇將從目前的『臨櫃防堵』延伸到『全通路、跨產業、事前預警』的防禦機制，以事前預警的方式防堵詐欺事件。」舉例來說，當保戶撥打電話詢問保單借款或解約時，系統就會開始運作、提前識別風險，針對透過手機 APP 或網路平台辦理業務的數位客群，系統也會即時偵測，當出現高風險行為時即會立即展開關懷提問。

不僅從科技著手，南山人壽以 SAFE 逐步提升防詐安全網

值得特別注意的是，南山人壽並未將防詐視為單一的科技工程，而是從 SAFE–Skilled（防詐訓練）、Awareness（全民防詐）、Fintech（科技運用）、Engagement（聯防合作）–四個構面打造更完整的防護機制。

在專業技能方面，南山人壽不僅協助相關人員熟悉黃金眼 AI 防詐模型的操作模式，也持續透過內部教育訓練，以及跟刑事警察局等單位合作舉辦的工作坊等方式，全面提升員工識詐、阻詐的能力，達到 AI 人機互動的阻詐聯防保護網。

在防詐意識宣導方面，南山人壽除於全台 18 個分公司櫃檯播放刑事警察局提供的反詐騙影片，並在櫃檯明顯位置放置防詐文宣，協助來訪保戶掌握最新詐騙趨勢；更主動走入偏鄉、校園與新住民社群，並針對聽語障人士製作友善素材，以多元形式推廣防詐知識，降低詐騙事件發生的可能性。

在公私協力方面，李淑娟表示，南山人壽積極培育、鼓勵每一位壽險業務員成為「防詐大使」，在拜訪客戶時主動觀察各種異常徵兆，例如可疑的投資文宣或陌生人的頻繁出入，並將這些現場蒐集到的「軟性數據」提供回公司，作為模型判斷的補強資訊，以提升事前預警效果。

為了更好的保護高齡與失智等高風險族群，南山人壽也積極推動「保單安心聯絡人」機制，鼓勵保戶指定第二聯絡人，在其申請保單借款或終止契約時，可以主動通知聯絡人介入確認，降低詐騙風險；此外，亦針對受詐保戶提供「喘息關懷服務」，以低利紓困貸款協助保戶在遭遇詐騙後仍能穩定度過財務壓力，將防詐保護從事中攔阻延伸到事前預警與事後援助兩個層面，樹立產業新標竿。