AI是品牌最大威脅者!Google、微軟不約而同提出人工智慧隱憂
AI是品牌最大威脅者!Google、微軟不約而同提出人工智慧隱憂
2019.02.13 | Google

AI是當代科技公司的兵家必爭之地,對於Google、微軟這樣聚焦軟體層面的公司,尤為重要。然而Google母公司Alphabet在財報中卻警告投資者, AI技術可能引發或強化與法律、道德間的矛盾,進而對公司獲利能力造成影響。

AI幫助公司獲利,但也存在隱憂

2月4日Google母公司Alphabet公布第4季財報,當季營收高達393億美元,相比上年同期成長了22%,超出華爾街預期。Google執行長桑德爾.皮蔡(Sundar Pichai)也稱讚母公司機器學習技術,已經瞭解如何挑選消費者感興趣的廣告。

但他並未透露的是,Alphabet在繳交給美國證券交易委員會的正式財報中,首度於「風險因素」部份,提及AI對公司帶來的隱憂。這些描述包括:

「運用人工智慧與機器學習技術的新產品、服務,可能會引發或加劇與目前道德、技術、法律或其他方面的困境,可能會對我們的品牌、產品與服務的需求造成負面影響,進而導致營收與業績受到不利影響。」

在美國,各家企業會於財報的風險因素部份,講述公司可能面臨的問題、經營上的潛在風險,向投資者保持透明公開,也避免日後引發訴訟問題。

擔憂者不只Google

值得一提的是,早在半年前,微軟也曾在10-k財報上,談到人工智慧帶來的潛在風險。

「AI演算法可能有缺陷,數據集也可能不夠充分,或者包含偏見。由微軟或其他公司提供,不適當或有爭議的資料實作(data practice)恐影響AI解決方案的接受程度。這些缺點可能會損害AI應用產出的決策、預測與分析結果,使我們遭受競爭傷害、法律責任,對品牌及公司名聲造成傷害。」

微軟和Google的警告絕非杞人憂天。事實上,牽扯上AI技術的負面新聞,近年來早已屢見不鮮,或者說兩家公司早已切身體會。

AI負面新聞近年屢見不鮮

2015年時,透過機器學習為照片進行分類的Google相簿,曾鬧出一起大烏龍,將含有黑人的照片標記成「猩猩」引發爭議。當時Google立刻出面道歉,並承諾會進行處理,事件才告一段落。

去年Google因宣布與美國軍方合作,提供AI技術解析無人機鏡頭拍攝到的影像,引發內部抗爭,10多位員工集體離職、超過4千人連署反對,最終Google在壓力下承諾不與軍方續約而落幕。

無人機 白色
2018年3月初,Google曾宣布與美國軍方合作,提供AI解析無人機鏡頭影像。
圖/ shutterstock

MIT研究人員曾於2018年發現,微軟雲端服務在辨識黑人女性的容貌時,準確度遠較識別白人男性遜色,微軟也為此公開道歉,並聲明已經解決該缺陷。

亞馬遜相對處之泰然

推出語音助理Alexa、擁有完善自動化倉儲系統的亞馬遜,在AI領域同樣有著深厚發展。去年以來,該公司也因提供美國政府人臉辨識技術Rekognition備受質疑,美國公民自由聯盟認為此舉侵害人權槓上亞馬遜,除了試圖透過實際測試呈現該技術的缺陷,也不斷呼籲科技企業停止與政府的合作。

ACLU
美國公民自由聯盟曾透過亞馬遜人臉辨識軟體Rekognition,將國會議員與25,000嫌犯照片做比對,其中28名議員被誤認成嫌犯。

但與微軟、Google的謹慎態度相比,亞馬遜並未於財報上提及AI可能招致的禍端,僅擔憂政府規範可能會對這項新技術不利。

隨著AI在各領域的應用逐漸萌芽,越來越多公司接觸這項技術將更普及。如同資訊安全在網網際網路時代以前乏人問津,儘管目前只有兩家巨頭提及AI隱憂,未來想必這將成為每個企業在財報上談論的項目。

資料來源:WiredThe Verge

往下滑看下一篇文章
代理式商務來襲:萬事達卡與NCCC攜手產業打造信任新基礎
代理式商務來襲:萬事達卡與NCCC攜手產業打造信任新基礎

隨著代理式 AI(AI Agent)的快速普及,其在商務交易中的應用也從智慧搜尋、商品比價一路延伸至自主下單,逐步形塑出全新的代理式商務(Agentic Commerce)模式。為因應此一趨勢,萬事達卡攜手聯合信用卡處理中心(NCCC)於 15 日舉辦「 AI 時代支付安全與數據信任高峰會」,匯聚產官學界專家共同交流,深入探討代理式商務下的支付授權與驗證機制,以及 AI 時代金融監理的演進與詐欺防治重點。

萬事達卡台灣區董事總經理陳懿文表示,無論交易是由人或代理式 AI 發起,都應該在安全可信的環境中完成,萬事達卡將持續強化支付安全的把關能力,不僅著眼於風險控管,更期望將「信任」轉化為未來創新的基礎與成長動能。聯合信用卡處理中心董事長桂先農則認為,面對 AI 浪潮,支付安全已不再只是技術問題,更要在消費體驗、數據運用與隱私保護之間取得動態平衡。金融監督管理委員會主任委員彭金隆表示,金管會未來將持續秉持安全與發展並進的原則,致力於打造可信賴、穩健且具有包容性的環境,加速金融 AI 應用的發展。

Mastercard-02.jpg
金融監督管理委員會主任委員彭金隆特別出席,表示金管會核心理念為「負責任創新」,並於2025 年成立『金融科技產業聯盟』,期待結合金融周邊單位與金融機構的力量,打造可信任及穩健的AI 金融應用環境。
圖/ 數位時代
Mastercard-03.jpg
萬事達卡台灣區董事總經理陳懿文(左)攜手聯合信用卡處理中心董事長桂先農(右)致詞不約而同提到:面對 AI 浪潮,支付安全將會是如何在消費體驗、數據運用與隱私保護之間取得動態平衡的治理課題。
圖/ 數位時代

AI Agent 重新定義消費旅程,萬事達卡提 4 大要素保障支付安全

Google Cloud 台灣技術總經理林書平認為,代理式商務正在重新定義消費旅程,而 Universal Commerce Protocol(UCP)則是支撐這場變革的關鍵。他表示,UCP 就好像電商界的 Type-C 接口,可以串聯不同代理式 AI 與電商平台後台系統,讓代理式 AI 可以根據消費者需求,自主完成商品搜尋與推薦、比價到下單的交易流程,打造更即時、更個人化的消費體驗。

在此情況下,支付不再只是交易流程中的最後一步,而是串聯個人化服務、授權機制、風險控管與信任的核心環節。萬事達卡數據與顧問服務部資深副總裁戴輝瑾指出,要確保代理式商務下的交易安全,必須具備 4 個關鍵要素,包括可驗證代理式 AI 身份、明確的使用者授權、確保代理式 AI 執行的任務沒有超出授權範圍,以及在發生爭議時,能透過公開透明且可追溯的機制進行處理,確保各方權益。

此外,他也強調,風險管理不應侷限於付款當下,需從交易前、交易中、交易後到持續性的監控,建立端到端的治理架構。為此,萬事達卡推出多元解決方案強化整體防護能力,包括以 Identity Solution 強化數位身分驗證、以 Decision Intelligence Pro 提升即時風險判斷能力、透過 Ethoca 優化爭議處理流程,以及藉由 Recorded Future 提供即時網路威脅情報,全面覆蓋交易生命週期,打造更完整的支付安全生態系。

AI 監理邁入新階段,以信任為核心的監管新框架

從監理角度來看,AI 所帶來的變革也同步改寫治理思維。金管會銀行局局長童政彰指出,監理機關不僅要加強國際合作,更應深化與金融業及科技業的對話,建立更開放且具前瞻性的監理模式。進一步針對代理式商務來看,政大金融AI創新中心主任王儷玲認為,金融監理重心應由模型與資料管理,轉向代理式 AI 安全,尤其當 AI 可以代理消費者進行支付時,如何確保代理式 AI 在授權範圍內執行交易,將成為未來的監理重點。

在國際監理趨勢方面,萬事達卡數據與顧問服務部副總裁 Audrey Wong 分析亞太與全球支付生態並指出,AI 時代的監管核心已轉向「以信任為基礎」,金融業在應用 AI 時,必須具備可解釋性、可問責性與可稽核性,確保決策透明且可追溯。同時,隨著詐騙與洗錢行為跨境化,監理機制也應向外延伸,確保跨境一致性,並透過如 ISO 20022 等標準強化資料透明與治理能力。

回到金融機構實務面,國泰世華銀行數據長梁明喬表示,代理式 AI 將對既有支付與風控機制帶來結構性改變,以信用卡支付為例,過往的驗證重點在於是否為本人,但在代理式 AI 情境下,則轉變為驗證 AI 的身份、授權來源與行為意圖。未來,隨著代理式 AI 的普及發展,授權與權限管理將變得更加重要。

Mastercard-04.jpg
關鍵對談以「AI 時代的資安監管趨勢與企業應對策略 」為題,左起邀請:數位時代總編輯 王志仁主持及重磅與談人國立政治大學金融 AI 創新中心主任 王儷玲、國泰世華銀行數據長 梁明喬及萬事達卡數據與顧問服務部副總裁 Audrey Wong與會。
圖/ 數位時代

AI 詐騙升級,聯防機制成新關鍵

最後,本場研討會亦聚焦討論 AI 造成詐欺風險升級的議題。台灣大哥大資訊長蔡祈岩觀察,詐騙已從單一管道演變為跨平台、跨場景的複合型攻擊,尤其是假冒「代理式 AI 」的詐騙手法,透過對話引導消費者提供個資與支付資訊,正成為新興且高風險的威脅來源。

萬事達卡 Franchise Innovation 副總裁Dennis Koh 進一步歸納出 3 大詐欺發展趨勢。第一,Deepfake 服務化使詐騙門檻與成本大幅降低。第二,詐欺行為跨境化與遠端化,已經突破地理限制、走向全球攻擊。第三,社交工程從大量投放釣魚信件,轉為高度個人化、難以辨識的精準攻擊。

面對詐欺手法持續演進,聯合信用卡處理中心風險管理部資深協理李錦堯表示,聯卡中心正透過區塊鏈與FIDO生物識別技術,打造無密碼的數位身分認證系統,並結合AI數據模型提升TRACE風險預警系統的效能。未來,聯卡中心將持續優化模型,並建立跨機構資料共享的聯防機制,整合發卡機構與國際組織資源,以提升整體防詐能力,對抗日益複雜的詐欺攻擊。

代理式商務將為消費者帶來更好的消費與支付體驗,但同時也對安全、治理與信任造成更大的影響,促使產業必須從單點防護走向跨機構、跨生態系的整體治理思維。在此趨勢下,萬事達卡將持續扮演關鍵推動者角色,攜手監理機關與產業夥伴,強化支付安全標準,推動台灣支付產業的監管框架與創新發展,打造兼顧效率與信任的數位商務環境。

Mastercard-05.jpg
回應AI 代理經濟下的詐欺防制與個資挑戰,本論壇特別邀請台灣大哥大資訊長 蔡祈岩、聯合信用卡處理中心風險管理部資深協理 李錦堯、萬事達卡Franchise Innovation副總裁 Dennis Koh交流趨勢觀點。
圖/ 數位時代

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
AI全球100+台灣20
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓