「AI是刀、SOP是鞘,我們要做一個會拔出刀,而且會用對刀的人,這樣才能夠做防詐。」
在6月10日舉行的「AI金融科技發展論壇」上,警政署科技犯罪防制中心主任林建隆表示AI是一把雙面刃,雖然能用來防詐,卻也加劇各式金融詐騙。他指出光是昨天一日之內,被害金額就達到4.9億元,其中大多數為假投資詐騙。
研勤科技董事長簡良益表示,深度偽造(Deepfake)可以低成本並快速模仿聲音、影像或者容貌。以銀行開戶為例,AI能夠輕易合成個人身份,破解開設銀行帳戶、申請融資和信用卡授權等的客戶驗證機制,「生成式AI愈來愈強大,要創造假的內容的成本就愈來愈低。」
簡良益強調,許多AI資源和技術都是開源的,整體操作門檻低,對於詐騙業者而言,只要經過簡單的工程訓練,就可以架設自動化的詐騙流程,像是語音複製只需要取得目標對象10秒鐘的說話音檔,就能利用線上工具在30秒內生成虛假的語音內容。
用AI攻克AI還不夠,異業聯防成詐騙金流防堵關鍵
要因應深偽,簡良益表示,銀行可以要求客戶執行一些閉單邊眼睛、眨眼或轉頭等細微動作,過濾機器生成的人像。此外,簡良益舉例,AI已經讓聲紋辨識變得非常準確,若是應用在銀行客戶服務電話,即時連結電腦系統,就可以判別真偽,也是用AI攻克AI的方法。
不過,簡良益坦言,一般大眾並沒有算力資源、不會自己訓練AI模型,「像我、我們的父母和長輩,手機的算力是不夠的,沒辦法用科技的方式及時知道聲音到底是真還是假的。」
2023年10月行政院打詐辦公室、數位發展部數位產業署、內政部警政署刑事警察局、金管會、台北市政府警察局與34家銀行聯手組建「鷹眼識詐聯盟」,建立金融業之間的防詐協作,希望從源頭為民眾把關詐騙風險。
然而,林建隆指出聯防機制應該擴展至金融業之外,「錢會遊走在金融機構、虛擬資產,甚至房地產各個面向,業者之間的聯防就很重要。」他舉例,電信業者也能夠過濾異常門號來減少詐騙發生件數,銀行則可以和虛擬資產業者串聯異常法幣、虛擬貨幣帳戶資料以合力防堵。
資安防禦力來自數據,未來應建金融資料交換機制
林建隆說警政署從經手案件發現,千萬元以上的詐騙財物損失,有41%最後流向虛擬貨幣,但是究其源頭,受害者錢財通常自銀行轉出,他認為警政署掌握的受害者資料,如果能反向回饋給金融機構,用以訓練防詐AI模型,將有助於掌握慣性行為模式,提前防堵可疑的金流。
林建隆表示即將與3家銀行討論合作,初步希望提供警政署的潛在被害人名單,讓銀行有機會進一步預作防範。
此外,萬國律師事務所合夥律師洪志勳表示,金融機構長期接受來自主管機關高壓的問責,事實上擁有嚴格的資安系統,他個人就曾經在假冒電信公司的頁面上換購禮品,被銀行發現為可疑的海外刷卡購物紀錄、即時阻斷交易。
不過,洪志勳也提醒,當銀行逐步導入AI系統,大家對於金融業AI系統的資安要求應該更高,他認為資安的防禦力又來自掌握多少數據,未來應該建立資料交換機制,「每一家金融業者都在搜集資料,主管機關要預想未來發展,跳出來協調交換的方法,讓資料取得和分享變得更便利。」
責任編輯:李先泰