當AI防禦遇上AI攻擊,「以子之矛,攻子之盾」正在資安界上演
當AI防禦遇上AI攻擊,「以子之矛,攻子之盾」正在資安界上演
2018.10.31 | IBM

科技可以為善可以作惡,人工智慧(AI)也是,端看人類如何使用它,而在資安世界裡,這場防禦端和攻擊端的AI攻防前哨戰已經開打。

最新AI攻擊手法,插入噪音就能破壞語音辨識系統

IBM Security CTO兼VP Koos Lodewijkx分享,目前至少有三種與AI相關的資安攻擊手段。

第一種是利用AI提高攻擊效率。例如,現在駭客可以透過機器學習,分析社群媒體上的訊息、朋友圈等等,依照這些個人化資訊發起針對性攻擊,提高釣魚攻擊成功率。此外,現在網路上也出現透過機器學習、可以自動辨識圖像的免費軟體XEvil,讓駭客可破解用來防堵自動化攻擊的驗證碼CAPTCHA機制。

第二種則是駭客攻擊AI系統,例如以一種改變系統的方法進行攻擊,簡單來說就是污染AI系統,或是找到AI系統弱點、繞過防禦以進行攻擊。

Lodewijkx舉例,微軟在2016年推出聊天機器人Tay,透過機器學習技術讓他它可在每次的對話中改善回話,但上線24小時後就被「玩壞」,說出種族歧視的言論。不只是聊天機器人,Lodewijkx表示,現在的技術也能做到入侵語音辨識系統,只要在聲音中插入噪音,就能徹底改變翻譯結果,讓機器說出特定語句。

雖然這些看似無傷大雅,但Lodewijkx提醒,AI已經被企業大量用於商業營運中,一旦被駭客知道模型如何訓練和運作,就能藉由破壞訓練模型的數據來操控模型。例如,銀行把AI導入借貸決策系統,藉由分析申請人的收入、年齡、居住地、信用分數等,決定是否該批准借貸,一旦找到方法繞過偵測,就算有很差的信用分數仍可成功貸款。

「我們在產業所使用的機器學習,其中很多的模型仍非常脆弱,」Lodewijkx說,「如果你可以操控訓練模型的數據、輸入值,你就可玩弄這個模型。」

最後一種攻擊手段,駭客著點的不是模型本身,而是用來訓練AI模型背後的數據。Lodewijkx表示,駭客已經可以竊取訓練AI模型背後的數據,以圖像辨識系統為例,正常情況是,給出圖片後,系統可以辨識出人名,而在破解系統後,駭客只要擁有姓名,就能逆向重建出圖片。

AI從三層面防禦駭客攻擊

不只是攻擊端,AI之於資安防禦,也是不可獲缺的角色,像是IBM旗下資安產品幾乎已全面導入AI。

為什麼要用AI防禦?Lodewijkx指出,現在的資料量龐大,來自網路、電腦系統、資料庫等等,隨之而來的是資料、威脅、環境都變得更複雜;在此情況下,卻面臨資安技術人力短缺,IBM調查指出,到2022年,資安領域會有180萬份的資安人力短缺。這也是為什麼需要在資安工具中導入AI,而AI也能提高偵測和反應的速度,降低損失。

Lodewijkx指出,目前最常見的AI資安應用是「預測分析」(predictive analytics),也就是藉由機器學習分析大量數據,從中找出異常。「市場上幾乎每個人都說有將AI導入資安中,就是這個分類。」他說。

Koos Lodewijkx_IBM Security CTO &VP_2018_10_09_蔡仁譯
儘管AI已經被大量用在資安防禦,但IBM Security CTO 兼VP Koos Lodewijkx認為,現階段AI仍須和人類合作,因為AI可以做很多例行工作,但仍無法做到需要創造、調查類的工作。
圖/ 蔡仁譯攝

例如,監控網路流量或使用者行為,找出不尋常的地方,或是觀察人類如何和電腦或手機互動,進而分辨出是真正的人類、還是假裝成人類的惡意軟體。此外,也能找出「假陽性」的威脅警報,降低誤報率。

第二類則是智能強化(Intelligence consolidations),也就是把資安研究工作交給AI。Lodewijkx解釋,IBM教旗下人工智慧Wastson讀懂資安相關的新聞、研究報告、Twitter訊息等等,進而建立知識圖譜(knowledge graph),並找出每個知識間的關聯性。訓練完成後,當他們告訴Watson一個IP位址、網址或檔案,Watson就可以回報該檔案的相關訊息,如和哪種病毒有關、常被哪些駭客組織使用、鎖定哪些產業等等,讓分析師不用再自己去讀大量資料。

第三種則是智能回應(intelligence response),目標在於提高一定時間內的分析效率。Lodewijkx指出,以資安營運中心為例,分析師有58%的時間都是花在重複性工作上。舉例來說,當資安監測系統發出警示,分析師必須比對不同的應用程式、資料庫和系統,確認該警示是否為真,而正因為這些步驟是固定的,很適合自動化。

AI不是資安防禦的完美解方

儘管現在AI已經被大量用於資安產品,但Lodewijkx認為AI並不能解決所有資安問題,「我們距離那時還很遠。 」

Lodewijkx解釋,現階段AI只能針對特定任務,使用場景仍非常狹隘,雖然可以強化防禦,但仍需要和其他防禦方式相輔相成,如更新補丁、保護憑證、防火牆等等。

更重要的是,AI仍需要和人類合作。「我們還沒有進入AI比人類聰明的時代,」Lodewijkx解釋,機器學習模型最擅長的地方是,做人類訓練他們做的事情,這也是為什麼AI可以做很多例行工作,但仍無法做到需要創造、調查類的工作。反過來講,這也意味著AI攻擊也只能做好一件事,當被訓練的攻擊手段不行,AI也無法像人類一樣自己想出別種攻擊方法。

「這其實有點像軍備競賽(arm race),」Lodewijkx說,現在駭客學習AI、取得演算法、雲端計算能力等成本都越來越低,這也讓防禦端的偵測和回應速度必須更快及精準。而這場AI資安攻防的前哨戰,才剛開打。

往下滑看下一篇文章
鉅亨買基金App開箱:一站快搜強基金、「大師榜」讓新手跟著投資練功
鉅亨買基金App開箱:一站快搜強基金、「大師榜」讓新手跟著投資練功

在資訊爆炸的投資時代,面對琳瑯滿目的投資選項,你是不是也不知道該如何做選擇?其實「選對工具」比「努力研究」更有效率。長期深耕金融科技的鉅亨買基金,早已洞察基金投資領域中資訊分散、選擇障礙、操作繁瑣的痛點,透過科技與使用者中心的系統設計,致力打造更方便、效率的智能投資體驗。

除了有全站基金終身 0 手續費的吸睛誘因,更重要的是鉅亨買基金解決了投資人的實際困擾;透過動態篩選熱門基金、自動化投資工具等創新功能,將過去需要專業知識和複雜操作的投資流程,簡化為直覺易懂的數位體驗,逐步改變了傳統的基金交易模式,讓理財不再是少數人的專利,而是人人可及的日常選擇。

這次鉅亨買基金全新改版 App 正式上線,更進一步強化平台體驗。以看得懂、找得到、學得快的設計精神,整合多項創新功能,讓基金投資輕鬆上手、事半功倍。無論是理財新手、基金老手,或有多個家庭帳戶需要管理的財務大臣,透過鉅亨買基金全新 App,即可一站掌握市場情報、熱門標的、專業策略與帳戶總覽。

其中,全新推出的「大師榜」功能,更力助投資人掌握高手秘笈,有機會跟著前輩練功,一步步練出屬於自己的投資眼光。

功能全開箱!一站搞定找基金、看標的、管帳戶

打開鉅亨買基金 App,最直覺的感受就是:乾淨、精準、快速。設計邏輯不複雜,透過快搜、熱門標的、帳戶整合與自選捷徑設計,將過去繁瑣的基金投資流程化繁為簡,打造一個隨時可啟動、易於操作的投資入口,讓資訊不再分散,動作更精準。為降低基金學習與決策門檻,即使尚未開戶,仍可下載App使用以下亮點功能:

一、基金搜尋:輸入關鍵字如「高股息」、「ESG」、「科技」等,即可快速列出相關標的。配合風險等級、配息頻率、基金品牌、幣別、投資區域等條件篩選,搭配報酬率或績效排序,為投資人有效縮短挑選時間。

鉅亨買基金
在鉅亨買基金快速輸入關鍵字,一鍵篩選條件,精準找到符合需求的基金。
圖/ 鉅亨買基金

二、夯股基金:針對市場熱門題材,使用者可點選最多五檔熱門持股,如輝達、蘋果等,快速查詢各基金的持股比例,並依喜好排序篩選。對於想掌握趨勢卻擔心判斷失誤的投資人而言,「夯股基金」提供了更安全、有效的參與方式,透過專業基金經理人篩選與靈活操作,幫助新手建立題材導向的選基邏輯,同時分散個股波動風險,不漏接每一波趨勢財。

鉅亨買基金
在鉅亨買基金APP下方「找基金」中選擇「夯股基金」,再進行持股篩選,即可點選熱門持股,掌握基金布局,輕鬆跟上市場趨勢不怕踩雷。
圖/ 鉅亨買基金

三、首頁自訂:App 首頁支援「快捷功能」自訂,用戶可釘選「投資儀表板」、「定期定額查詢」、「追蹤清單」、「歷史交易」等常用模組,打造專屬操作首頁,一目了然。

獨家「大師榜」看懂行家怎麼買,用策略練投資

想知道高手怎麼配置資產、為何績效穩定領先?鉅亨買基金全新推出的「大師榜」功能為市場上少見的「社群式基金學習機制」,主打以「透明數據」與「解鎖追蹤」的方式,讓用戶可以實際參考高手的操作邏輯。

只要是已開戶會員,就能在首頁下方開啟「大師榜」功能,從每日更新的績效中,篩選出表現突出的高手帳戶,並依報酬率、AUM規模、投資方式(單筆投資或定期定額)與年齡層等條件進行排序比較。

鉅亨買基金
大師榜揭露高手投資組合,可依績效、規模等多條件篩選,輕鬆找出適合參考的對象。
圖/ 鉅亨買基金

看見感興趣的大師後,即可選擇追蹤,最多可追蹤 50 位;若想查看其前五大持有標的與近期申購紀錄,則可使用即享券解鎖。而即享券則可透過任務或活動獲得。

除了即時榜單,App 另設有「名人堂」,聚焦季度與年度績效穩定的代表性帳戶,適合進行中長期追蹤。所有已追蹤與解鎖紀錄,也整合在「我的專頁」中,便於隨時復盤與管理。此外,平台還支援多帳戶綁定與一鍵切換,讓家庭理財配置更直覺、清楚,亦能搭配大師榜策略靈活操作。

對投資新手而言,這項功能不只讓投資更有依據,也是一套練習市場判斷、進階布局的工具。善用大師榜,從觀察、到解鎖、再到內化策略,循序建立自己的判斷力與投資思維。

鉅亨買基金
點擊會員專區,在「會員權益/獎勵領取」中每週即可領取即享券,解鎖大師榜投資組合。
圖/ 鉅亨買基金

三分鐘開戶,鉅亨買基金終身0元手續費

鉅亨買基金全新 App,不只是投資資訊平台,更整合了策略學習、操作效率與資產管理功能,從搜尋、觀摩到實際執行,每一步都為投資人設計。

想掌握市場、練出判斷、做對決策,就從下載App開始,為自己打開一個更有效率的投資未來。目前 App 用戶只要完成開戶,即可享「全站基金終身0手續費」,從此投資每一步都更划算。

App 下載:https://anuefund.tw/bk7Yi
立即開戶,搶先加入行家行列:https://anuefund.tw/jbp5b

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
電商終局戰
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓