當AI防禦遇上AI攻擊,「以子之矛,攻子之盾」正在資安界上演
當AI防禦遇上AI攻擊,「以子之矛,攻子之盾」正在資安界上演
2018.10.31 | IBM

科技可以為善可以作惡,人工智慧(AI)也是,端看人類如何使用它,而在資安世界裡,這場防禦端和攻擊端的AI攻防前哨戰已經開打。

最新AI攻擊手法,插入噪音就能破壞語音辨識系統

IBM Security CTO兼VP Koos Lodewijkx分享,目前至少有三種與AI相關的資安攻擊手段。

第一種是利用AI提高攻擊效率。例如,現在駭客可以透過機器學習,分析社群媒體上的訊息、朋友圈等等,依照這些個人化資訊發起針對性攻擊,提高釣魚攻擊成功率。此外,現在網路上也出現透過機器學習、可以自動辨識圖像的免費軟體XEvil,讓駭客可破解用來防堵自動化攻擊的驗證碼CAPTCHA機制。

第二種則是駭客攻擊AI系統,例如以一種改變系統的方法進行攻擊,簡單來說就是污染AI系統,或是找到AI系統弱點、繞過防禦以進行攻擊。

Lodewijkx舉例,微軟在2016年推出聊天機器人Tay,透過機器學習技術讓他它可在每次的對話中改善回話,但上線24小時後就被「玩壞」,說出種族歧視的言論。不只是聊天機器人,Lodewijkx表示,現在的技術也能做到入侵語音辨識系統,只要在聲音中插入噪音,就能徹底改變翻譯結果,讓機器說出特定語句。

雖然這些看似無傷大雅,但Lodewijkx提醒,AI已經被企業大量用於商業營運中,一旦被駭客知道模型如何訓練和運作,就能藉由破壞訓練模型的數據來操控模型。例如,銀行把AI導入借貸決策系統,藉由分析申請人的收入、年齡、居住地、信用分數等,決定是否該批准借貸,一旦找到方法繞過偵測,就算有很差的信用分數仍可成功貸款。

「我們在產業所使用的機器學習,其中很多的模型仍非常脆弱,」Lodewijkx說,「如果你可以操控訓練模型的數據、輸入值,你就可玩弄這個模型。」

最後一種攻擊手段,駭客著點的不是模型本身,而是用來訓練AI模型背後的數據。Lodewijkx表示,駭客已經可以竊取訓練AI模型背後的數據,以圖像辨識系統為例,正常情況是,給出圖片後,系統可以辨識出人名,而在破解系統後,駭客只要擁有姓名,就能逆向重建出圖片。

AI從三層面防禦駭客攻擊

不只是攻擊端,AI之於資安防禦,也是不可獲缺的角色,像是IBM旗下資安產品幾乎已全面導入AI。

為什麼要用AI防禦?Lodewijkx指出,現在的資料量龐大,來自網路、電腦系統、資料庫等等,隨之而來的是資料、威脅、環境都變得更複雜;在此情況下,卻面臨資安技術人力短缺,IBM調查指出,到2022年,資安領域會有180萬份的資安人力短缺。這也是為什麼需要在資安工具中導入AI,而AI也能提高偵測和反應的速度,降低損失。

Lodewijkx指出,目前最常見的AI資安應用是「預測分析」(predictive analytics),也就是藉由機器學習分析大量數據,從中找出異常。「市場上幾乎每個人都說有將AI導入資安中,就是這個分類。」他說。

Koos Lodewijkx_IBM Security CTO &VP_2018_10_09_蔡仁譯
儘管AI已經被大量用在資安防禦,但IBM Security CTO 兼VP Koos Lodewijkx認為,現階段AI仍須和人類合作,因為AI可以做很多例行工作,但仍無法做到需要創造、調查類的工作。
圖/ 蔡仁譯攝

例如,監控網路流量或使用者行為,找出不尋常的地方,或是觀察人類如何和電腦或手機互動,進而分辨出是真正的人類、還是假裝成人類的惡意軟體。此外,也能找出「假陽性」的威脅警報,降低誤報率。

第二類則是智能強化(Intelligence consolidations),也就是把資安研究工作交給AI。Lodewijkx解釋,IBM教旗下人工智慧Wastson讀懂資安相關的新聞、研究報告、Twitter訊息等等,進而建立知識圖譜(knowledge graph),並找出每個知識間的關聯性。訓練完成後,當他們告訴Watson一個IP位址、網址或檔案,Watson就可以回報該檔案的相關訊息,如和哪種病毒有關、常被哪些駭客組織使用、鎖定哪些產業等等,讓分析師不用再自己去讀大量資料。

第三種則是智能回應(intelligence response),目標在於提高一定時間內的分析效率。Lodewijkx指出,以資安營運中心為例,分析師有58%的時間都是花在重複性工作上。舉例來說,當資安監測系統發出警示,分析師必須比對不同的應用程式、資料庫和系統,確認該警示是否為真,而正因為這些步驟是固定的,很適合自動化。

AI不是資安防禦的完美解方

儘管現在AI已經被大量用於資安產品,但Lodewijkx認為AI並不能解決所有資安問題,「我們距離那時還很遠。 」

Lodewijkx解釋,現階段AI只能針對特定任務,使用場景仍非常狹隘,雖然可以強化防禦,但仍需要和其他防禦方式相輔相成,如更新補丁、保護憑證、防火牆等等。

更重要的是,AI仍需要和人類合作。「我們還沒有進入AI比人類聰明的時代,」Lodewijkx解釋,機器學習模型最擅長的地方是,做人類訓練他們做的事情,這也是為什麼AI可以做很多例行工作,但仍無法做到需要創造、調查類的工作。反過來講,這也意味著AI攻擊也只能做好一件事,當被訓練的攻擊手段不行,AI也無法像人類一樣自己想出別種攻擊方法。

「這其實有點像軍備競賽(arm race),」Lodewijkx說,現在駭客學習AI、取得演算法、雲端計算能力等成本都越來越低,這也讓防禦端的偵測和回應速度必須更快及精準。而這場AI資安攻防的前哨戰,才剛開打。

往下滑看下一篇文章
思科:打造智慧轉型韌性基礎的關鍵 人才培育與科技
思科:打造智慧轉型韌性基礎的關鍵 人才培育與科技

人工智慧(AI)正以前所未有的姿態重塑全球政府與企業的數位轉型藍圖,帶來一場深刻的變革。這股浪潮不僅預示著效率與生產力的巨大躍升,同時也為組織帶來嚴峻挑戰。如何駕馭 AI、確保資訊安全、並同時兼顧永續發展,成為當今各國政府與企業亟需面對的核心課題。在這樣一個充滿挑戰與無限機會的時代,全球網路與資安科技大廠思科(Cisco),憑藉其完整的產業生態系和豐富的跨國合作經驗,正積極扮演關鍵的賦能者角色,所推動的台灣數位加速計畫(Taiwan Digital Acceleration, TDA)也已邁入3.0階段。思科認為,值此時刻組織需要為數位轉型建立具韌性的基礎,而關鍵不只是科技,更重要的是人才培育。

AI雖解決人力短缺問題 但人員更需學習駕馭AI

負責思科國家數位加速計畫(CDA),與多國政府密切合作的思科全球資深副總裁暨全球創新長Guy Diedrich,談到當今各國政府與企業正在面臨融合著AI、資安與永續發展的數位轉型趨勢,而在此過程中關鍵的是,組織必須透過科技與培育人才來為此波轉型打造具韌性的基礎。

思科
思科全球資深副總裁暨全球創新長Guy Diedrich
圖/ 思科

Diedrich進一步表示,未來的職位已不再是用職務說明書來衡量,而是以工作流程為核心,人力會在不同階段介接不同科技,可能是AI、機器人、人形機器人甚至量子電腦,因此人力與科技的整合也特別重要。思科台灣總經理林岳田也舉例,過去在地端、雲端網路設備有各自的管理平台,未來除了將化繁為簡整合為單一平台外,許多資料搜集比對的例行工作由AI取代,但關鍵的決策判斷仍會交由人力負責,因此培育員工學習AI也更加不可或缺。

過去從TDA 1.0計畫推動至今,透過思科網路學院(Cisco Networking Academy),思科與合作夥伴已經在台灣培育超過17萬名技術人才。提供從網路工程師認證(CCNA)、網路高級工程師(CCNP)到網路專家(CCIE)等,針對不同職務與層級完整的專業培訓,而去年剛推出針對AI架構的網路設計專家(CCDE-AI Infrastructure)認證,在市場上更是炙手可熱。Diedrich強調,未來學習將成為工作中的一部份,持續在職訓練才能確保人員跟上技術的快速發展。

林岳田也指出,思科致力於人才培育不遺餘力,並從多方面投注資源。包括目前已在台灣的北、南、東部區域成立思科網路學院教師培訓中心,作為推動各區域人才培訓的種子基地。同時,思科與合作夥伴晉泰科技在2025年於高雄成立「亞灣AIOT生態系發展基地暨研發中心」,目標是培育5,000名AIOT人才並協助 1,500 人取得國際認證,以解決目前產業智慧轉型卻求才若渴的窘境。而在政府公部門方面,思科近期與國家資通安全研究院 (簡稱「資安院」) 合作「NPO資安共學計畫」,由思科網路學院 (Cisco Networking Academy) 提供課程與平台資源,資安院負責在地招募與社群經營,共同構築永續的公益資安生態系。

思科
思科台灣總經理林岳田
圖/ 思科

完整生態系整合多元科技 一同推動AI創新

數位轉型另一項重要關鍵就是科技,尤其當今企業都在思考如何利用AI推動創新。思科與18家合作夥伴,從TDA 1.0到3.0計畫,共同實踐30個創新專案。其中TDA 1.0著重智慧城市、企業 5G專網、資訊安全和數位醫療照護等核心領域,奠定數位轉型基礎;TDA 2.0計畫除了延續並深化前述智慧城市與智慧交通,也因應新冠疫情下的醫療照護需求,為長者提供遠距學習、遠距醫療等樂齡生活應用,同時拓展金融韌性等創新場景。而在離岸風電計畫中,更利用5G結合VR眼鏡解決方案,協助當時因為疫情封控而無法來台支援的國外風機維護工程師,進行遠距教育訓練。

而TDA 3.0計畫中聚焦永續發展、資安韌性和AI驅動的智慧轉型,其中指標性專案之一,便是以高雄港為場域的智慧港口解決方案。提供從貨輪進港到貨櫃卸貨、起重機遠端操作監控等全自動化營運,可提升人員工作效率並確保安全。同時此方案中也兼顧永續發展需求,透過感測器可將各種機具設備的碳排資料回傳,完整監控能源使用情形。

人員短缺不只是運輸業也是許多產業共同面臨的難題,思科與合作夥伴針對醫院推出行動醫療推車,就是利用AIOT、無線/有線網路整合結合Webex視訊系統等,能協助遠端醫師迅速掌握病情,在第一時間提供專業判斷,或協助護理師迅速正確完成數據輸入工作。思科全球副總裁黃志明也強調,科技的運用更重要的是化繁為簡,透過整合算力、網路、資安與儲存功能的AI PODs一體機伺服器,讓許多TDA 3.0專案能專注於應用開發,加速落地部署。

黃志明進一步表示,思科能協助企業導入部署各項AI創新方案,得力於生態系中有擅長應用開發、技術架構、顧問諮詢等不同領域的合作夥伴,彼此在開放、包容的平台上運作,因此能協助企業加速智慧轉型並提升企業價值。

思科
思科全球副總裁黃志明
圖/ 思科

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
蘋果能再次偉大?
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓