當AI防禦遇上AI攻擊,「以子之矛,攻子之盾」正在資安界上演
當AI防禦遇上AI攻擊,「以子之矛,攻子之盾」正在資安界上演
2018.10.31 | IBM

科技可以為善可以作惡,人工智慧(AI)也是,端看人類如何使用它,而在資安世界裡,這場防禦端和攻擊端的AI攻防前哨戰已經開打。

最新AI攻擊手法,插入噪音就能破壞語音辨識系統

IBM Security CTO兼VP Koos Lodewijkx分享,目前至少有三種與AI相關的資安攻擊手段。

第一種是利用AI提高攻擊效率。例如,現在駭客可以透過機器學習,分析社群媒體上的訊息、朋友圈等等,依照這些個人化資訊發起針對性攻擊,提高釣魚攻擊成功率。此外,現在網路上也出現透過機器學習、可以自動辨識圖像的免費軟體XEvil,讓駭客可破解用來防堵自動化攻擊的驗證碼CAPTCHA機制。

第二種則是駭客攻擊AI系統,例如以一種改變系統的方法進行攻擊,簡單來說就是污染AI系統,或是找到AI系統弱點、繞過防禦以進行攻擊。

Lodewijkx舉例,微軟在2016年推出聊天機器人Tay,透過機器學習技術讓他它可在每次的對話中改善回話,但上線24小時後就被「玩壞」,說出種族歧視的言論。不只是聊天機器人,Lodewijkx表示,現在的技術也能做到入侵語音辨識系統,只要在聲音中插入噪音,就能徹底改變翻譯結果,讓機器說出特定語句。

雖然這些看似無傷大雅,但Lodewijkx提醒,AI已經被企業大量用於商業營運中,一旦被駭客知道模型如何訓練和運作,就能藉由破壞訓練模型的數據來操控模型。例如,銀行把AI導入借貸決策系統,藉由分析申請人的收入、年齡、居住地、信用分數等,決定是否該批准借貸,一旦找到方法繞過偵測,就算有很差的信用分數仍可成功貸款。

「我們在產業所使用的機器學習,其中很多的模型仍非常脆弱,」Lodewijkx說,「如果你可以操控訓練模型的數據、輸入值,你就可玩弄這個模型。」

最後一種攻擊手段,駭客著點的不是模型本身,而是用來訓練AI模型背後的數據。Lodewijkx表示,駭客已經可以竊取訓練AI模型背後的數據,以圖像辨識系統為例,正常情況是,給出圖片後,系統可以辨識出人名,而在破解系統後,駭客只要擁有姓名,就能逆向重建出圖片。

AI從三層面防禦駭客攻擊

不只是攻擊端,AI之於資安防禦,也是不可獲缺的角色,像是IBM旗下資安產品幾乎已全面導入AI。

為什麼要用AI防禦?Lodewijkx指出,現在的資料量龐大,來自網路、電腦系統、資料庫等等,隨之而來的是資料、威脅、環境都變得更複雜;在此情況下,卻面臨資安技術人力短缺,IBM調查指出,到2022年,資安領域會有180萬份的資安人力短缺。這也是為什麼需要在資安工具中導入AI,而AI也能提高偵測和反應的速度,降低損失。

Lodewijkx指出,目前最常見的AI資安應用是「預測分析」(predictive analytics),也就是藉由機器學習分析大量數據,從中找出異常。「市場上幾乎每個人都說有將AI導入資安中,就是這個分類。」他說。

Koos Lodewijkx_IBM Security CTO &VP_2018_10_09_蔡仁譯
儘管AI已經被大量用在資安防禦,但IBM Security CTO 兼VP Koos Lodewijkx認為,現階段AI仍須和人類合作,因為AI可以做很多例行工作,但仍無法做到需要創造、調查類的工作。
圖/ 蔡仁譯攝

例如,監控網路流量或使用者行為,找出不尋常的地方,或是觀察人類如何和電腦或手機互動,進而分辨出是真正的人類、還是假裝成人類的惡意軟體。此外,也能找出「假陽性」的威脅警報,降低誤報率。

第二類則是智能強化(Intelligence consolidations),也就是把資安研究工作交給AI。Lodewijkx解釋,IBM教旗下人工智慧Wastson讀懂資安相關的新聞、研究報告、Twitter訊息等等,進而建立知識圖譜(knowledge graph),並找出每個知識間的關聯性。訓練完成後,當他們告訴Watson一個IP位址、網址或檔案,Watson就可以回報該檔案的相關訊息,如和哪種病毒有關、常被哪些駭客組織使用、鎖定哪些產業等等,讓分析師不用再自己去讀大量資料。

第三種則是智能回應(intelligence response),目標在於提高一定時間內的分析效率。Lodewijkx指出,以資安營運中心為例,分析師有58%的時間都是花在重複性工作上。舉例來說,當資安監測系統發出警示,分析師必須比對不同的應用程式、資料庫和系統,確認該警示是否為真,而正因為這些步驟是固定的,很適合自動化。

AI不是資安防禦的完美解方

儘管現在AI已經被大量用於資安產品,但Lodewijkx認為AI並不能解決所有資安問題,「我們距離那時還很遠。 」

Lodewijkx解釋,現階段AI只能針對特定任務,使用場景仍非常狹隘,雖然可以強化防禦,但仍需要和其他防禦方式相輔相成,如更新補丁、保護憑證、防火牆等等。

更重要的是,AI仍需要和人類合作。「我們還沒有進入AI比人類聰明的時代,」Lodewijkx解釋,機器學習模型最擅長的地方是,做人類訓練他們做的事情,這也是為什麼AI可以做很多例行工作,但仍無法做到需要創造、調查類的工作。反過來講,這也意味著AI攻擊也只能做好一件事,當被訓練的攻擊手段不行,AI也無法像人類一樣自己想出別種攻擊方法。

「這其實有點像軍備競賽(arm race),」Lodewijkx說,現在駭客學習AI、取得演算法、雲端計算能力等成本都越來越低,這也讓防禦端的偵測和回應速度必須更快及精準。而這場AI資安攻防的前哨戰,才剛開打。

往下滑看下一篇文章
門市越展越多,如何降低管理與維運負擔?不用全面汰換設備,也能逐步升級智慧化多據點管理
門市越展越多,如何降低管理與維運負擔?不用全面汰換設備,也能逐步升級智慧化多據點管理

快速展店背後的挑戰 如何降低跨據點管理與維運負擔

對連鎖零售企業而言,展店代表商機與成長,但當門市數量快速增加,營運與管理的複雜度也隨之提升。尤其對便利商店(C-store)、餐飲連鎖與其他高密度展店型態的企業而言,總部需要面對的不只是據點數量增加,更包括不同門市的設備管理、系統維護、日常維運與人力配置等多方面挑戰。

過去多據點門市的設備與資訊管理,往往以單一門市為單位,各據點可能擁有不同的攝影機、錄影設備配置與管理模式。當總部需要掌握事件狀況、確認門市營運情形,或進行跨區域管理時,往往需要投入大量人力逐一確認資訊,不僅增加管理負擔,也提高維運成本。

此外,零售產業本身具有高度變動性。門市可能因應市場策略進行展店、搬遷、改裝,甚至調整營運規模。傳統一次性設備投資模式,容易讓企業在面對據點變化時缺乏彈性,也增加設備重新配置與後續維護的負擔。

因此,現代零售企業所需要的不只是單純記錄事件的設備,而是一套能隨企業成長彈性調整、協助總部有效掌握多據點安全資訊,並支援未來智慧應用發展的智慧化管理架構。

晶睿通訊-2.png
圖/ 晶睿通訊

從既有設備開始升級 降低全面汰換設備的轉型負擔

面對智慧化轉型需求,許多企業最大的挑戰並非是否需要升級,而是如何在不中斷現有營運的情況下完成轉型。

對已經投入大量資源建置安全系統的零售企業而言,全面汰換既有架構不僅成本高,也可能影響門市日常運作。因此,能夠兼容既有設備並逐步升級的彈性架構,成為企業導入智慧安全管理的重要關鍵。

透過混合雲架構,企業可以從既有設備開始,逐步整合不同據點的安全資訊與管理需求,同時導入雲端管理能力。相較於一次性重新建置,新一代平台架構能協助企業延續既有投資價值,並依照實際需求逐步導入更集中化、智慧化的管理能力。

此外,訂閱式雲端服務模式和混合雲安防架構,也為零售企業帶來更靈活的資產管理方式。相較於頻繁的硬體汰換、傳統一次性採購或繁瑣的跨品牌安防系統的管理,企業更有彈性的因應門市拓展、搬遷、調整或營運規模調整,精準配置資源,降低一次性投入壓力,也減少因據點變動造成設備閒置的情況。

對快速成長的連鎖零售企業而言,安全管理不再是一套固定且難以調整的架構,而是一個能隨企業規模與需求持續演進的平台。無論是新增門市、跨區域管理,或因應營運策略調整,都能以更彈性的方式完成管理升級。

晶睿通訊-3.png
圖/ 晶睿通訊

AI 不只是安防工具 更開始協助零售提升營運效率

隨著 AI 技術快速發展,安全管理的角色也正在改變。過去企業導入影像系統主要用於事件記錄、事後查看與追蹤;如今,智慧雲端安防平台則能進一步從大量影像資訊中辨識人、車與行為,協助企業從「看見發生什麼」進一步「理解正在發生什麼」,甚至主動協助管理者發現與處理事件。對門市數量眾多、人力有限的連鎖零售業者而言,AI 正逐步成為降低管理負擔、提升營運效率的重要工具。

從基本事件偵測到自然語言規則 讓 AI 主動理解更多異常情境。 AI 智慧辨識已能針對跌倒、奔跑、徘徊、跨線等常見事件進行自動偵測,協助門市減少人工查看影像的需求。而進一步透過 Think Alert,管理者更可以直接以自然語言設定客製化的偵測條件,將 AI 應用延伸至傳統事件規則以外。以門市尖峰時段為例,店員往往需要同時處理結帳、補貨與顧客服務,總部也難以持續掌握每個據點的即時狀況。透過 Think Alert,管理者可以直接以自然語言設定「在門店入口抽菸的人」等情境;當符合設定條件的畫面出現時,系統即可主動發出警報,協助管理者即時掌握異常狀況。對於門市數量龐大的企業而言,這代表 AI 不只是協助辨識既定事件,更能依據不同營運需求,讓管理者以更直覺的方式設定希望 AI 主動關注的情境。

從大海撈針到快速完成調查 Think Search 搭配 Case Vault(案例庫) 掌握完整事件脈絡。 當事件發生後,如何從大量、多據點的影像中找到關鍵人物與事件脈絡,往往是最耗費人力的環節。透過 Think Search,管理者可以直接用自然語言描述想尋找的對象與情境,例如,當家長反映孩童可能在門市附近走失時,店員或總部人員不需要逐一查看不同攝影機的錄影畫面,只要在 Think Search 輸入「昨日上午,牽著小女孩的男性」等自然語言描述,系統即可協助從大量影像中篩選相關畫面,快速找到相關人物可能出現的時間與位置。若需要進一步追蹤,還能將不同搜尋階段找到的重要畫面與資訊整理至 Case Vault,建立事件時間線與人物移動路徑,協助管理者更完整掌握事件脈絡。

從安全管理延伸至顧客服務與門市營運 讓既有影像創造更多價值。 AI 的應用也不只限於安全事件。例如在咖啡店、餐飲等場景,若顧客將手機、包包等物品遺留在座位或櫃台附近,遺留物與遺失物偵測可以協助門市人員更快發現異常,主動確認並協助顧客處理失物問題;人流分析則能協助企業掌握不同時段的門市活動趨勢,作為空間配置與人力安排的參考;車牌辨識可應用於停車區域或門市周邊管理,而工安防護裝備辨識則能協助後場、倉儲等區域進行安全規範管理。透過這些應用,企業能在既有設備基礎上,進一步將影像資料延伸至安全、服務與營運等不同場景。

對連鎖零售業而言,AI 的價值已不只是「看得更清楚」,而是讓企業更快發現問題、更快找到資訊,並進一步理解事件脈絡與營運狀況。從基本事件偵測、自然語言設定規則,到 AI 搜尋與事件調查,再延伸至顧客服務與營運分析,雲端安防平台正讓影像從被動的紀錄工具,逐步成為支援多據點安全管理與營運決策的重要資訊來源。

晶睿通訊-4
圖/ 晶睿通訊

85°C 北美導入 VIVOTEK AI 雲端安防平台 加速 80+ 門市智慧營運升級

隨著零售產業持續朝向多據點與數位化營運發展,如何在快速展店的同時兼顧營運效率、安全管理與服務品質,已成為企業的重要課題。

為支援持續拓展的營運需求,85°C Bakery Cafe 北美導入 VIVOTEK VORTEX AI 雲端安防平台,透過雲地整合架構與 AI 智慧應用,將原本分散的監控系統整合至單一平台,全面提升多據點管理效率、事件處理速度與日常營運效能。

此案例呈現零售企業如何從既有設備與架構出發,分階段導入雲端安防平台,並為未來智慧化管理與 AI 應用建立基礎。

閱讀完整案例

85°C Bakery Cafe North America 如何透過 VIVOTEK 雲端安防平台打造更智慧的門市管理模式

觀看案例影片

了解 85°C Bakery Cafe North America 如何應用 VIVOTEK VORTEX AI 雲端安防平台

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
台達電全解讀
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓