當AI防禦遇上AI攻擊,「以子之矛,攻子之盾」正在資安界上演
當AI防禦遇上AI攻擊,「以子之矛,攻子之盾」正在資安界上演
2018.10.31 | IBM

科技可以為善可以作惡,人工智慧(AI)也是,端看人類如何使用它,而在資安世界裡,這場防禦端和攻擊端的AI攻防前哨戰已經開打。

最新AI攻擊手法,插入噪音就能破壞語音辨識系統

IBM Security CTO兼VP Koos Lodewijkx分享,目前至少有三種與AI相關的資安攻擊手段。

第一種是利用AI提高攻擊效率。例如,現在駭客可以透過機器學習,分析社群媒體上的訊息、朋友圈等等,依照這些個人化資訊發起針對性攻擊,提高釣魚攻擊成功率。此外,現在網路上也出現透過機器學習、可以自動辨識圖像的免費軟體XEvil,讓駭客可破解用來防堵自動化攻擊的驗證碼CAPTCHA機制。

第二種則是駭客攻擊AI系統,例如以一種改變系統的方法進行攻擊,簡單來說就是污染AI系統,或是找到AI系統弱點、繞過防禦以進行攻擊。

Lodewijkx舉例,微軟在2016年推出聊天機器人Tay,透過機器學習技術讓他它可在每次的對話中改善回話,但上線24小時後就被「玩壞」,說出種族歧視的言論。不只是聊天機器人,Lodewijkx表示,現在的技術也能做到入侵語音辨識系統,只要在聲音中插入噪音,就能徹底改變翻譯結果,讓機器說出特定語句。

雖然這些看似無傷大雅,但Lodewijkx提醒,AI已經被企業大量用於商業營運中,一旦被駭客知道模型如何訓練和運作,就能藉由破壞訓練模型的數據來操控模型。例如,銀行把AI導入借貸決策系統,藉由分析申請人的收入、年齡、居住地、信用分數等,決定是否該批准借貸,一旦找到方法繞過偵測,就算有很差的信用分數仍可成功貸款。

「我們在產業所使用的機器學習,其中很多的模型仍非常脆弱,」Lodewijkx說,「如果你可以操控訓練模型的數據、輸入值,你就可玩弄這個模型。」

最後一種攻擊手段,駭客著點的不是模型本身,而是用來訓練AI模型背後的數據。Lodewijkx表示,駭客已經可以竊取訓練AI模型背後的數據,以圖像辨識系統為例,正常情況是,給出圖片後,系統可以辨識出人名,而在破解系統後,駭客只要擁有姓名,就能逆向重建出圖片。

AI從三層面防禦駭客攻擊

不只是攻擊端,AI之於資安防禦,也是不可獲缺的角色,像是IBM旗下資安產品幾乎已全面導入AI。

為什麼要用AI防禦?Lodewijkx指出,現在的資料量龐大,來自網路、電腦系統、資料庫等等,隨之而來的是資料、威脅、環境都變得更複雜;在此情況下,卻面臨資安技術人力短缺,IBM調查指出,到2022年,資安領域會有180萬份的資安人力短缺。這也是為什麼需要在資安工具中導入AI,而AI也能提高偵測和反應的速度,降低損失。

Lodewijkx指出,目前最常見的AI資安應用是「預測分析」(predictive analytics),也就是藉由機器學習分析大量數據,從中找出異常。「市場上幾乎每個人都說有將AI導入資安中,就是這個分類。」他說。

Koos Lodewijkx_IBM Security CTO &VP_2018_10_09_蔡仁譯
儘管AI已經被大量用在資安防禦,但IBM Security CTO 兼VP Koos Lodewijkx認為,現階段AI仍須和人類合作,因為AI可以做很多例行工作,但仍無法做到需要創造、調查類的工作。
圖/ 蔡仁譯攝

例如,監控網路流量或使用者行為,找出不尋常的地方,或是觀察人類如何和電腦或手機互動,進而分辨出是真正的人類、還是假裝成人類的惡意軟體。此外,也能找出「假陽性」的威脅警報,降低誤報率。

第二類則是智能強化(Intelligence consolidations),也就是把資安研究工作交給AI。Lodewijkx解釋,IBM教旗下人工智慧Wastson讀懂資安相關的新聞、研究報告、Twitter訊息等等,進而建立知識圖譜(knowledge graph),並找出每個知識間的關聯性。訓練完成後,當他們告訴Watson一個IP位址、網址或檔案,Watson就可以回報該檔案的相關訊息,如和哪種病毒有關、常被哪些駭客組織使用、鎖定哪些產業等等,讓分析師不用再自己去讀大量資料。

第三種則是智能回應(intelligence response),目標在於提高一定時間內的分析效率。Lodewijkx指出,以資安營運中心為例,分析師有58%的時間都是花在重複性工作上。舉例來說,當資安監測系統發出警示,分析師必須比對不同的應用程式、資料庫和系統,確認該警示是否為真,而正因為這些步驟是固定的,很適合自動化。

AI不是資安防禦的完美解方

儘管現在AI已經被大量用於資安產品,但Lodewijkx認為AI並不能解決所有資安問題,「我們距離那時還很遠。 」

Lodewijkx解釋,現階段AI只能針對特定任務,使用場景仍非常狹隘,雖然可以強化防禦,但仍需要和其他防禦方式相輔相成,如更新補丁、保護憑證、防火牆等等。

更重要的是,AI仍需要和人類合作。「我們還沒有進入AI比人類聰明的時代,」Lodewijkx解釋,機器學習模型最擅長的地方是,做人類訓練他們做的事情,這也是為什麼AI可以做很多例行工作,但仍無法做到需要創造、調查類的工作。反過來講,這也意味著AI攻擊也只能做好一件事,當被訓練的攻擊手段不行,AI也無法像人類一樣自己想出別種攻擊方法。

「這其實有點像軍備競賽(arm race),」Lodewijkx說,現在駭客學習AI、取得演算法、雲端計算能力等成本都越來越低,這也讓防禦端的偵測和回應速度必須更快及精準。而這場AI資安攻防的前哨戰,才剛開打。

往下滑看下一篇文章
從人才培育到跨域創新!法國皇家推「AI for Pets 創新徵件計畫」,為寵物照護開創新可能
從人才培育到跨域創新!法國皇家推「AI for Pets 創新徵件計畫」,為寵物照護開創新可能

AI 不只能改變人類的生活,更能為毛孩帶來哪些變革?自 1968 年創立以來,寵物健康營養領導品牌法國皇家(Royal Canin)便致力於以科學與數據為基礎,依據貓犬的品種、年齡與健康狀況,提供符合個別需求的精準營養方案。如今,隨著毛孩高齡化,以及疾病照護、流浪動物收容等需求日益多元,法國皇家也開始思考,如何運用 AI 將長年累積的「精準營養」理念延伸至更全面的「精準照護」。

為此,法國皇家推出「2026 法國皇家 AI for Pets 創新徵件計畫」,成為台灣首度以「AI 寵物照護」為主題的公開徵件活動。活動祭出總奬金 100 萬元,預計選出 10 名獲獎隊伍,希望串聯台灣科技人才與寵物照護生態系,運用 AI 協助獸醫師、收容單位與飼主解決實際難題,讓科技成為改善寵物生活的助力。

#0 法國皇家
圖/ 法國皇家

從主管賦能到適才適所,法國皇家的人才培育哲學

「我們期待透過競賽為寵物產業注入創新動能,也為台灣科技人才創造展現實力的舞台,」法國皇家香港台灣總經理張堇琪一語道出舉辦本次活動的原因。

她觀察,台灣科技人才具備深厚實力;而面對當前貓犬高齡化與收容長照的挑戰,寵物健康領域正處於科技轉型的關鍵時刻,也還存在許多尚未被滿足的需求,希望透過競賽串聯科技人才與第一線的真實照護痛點,讓科技轉化為實質的守護力量,也為跨領域人才開闢一條投入毛孩經濟的快速通道。

#2 法國皇家
法國皇家香港台灣總經理張堇琪
圖/ 數位時代拍攝

事實上,法國皇家對人才價值的重視,不只展現在對外部科技人才的支持,更早已落實於內部人才培育制度。「我們極為重視直屬主管的培育,因為我們相信,每位同仁都值得擁有一位好主管。」張堇琪指出,這正是法國皇家所強調的「Great Line Manager」理念。

為了落實這項理念,法國皇家發展出一套融合企業文化的訓練系統,搭配一對一專業教練輔導,協助新任主管逐步掌握帶領團隊的方法與技巧;此外,集團也建立跨國交流機制,例如總經理社群(GM Community),讓不同市場的領導者分享經驗、相互學習。透過多元方式持續精進主管的領導與管理能力,讓他們更懂得如何帶領團隊、營造良好的職場氛圍,進而提升同仁的工作投入度與整體組織生產力。

除了主管賦能,法國皇家亦同樣重視基層同仁的培育,並強調「從個人出發」的精神。例如,定期提撥學習基金,讓同仁可以自主選擇有助於職涯與個人成長的課程,全方位支持同仁成為更好的自己。又如,引進霍根測評系統(Hogan Assessments),透過科學化評估工具,協助同仁深入了解自身的能力與人格特質,與主管共同規劃適合的成長路徑,也讓主管能精準調配團隊分工、達成適才適所目標,讓每位夥伴的潛力都能獲得充分發揮。

互惠精神走出企業內部,為第一線獸醫人才注入更多專業能量

這些做法背後,反映的是法國皇家母集團瑪氏(Mars) 所強調的互惠(Mutuality)原則。企業投資人才,不只是為了追求營運績效,更希望每位同仁都能在工作與生活中持續成長。而這份互惠精神,也從企業內部延伸至整個寵物照護產業。

「要讓寵物獲得好的照顧,首先也要照顧好那些照顧寵物的人。」張堇琪強調,獸醫師與獸醫助理是守護毛孩健康的第一線基石,唯有提供足夠的專業資源與支持,才能讓他們更有能力照顧好每一隻寵物。

因此,法國皇家長期投入獸醫專業人才培育,尤其著重傳統獸醫養成教育中,比重相對有限的營養學知識。例如,與台大獸醫學系合作,安排授課教授赴法國總部與營養專家交流、提供前沿的寵物營養研究數據、指派具獸醫師資格的同仁協助課堂教學、媒合獸醫系學生至動物醫院實習,累積臨床經驗等。

值得注意的是,法國皇家對獸醫人才的培育並不局限於營養專業,更延伸至醫病溝通技巧,協助獸醫團隊以淺顯易懂的方式向飼主解釋複雜病情,不僅能有效提升衛教溝通效率,也能建立更堅實的醫病信任關係。

不只追求商業價值!AI for Pets 四大主題探索寵物照護新解方

從內部人才培育到獸醫專業賦能,法國皇家一直相當重視人才的價值。延續這份理念,張堇琪也希望透過 AI for Pets 創新徵件計畫,為這座科技島上有想法、有技術的人才搭建發揮所長的舞台。為此,法國皇家攜手工業技術研究院、台灣人工智慧協會及臺大創意創業中心,串聯產學研資源,讓更多具潛力的創新構想被看見,也為科技人才開啟探索寵物產業應用的新機會。

而要讓科技人才的創意能夠回應第一線的照護痛點,首先必須找對問題。法國皇家從貓犬生命歷程出發,歸納出就醫、日常、收容到相遇四大照護場景,並轉化為「獸醫照護」、「預防保健」、「流浪動物福利」與「負責任的飼主」四大徵件主題,引導參賽者從診間、家庭或收容場域等不同角度切入,探索 AI 在寵物照護上的應用可能。

令人好奇的是,相較於企業通常優先考量具有商業價值的應用,「流浪動物福利」未必能為法國皇家帶來直接營收,為什麼會被列為這次競賽的重要主題?「因為我們對寵物福祉的關注,並不局限於具有商業價值的市場需求,」張堇琪回答,流浪動物往往缺乏足夠的照護資源,第一線動保團體與志工也需要更多支持。因此,法國皇家希望藉由這次競賽,讓科技創新的成果也能惠及那些最需要幫助的毛孩與動保工作者,落實「為寵物創造更美好的世界」的品牌使命。

對張堇琪而言,這場計畫的價值不只在於選出優秀作品,更希望讓參賽者看見自身技術能為寵物產業帶來的貢獻,從中建立信心,持續探索更多應用落地的可能。這也呼應瑪氏集團所重視的「互惠」原則:科技人才得以發揮所長,寵物產業也能獲得新的解決方案,也讓社會共享創新成果。

「我們歡迎所有想透過科技改善寵物生活的人來參加,就算不具備寵物產業背景也沒關係,專業知識可以由我們來補足,更重要的是解決問題的能力,以及對毛孩的用心。」張堇琪強調,法國皇家期待透過這次競賽,催生更多能實際落地的創新解方,讓跨領域創新的力量持續為寵物照護帶來新的可能。


🏆 徵件資訊

∙ 總獎金:100 萬元(冠軍最高 40 萬元)
∙ 參賽資格:年滿 18 歲,不限學生、業界人士或新創團隊(1–5 人組隊參加)
∙ 徵件截止:即日起至 2027/1/6(三)17:00 止
∙ 早鳥限定:於早鳥期限前完成報名,並於初賽截止前完成提案繳交且通過資格審核,法國皇家將捐贈 20 公斤飼料予社團法人台灣同伴動物扶助協會(犬山居),每位正式隊員還可獲得專屬早鳥禮一份!
∙ 競賽官網與報名簡章

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
一次搞懂工業AI
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓