當AI防禦遇上AI攻擊,「以子之矛,攻子之盾」正在資安界上演
當AI防禦遇上AI攻擊,「以子之矛,攻子之盾」正在資安界上演
2018.10.31 | IBM

科技可以為善可以作惡,人工智慧(AI)也是,端看人類如何使用它,而在資安世界裡,這場防禦端和攻擊端的AI攻防前哨戰已經開打。

最新AI攻擊手法,插入噪音就能破壞語音辨識系統

IBM Security CTO兼VP Koos Lodewijkx分享,目前至少有三種與AI相關的資安攻擊手段。

第一種是利用AI提高攻擊效率。例如,現在駭客可以透過機器學習,分析社群媒體上的訊息、朋友圈等等,依照這些個人化資訊發起針對性攻擊,提高釣魚攻擊成功率。此外,現在網路上也出現透過機器學習、可以自動辨識圖像的免費軟體XEvil,讓駭客可破解用來防堵自動化攻擊的驗證碼CAPTCHA機制。

第二種則是駭客攻擊AI系統,例如以一種改變系統的方法進行攻擊,簡單來說就是污染AI系統,或是找到AI系統弱點、繞過防禦以進行攻擊。

Lodewijkx舉例,微軟在2016年推出聊天機器人Tay,透過機器學習技術讓他它可在每次的對話中改善回話,但上線24小時後就被「玩壞」,說出種族歧視的言論。不只是聊天機器人,Lodewijkx表示,現在的技術也能做到入侵語音辨識系統,只要在聲音中插入噪音,就能徹底改變翻譯結果,讓機器說出特定語句。

雖然這些看似無傷大雅,但Lodewijkx提醒,AI已經被企業大量用於商業營運中,一旦被駭客知道模型如何訓練和運作,就能藉由破壞訓練模型的數據來操控模型。例如,銀行把AI導入借貸決策系統,藉由分析申請人的收入、年齡、居住地、信用分數等,決定是否該批准借貸,一旦找到方法繞過偵測,就算有很差的信用分數仍可成功貸款。

「我們在產業所使用的機器學習,其中很多的模型仍非常脆弱,」Lodewijkx說,「如果你可以操控訓練模型的數據、輸入值,你就可玩弄這個模型。」

最後一種攻擊手段,駭客著點的不是模型本身,而是用來訓練AI模型背後的數據。Lodewijkx表示,駭客已經可以竊取訓練AI模型背後的數據,以圖像辨識系統為例,正常情況是,給出圖片後,系統可以辨識出人名,而在破解系統後,駭客只要擁有姓名,就能逆向重建出圖片。

AI從三層面防禦駭客攻擊

不只是攻擊端,AI之於資安防禦,也是不可獲缺的角色,像是IBM旗下資安產品幾乎已全面導入AI。

為什麼要用AI防禦?Lodewijkx指出,現在的資料量龐大,來自網路、電腦系統、資料庫等等,隨之而來的是資料、威脅、環境都變得更複雜;在此情況下,卻面臨資安技術人力短缺,IBM調查指出,到2022年,資安領域會有180萬份的資安人力短缺。這也是為什麼需要在資安工具中導入AI,而AI也能提高偵測和反應的速度,降低損失。

Lodewijkx指出,目前最常見的AI資安應用是「預測分析」(predictive analytics),也就是藉由機器學習分析大量數據,從中找出異常。「市場上幾乎每個人都說有將AI導入資安中,就是這個分類。」他說。

Koos Lodewijkx_IBM Security CTO &VP_2018_10_09_蔡仁譯
儘管AI已經被大量用在資安防禦,但IBM Security CTO 兼VP Koos Lodewijkx認為,現階段AI仍須和人類合作,因為AI可以做很多例行工作,但仍無法做到需要創造、調查類的工作。
圖/ 蔡仁譯攝

例如,監控網路流量或使用者行為,找出不尋常的地方,或是觀察人類如何和電腦或手機互動,進而分辨出是真正的人類、還是假裝成人類的惡意軟體。此外,也能找出「假陽性」的威脅警報,降低誤報率。

第二類則是智能強化(Intelligence consolidations),也就是把資安研究工作交給AI。Lodewijkx解釋,IBM教旗下人工智慧Wastson讀懂資安相關的新聞、研究報告、Twitter訊息等等,進而建立知識圖譜(knowledge graph),並找出每個知識間的關聯性。訓練完成後,當他們告訴Watson一個IP位址、網址或檔案,Watson就可以回報該檔案的相關訊息,如和哪種病毒有關、常被哪些駭客組織使用、鎖定哪些產業等等,讓分析師不用再自己去讀大量資料。

第三種則是智能回應(intelligence response),目標在於提高一定時間內的分析效率。Lodewijkx指出,以資安營運中心為例,分析師有58%的時間都是花在重複性工作上。舉例來說,當資安監測系統發出警示,分析師必須比對不同的應用程式、資料庫和系統,確認該警示是否為真,而正因為這些步驟是固定的,很適合自動化。

AI不是資安防禦的完美解方

儘管現在AI已經被大量用於資安產品,但Lodewijkx認為AI並不能解決所有資安問題,「我們距離那時還很遠。 」

Lodewijkx解釋,現階段AI只能針對特定任務,使用場景仍非常狹隘,雖然可以強化防禦,但仍需要和其他防禦方式相輔相成,如更新補丁、保護憑證、防火牆等等。

更重要的是,AI仍需要和人類合作。「我們還沒有進入AI比人類聰明的時代,」Lodewijkx解釋,機器學習模型最擅長的地方是,做人類訓練他們做的事情,這也是為什麼AI可以做很多例行工作,但仍無法做到需要創造、調查類的工作。反過來講,這也意味著AI攻擊也只能做好一件事,當被訓練的攻擊手段不行,AI也無法像人類一樣自己想出別種攻擊方法。

「這其實有點像軍備競賽(arm race),」Lodewijkx說,現在駭客學習AI、取得演算法、雲端計算能力等成本都越來越低,這也讓防禦端的偵測和回應速度必須更快及精準。而這場AI資安攻防的前哨戰,才剛開打。

往下滑看下一篇文章
AI時代,從Day One看見全球需求!亞馬遜跨境電商高峰會,開啟台灣品牌出海新航線
AI時代,從Day One看見全球需求!亞馬遜跨境電商高峰會,開啟台灣品牌出海新航線

長久以來,台灣企業走向海外的順序,多是先依自己的技術、產能和過去的經驗,把產品做好,再來思考產品可以賣到哪個市場。但當全世界消費者的搜尋、瀏覽、評論、退貨和價格變化,都變成看得見的數據,AI又能把數據整理成可以做為判斷的線索,順序就開始被改寫了。10月29日,一年一度的「Amazon Seller Summit | 2026台灣跨境電商高峰會」盛大登場。今年以「Go Global From Day One」為主題,強調全球化不再是企業發展成熟後才啟動的下一步,而是從產品構想、品牌定位到商業決策的第一天,就應將全球消費者需求納入考量。面對AI時代,企業又該如何建立持續成長的全球化模式?

從Day One看見全球需求,啟動成長飛輪

亞馬遜全球開店台灣總經理謝孜希開場以「AI時代的全球化新路徑:從Day One看見全球成長機會」為題,從與台北市進出口商業同業公會合作的〈2026跨境電商焦點報告〉發現,在受訪的419家企業中,有75.9%在未來的12到24個月,已有計畫、正在評估或有興趣拓展新市場,顯示台灣企業積極尋求全球成長機會的企圖心。然而,儘管64%的企業已將市場需求作為選品依據,真正有系統研究市場需求的企業卻僅18.6%,另有52.6%認為拓展海外市場最需要的是海外銷售市場資訊或數據,凸顯企業的關鍵挑戰不只是看見全球機會,更在於如何系統性掌握需求,將市場洞察轉化為產品決策。

至於該怎麼走,亞馬遜把走向全球的過程拆解成「探索全球需求、驗證產品決策、加速新品上市、拓展全球成長」等四個階段的全球成長飛輪,透過全球的需求分析,探索更多市場與品類發展機會,這也意味著,全球化不再是一次性的市場拓展,而是持續從全球消費需求分析中尋找下一個成長機會。

Amazon Seller Summit
亞馬遜全球開店台灣總經理謝孜希以「探索、驗證、上市、拓展」四階段全球成長飛輪,說明企業如何從 Day One 將全球需求轉化為持續成長動能。
圖/ 數位時代

謝孜希強調,在全球成長的不同階段,亞馬遜都提供相應的AI工具與營運資源。其中,亞馬遜賣家助理 (Seller Assistant) 能協助賣家掌握營運狀況、辨識需要關注的問題,並提供後續行動建議,讓AI成為跨境經營的重要助手。此外,商機探測器、選品模擬器與創意工作室等工具,也能分別支持市場需求分析、產品機會評估與商品內容製作,協助企業將全球市場洞察轉化為實際行動, 「市場洞察會帶動產品創新,產品上市則帶來顧客回饋,回饋又會指引企業找到下一個成長機會,形成持續轉動的成長飛輪,轉得愈久,就會轉得愈快、愈穩。」

AI副駕駛共同啟航,開啟全球成長新航線

亞馬遜全球開店全球產品行銷負責人Leslie Hsu提到:「AI時代不單是數據更完整、更透明,善用AI代理工具,也進一步為企業決策者更高效訂定成長目標和發展計畫。從賣家使用分析發現, 賣家對 Seller Assistant 賣家助理提出的建議,大約有九成,會實際採取行動。現在AI能把全球消費者的需求,提早整理成看得懂的線索,讓台灣企業在產品構想的第一天,就能為全球市場做決策。 」

呼應今年「Go Global From Day One」的主題,高峰會特別以AI副駕駛啟航儀式,透過機場塔台廣播、AI語音與啟航模擬設計,象徵台灣企業在AI助力下開啟全球成長新航線。這場充滿未來感的啟航時刻,也將Amazon AI創新解決方案與全球化願景相互連結,展現AI如何從市場洞察、產品決策到日常營運,協助企業加速全球成長。

Amazon Seller Summit
高峰會以 AI 副駕駛啟航儀式揭開序幕,象徵台灣企業在 AI 助力下,開啟全球成長新航線。左起為亞馬遜全球開店全球產品行銷負責人Leslie Hsu、亞馬遜全球開店台灣總經理謝孜希。
圖/ 數位時代

資料變多不等於看懂市場,關鍵在找出真實需求

在以「AI × 品牌 × 市場:重新定義企業的全球化起點」為題的論壇中,則邀請到《數位時代》總編輯王志仁主持,台灣科技大學資訊管理系專任特聘教授盧希鵬、台達電、中磊和巨大獨立董事鄒開蓮、圓剛科技資深副總經理莊善雯、亞馬遜全球開店台灣總經理謝孜希,分別從學界、跨國經營、企業實務和平台的角度對話。

盧希鵬首先從經濟學的觀點切入,強調產品本身沒有價值,「價值是因為有人需要,價格則衡量了需要程度。」他將市場上的訊號,分成市場熱度、真實需求和值得投入的商機等三種層次,他提醒,市場熱度不等於真實需求,必須進一步理解消費者的使用情境、痛點與願付價格,同時評估自身技術與成本條件,才能將市場訊號轉化為真正值得投入的商機。

Amazon Seller Summit
上午場的重磅對談,本次邀請《數位時代》總編輯王志仁(右一)主持,與談人(左起)為台科大資管系專任特聘教授盧希鵬、台達電、中磊和巨大獨立董事鄒開蓮、亞馬遜全球開店台灣總經理謝孜希、圓剛科技資深副總經理莊善雯。
圖/ 數位時代

曾任雅虎亞太區最高主管,管理過日本、香港、台灣、東南亞、印度和紐澳等市場的鄒開蓮則一針見血指出:「世界上沒有真正的『全球』市場,唯有善用工具,更快、更精準讀懂需求並制定在地化策略,才能真正 Go Global。」她觀察,許多企業常把「在地化」想得太表面,以為翻譯好文案、換個廣告代言人就足夠;但真正的在地理解,涵蓋了當地人如何使用產品、通路如何運作、信任如何建立,以及做決定的節奏是快或慢。她強調,台灣企業應善用分析工具,加速理解不同市場的消費者,同時結合在地人才與市場經驗,將產品優勢轉化為全球競爭力,「企業要找到對的領導人,來負責全球市場,還要擁抱在地人才、帶著好奇心跑市場,和當地建立信任關係。」

圓剛科技的經驗,正好說明一家台灣硬體公司,如何在轉型時找到新的市場。 圓剛科技資深副總經理莊善雯分享,圓剛早年以電視卡、電視棒為主力產品,網路電視崛起後,舊市場結構性消失。圓剛於是採取「先射箭,再畫靶」 的做法,運用公司內部有限的資源,把影像處理、擷取卡等核心技術做成簡單的產品,先上架到亞馬遜試水溫。產品上架後,圓剛從後台數據、買家評論中意外發現,許多消費者買擷取卡,是用來錄製遊戲和直播,這才找到真正的靶心,進而深入研究遊戲直播、VTuber、內容創作者和直播帶貨等使用情境,發展出完整的產品線,「對圓剛來說,我們找到靶心的方法,都是回到消費者實際怎麼使用產品。」

Amazon Seller Summit
論壇現場座無虛席,與會者專注聆聽講者分享 AI 時代的全球化策略。
圖/ 數位時代

AI讓全球市場觸手可及,亞馬遜全球開店降低跨國經營負擔

謝孜希最後補充,亞馬遜透過「One Global Business」服務,便能提供市場洞察和跨境營運服務,「AI 就像企業開闢全球新航線時的『副駕駛』,出海不必再組建龐大的機組團隊,企業可以精準啟航試飛,再逐步擴大全球航線網絡。 」但她提醒,營運能整合,消費者需求和品牌溝通仍要在地化,因為不同市場消費者的需求完全不同,重點在於「全球在地化」(glocalization),「當AI降低跨境營運的複雜度,賣家就能把心力集中在真正需要差異化的地方,也就是產品價值和品牌信念。」

從產品創新到品牌成長,台灣企業展現全球化成果

2026 Amazon Seller Awards也表揚在全球市場拓展、AI應用、品牌轉型與科技創新等領域展現成果的台灣企業,從不同產業的實際經驗中,展現台灣品牌透過產品創新與市場洞察,持續拓展全球成長機會的多元可能性。

Amazon Seller Summit
2026 Amazon Seller Awards 表揚在全球市場拓展、AI 應用、品牌轉型與科技創新等領域表現亮眼的台灣企業,得獎者與亞馬遜全球開店團隊合影。
圖/ 數位時代

而各專家們分享的出海心法,已經被這些得獎企業實際落地應用,進而產出成果。從B2B玻璃鍋蓋供應商轉型自有品牌的明格企業,運用亞馬遜數據與消費者評論開發微波爐防噴濺蓋,成功躋身同品類前十名,「Amazon能清楚看見消費端,讓品牌和定價掌握在自己手中。」珍食堡實業則以自有品牌A Freschi srl布局美國、日本市場,透過搜尋與銷售數據優化火雞筋犬用零食的尺寸、造型及包裝,強調「不要等到產品完全準備好,才開始理解全球市場。」

(立即閱讀更多精彩賣家故事)

Amazon Seller Summit
「決勝全球・火線對談」中,明格企業、珍食堡實業、圓剛科技等台灣賣家代表,分享以產品力結合品牌力、突圍全球市場的實戰經驗。
圖/ 數位時代

從AI趨勢走向實際應用,聚焦策略品類找到全球成長新機會

今年高峰會規劃多場AI相關議程,從市場研究、產品內容製作、營運效率提升等面向,探討企業如何將AI應用於日常營運與商業決策,協助賣家掌握將AI工具轉化為實際業務價值的應用方法。

議程之外,也透過AI副駕駛試飛體驗區展示一系列亞馬遜AI工具,與Seller Café一對一跨境諮詢,聚焦消費性電子、家居用品,以及運動與寵物用品等策略品類,由亞馬遜品類團隊針對產品定位、市場需求及營運挑戰提供專業建議,協助不同成長階段的賣家探索全球市場機會,協助賣家將市場洞察轉化為實際行動。

現場一位新賣家分享,透過體驗亞馬遜AI工具,看見在人力有限的情況下拓展海外市場的更多可能;加上品類經理針對產品選品提供具體建議,讓他更有信心啟動跨境業務。另一位以代工模式經營的企業主分也分享到,透過當場一對一品類經理諮詢,幫助他更了解海外市場商機,對拓展新業務有了更明確的方向。

從AI工具的實際應用,到品類專業洞察與市場趨勢建議,高峰會不僅協助賣家掌握當前機會,更為下一階段的全球成長找到具體方向。

Amazon Seller Summit
AI 副駕駛試飛體驗區展示商機探測器、選品模擬器、創意工作室與賣家助理等亞馬遜 AI 工具,吸引與會者駐足體驗。
圖/ 數位時代
Amazon
Seller Café 由亞馬遜品類團隊提供一對一跨境諮詢,聚焦消費性電子、家居、運動與寵物用品等策略品類,協助賣家將市場洞察轉化為行動。
圖/ Amazon

對台灣企業而言,全球化不必等到規模夠大才開始,而是從Day One起,就將全球消費者需求納入產品創新與品牌決策。從全球成長飛輪的策略思維、Seller Assistant與AI創新解決方案,到策略品類專業支持,亞馬遜持續協助不同階段的台灣企業,將全球市場洞察轉化為實際成長動能,從Day One啟航,開拓全球市場的新機會。

全球航線已啟程!掌握AI時代的全球化新路徑。
立即觀看Amazon Seller Summit 2026 | 台灣跨境電商高峰會精彩回放

【Seller Summit 2026 】

Global Stage|上午主會場
Global Stage|下午主會場
Launch Stage 啟動舞台|下午分場 A
Growth Stage 成長舞台|下午分場 B

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
一次搞懂工業AI
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓