當AI防禦遇上AI攻擊,「以子之矛,攻子之盾」正在資安界上演
當AI防禦遇上AI攻擊,「以子之矛,攻子之盾」正在資安界上演
2018.10.31 | IBM

科技可以為善可以作惡,人工智慧(AI)也是,端看人類如何使用它,而在資安世界裡,這場防禦端和攻擊端的AI攻防前哨戰已經開打。

最新AI攻擊手法,插入噪音就能破壞語音辨識系統

IBM Security CTO兼VP Koos Lodewijkx分享,目前至少有三種與AI相關的資安攻擊手段。

第一種是利用AI提高攻擊效率。例如,現在駭客可以透過機器學習,分析社群媒體上的訊息、朋友圈等等,依照這些個人化資訊發起針對性攻擊,提高釣魚攻擊成功率。此外,現在網路上也出現透過機器學習、可以自動辨識圖像的免費軟體XEvil,讓駭客可破解用來防堵自動化攻擊的驗證碼CAPTCHA機制。

第二種則是駭客攻擊AI系統,例如以一種改變系統的方法進行攻擊,簡單來說就是污染AI系統,或是找到AI系統弱點、繞過防禦以進行攻擊。

Lodewijkx舉例,微軟在2016年推出聊天機器人Tay,透過機器學習技術讓他它可在每次的對話中改善回話,但上線24小時後就被「玩壞」,說出種族歧視的言論。不只是聊天機器人,Lodewijkx表示,現在的技術也能做到入侵語音辨識系統,只要在聲音中插入噪音,就能徹底改變翻譯結果,讓機器說出特定語句。

雖然這些看似無傷大雅,但Lodewijkx提醒,AI已經被企業大量用於商業營運中,一旦被駭客知道模型如何訓練和運作,就能藉由破壞訓練模型的數據來操控模型。例如,銀行把AI導入借貸決策系統,藉由分析申請人的收入、年齡、居住地、信用分數等,決定是否該批准借貸,一旦找到方法繞過偵測,就算有很差的信用分數仍可成功貸款。

「我們在產業所使用的機器學習,其中很多的模型仍非常脆弱,」Lodewijkx說,「如果你可以操控訓練模型的數據、輸入值,你就可玩弄這個模型。」

最後一種攻擊手段,駭客著點的不是模型本身,而是用來訓練AI模型背後的數據。Lodewijkx表示,駭客已經可以竊取訓練AI模型背後的數據,以圖像辨識系統為例,正常情況是,給出圖片後,系統可以辨識出人名,而在破解系統後,駭客只要擁有姓名,就能逆向重建出圖片。

AI從三層面防禦駭客攻擊

不只是攻擊端,AI之於資安防禦,也是不可獲缺的角色,像是IBM旗下資安產品幾乎已全面導入AI。

為什麼要用AI防禦?Lodewijkx指出,現在的資料量龐大,來自網路、電腦系統、資料庫等等,隨之而來的是資料、威脅、環境都變得更複雜;在此情況下,卻面臨資安技術人力短缺,IBM調查指出,到2022年,資安領域會有180萬份的資安人力短缺。這也是為什麼需要在資安工具中導入AI,而AI也能提高偵測和反應的速度,降低損失。

Lodewijkx指出,目前最常見的AI資安應用是「預測分析」(predictive analytics),也就是藉由機器學習分析大量數據,從中找出異常。「市場上幾乎每個人都說有將AI導入資安中,就是這個分類。」他說。

Koos Lodewijkx_IBM Security CTO &VP_2018_10_09_蔡仁譯
儘管AI已經被大量用在資安防禦,但IBM Security CTO 兼VP Koos Lodewijkx認為,現階段AI仍須和人類合作,因為AI可以做很多例行工作,但仍無法做到需要創造、調查類的工作。
圖/ 蔡仁譯攝

例如,監控網路流量或使用者行為,找出不尋常的地方,或是觀察人類如何和電腦或手機互動,進而分辨出是真正的人類、還是假裝成人類的惡意軟體。此外,也能找出「假陽性」的威脅警報,降低誤報率。

第二類則是智能強化(Intelligence consolidations),也就是把資安研究工作交給AI。Lodewijkx解釋,IBM教旗下人工智慧Wastson讀懂資安相關的新聞、研究報告、Twitter訊息等等,進而建立知識圖譜(knowledge graph),並找出每個知識間的關聯性。訓練完成後,當他們告訴Watson一個IP位址、網址或檔案,Watson就可以回報該檔案的相關訊息,如和哪種病毒有關、常被哪些駭客組織使用、鎖定哪些產業等等,讓分析師不用再自己去讀大量資料。

第三種則是智能回應(intelligence response),目標在於提高一定時間內的分析效率。Lodewijkx指出,以資安營運中心為例,分析師有58%的時間都是花在重複性工作上。舉例來說,當資安監測系統發出警示,分析師必須比對不同的應用程式、資料庫和系統,確認該警示是否為真,而正因為這些步驟是固定的,很適合自動化。

AI不是資安防禦的完美解方

儘管現在AI已經被大量用於資安產品,但Lodewijkx認為AI並不能解決所有資安問題,「我們距離那時還很遠。 」

Lodewijkx解釋,現階段AI只能針對特定任務,使用場景仍非常狹隘,雖然可以強化防禦,但仍需要和其他防禦方式相輔相成,如更新補丁、保護憑證、防火牆等等。

更重要的是,AI仍需要和人類合作。「我們還沒有進入AI比人類聰明的時代,」Lodewijkx解釋,機器學習模型最擅長的地方是,做人類訓練他們做的事情,這也是為什麼AI可以做很多例行工作,但仍無法做到需要創造、調查類的工作。反過來講,這也意味著AI攻擊也只能做好一件事,當被訓練的攻擊手段不行,AI也無法像人類一樣自己想出別種攻擊方法。

「這其實有點像軍備競賽(arm race),」Lodewijkx說,現在駭客學習AI、取得演算法、雲端計算能力等成本都越來越低,這也讓防禦端的偵測和回應速度必須更快及精準。而這場AI資安攻防的前哨戰,才剛開打。

往下滑看下一篇文章
《星城》告別 Online,打破的不只是名字!網銀國際的「泛娛樂」願景,下一步怎麼走?
《星城》告別 Online,打破的不只是名字!網銀國際的「泛娛樂」願景,下一步怎麼走?

近年遊戲公司的競爭早已不只是留住玩家,而是爭奪使用者的日常娛樂時間。遊戲、短影音、直播、社群、IP 授權、線下活動都在搶同一批注意力;當遊戲產業的競爭從單一產品體驗,轉向使用者日常娛樂時間的爭奪,品牌能否跨出遊戲場景、進入影音、社群與生活,便成為老牌遊戲平台延長生命週期的關鍵。因此,遊戲品牌從「產品經營」走向「內容經營」,成為產業發展的合理趨勢。

2026 年 7 月起,網銀國際旗下經營超過 18 年的休閒娛樂品牌《星城 Online》正式更名為《星城》,同步啟動為期一個月的品牌月系列活動,從線上遊戲福利、影音內容、社群貼圖,到線下實體互動全面鋪開。

拿掉「Online」,看似只是識別上的調整,實際上是一次明確的宣告:這個品牌不再把自己定義為「一款線上遊戲」,而是要往內容娛樂、IP 經營、跨界合作的方向延伸。用網銀國際的說法,目標是「把娛樂融入生活」。

從產業角度來看,單一遊戲產品的生命週期往往有限,玩家喜新厭舊的速度很快,一款遊戲再怎麼長青,終究會面臨用戶成長趨緩的天花板;相較之下,內容與 IP 的價值可以跨平台、跨載體被重複利用,也更容易隨著時間累積成品牌資產。對一個已經經營 18 年的老牌來說,與其持續在單一產品上加碼,不如把長期累積的用戶基礎,轉化成內容娛樂生態的起點。

泛娛樂願景,邊界劃在哪裡

把服務邊界從單一遊戲平台,擴張到內容產製與 IP 經營,幾乎是近幾年線上娛樂產業共同的功課。玩家不再只滿足於一款好玩的遊戲本身,而是期待品牌能提供更有情感連結、更貼近日常的內容體驗,這也是「泛娛樂」這個詞近年頻繁出現在遊戲業轉型論述裡的原因。

對網銀國際來說,這樣的路線並非臨時起意。這家成立於 2009 年的集團,本業雖以遊戲研發與代理起家,但版圖早已橫跨數位娛樂、影視製作、電競戰隊等多元領域,而《星城》正是集團資源品牌化的重要窗口。網銀國際本來就具備豐沛的泛娛樂資源,透過這次《星城》的更名,這些資源才更容易被消費者理解成一個具體的品牌體驗,也讓外界更容易看見「泛娛樂」布局的落地。

IP 經營,是願景的現在進行式

比起口號,更能說服人的永遠是正在發生的行動。品牌月期間,全新 YouTube 頻道《XinFun 星泛娛樂》於 7 月 1 日正式上線,讓品牌指標性的遊戲角色跳脫原本的機台設定,化身生活短劇主角,一連 7 天每晚 7 點固定釋出新內容,後續也將持續規劃角色短劇、節慶互動與玩家共鳴題材,成為長期經營的內容入口;同步上線的還有角色版 LINE 個性貼圖,把遊戲角色帶進使用者的日常對話裡。品牌吉祥物「星城好冰友」也在這波煥新中迎來視覺升級,新增「小鵝」「小鴨」兩個角色,把「小額娛樂、理性遊玩」的概念轉化成更親和的形象。

星城-2.png
網銀國際旗下《星城》品牌煥新,吉祥物「星城好冰友」新增「小鵝」「小鴨」兩角色,將「小額娛樂、理性遊玩」理念轉化為更親和的視覺形象。
圖/ 網銀國際
星城-3.jpg
品牌月期間同步推出角色版 LINE 個性貼圖,讓《星城》遊戲角色走入玩家日常對話,強化 IP 在社群場景的日常曝光與情感連結。
圖/ 網銀國際

IP 走出螢幕的動作,也不只發生在線上。今年 4 月,《星城》連續參與白沙屯媽祖進香與大甲媽祖遶境,並特別加開「累了請上車」休息巴士,陪伴信眾走過前後橫跨 15 天的年度信仰巡禮。從角色內容化到走進廟會現場,這類操作要驗證的其實是同一件事:「娛樂融入生活」不是一句廣告詞,而是品牌願意把資源實際投入到玩家生活場景裡的具體行動。

這種「虛實整合」的操作邏輯,其實也呼應了內容產業近年的共同趨勢:IP 的價值不再只靠單一載體撐起,而是要靠角色、影音內容、線下場景多點觸及,才能真正在使用者心中留下記憶點。

星城-4.jpg
今年 4 月《星城》連續參與白沙屯媽祖進香與大甲媽祖遶境,加開「累了請上車」休息巴士,陪伴信眾走過橫跨 15 天的信仰巡禮。
圖/ 網銀國際

數位信任工程,是願景能走多遠的地基

不過,一個品牌想從遊戲延伸到內容、IP 甚至跨界合作,光有創意還不夠,背後的信任基礎才是能不能走遠的關鍵。尤其對仰賴金流與帳號安全運作的娛樂平台而言,信任從來不是加分項,而是先決條件。

網銀國際在這塊的布局,其實已經行之有年。平台導入 OTP 驗證與帳號多層防護機制,針對異常儲值行為與高風險帳號建立風險監測與處置流程,並設有 24 小時客服巡檢與主管機關聯繫窗口,持續參與防詐治理相關會議。這些機制平常不太會被玩家注意到,卻是支撐品牌敢往內容娛樂、跨界合作等更複雜業務延伸的底氣。

而從集團近期布局來看,網銀國際投資信任科技與防詐服務業者 Gogolook,也透露出其對數位信任基礎建設的重視。對《星城》這類高度仰賴帳號、金流與使用者信任的平台而言,防詐能力與風險治理,將是品牌能否走向更大泛娛樂合作場景的重要底層能力。

另一個值得留意的細節是,《星城》過去成功取得日本講談社等國際知名動漫 IP,如新世紀福音戰士等的官方授權,開發聯名機台。國際版權方在授權合作前,通常會針對合作企業進行嚴格的商譽與信用調查,順利通過審查,某種程度上也是外部對企業信譽的一次客觀驗證,而不只是單方面的自我宣稱。

對線上娛樂產業而言,信任機制往往是「看不見卻決定成敗」的一塊。玩家不會因為平台治理做得好而每天掛在嘴邊,但一旦信任出現破口,品牌過去累積的內容力與 IP 資產都可能一夕歸零。換個角度看,能夠通過國際版權方的商譽審查、持續維持與監理單位的溝通管道,也讓網銀國際在後續尋求跨界合作與 IP 授權時,握有更高的議價籌碼。

更名是起點,行動已經在路上

把《星城》放回台灣泛娛樂產業的座標來看,這不是第一家想從遊戲公司轉型成內容集團的業者,卻是少數把「信任機制」和「IP 內容」同時當成轉型兩隻腳、同步往前走的案例。

不過,從遊戲平台走向泛娛樂品牌,真正的考驗不在於一次品牌月能創造多少聲量,而在於內容是否能持續更新、角色能不能累積辨識度,以及線上下互動能否形成長期社群關係。對《星城》而言,告別 Online 是起點,能否把短期活動轉化為穩定內容資產,才是這場品牌煥新的關鍵。

觀察其未來走向,主要可以從三個面向切入:

  1. 內容頻率:《XinFun 星泛娛樂》能否從品牌月短期企劃變成穩定的內容頻道,持續維持更新動能。

  2. IP 延展:角色能否從貼圖、短劇走向更多授權、聯名與線下體驗,累積長期辨識度。

  3. 信任治理:責任遊戲、防詐與平台安全能否成為品牌差異化的底層能力,而不只是合規描述。

這條路已經開始走,接下來能否將短期聲量沉澱為長期的社群資產與防禦壁壘,將是這場轉型能否走得遠的真正考驗。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
一次搞懂工業AI
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓