當AI防禦遇上AI攻擊,「以子之矛,攻子之盾」正在資安界上演
當AI防禦遇上AI攻擊,「以子之矛,攻子之盾」正在資安界上演
2018.10.31 | IBM

科技可以為善可以作惡,人工智慧(AI)也是,端看人類如何使用它,而在資安世界裡,這場防禦端和攻擊端的AI攻防前哨戰已經開打。

最新AI攻擊手法,插入噪音就能破壞語音辨識系統

IBM Security CTO兼VP Koos Lodewijkx分享,目前至少有三種與AI相關的資安攻擊手段。

第一種是利用AI提高攻擊效率。例如,現在駭客可以透過機器學習,分析社群媒體上的訊息、朋友圈等等,依照這些個人化資訊發起針對性攻擊,提高釣魚攻擊成功率。此外,現在網路上也出現透過機器學習、可以自動辨識圖像的免費軟體XEvil,讓駭客可破解用來防堵自動化攻擊的驗證碼CAPTCHA機制。

第二種則是駭客攻擊AI系統,例如以一種改變系統的方法進行攻擊,簡單來說就是污染AI系統,或是找到AI系統弱點、繞過防禦以進行攻擊。

Lodewijkx舉例,微軟在2016年推出聊天機器人Tay,透過機器學習技術讓他它可在每次的對話中改善回話,但上線24小時後就被「玩壞」,說出種族歧視的言論。不只是聊天機器人,Lodewijkx表示,現在的技術也能做到入侵語音辨識系統,只要在聲音中插入噪音,就能徹底改變翻譯結果,讓機器說出特定語句。

雖然這些看似無傷大雅,但Lodewijkx提醒,AI已經被企業大量用於商業營運中,一旦被駭客知道模型如何訓練和運作,就能藉由破壞訓練模型的數據來操控模型。例如,銀行把AI導入借貸決策系統,藉由分析申請人的收入、年齡、居住地、信用分數等,決定是否該批准借貸,一旦找到方法繞過偵測,就算有很差的信用分數仍可成功貸款。

「我們在產業所使用的機器學習,其中很多的模型仍非常脆弱,」Lodewijkx說,「如果你可以操控訓練模型的數據、輸入值,你就可玩弄這個模型。」

最後一種攻擊手段,駭客著點的不是模型本身,而是用來訓練AI模型背後的數據。Lodewijkx表示,駭客已經可以竊取訓練AI模型背後的數據,以圖像辨識系統為例,正常情況是,給出圖片後,系統可以辨識出人名,而在破解系統後,駭客只要擁有姓名,就能逆向重建出圖片。

AI從三層面防禦駭客攻擊

不只是攻擊端,AI之於資安防禦,也是不可獲缺的角色,像是IBM旗下資安產品幾乎已全面導入AI。

為什麼要用AI防禦?Lodewijkx指出,現在的資料量龐大,來自網路、電腦系統、資料庫等等,隨之而來的是資料、威脅、環境都變得更複雜;在此情況下,卻面臨資安技術人力短缺,IBM調查指出,到2022年,資安領域會有180萬份的資安人力短缺。這也是為什麼需要在資安工具中導入AI,而AI也能提高偵測和反應的速度,降低損失。

Lodewijkx指出,目前最常見的AI資安應用是「預測分析」(predictive analytics),也就是藉由機器學習分析大量數據,從中找出異常。「市場上幾乎每個人都說有將AI導入資安中,就是這個分類。」他說。

Koos Lodewijkx_IBM Security CTO &VP_2018_10_09_蔡仁譯
儘管AI已經被大量用在資安防禦,但IBM Security CTO 兼VP Koos Lodewijkx認為,現階段AI仍須和人類合作,因為AI可以做很多例行工作,但仍無法做到需要創造、調查類的工作。
圖/ 蔡仁譯攝

例如,監控網路流量或使用者行為,找出不尋常的地方,或是觀察人類如何和電腦或手機互動,進而分辨出是真正的人類、還是假裝成人類的惡意軟體。此外,也能找出「假陽性」的威脅警報,降低誤報率。

第二類則是智能強化(Intelligence consolidations),也就是把資安研究工作交給AI。Lodewijkx解釋,IBM教旗下人工智慧Wastson讀懂資安相關的新聞、研究報告、Twitter訊息等等,進而建立知識圖譜(knowledge graph),並找出每個知識間的關聯性。訓練完成後,當他們告訴Watson一個IP位址、網址或檔案,Watson就可以回報該檔案的相關訊息,如和哪種病毒有關、常被哪些駭客組織使用、鎖定哪些產業等等,讓分析師不用再自己去讀大量資料。

第三種則是智能回應(intelligence response),目標在於提高一定時間內的分析效率。Lodewijkx指出,以資安營運中心為例,分析師有58%的時間都是花在重複性工作上。舉例來說,當資安監測系統發出警示,分析師必須比對不同的應用程式、資料庫和系統,確認該警示是否為真,而正因為這些步驟是固定的,很適合自動化。

AI不是資安防禦的完美解方

儘管現在AI已經被大量用於資安產品,但Lodewijkx認為AI並不能解決所有資安問題,「我們距離那時還很遠。 」

Lodewijkx解釋,現階段AI只能針對特定任務,使用場景仍非常狹隘,雖然可以強化防禦,但仍需要和其他防禦方式相輔相成,如更新補丁、保護憑證、防火牆等等。

更重要的是,AI仍需要和人類合作。「我們還沒有進入AI比人類聰明的時代,」Lodewijkx解釋,機器學習模型最擅長的地方是,做人類訓練他們做的事情,這也是為什麼AI可以做很多例行工作,但仍無法做到需要創造、調查類的工作。反過來講,這也意味著AI攻擊也只能做好一件事,當被訓練的攻擊手段不行,AI也無法像人類一樣自己想出別種攻擊方法。

「這其實有點像軍備競賽(arm race),」Lodewijkx說,現在駭客學習AI、取得演算法、雲端計算能力等成本都越來越低,這也讓防禦端的偵測和回應速度必須更快及精準。而這場AI資安攻防的前哨戰,才剛開打。

往下滑看下一篇文章
補齊未來電子業版的關鍵拼圖!矽眾科技以高階溫度補償驅動晶片IP,助攻高階AI與車用市場
補齊未來電子業版的關鍵拼圖!矽眾科技以高階溫度補償驅動晶片IP,助攻高階AI與車用市場

你是否曾好奇,為何今日的手機能在艷陽下持續運作,而電動車也能從零下的極地順利駛出,精準感測周遭環境?

看似尋常的應用場景背後,其實隱藏著一顆默默進行的「溫度偏移校正」關鍵晶片。這類負責環境感知、並能進行溫度補償的「驅動晶片」,是電子元件穩定運作不可或缺的一環 。然而,這塊高階驅動IC的研發,長期以來卻是臺灣在全球半導體供應鏈中相對薄弱的環節,使得臺灣眾多在零組件領域傲視全球的廠商,在高階應用市場中受制於人。

矽眾科技鎖定高階溫度補償驅動晶片IP,要替臺灣補足產業鏈缺口

「我們臺灣在零組件領域,其實有很多世界第一,例如在全球市佔率領先的振盪器,但始終難以打進高階產品線,就是因為缺少能驅動這些零組件的高階晶片。」矽眾科技創辦人陳世綸開宗明義地指出產業痛點。他解釋,許多臺灣零組件廠商雖擁有卓越的製造能力,但在高階驅動晶片上卻高度仰賴美日大廠,而國際大廠往往不願開放最先進技術,臺灣廠商因此缺乏在價值鏈高附加價值鏈段的話語權,只能在低利潤的紅海市場中競爭。如何打破技術封鎖、強化自主關鍵技術,成為臺灣電子產業邁向國際高端市場的關鍵課題。

而矽眾科技的成立,正是為了補上這道斷鏈而生。作為少數專注零組件驅動晶片矽智財(Silicon Intellectual Property , IP)開發的企業,當AI運算與電動車市場爆發性成長,矽眾科技以可重複授權、穩定可靠的矽智財解決方案,成為產業鏈中不可或缺的關鍵推手。陳世綸說當高階電子產品對穩定性的要求日益嚴苛,就更考驗元件必須能在高溫、低溫甚至劇烈溫度變化下維持效能。這正是「溫度補償」(Temperature Compensation)技術的關鍵價值所在。

「矽眾科技的IP 就像貼心的助理,提醒元件「冷了多穿衣服、熱了脫下外套」,透過溫度補償即時調整參數,即使處於零下 40 度的嚴寒或高達 140 度的酷熱環境,訊號依然能保持精準一致。」陳世綸生動地形容 。

透過開發板進行晶片溫度感測與數位校準測試,確保 MEMS 感測器在不同溫度下依然能維持精準運作。
透過開發板進行晶片溫度感測與數位校準測試,確保 MEMS 感測器在不同溫度下依然能維持精準運作。
圖/ 數位時代

他進一步解釋,晶片內整合了類比的溫度感測器來偵測環境溫度,並將數據傳送給數位電路進行判斷與分析,數位電路再發出指令,精準校準MEMS(Micro-Electro-Mechanical Systems) 感測器的參數,確保其在不同溫度下都能提供正確值,避免因溫度變化導致的誤差和功能喪失,例如手機熱當或汽車失靈 。這種「類比感知+數位判斷校準」的整合能力,正是矽眾科技在高階驅動晶片領域所構築的技術壁壘。

陳世綸表示,矽眾科技之所以選擇IP這條賽道,正是看準了其在產業中的獨特價值。作為IP公司,其設計模組能適用於從0.18微米的成熟製程到小於10奈米的先進製程,客戶可根據自身產品需求快速整合,大幅縮短開發週期。這種靈活性,不僅讓矽眾能服務更廣泛的客戶群,也賦予了臺灣零組件廠商快速切入高階市場的機會。

晶創IC補助計畫奧援,矽眾科技以IP挺進高階市場布局全球

然而,IP的研發是條燒錢的漫漫長路。陳世綸坦言,由於IP的價值在於其穩定性與可重複使用性,但要達到這個門檻需反覆測試與驗證 。他透露,矽眾科技的IP中,每個驅動電路區塊都必須經過數次的設計定案(tape-out)與實體測試,而每次的成本都高達數萬至數十萬美金不等。「沒有政府的計畫支持我們根本做不到,」陳世綸感念地表示,而他口中的計畫正是由經濟部產業發展署所推動的「驅動國內IC設計業者先進發展補助計畫」(以下簡稱晶創IC補助計畫),讓團隊得以持續突破與精進,追求每個電路區塊的極致穩定性與精準度。

晶創IC補助計畫的資金補助,不僅加速矽眾科技的測試進程,也成功讓這個具備溫補能力的高階驅動晶片IP跨入車用與AI市場 。陳世綸說明,此IP主要針對高階MEMS零組件,特別是應用於5G手機、低軌道衛星、AI伺服器中需要高頻率、高準確度且耐溫的振盪器 。同時,它也符合嚴苛的車用認證,確保車載系統在極端溫度下的穩定性 。此外,此IP亦可支援手機中的胎壓偵測、高度偵測等MEMS感測器,因未來的電子產品將大量使用這類元件,且需具備溫度補償能力以維持精準度 。

如今,矽眾科技已與美加、日本、歐洲及臺灣等國內外大廠展開合作。陳世綸欣喜地表示,許多客戶原本因買不到關鍵驅動晶片而受限於低階市場,現在矽眾科技的IP補上了這一塊,他們也終於能進軍高毛利產品線。目前,已有合作夥伴將矽眾的高階驅動晶片IP導入車用認證流程,未來甚至可望進一步進入低軌道衛星與醫療穿戴市場。

矽眾科技站穩利基市場,與全球MEMS企業共舞

有了晶創IC補助計畫的挹注,矽眾科技更能以關鍵 IP 、溫度補償技術,帶領團隊協助臺灣半導體產業鏈從
有了晶創IC補助計畫的挹注,矽眾科技更能以關鍵 IP 、溫度補償技術,帶領團隊協助臺灣半導體產業鏈從「代工製造」轉向「設計賦能」。
圖/ 數位時代

比起一家公司從頭到尾包辦整顆IC的傳統模式,IP公司更像是站在舞臺後方的設計者,協助每一位客戶量身打造表演服、背景道具與燈光效果,讓他們能快速踏上國際舞臺。「我們不做整套產品,但我們讓臺灣的零組件有機會躋身高階應用,不再只是代工。」陳世綸堅定地說,矽眾科技的策略,是站在面對未來5到10年需求的位置上,看見即將來臨的市場缺口,然後在它出現前就先把技術準備好 。

「我們希望矽眾科技未來是跟著全球 MEMS 企業一起共舞,」陳世綸生動的描繪出公司的願景,矽眾科技透過獨特的IP商業模式、關鍵的溫度補償技術以及晶創IC補助計畫的強力奧援,不僅成功在利基市場中站穩腳步,更為臺灣半導體產業開闢了一條高值化的新路徑。這項成果不僅是矽眾科技自身的里程碑,也證明臺灣的IC設計實力,已在全球高階半導體供應鏈中找到了新的戰略位置,從過去的「代工製造」轉向「設計賦能」,引領臺灣零組件產業邁向更高層次的全球市場競爭力。

|企業小檔案|
- 企業名稱:矽眾科技
- 創辦人:陳世綸
- 核心技術:5G通信、人工智慧、物聯網、車用電子矽智財(IP)設計服務
- 資本額:新臺幣1仟700萬元
- 員工數:6人

|驅動國內IC設計業者先進發展補助計畫簡介|
在行政院「晶片驅動臺灣產業創新方案」政策架構下,經濟部產業發展署透過推動「驅動國內IC設計業者先進發展補助計畫」,以實質政策補助,引導業者往AI、高效能運算、車用或新興應用等高值化領域之「16奈米以下先進製程」或「具國際高度信任之優勢、特殊領域」布局,以避開中國大陸在成熟製程之低價競爭,並提升我國IC設計產業價值與國際競爭力。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
蘋果能再次偉大?
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓