AI帶來更多資安風險!LLM遭下毒、蠕蟲自動化攻擊,2024五大威脅預測一次看
AI帶來更多資安風險!LLM遭下毒、蠕蟲自動化攻擊,2024五大威脅預測一次看
##### 2024五大威脅預測一次看

「基本上,所有資安風險都可以類推,我們從2023年看到很多攻擊現象,在2024年一樣會發生。」網路資安廠商——趨勢科技核心技術部資深協理張裕敏預測,展望最新一年,有5大資安風險趨勢值得密切關注:

趨勢科技核心技術部資深協理張裕敏.jpg
趨勢科技核心技術部資深協理張裕敏。
圖/ 林芷圓攝影

趨勢一:雲端安全風險加劇

首先,預計會有大規模、雲端原生的蠕蟲(cloud-native worms)跑出來進行自動化攻擊。「所謂的『蠕蟲』會自我繁殖,不需要人為介入,而且繁殖速度非常快,具備自動化大量攻擊漏洞的能力。」張裕敏說明,這些蠕蟲會成為駭客集團的新型攻擊武器,只需要成功攻破一個漏洞,就能在雲端環境內迅速蔓延,並且利用已經感染的雲端原生工具再攻擊更多受害者。

所造成的危害,包含自動化收集企業機敏資料、建立龐大的幕後操縱(C&C)伺服器通訊,甚至發動大規模分散式阻斷服務(DDoS)攻擊。張裕敏補充說道,今年十月發生Google、亞馬遜慘遭有史以來最大DDoS攻擊,就是這個原理。

對此,趨勢科技建議企業須加速漏洞修補速度,除了即時掃描惡意程式與漏洞外,還必須嚴格檢視自己的資安政策與雲端環境,避免組態設定錯誤問題。

趨勢二:大型語言模型(LLM)遭「下毒」

隨著生成式AI應用增加,駭客集團會通過餵養錯誤資料來操弄機器學習的表現,以及惡意入侵模型的資料儲存或流程架構,導致自然語言處理模型洩露機密資料,系統受汙染無法正常偵測非法活動,這就是「資料下毒」(data poisoning)。

張裕敏指出,資料下毒會引發2種危害:「第一是機器學習模型不準確,導致企業決策錯誤;第二是你本身訓練好的資料,可能會被人家偷走。」

趨勢三:駭客學會順藤摸瓜,從單一軟體攻進企業內網

「軟體供應鏈攻擊」(Software Supply Chain Attack)會越來越嚴重。張裕敏解釋,國家級駭客會針對IT基礎架構的底層程式碼,或瞄準第三方元件(例如函式庫、流程與容器)發動攻擊。

「駭客最希望找到全世界都在使用的軟體,這樣攻擊下來得到的效益就能極大化。」張裕敏表示,任何第三方元件與開發工具都可能成為駭客攻擊的目標,讓駭客有機會進入更多其他系統,並存取機敏資料。

舉例來說,「你(員工)的手機裡面有很多App,然後你的手機是不是在企業內部也有使用?萬一駭客攻破你的手機App,就有機會從手機再溜進企業網路,引發整個供應鏈受害。」

趨勢四:駭客冒用身分的能力提升

運用生成式AI提升「社交工程詐騙」的水準,包含變臉詐騙、魚叉式網路釣魚,以及網路補鯨(指針對性更強的網路釣魚)等。

趨勢科技預期,到了2024年,駭客將透過結合不同的AI工具,像是聊天機器人與偽造語音,以製造出「虛擬綁架」的情境,這種犯罪手法的特點不在於以量取勝,而是以更逼真的手法進行勒索。

「使用者會變得無所適從,對眼前的文字、語音、視訊產生懷疑,因此害怕使用這些工具。但是,一旦害怕使用這些技術,就會造成人與人之間越來越大的數位落差。」張裕敏說道。

趨勢五:「區塊鏈」成為敲詐者的新獵場

最後,隨著全世界越來越多企業使用區塊鏈來降低成本,區塊鏈上的珍貴資料也引來駭客覬覦。

「國外已經有STO(利用區塊鏈技術發行證券)了,國泰證券也開了第一槍,相信明年會出現更多市場參與者,」張裕敏表示,駭客集團除了瞄準公有區塊鏈之外,也將攻擊私有區塊鏈網路,試圖搜刮金鑰竄改區塊鏈資料、寫入惡意資料再勒索贖金等。

如果駭客掌控了足夠的關鍵節點,就能將整個區塊鏈加密,讓區塊鏈完全無法動彈,進而勒索鉅額贖金。

趨勢科技建議,企業如果推出一些仰賴許可制區塊鏈網路來運作的相關服務,務必確保其網路節點要足夠分散,以抵禦潛在的網路攻擊與中斷。

新科技湧動,同時也是駭客攻擊的最佳時機

「新興科技發展的同時,也誘惑駭客加入這個戰場,駭客將趁大家對新科技還不熟悉的階段,發動各式攻擊與詐騙,獲取巨大的利益。」張裕敏總結表示,建議企業導入零信任(永不信任、一律驗證)策略在每個風險生命週期內,並採用整合式資安平台來管理日建增多的工作負載與防禦措施。

趨勢科技_1.jpg
趨勢科技核心技術部資深協理張裕敏、趨勢科技台灣區總經理洪偉淦。
圖/ 林芷圓攝影

趨勢科技台灣區總經理洪偉淦也說道:「2023年ChatGPT等生成式AI技術的出現,讓人們對於AI應用有更多想像,這些能帶來轉型動能的突破性技術,不僅成為企業競爭的基本籌碼,也成為駭客攻擊的新型武器。然而,傳統攻擊並未因此消失,駭客集團反而借力新技術來優化自身營運模式,提升攻擊速度與力道,擴大資安事件衝擊。」

他預期,2024年全球整體資安環境的風險與壓力都將增強,個人或企業都需要具備並強化資安意識,以及審慎評估對應方式。

責任編輯:蘇祐萱

往下滑看下一篇文章
台灣數位安全發展協會揭打詐盲點:截圖難當證據,AI加b-JADE讓數位足跡可驗證
台灣數位安全發展協會揭打詐盲點:截圖難當證據,AI加b-JADE讓數位足跡可驗證

重點一:數位詐騙生命週期極短,打完一波就轉移陣地,「下架」只處理了眼前的內容,處理不了事後追查。

重點二:台灣數位安全發展協會以AI蒐集、分類詐騙廣告,九成以上工作可由AI完成,最終判斷仍保留人工背書。

重點三:透過司法聯盟鏈b-JADE,只把資料的「數位指紋」上鏈存證,原始資料另行保存,目標是降低被害人的訴訟舉證成本。

一則可疑的投資廣告被檢舉、下架,帳號也停權了,多數人以為事情就此結束。真正麻煩的是,廣告消失的那一刻,追查詐騙集團的線索也可能跟著消失。

為了補上這個缺口,台灣數位安全發展協會正與司法聯盟鏈「b-JADE」合作,替詐騙相關資料做存證。b-JADE是一套以區塊鏈為基礎的司法存證機制,只有通過程序認證的單位才能提供上鏈服務;資料一旦上鏈,任何改動都會留下痕跡。白話說,就是替數位證據貼上「封條」,讓證據從蒐集到進入法庭,都能驗證有沒有被動過手腳。

詐騙廣告下架,為什麼還不夠?

原因在於數位詐騙的生命週期太短,下架只能處理眼前的內容。台灣數位安全發展協會理事長劉彥伯指出,傳統電話詐騙一套劇本可以拉長到半年、甚至一年;數位詐騙則像打游擊,一波結束就移往下一個平台,從廣告、社群到另一個App,一路跨平台引導被害人。

更大的問題是證據跟著斷線。被害人發現受騙時,可能已是半年後,手上通常只留得住最末端的匯款與聯絡紀錄,最初看過哪則廣告、點進哪個網站,早已消失。等到一、兩年後警方抓到詐騙集團,對方就能在法庭上反問「你怎麼證明我投過這則廣告?」劉彥伯以假設情境說明,一個集團原本可能詐騙了30億元,最後因證據不足,認定金額只剩幾千萬甚至幾百萬元。

不過,詐騙活動都會留下數位足跡,包括投放帳號、代理商、投放時間、運作國家與網址註冊紀錄,只要事先保存,日後調閱就「有憑有據」。

台灣數位安全發展協會
台灣數位安全發展協會理事長劉彥伯
圖/ 數位時代

AI都這麼強了,為什麼還要先做資料治理?

台灣數位安全發展協會的核心主張是:好的資料分析,從好的資料治理開始。所謂資料治理,就是把散落在各平台、格式不一的碎片資料,整理成來源清楚、格式一致、可以互相比對的資料。協會先確認每筆公開資料的來源、時間、權限、版本與隱私,再標上事件分類、風險評估、曝光平台、投放者與網址等標籤,才能找出彼此關聯、還原詐騙網絡。

根據協會的實證簡報,系統在一段監測期間內掃描309.5萬則廣告,通報62.8萬則(約占20%),投放當日偵測率達99.21%。劉彥伯也提到,協會與資安院、數位發展部在打詐通報查詢網的合作中,判斷率接近百分之百。

那還需要人嗎?答案是需要。現行法律仍要求有人為判斷結果背書負責,加上詐騙劇本會隨被害人的回應即時調整,因此協會讓AI處理九成多的工作,最後由人做判斷。

截圖不能當證據?b-JADE如何替詐騙證據貼上「封條」

在AI改圖越來越容易的今天,單純截圖很難在法庭上證明自己沒被竄改過。劉彥伯的比喻是:截圖比較像「我那天真的看過,還拍了一張照片」;可信存證則是把證物放進有封條、有時間、有編號、有保管紀錄的證物袋,「重點不是有沒有留下東西,而是未來能不能驗證這是不是當時那一份」。

這也是b-JADE派上用場的地方,但並不是把所有資料都放上區塊鏈。協會把原始資料與AI分析結果,保存在權限受管控的系統裡,只把每份資料的「數位指紋」交給b-JADE存證。數位指紋的特性是,內容只要有任何改動,指紋就會完全不同,因此能證明資料沒被動過;需要時,再經授權調閱原始資料,兼顧隱私與驗證。依b-JADE規範盤點,協會既有流程已符合19項要求,其餘7項缺口也逐步補強,例如存證時間改採具公信力的標準時間來源,不再依賴電腦本機。

防詐能從事後追查走向事前預警嗎?

可以,協會正把存證從被害人受騙後,往前推到「主動式上鏈」:AI判定高風險的內容,先一步蒐集存證,不必等到有人受害。

小農是第一個場景。許多消費者在網路上支持小農,錢最後卻流進冒名的詐騙集團。協會因此與農業部合作推出「農本人」系統,讓小農自行登錄銷售管道與社群帳號形成白名單,再結合AI蒐集的黑名單,一旦遭冒名就能第一時間發現並報案。這套模式未來也可延伸至網路霸凌、性私密影像等案件。

制度面也在加速。2026年8月,司法聯盟已開設認證專班,邀集司法院、法務部、高檢署、調查局與警政署相關人員受訓,相關存證應用預計明年正式推出,時程仍待聯盟拍板。

劉彥伯坦言,目前從蒐集、分案到下架的流程仍然冗長,技術正好能在保留人為背書的前提下縮短流程。他在《數位關鍵字》節目尾聲留給聽眾的一句話是:「數位安全不只是技術工具,也涉及資料的可信、法遵治理與跨領域合作。」當AI幫人更快找到線索,經得起驗證的資料,將讓每一位被害人在法庭上多一分底氣。

台灣數位安全發展協會
台灣數位安全發展協會理事長劉彥伯認為,可信存證的重點不是留下東西,而是未來能被驗證。
圖/ 數位時代

常見問答
Q1:詐騙廣告被下架後,還能當作證據嗎?
A:若事前沒有保存,下架後就很難追溯。台灣數位安全發展協會建議在內容消失前,保存投放帳號、代理商、投放時間、運作國家與網址等數位足跡,日後才能據以向平台請求調閱。

Q2:手機截圖可以當作詐騙證據嗎?
A:截圖只能證明「看過」,難以證明未被竄改。在AI改圖越來越容易的情況下,透過數位指紋與具公信力的時間紀錄進行可信存證,才能在日後驗證資料是否為當時的原始版本。

Q3:什麼是b-JADE司法聯盟鏈?
A:b-JADE是以區塊鏈為基礎的司法存證機制,只有通過程序認證的單位才能提供上鏈服務。台灣數位安全發展協會的做法是只將資料的數位指紋上鏈,原始資料另行保存在權限受管控的系統,兼顧隱私與驗證,目標是降低訴訟舉證成本。

Q4:AI可以完全取代人工判斷詐騙嗎?
A:目前不行。依台灣數位安全發展協會的做法,九成以上的蒐集與分類工作可由AI完成,但現行法律仍要求由人做最終判斷,並為結果背書負責。

Q5:小農要如何預防被冒名詐騙?
A:可登錄台灣數位安全發展協會與農業部合作的「農本人」系統,自行提交銷售管道、粉絲專頁與LINE帳號建立白名單,搭配AI主動蒐集的黑名單,遭冒名時能第一時間發現並報案。

完整對談請收聽《數位時代》Podcast《數位關鍵字》EP264。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
一次搞懂工業AI
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓