無人機變殺人武器,專家示警:AI濫用5年內看得到
無人機變殺人武器,專家示警:AI濫用5年內看得到

這個月20日,春節假期的最後一天,一份名為「人工智慧的惡意使用:預測、預防和減輕」(The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation)報告,在國外媒體傳布開來。

包括牛津、劍橋、史丹佛、耶魯等英美頂尖學府的學者們,以及來自特斯拉(Tesla)執行長Elon Musk創辦的OpenAI、電子前線基金(Electronic Frontier Foundation)、資安公司Endgame和美國安全智庫的政策制定者,一共26位AI領域專家,聯合發布這份報告。洋洋灑灑近百頁的內容,當中明白闡述,隨著人工智慧的快速發展和使用門檻降低,各種技術可能被有心人士惡意使用,在未來5年內,即會對數位世界、人身安全和政治等領域構成威脅。

無人機變殺人工具,濫用AI後果不堪設想

報告中指出,包括無人機、虛假影音和駭客攻擊,將是有心人士惡意使用人工智慧最普遍的三大途徑。

舉例來說,孤狼式攻擊者只要一台無人機,運用臉部辨識軟體強加訓練後,就可以鎖定特定人物攻擊,把無人機變成殺人工具。而透過機器學習,自動放送的虛假或不雅影音內容,人們很難分辨其真實性,可能被用於政治抹黑,操控公眾輿論。

drone_shutterstock_422471677.jpg
無人機被AI訓練後,也可能成為孤狼式攻擊者的殺人工具。
圖/ ShutterStock

惡意駭客也可能利用AlphaGo、各類開源平台上的技術,找出海量數據組成的規則或漏洞,藉此破解密碼,竊取個人機密資料;或是使用AI語音合成來模擬目標,移花接木影音和圖片內容等,如日前在網路論壇Reddit發生的「換臉」製作假影片事件。

劍橋大學「存在風險研究中心」(Centre for the Study of Existential Risk)專家Shahar Avin表示,這些預測並非存在遙遠的未來,而是在未來5年內隨時都有可能發生,該報告進一步示警,隨著AI發展成熟,可能被流氓國家、罪犯和恐怖分子利用。

「存在風險研究中心」執行主任Seán Ó hÉigeartaigh是這份報告的共同撰寫人之一,他強調,人工智慧將改寫眾多領域的遊戲規則,「我們正身處在一個恐因濫用AI而淪陷的世界,這些風險都是真實的,我們必須面對這些問題,盡快做出選擇。」而這份報告就是呼籲全球各政府、機構和相關人士採取行動。

事先設想新技術負面影響,降低AI使用風險

對此,該報告提出四點建議。首先,政策制定者和AI專家應共同合作,徹底掌握可能的惡意利用。第二,雖然AI帶來很多正面的應用,但它就像一把雙面刃,人工智慧研究員和軟體工程師應預先推敲其被誤用的可能性,在開發階段就設下保護機制。

第三,從歷史經驗中汲取教訓,像是資安、電腦科學等,歸納出新技術帶來的負面影響。第四,積極擴大並拉攏相關產業利益者,以預防和減輕惡意使用AI的風險。

報告也提到,AI正帶來全新的安全漏洞,虛擬與實體皆然,各國政府應盡速制訂相關法律,跟上時代需求。而個別使用者方面,除非已徹底了解AI新技術、新產品的風險性,否則不要貿然的傳播或分享。

牛津大學未來人類研究所(Oxford University's Future of Humanity Institute)研究員Miles Brundage表示,人工智慧將徹底改寫公民、企業組織和國家所面臨的風險,像是成為駭客犯罪時的訓練工具、介入隱私的管道等,對人類安全帶來顛覆性的影響。但他強調,雖然AI潛藏不少負面效應,但考量其帶來的正面助益,發展AI仍有其必要性。

往下滑看下一篇文章
資誠加速器七年有成:從加速到對接,打造新創成長的全方位引擎
資誠加速器七年有成:從加速到對接,打造新創成長的全方位引擎

資誠創業成長加速器(Scale Programme)於日前盛大舉辦第七屆 Demo Day,邀請 11 家新創企業上台展現創新成果,成功吸引超過百位產業與投資人齊聚一堂,為創新與資本對接創造更多可能。

在當前市場環境中,資源整合與落地速度已成為新創邁向規模化的決勝關鍵。為此,資誠創業成長加速器自成立以來,便聚焦「厚創新X後加速」兩大主軸,為新創提供系統化的輔導與資源整合。七年來,已培育超過 79 家新創,涵蓋 AI 應用、生技醫療、金融科技、智慧交通與 ESG 等多元領域,並協助團隊完成累計逾 20 億元募資,展現強大的新創培育能量 。

創投俱樂部上線:從加速培育走向精準媒合

「PwC 自 2018 年起即深耕新創生態圈,見證台灣新創從萌芽走向蓬勃發展」,資誠聯合會計師事務所審計服務營運長林永智說。

在此過程中,PwC 不僅成立資誠創業成長加速器,整合財務、稅務、法務及管理顧問等多項專業資源,協助新創因應不同成長階段的營運與治理挑戰;亦透過每年發布的新創生態圈大調查,持續掌握新創在市場布局、營運管理與資本對接上的關鍵課題。2026 年,PwC 進一步啟動資誠創投俱樂部,打造更深入且精準的媒合機制,期望為新創串聯更多資源與機會,推動台灣新創生態圈持續向前。

pwc-2.jpg
資誠聯合會計師事務所審計服務營運長林永智
圖/ 數位時代

資誠聯合會計師事務所創新創業服務主持會計師顏裕芳進一步說明,資誠創投俱樂部每季舉辦一次不同主題的「Pitching Wednesday - 資誠新創投資媒合會」,讓投資人能與團隊展開深度交流,精準找到具潛力的投資標的。除了強化媒合機制,資誠亦持續優化加速器的服務內涵,從顧問輔導延伸至知識賦能。

自 2025 年起,PwC 每月發布「資誠新創加速報」,提供最新新創趨勢、產業觀察與內部專業觀點;同時亦於官網推出《創觀點》系列專欄,定期分享台灣新創生態圈關注的核心議題,協助新創掌握市場脈動,據此制定更具前瞻性的發展策略。

同樣關注台灣新創發展的櫃買中心,則推出創櫃板 plus 機制,提高中小微企業轉化創意、逐步邁入資本市場並增加市場曝光度和對接資金的機會,截至目前創櫃板公司已募資金額達72.9億元,並吸引到更多策略夥伴,顯見創櫃板不只能為企業進入資本市場提供支持,更能幫助企業在全球競爭環境中脫穎而出。

pwc-3.jpg
資誠聯合會計師事務所創新創業服務主持會計師顏裕芳
圖/ 數位時代

台灣新創趨勢解讀:從市場布局到投資邏輯的三大轉變

資誠聯合會計師事務所創新創業服務協理白淵凱則從「2025台灣新創生態圈大調查」中,歸納出三大關鍵趨勢。第一是日本首度超越美國,成為台灣新創海外發展的首選目標。過去七年調查中,美國始終名列首位,但最新調查顯示,高達 51.2% 的受訪新創預計在未來 1-2 年內佈局日本市場,顯示海外市場策略正出現明顯轉向。

第二是新創與投資人對 AI 的關注焦點出現落差。從新創角度看,其所應用的AI技術類型,前三大依序是生成式AI、自然語言處理及預測分析;但在投資端,最看好的 AI 技術則是預測分析與視覺辨識,第三才是生成式 AI。此外,一般創投(VC)在 AI 領域的投資布局,也較企業創投(CVC)更為積極。

第三是企業投資人正快速崛起,企業專責投資部門首度躍升為前三大投資者類型,且多透過政府、公協會、創新機構所舉辦的活動接觸新創。值得注意的是,無論 VC 或 CVC,在投資評估過程中,皆高度重視財務監管機制、退場條件與董事席次安排等治理面向,顯示制度化與治理能力,已成為新創能否獲得資本青睞的關鍵因素。

11 家新創齊發:五大領域勾勒未來產業樣貌

在掌握趨勢之餘,新創如何將技術落地並創造具體價值,仍是重要關鍵,就本屆 Demo Day 上登場的新創來看,雖然聚焦智慧醫療、生技製藥、綠色永續、企業營運及 B2C 服務等不同領域,但皆已走向應用落地,展現明確的商業模式與市場切入點。

在智慧醫療領域,AI 應用已深入不同環節。康統醫學科技推出的EVAS內視鏡AI助理,可自動生成醫學檢查報告,有效節省醫護人員作業時間。安德斯醫學科技聚焦 1 小時內可以完成的檢查治療,透過微型影像封裝與 AI 技術,改善傳統內視鏡檢查高建置成本、高風險、缺乏可視化等問題。神瑞人工智慧則以AI整合式篩檢為核心,讓病患只需一次低劑量電腦斷層,就能同時進行肺部、心臟、骨骼的疾病篩檢。

在生技製藥領域,新創運用創意來優化治療成效。益肸胞生醫開發異種細胞免疫療法,運用自體免疫系統對抗癌細胞,避免傳統化療或放射治療等方式對身體造成的傷害。瑞采生技鎖定高齡心腎代謝症候群患者,透過老藥新用和微脂體新劑型等技術,改變藥物傳遞方式,希望降低高齡患者死亡率及減輕醫療負擔。

在綠色永續領域,新創關注節能與循環經濟。博世科智能運用獨家專利的無線技術與系統,讓企業不必佈線就能掌握用電數據。台灣碳梭科技的吸附回收技術可以提取電子廢棄物中的高價值金屬,且具備高效率及低碳排等優勢。優泥來同樣專注在循環經濟,其將水庫淤泥、工業污泥等廢棄物,透過高溫燒結技術再製成高性能輕質粒料,可被應用在節能耐震的綠建材當中。

在企業營運領域,伊斯酷軟體科技運用電腦視覺影像辨識技術,突破傳統 RPA需要安裝軟體或 API 才能運作的挑戰,讓工業應用現場也能邁向流程自動化,提高作業效率。在 B2C 服務領域,優護平台為台灣第一家針對短期居家照護的第三方預約媒合平台,民眾透過手機App就能快速找到居家照護員、護理師等專業人員,滿足臨時、短期的照護需求。路朋科技則推出 LOOP CAR SHARE 平台,結合雲端、物聯網等技術,推動 P2P 汽車共享。

pwc-4.jpg
圖/ 數位時代

本屆 Demo Day 不僅展現新創團隊的技術實力與市場潛力,也再次凸顯資誠在串聯資本與產業資源上的關鍵角色。隨著第八屆資誠創業成長加速器將於今(2026)年 5 月開放申請、8 月正式啟動,PwC 將持續透過系統化輔導與精準媒合機制,協助更多新創加速成長,擴大台灣新創生態圈的整體影響力。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
AI全球100+台灣20
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓