無人機變殺人武器，專家示警：AI濫用5年內看得到|數位時代 BusinessNext

無人機變殺人工具，濫用AI後果不堪設想

報告中指出，包括無人機、虛假影音和駭客攻擊，將是有心人士惡意使用人工智慧最普遍的三大途徑。

舉例來說，孤狼式攻擊者只要一台無人機，運用臉部辨識軟體強加訓練後，就可以鎖定特定人物攻擊，把無人機變成殺人工具。而透過機器學習，自動放送的虛假或不雅影音內容，人們很難分辨其真實性，可能被用於政治抹黑，操控公眾輿論。

惡意駭客也可能利用AlphaGo、各類開源平台上的技術，找出海量數據組成的規則或漏洞，藉此破解密碼，竊取個人機密資料；或是使用AI語音合成來模擬目標，移花接木影音和圖片內容等，如日前在網路論壇Reddit發生的「換臉」製作假影片事件。

劍橋大學「存在風險研究中心」（Centre for the Study of Existential Risk）專家Shahar Avin表示，這些預測並非存在遙遠的未來，而是在未來5年內隨時都有可能發生，該報告進一步示警，隨著AI發展成熟，可能被流氓國家、罪犯和恐怖分子利用。

「存在風險研究中心」執行主任Seán Ó hÉigeartaigh是這份報告的共同撰寫人之一，他強調，人工智慧將改寫眾多領域的遊戲規則，「我們正身處在一個恐因濫用AI而淪陷的世界，這些風險都是真實的，我們必須面對這些問題，盡快做出選擇。」而這份報告就是呼籲全球各政府、機構和相關人士採取行動。

事先設想新技術負面影響，降低AI使用風險

對此，該報告提出四點建議。首先，政策制定者和AI專家應共同合作，徹底掌握可能的惡意利用。第二，雖然AI帶來很多正面的應用，但它就像一把雙面刃，人工智慧研究員和軟體工程師應預先推敲其被誤用的可能性，在開發階段就設下保護機制。

第三，從歷史經驗中汲取教訓，像是資安、電腦科學等，歸納出新技術帶來的負面影響。第四，積極擴大並拉攏相關產業利益者，以預防和減輕惡意使用AI的風險。

報告也提到，AI正帶來全新的安全漏洞，虛擬與實體皆然，各國政府應盡速制訂相關法律，跟上時代需求。而個別使用者方面，除非已徹底了解AI新技術、新產品的風險性，否則不要貿然的傳播或分享。

牛津大學未來人類研究所（Oxford University's Future of Humanity Institute）研究員Miles Brundage表示，人工智慧將徹底改寫公民、企業組織和國家所面臨的風險，像是成為駭客犯罪時的訓練工具、介入隱私的管道等，對人類安全帶來顛覆性的影響。但他強調，雖然AI潛藏不少負面效應，但考量其帶來的正面助益，發展AI仍有其必要性。

若將生成式人工智慧（GenAI）技術視為改變人與資訊互動的重要分水嶺，Physical AI（實體AI）則讓 AI 真正理解並介入真實世界：從機器人、自駕車到智慧製造，AI 正從「理解內容」走向「理解物理世界」，其中，自駕車被公認是 Physical AI 最具代表性的落地場域，也是目前最能驗證 AI 感知、推理與決策能力的應用，因為，不僅要控制車輛，還必須即時與人流、車流、道路設施及各類載具互動，需要極高的 AI 感知、推理與執行能力。

對深耕智慧移動多年的勤崴國際而言，Physical AI不只是 AI 技術演進，而是自駕車產業邁向下一個世代的重要轉折：從依賴規則控制（Rule-based）的自駕系統，逐步升級為具備感知、推理、學習與持續優化能力的智慧移動平台，讓全球自駕車產業競爭從單一技術比拚，走向資料、場域、生態系與 AI 能力的全面競賽。

Physical AI讓自駕車從「照規則開車」走向「理解世界」

過去，自駕車依靠高精地圖、光達（LiDAR）、攝影機等感測器，以及大量預先設定好的規則進行判斷，這種作法能處理相對固定的情境，但一旦遇到複雜且快速變化的交通環境，例如大量機車穿梭、行人突然穿越、不同國家的交通規則，系統很容易受到限制。

勤崴國際認為，Physical AI 的出現正改寫自駕車的發展模式：透過更強大的 GPU 算力，結合世界模型（World Model）、數位孿生（Digital Twin）與模擬器（Simulator），AI 能先在虛擬世界完成大量交通情境模擬，再將學習成果快速部署到真實道路，不僅大幅縮短訓練與驗證時間，也讓自駕系統持續學習與進化。

「在 Physical AI 賦能下，自駕車將從依照規則開車轉變成能理解環境、預測意圖，再做出最佳決策。」勤崴國際副總經理林映帆表示，例如當系統看到路邊有人揮手，不只是辨識動作，而是能推論對方有搭車需求；當機車快速切入車道，也能提前預測可能路徑，而非等事件發生後才反應。

這也意味著，自駕車的競爭已從「規則設計」走向「AI學習能力」的競爭：自駕車不僅是智慧移動的新載具，更是觀察 Physical AI 是否真正成熟的重要指標；換言之，Physical AI比拚的不是演算法，而是誰能持續累積真實場域、建立與完善資料庫，讓 AI 在每一次行駛中不斷學習、持續進化，形成下一波智慧移動競爭的關鍵。

七年累積三十個場域，勤崴國際打造台灣智慧移動新能量

相較於 Waymo、Tesla 的優勢來自數百萬輛車持續累積道路資料，勤崴國際的策略是透過不同場域的長期營運，建立屬於台灣的智慧移動資料庫。

自2019年投入自駕車商業化應用以來，勤崴國際不僅持續深耕高精地圖、自駕系統、車聯網及自駕運輸技術、於全台完成超過30個自駕場域部署，累積自駕行駛里程突破38萬公里、服務超過80萬人次，更逐步建立台灣少數具規模的智慧移動資料庫；為進一步加速自駕車產業價值鏈發展，勤崴國際也攜手車廠、路側設備，感測器、AI 平台、車聯網、客運與場域業者打造完整的自動駕駛生態系。

以台積電南科園區的自駕巴士服務為例，由於路線涵蓋園區內外道路，自駕車不僅要與物流車、叉車及一般車流共存，離開園區後更須面對台灣特有的高密度機車交通環境，對 AI 的感知與決策能力形成高度挑戰；截至今日，該服務已累積超過92,435人次搭乘、自駕行駛里程超過83,542公里，接駁率高達96.7%；此外，勤崴國際也於廠區內導入自駕接駁車與自駕載貨車，累積服務超過216,794人次，驗證自駕技術在智慧工廠場域的落地能力。

除了工業場域，勤崴也將自駕技術延伸至觀光應用，例如今（2026）年6月在南投埔里福興溫泉區推出「啡嚐咖心」觀光自駕車服務；林映帆指出，相較於工業場域重視效率，觀光應用更重視人車互動與乘車體驗，遊客只需一鍵即可啟動自駕接駁，系統除了安全辨識行人與周遭環境，也能透過語音互動提升搭乘安心感，證明自駕車不僅適用於產業應用，更可成為偏鄉觀光與高齡化社會的新一代公共運輸解決方案。

接下來，勤崴國際將憑藉著在南部科學園區、南投與新北市的落地運行經驗，攜手產業夥伴、針對未來對自駕公車有需求的城市，協助客運業者解決公車缺工等議題。

林映帆說：「我們的目標是提供自駕全方位解決方案。」在累積物流、廠區接駁、觀光、無塵室搬運等多元場域經驗後，勤崴逐步發展出「一個平台、多種載具、多種場域」策略：將共通技術平台模組化，再依不同客戶需求進行客製化調整，讓每新增一個場域，都成為下一個場域快速且安全部署的重要養分。

勤崴國際副總經理林映帆表示，將以「一個平台、多種載具、多種場域」策略，攜手自駕車產業鏈夥伴，協助AI自駕車等智慧移動落地應用，以及打造「國家隊」前進海外市場。

圖／數位時代

隨著Physical AI的成熟與落地，未來智慧移動的競爭，不再只是比誰擁有更大的模型，而是比誰能持續累積場域、建立完整資料庫，以及串聯完整生態系；在這個關鍵時刻，勤崴國際除因應不同場域客戶需求提供自駕車解方，也希望攜手更多產業夥伴，共同打造具有國際競爭力的智慧移動國家隊，讓台灣在全球自駕與 Physical AI 的新賽局中，占有一席關鍵位置。