無人機變殺人武器，專家示警：AI濫用5年內看得到|數位時代 BusinessNext

無人機變殺人工具，濫用AI後果不堪設想

報告中指出，包括無人機、虛假影音和駭客攻擊，將是有心人士惡意使用人工智慧最普遍的三大途徑。

舉例來說，孤狼式攻擊者只要一台無人機，運用臉部辨識軟體強加訓練後，就可以鎖定特定人物攻擊，把無人機變成殺人工具。而透過機器學習，自動放送的虛假或不雅影音內容，人們很難分辨其真實性，可能被用於政治抹黑，操控公眾輿論。

惡意駭客也可能利用AlphaGo、各類開源平台上的技術，找出海量數據組成的規則或漏洞，藉此破解密碼，竊取個人機密資料；或是使用AI語音合成來模擬目標，移花接木影音和圖片內容等，如日前在網路論壇Reddit發生的「換臉」製作假影片事件。

劍橋大學「存在風險研究中心」（Centre for the Study of Existential Risk）專家Shahar Avin表示，這些預測並非存在遙遠的未來，而是在未來5年內隨時都有可能發生，該報告進一步示警，隨著AI發展成熟，可能被流氓國家、罪犯和恐怖分子利用。

「存在風險研究中心」執行主任Seán Ó hÉigeartaigh是這份報告的共同撰寫人之一，他強調，人工智慧將改寫眾多領域的遊戲規則，「我們正身處在一個恐因濫用AI而淪陷的世界，這些風險都是真實的，我們必須面對這些問題，盡快做出選擇。」而這份報告就是呼籲全球各政府、機構和相關人士採取行動。

事先設想新技術負面影響，降低AI使用風險

對此，該報告提出四點建議。首先，政策制定者和AI專家應共同合作，徹底掌握可能的惡意利用。第二，雖然AI帶來很多正面的應用，但它就像一把雙面刃，人工智慧研究員和軟體工程師應預先推敲其被誤用的可能性，在開發階段就設下保護機制。

第三，從歷史經驗中汲取教訓，像是資安、電腦科學等，歸納出新技術帶來的負面影響。第四，積極擴大並拉攏相關產業利益者，以預防和減輕惡意使用AI的風險。

報告也提到，AI正帶來全新的安全漏洞，虛擬與實體皆然，各國政府應盡速制訂相關法律，跟上時代需求。而個別使用者方面，除非已徹底了解AI新技術、新產品的風險性，否則不要貿然的傳播或分享。

牛津大學未來人類研究所（Oxford University's Future of Humanity Institute）研究員Miles Brundage表示，人工智慧將徹底改寫公民、企業組織和國家所面臨的風險，像是成為駭客犯罪時的訓練工具、介入隱私的管道等，對人類安全帶來顛覆性的影響。但他強調，雖然AI潛藏不少負面效應，但考量其帶來的正面助益，發展AI仍有其必要性。

隨著生成式 AI 工具快速普及，使用 AI 生成圖片、文案與影音素材，早已不再稀奇；真正困難的是，如何讓 AI 內容不只具備媲美真人拍攝的質感，還能精準貼合品牌語氣、商品賣點與社群傳播節奏，進一步帶動流量、轉換率與會員經營。

不過，有一家成立不到 5 年的團隊，卻憑藉著這項能力，吸引百年家電品牌、大型連鎖零售品牌、化妝品代工龍頭到政府機關等不同類型客戶合作。近期更與以創意出名的電商平台蝦皮購物共同合作。

這家隱身在眾多一線大廠背後的 AI 操盤手，正是三立集團旗下的 MarTech 公司「創造智能」。相較於單純提供 AI 工具或單點行銷服務，創造智能更像是企業的 AI 行銷整合夥伴，不只是生成 AI 影音內容，而是從行銷目標出發，運用 AI 串起從內容生成、社群導流、顧客互動到會員經營的完整行銷旅程，突破過往內容與數據各自為政的盲點，這才是它真正讓企業買單的關鍵。

除了預算大幅減少、製作效率提升外，林慧珍指出，現在很多人都可以利用 AI 工具生成圖片或影片，但真正拉開差距的，不是 AI 應用能力，而是內容本身。創造智能刻意打造一支由行銷人才與工程師組成的「混血團隊」，兼顧 AI 影音內容的製作效率與品質。

圖／創造智能

串起行銷斷點，打造 AI 一條龍整合服務

對台灣企業行銷現場的長期觀察，是創造智能跳脫單一工具走向「AI 行銷整合」模式的起點。

創造智能執行長林慧珍指出，企業行銷工作往往交由不同廠商負責，從影音內容製作、廣告投放、社群經營到會員管理，各自使用不同工具與平台，導致資料散落在各處，形成一個個看不見的行銷斷點，一旦成效不如預期，很難釐清問題究竟出在哪一個環節，是素材無法打動消費者、投放策略失準，還是會員經營沒有發揮效益。

「很多 AI 或軟體業者的想法是，用自家產品去解決客戶的問題，但我們想的不只是解決問題，而是如何讓客戶用最方便、最完整的一條龍方式達成商業目標，」林慧珍強調，也因此，創造智能成立初期便鎖定AIGC 商業影音、AI客服/虛擬人及LINE CRM三大領域，希望從內容、互動到會員經營，串起完整的行銷流程。

在行銷旅程的前端，創造智能透過自家研發的系統與深厚的行銷經驗，快速產製出 AI 影音內容，協助品牌放大聲量、吸引目標受眾；接著透過 AI 客服與 AI 虛擬人即時回應顧客需求，不受時間、地點與語言限制，提高互動與成交機率；最後再藉由 LINE CRM 將流量收斂為品牌的第一方會員資產，透過會員貼標、分群分眾、自動化推播、再行銷等機制，持續深化顧客關係，將一次性的流量轉化為持續回購的忠誠會員。

用 AI 加速內容測試，快速找到市場答案

除了串起完整的行銷流程外，創造智能還能為企業創造兩大價值，第一個是協助企業更快找到真正打動消費者的內容。

「現在很多人都可以利用 AI 工具生成圖片或影片，但真正拉開差距的，不是 AI 應用能力，而是內容本身。」林慧珍指出，創造智能刻意打造一支由行銷人才與工程師組成的「混血團隊」，兼顧 AI 影音內容的製作效率與品質。

林慧珍進一步說明，團隊許多成員原本就來自專業影音團隊，長期協助企業製作導流影片，因此在劇本企劃、分鏡設計與敘事節奏上，累積大量實戰經驗。以近期協助蝦皮購物製作 AI 短影音為例，團隊並非直接交由 AI 工具生成內容，而是先分析目標受眾的偏好，再於腳本設計時加入企劃巧思。像是刻意運用消費者熟悉的歌曲氛圍，營造「似曾相識」的共感，引發社群討論。這些對品牌語感、社群節奏與內容敘事的掌握，正是創造智能團隊多年累積的內容經驗，也是現階段 AI 難以取代的核心價值。

另一方面，團隊則負責研發系統，以滿足企業多元行銷需求。例如：創造智能自行開發的「AI 導演模板」，不僅能快速生成高度擬真的影音內容，還可以依據品牌的不同需求，快速調整畫面風格、配音語氣與敘事方式，協助品牌進行 A/B Test，找出最能吸引消費者的內容。同時，還能依照不同社群平台需求，自動延伸出不同秒數與尺寸的版本，讓同一支影片快速應用於不同投放渠道。

更重要的是，從企劃發想到完成影片，最快約一週即可完成，不僅大幅縮短製作時程，也較傳統真人拍攝節省約 4 至 6 成的成本

讓 AI 走進工作流程，從客服升級為企業數位夥伴

創造智能為企業帶來的第二個價值是，透過 AI 客服 / AI 虛擬人推動流程自動化。林慧珍認為，AI 的價值不只是回答問題，而是深入既有的工作流程，以自動化服務協助企業降低成本、提升營運效率。

舉例來說，創造智能在與百年家電品牌合作時，先以 LINE 官方帳號與會員經營為核心，透過 LINE CRM 建立會員數據基礎，依據會員的瀏覽行為、產品偏好及互動紀錄，自動完成會員標籤與分群，並透過精準推播提供更符合需求的內容。隨著會員數據逐步累積，再進一步串接 Facebook 等社群平台，讓會員經營從單一通路延伸至跨平台互動，逐步建立完整的品牌數位接觸點。

目前，雙方合作已進入第二階段，將 AI 客服真正導入企業日常營運中。從客服受理、案件分流到售後服務，整個流程皆可透過 AI 與系統自動串接完成，不僅縮短服務時間、提升案件處理效率，也讓 AI 的角色從單純的客服工具，進一步成為串聯客服、門市與售後服務的企業數位夥伴。

同樣的模式，也被延伸到 B2B 外貿場景。創造智能為某知名化妝品代工廠打造 AI Sales（AI 虛擬人），並匯入產品知識與各國出口法規，讓 AI 不僅能以多國語言即時回覆海外買家問題，更可自動完成名片蒐集、預約真人業務及商機派單等流程，不僅溝通時間由 6 個月降至 3 個月，減少 30% 以上真人處理成本，訂單成交率提升 25%-32%，

未來，AI 工具將持續演進，但企業真正需要的，始終是能協助創造商業價值的解決方案。林慧珍相信，唯有整合技術、內容與流程，並站在企業角度思考，AI 才能從工具升級為夥伴。這也是創造智能希望實踐的品牌理念──最人性化的MarTech 公司，創造更有溫度的智能夥伴。