無人機變殺人武器,專家示警:AI濫用5年內看得到
無人機變殺人武器,專家示警:AI濫用5年內看得到

這個月20日,春節假期的最後一天,一份名為「人工智慧的惡意使用:預測、預防和減輕」(The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation)報告,在國外媒體傳布開來。

包括牛津、劍橋、史丹佛、耶魯等英美頂尖學府的學者們,以及來自特斯拉(Tesla)執行長Elon Musk創辦的OpenAI、電子前線基金(Electronic Frontier Foundation)、資安公司Endgame和美國安全智庫的政策制定者,一共26位AI領域專家,聯合發布這份報告。洋洋灑灑近百頁的內容,當中明白闡述,隨著人工智慧的快速發展和使用門檻降低,各種技術可能被有心人士惡意使用,在未來5年內,即會對數位世界、人身安全和政治等領域構成威脅。

無人機變殺人工具,濫用AI後果不堪設想

報告中指出,包括無人機、虛假影音和駭客攻擊,將是有心人士惡意使用人工智慧最普遍的三大途徑。

舉例來說,孤狼式攻擊者只要一台無人機,運用臉部辨識軟體強加訓練後,就可以鎖定特定人物攻擊,把無人機變成殺人工具。而透過機器學習,自動放送的虛假或不雅影音內容,人們很難分辨其真實性,可能被用於政治抹黑,操控公眾輿論。

drone_shutterstock_422471677.jpg
無人機被AI訓練後,也可能成為孤狼式攻擊者的殺人工具。
圖/ ShutterStock

惡意駭客也可能利用AlphaGo、各類開源平台上的技術,找出海量數據組成的規則或漏洞,藉此破解密碼,竊取個人機密資料;或是使用AI語音合成來模擬目標,移花接木影音和圖片內容等,如日前在網路論壇Reddit發生的「換臉」製作假影片事件。

劍橋大學「存在風險研究中心」(Centre for the Study of Existential Risk)專家Shahar Avin表示,這些預測並非存在遙遠的未來,而是在未來5年內隨時都有可能發生,該報告進一步示警,隨著AI發展成熟,可能被流氓國家、罪犯和恐怖分子利用。

「存在風險研究中心」執行主任Seán Ó hÉigeartaigh是這份報告的共同撰寫人之一,他強調,人工智慧將改寫眾多領域的遊戲規則,「我們正身處在一個恐因濫用AI而淪陷的世界,這些風險都是真實的,我們必須面對這些問題,盡快做出選擇。」而這份報告就是呼籲全球各政府、機構和相關人士採取行動。

事先設想新技術負面影響,降低AI使用風險

對此,該報告提出四點建議。首先,政策制定者和AI專家應共同合作,徹底掌握可能的惡意利用。第二,雖然AI帶來很多正面的應用,但它就像一把雙面刃,人工智慧研究員和軟體工程師應預先推敲其被誤用的可能性,在開發階段就設下保護機制。

第三,從歷史經驗中汲取教訓,像是資安、電腦科學等,歸納出新技術帶來的負面影響。第四,積極擴大並拉攏相關產業利益者,以預防和減輕惡意使用AI的風險。

報告也提到,AI正帶來全新的安全漏洞,虛擬與實體皆然,各國政府應盡速制訂相關法律,跟上時代需求。而個別使用者方面,除非已徹底了解AI新技術、新產品的風險性,否則不要貿然的傳播或分享。

牛津大學未來人類研究所(Oxford University's Future of Humanity Institute)研究員Miles Brundage表示,人工智慧將徹底改寫公民、企業組織和國家所面臨的風險,像是成為駭客犯罪時的訓練工具、介入隱私的管道等,對人類安全帶來顛覆性的影響。但他強調,雖然AI潛藏不少負面效應,但考量其帶來的正面助益,發展AI仍有其必要性。

往下滑看下一篇文章
從網銀體驗到數位品牌革新,國泰世華銀行「CUBE」如何造就質感金融平台?
從網銀體驗到數位品牌革新,國泰世華銀行「CUBE」如何造就質感金融平台?

近年來,銀行業陸續掀起 App 改版潮,介面設計推陳出新。然而,若追溯這股數位美學革命的起點,國泰世華銀行無疑是先行者。

2022 年,國泰世華推出「CUBE」數位品牌,名稱結合「Cathay United Bank」與「Empower」,象徵透過數位力量賦能客戶,讓金融服務自然融入生活。秉持「為可能,竭盡所能」的品牌理念,CUBE 不只是網銀 App,更是國泰世華打造一站式數位金融平台的核心起點。

當多數金融機構仍停留在功能導向思維,強調「快速、簡潔、好用」時,國泰世華已率先從品牌高度切入,以使用者為核心,導入兼具實用性與美學價值的設計哲學。國泰世華做對了什麼?為何能從產品進化為平台?

從功能到美學的品牌蛻變

在數位轉型方興未艾之際,多數金融 App 強調的是效率,但國泰世華選擇再往前一步。國泰世華銀行數位長陳冠學說:「我們的做法是不只要方便,還要具備質感與美感,在簡單的使用前提下,做到『不簡單的簡單』。」

打開 CUBE App,便能看見這種「質感金融」的落實。介面以金融業少見的灰階主色與留白設計,營造極簡氛圍;插畫則以簡潔筆觸呼應,增添現代科技感。從帳務收支、外幣買賣、信用卡到投資、貸款、保險,每個功能都保有一貫的視覺語彙,擺脫傳統金融厚重繁複的框架,傳遞「輕盈」與「透明」的設計觀。

然而,要打造一致的設計體驗,絕非僅靠技術可達成,更仰賴組織文化的支持。當多數金融機構習慣將設計與研發外包,國泰世華則選擇培養內部團隊。陳冠學直言:「外包常受限於專案週期,容易流於短期思維;唯有內部團隊,才能在細節中持續耕耘。」

「品牌就是細節的累積。」他強調,CUBE不只是一款網銀 App,目標更是一個承載金融科技力與美學價值的數位品牌。

國泰世華銀行數位長陳冠學
國泰世華銀行數位長陳冠學強調,CUBE以質感設計與細節堅持,將科技轉化為有溫度的金融體驗。
圖/ 數位時代

跨場景串聯的全方位體驗

「在數位服務設計上,最大的阻力往往來自業績壓力,因此才會充斥與需求無關的廣告。我們選擇回到初衷——從體驗出發,減少干擾。」陳冠學坦言。但他也強調,這並非否定廣告價值,而是調整優先順序:先確保流程簡單、介面友善,建立使用黏著度與忠誠度後,廣告才能在對的時間、對的渠道、推送對的內容,從干擾轉為加值。

而這種「以體驗優先」的理念,除了體現在CUBE App,也被落實到 ATM:全台 5,400 台國泰世華 ATM 介面大膽採用零廣告設計,提款流程更精簡至兩步驟,時間縮短近五成,展現「少即是多」的體驗哲學。

對於細節的堅持,也從數位介面延伸到實體卡片。如:國泰世華推出全台首張視障友善的「CUBE簽帳金融卡Touch Card (簡稱:CUBE Touch Card)」,透過圓弧切角與特殊壓模設計,讓視障者能以觸覺辨識卡片方向,更榮獲 2025 年德國 iF 設計獎,展現品牌在普惠金融上的細緻關懷。

而當體驗被放大到「整合生活」層次,國泰世華更進一步推動小樹點生態圈。信用卡回饋不再侷限於帳單折抵,使用者還能將點數轉換為米其林餐廳訂位、熱門演唱會門票等限量體驗。從數位介面到線下接觸點,再到生活金融場景,國泰世華正將 CUBE 打造為「金融+生活+娛樂」的全方位平台。

新世代價值驅動的金融競爭力

當 CUBE 體驗日益成熟,國泰世華開始追問:在快速變遷的時代,什麼樣的品牌才能真正獲得新世代的認同?

陳冠學提出兩大方向:一是持續應用前瞻科技,如虛擬資產等創新場景,讓金融服務始終走在市場之前;二是堅持品牌驅動,透過長期累積塑造認同感。「台灣金融市場相較國外,品牌驅動的氛圍不算強,但我們希望品牌本身成為力量!」他強調。

品牌照片(補).jpg
陳冠學指出,CUBE不只是產品,而是從品牌出發的平台戰略,為國泰世華塑造長期競爭力。
圖/ 國泰世華

這樣的思維,正好呼應新世代的價值轉向。對 Gen Z 而言,金融回饋只是基本,真正影響忠誠度的,是企業文化與社會責任。「做一件事是利己還是利他,新世代看得很清楚。」陳冠學說。這也是為什麼 CUBE 堅持回歸使用者為中心,透過細節傳遞的「利他」的品牌態度。

這是否也意味著,金融競爭的勝負關鍵不在於誰堆疊更多功能,而在於誰能將科技轉化為有溫度的體驗、把品牌理念融入每個接觸點?如 CUBE 正在驗證的新模式,以科技創新帶來效率與便利,以品牌文化建立信任與共鳴。當金融服務邁向平台化與生態化,國泰世華已率先勾勒未來格局——讓品牌成為金融服務的真正入口。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
蘋果能再次偉大?
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓