人類夢魘的開始，MIT訓練出宛如精神變態的AI|數位時代 BusinessNext

人類夢魘的開始，MIT訓練出宛如精神變態的AI

問題不在演算法，而是餵養給演算法的訓驗資料。MIT最新研究中，用大量不安的素材訓練一個叫「諾曼（Norman）」的人工智慧，誕生了第一個如同患有神經病的AI。

餵養大量不安資料，影響AI行為

最近Google因為與美國國防部簽約，試圖將AI科技用於軍事用途引發爭議，雖然本周Google已宣布明年三月合約期滿後，將不再與國防部續約，爭議問題暫時畫下休止符，但卻也讓大眾重新思考AI應用的善與惡。

麻省理工學院媒體實驗室（The MIT Media Lab）最近就做了一項實驗，他們創造出一個叫「諾曼（Norman）」的人工智慧，這個名字取自於有「懸疑電影大師」之稱的亞佛烈德·希區考克，一部著名電影《驚魂記》中的角色諾曼·貝茨（ Norman Bates），諾曼是一個圖像、文本描述的深度學習方法，白話來說，是當諾曼看到一張圖片後，就會自動產生一段文字，來描述他認為在圖片中看到了甚麼。

研究團隊利用論壇Reddit上充滿死亡、屍體等不安內容的子論壇（subreddit）相關數據，來餵養給諾曼，接著進行了由瑞士精神醫生赫曼·羅夏克（Hermann Rorschach），所編製的墨跡測驗（Rorschach Inkblots）。

墨跡測驗是一項人格測驗，測驗由10張有墨漬的卡片組成，其中5張是白底黑墨水、2張是白底及黑色或紅色的墨水，另外3張則是彩色墨漬卡片，受試者要回答他們最初認為卡片看起來像什麼，以及後來覺得像什麼，心理學家會根據答案及統計數據判斷受試者的性格，研究結果顯示，研究團隊訓練出了「全世界第一個精神變態人工智慧（World's first psychopath AI）」。

以下，是研究團隊進行墨跡測驗（Rorschach Inkblots）的部分結果，分別描述一般正常AI看到圖片的描述，以及諾曼再接受不安內容訓練後，所回答的結果。

帶有偏見的AI，容易操弄社會輿論

值得一提的是，這支參與麻省理工學院媒體實驗室（The MIT Media Lab）研究的團隊，去年萬聖節曾經做出，會寫鬼故事的AI「雪萊（Shelley）」，Shelley 每個小時會在自己的Twitter帳號上發布一則自創的短文，只要看到Shelley在文末放上「 #yourturn（換你）」的hashtag，就表示Shelley正在邀請網友一起續寫幫助故事延伸，Shelley已經具備將同樣的素材，改寫成兩種不同版本的能力。

而從這次諾曼的AI實驗中可以發現，用帶有偏見的資料，就能訓練出帶有偏見的AI模型，如果加以操弄，就可能在特定的議題上成功帶風向，像是性別歧視、種族歧視、廢死、LGBT議題等，都有可能因為演算法的偏見，加速傳播或放大某些議題的極端立場或偏見。

麻省理工助理教授Iyad Rahwan就表示：「諾曼反映出非常黑暗的事實，說明人工智慧可以學習這個世界中的恐怖現實。」演算法本身並沒有錯，有問題的是帶有偏差的訓練資料，有偏見的資料會產生有偏見的AI，甚至預測出來的結果也會是帶有偏見的，而資料、AI之間的微妙關係，許多AI專家就以「Garbage in, Garbage out（垃圾進，垃圾出）」來形容，概念就像我們常說的，你跟怎樣的人當朋友，就會被影響成為一個怎樣的人。

當海外投資、跨境消費與留學成為日常，跨國匯款流程卻不夠便捷。國泰世華銀行以 CUBE App 小額跨境匯款服務，讓海外投資、跨境消費與留學匯款像日常轉帳一樣簡單。

疫情後，全球人流與金流快速恢復，海外留遊學、海外投資、跨境購物與海外旅遊等需求持續攀升，跨國匯款逐漸成為許多人的日常，然而，國際匯款流程卻幾乎數十年未曾改變：大多必須配合銀行營業時間辦理，款項通常需要等待兩、三個工作天才能到帳，還可能因中間銀行扣費，導致實際收款金額與預期不符。

看見上述市場缺口後，國泰世華銀行深入研究不同族群的跨境匯款情境，重新規劃服務流程、產品功能與系統架構，並透過內部年度創新提案大賽驗證產品概念，獲得高階主管支持，加速產品研發，成功於 2026 年在 CUBE App 推出小額跨境匯款服務。

如何讓跨國匯款像轉帳一樣簡便且安全？從用戶需求出發的改變

過去，講到跨境匯款，多數人的第一直覺是「麻煩」。除了可能需要有外幣帳戶、或事先約定帳號，或需要先完成換匯之外，還必須配合銀行營業時間，匯款完成後通常需要等待兩、三個工作天才能到帳，若碰上週末或假日，更可能因此錯過付款時機；另一方面，傳統 SWIFT 國際匯款還存在中間銀行扣費不透明的問題，匯出金額與收款金額經常出現落差，使用者不僅得反覆估算、多匯甚至補匯，有時還得多花時間跟收款方逐筆對帳，若遇上語言溝通障礙，將直接拉升處理難度，甚至因帳款不足或金額爭議，衍生交易取消、退匯等問題，不僅增加成本，也影響原本的留學繳費、交易或投資安排。

為了解決這些痛點，國泰世華銀行重新拆解整個跨境匯款流程，將產品設計回歸用戶需求，使用狀況獲得熱烈迴響：CUBE App 小額跨境匯款服務上線五個月，交易量即成長近五倍。用戶最直接感受到的改變是，整個跨境匯款流程變得更接近日常轉帳。第一，不需要預先開立外幣帳戶，也不用事先完成約定帳號，可直接透過台幣帳戶、以非約定轉帳方式完成跨境匯款；第二，服務支援 24 小時、全年無休，即使深夜或假日，也能快速完成交易。第三，用戶可透過 App 隨時掌握匯款進度，並在匯款過程中清楚看到收款方實際可收到的金額、確保全額到帳，不需要反覆確認款項流向，也降低了中間銀行扣費不透明造成的收款金額不足等困擾，讓繳交海外學費、支付旅遊費用、跨境購物或海外投資，都能更安心、更有效率。CUBE App 小額跨境匯款服務不僅是一項全新的金融服務，而是降低等待成本、操作成本與認知成本的跨境金流體驗，讓跨境金融服務真正融入日常生活。

跨境金流創新不僅滿足便利性，24 小時全天候服務仍兼顧安全性，把關風險

要將複雜的跨境金流流程轉化成 App 上的幾次點擊，背後是一場龐大的金融工程。

從市場研究、系統架構設計、產品規畫、開發測試到正式上線，國泰世華不僅攜手國際金融夥伴 VISA，更集結前、中、後台 IT、營運、作業、法遵、法務、風控、稽核、財會等十多個部門共同投入，重新設計外匯作業流程與營運模式，打造兼顧使用體驗、營運效率與風險控管的跨境金融服務。

舉例來說，傳統的銀行外匯服務並非為不間斷運作，為了提供 24 小時全天候服務，團隊努力突破既有作業限制、重新設計相關流程與系統機制，讓交易即使在非人工審核的時段，也能符合風險控管、洗錢防制（AML）及各項合規要求。同時，透過交易限額、多層 AML 機制、交易監控，以及與合作夥伴共同把關等設計，在便利性與安全性之間取得平衡。

除了營運流程，跨境金流還必須因應不同國家的法規與收款規則做調整，為此，國泰世華銀行重新調整系統架構與作業流程，降低使用者填寫匯款資料的門檻，服務上線後，亦持續優化操作介面與使用體驗。

例如，香港收款帳戶需分別填寫分行代碼與帳號，若格式錯誤便可能遭退匯；日本則因法規要求，首次跨境匯款前必須完成 eKYC 驗證，因此，團隊在系統介面加入對應提醒、欄位檢核與流程引導，有效降低因資料填寫錯誤造成的退匯情形，以及減少使用者的操作困擾。

服務推出後，國泰世華銀行觀察到：跨境金流逐漸從低頻金融交易轉變為數位生活的重要環節，應用情境也從支付海外留學費用、海外投資，延伸至跨境旅遊、跨境購物、國際活動報名等更多元的生活場景，因此，除了持續優化系統介面與服務功能，國泰世華也將目光延伸至整體跨境生活體驗，透過內外部資源協作，串聯更多元的跨境生活場景，讓金融服務從「完成一筆匯款」，進一步走向「滿足地球村生活圈需求」，以更便利、安全且貼近使用情境的服務，陪伴用戶自在連結全球，真正融入用戶的每日生活。