暫停GPT-4研究6個月！馬斯克帶頭千名CEO、科學家聯名信，他們恐懼什麼？|數位時代 BusinessNext

至今，我們已經經歷了多次數位革命，包括圖形界面的出現、網路的誕生以及移動網路的普及，但沒有一次科技變革像 GPT 模型引發的 AI 浪潮那樣引起如此廣泛的恐慌情緒。

一方面 AI 改變了人們工作和生活的方式，大大提高了效率；另一方面 AI 的運行和發展又充滿不確定性，觸發了人類對於未知事物的天然保護機制——恐懼。

今天，網路上一封公開的聯名信暴紅，該信 呼籲所有的 AI 實驗立即暫停研究比 GPT-4 更先進的 AI 模型，暫停時間至少 6 個月 ，為的就是把這些可怕的幻想扼殺在搖籃之中。

AI 的進步速度實在過於驚人，但相關的監管、審計手段卻遲遲沒有跟上，這也意味著沒有人能夠保證 AI 工具以及使用 AI 工具的過程中的安全性。

該聯名信已經獲得了包括 2018 年圖靈獎得主 Yoshua Bengio、馬斯克、史蒂夫 · 沃茲尼亞克、Skype 聯合創辦人、Pinterest 聯合創辦人、Stability AI CEO 等多位知名人士的簽名支持，截稿前聯名人數已經達到 1,125 人。

公開信的原文如下：

人工智慧具有與人類競爭的智慧，這可能給社會和人類帶來深刻的風險，這已經透過大量研究得到證實，並得到了頂級 AI 實驗室的認可。正如廣泛認可的阿西洛馬爾人工智慧原則（Asilomar AI Principles）所指出的，先進的 AI 可能代表地球生命歷史上的重大變革，因此應該以相應的關注和資源進行規劃和管理。

不幸的是，即使在最近幾個月， AI 實驗室在開發和部署越來越強大的數位化思維方面陷入了失控的競爭，而沒有人能夠理解、預測或可靠地控制這些數位化思維，即使是它們的創造者也無法做到這一點。

現代 AI 系統現在已經在通用任務方面具有與人類競爭的能力，我們必須問自己：
• 我們應該讓機器充斥我們的資訊管道，傳播宣傳和謊言嗎？
• 我們應該將所有工作都自動化，包括那些令人滿足的工作嗎？
• 我們應該發展可能最終超過、取代我們的非人類思維嗎？
• 我們應該冒失控文明的風險嗎？

這些決策不應該由非選舉產生的科技領導人來負責。只有當我們確信 AI 系統的影響是積極的，風險是可控的，我們才應該開發強大的 AI 系統。這種信心必須得到充分的理由，並隨著系統潛在影響的增大而增強。 OpenAI 最近關於人工智慧的聲明指出：「在某個時候，可能需要在開始訓練未來系統之前獲得獨立審查，對於最先進的努力，需要同意限制用於創建新模型的計算增長速度。」我們同意。現在就是那個時刻。

因此， 我們呼籲所有 AI 實驗室立即暫停至少 6 個月的時間，不要訓練比 GPT-4 更強大的 AI 系統。 這個暫停應該是公開和可驗證的，並包括所有關鍵參與者。如果無法迅速實施這樣的暫停，政府應該介入並實行一個暫禁令。

AI 實驗室和獨立專家應該利用這個暫停時間，共同製定和實施一套共享的先進 AI 設計和開發安全協議，這些協議應該由獨立的外部專家嚴格審核和監督。

這些協議應確保遵守它們的系統在合理懷疑範圍之外是安全的。這並不意味著暫停 AI 發展，而只是從不斷邁向更大、不可預測的黑箱模型及其突現能力的危險競賽中退一步。

AI 研究和開發應該重點放在提高現有強大、先進系統的準確性、安全性、可解釋性、透明度、魯棒性、對齊、可信度和忠誠度。

與此同時，AI 開發者必須與政策制定者合作，大力加速 AI 治理體系的發展。這些至少應包括：
• 專門負責 AI 的新的、有能力的監管機構；
• 對高能力 AI 系統和大型計算能力池的監督和跟踪；
• 用於區分真實與合成內容、跟踪模型洩漏的溯源和水印系統；
• 健全的審計和認證生態系統；對 AI 造成的損害承擔責任；
• 技術 AI 安全研究的充足公共資金；
• 應對 AI 引起的巨大經濟和政治變革（特別是對民主制度的影響）的資深機構。

人類可以在 AI 的幫助下享受繁榮的未來。在成功創造出強大的 AI 系統之後，我們現在可以享受一個「AI 盛夏」，在其中我們收穫回報，將這些系統明確地用於造福所有人，並讓社會有機會適應。

在面臨可能對社會造成災難性影響的其他技術上，社會已經按下了暫停鍵。在這裡，我們也可以這樣做。讓我們享受一個漫長的 AI 盛夏，而不是毫無準備地衝向秋天。

在這份公開信裡，附上的簽名表或許要比信的內容本身要精彩，你可以在這裡找到很多熟悉的名字，每一個簽名都表達了簽名者對於 AI 的強烈懷疑態度。

延伸閱讀：AI讓馬斯克「壓力山大」：這是危險的技術！特斯拉也在用，為什麼他這麼說？

不過，有網友發現這些簽名也不一定完全可信，因為在列表中出現了 OpenAI CEO Sam Altman（我封我自己？）和電影《捍衛任務4》男主角 John Wick 的名字，具體的真實性還有待考究。

附上本封聯名信的網址，感興趣的朋友也可以去寫上自己的名字：Pause Giant AI Experiments: An Open Letter

本文授權轉載自：愛范兒 ifanr

責任編輯：傅珮晴、林美欣

從競賽激發創新力，第一銀行如何以AI打造差異化競爭優勢、型塑數位生活圈？

不只擁抱人工智慧，第一銀行更主動出擊！透過以「AI工具應用」為核心的競賽活動，型塑內部創新文化，讓員工打破框架、激盪創意，共創智慧金融新藍圖。

Deloitte研究指出，導入人工智慧（AI）技術不僅有助於金融業者在短時間內提升5%到7%的營收，長期來看，漲幅高達10%到15%，換言之，AI不僅是科技趨勢，更是金融業邁向永續競爭的關鍵動能。

觀察到上述趨勢，第一銀行不僅透過AI加速創新轉型能量、提出名為GALA的生成式人工智慧行動方案，更舉辦「2025年第一銀行DigitALL黑客松」競賽，吸引總、分行單位逾50隊參賽，以內部競賽方式激發創新，打造一個全行共享、員工賦能的智慧金融場景服務。

聚焦三大面向，第一銀行以AI策略加速創新轉型能量

為什麼第一銀行能夠快速回應AI浪潮並做出最佳行動？原來，第一銀行早在2014年就展開數位轉型，並將AI視作驅動業務創新與流程優化的關鍵角色、廣泛應用在風險預測、詐騙防制、精準行銷，以及法金與個金的客群洞察等領域，持續擴大創新轉型能量與產業影響力。

為極大化AI帶來的創新轉型綜效，第一銀行將AI策略聚焦在三個面向：第一，將AI定位從工具轉變為全員賦能的關鍵，讓AI融入業務流程與決策機制，成為第一銀行的數位轉型基礎設施；第二，透過自研AI模型與外部合作的方式提升技術服務能量、加速AI賦能應用服務落地；第三，將AI應用場域從提升內部效率與優化風控擴展到客戶體驗與產品創新，化身成客戶最值得信賴的銀行。

例如，針對傳統授信開發過程中面臨的客戶評估流程繁瑣等議題，第一銀行以AI建立「法金潛力客戶模型」，透過分析金流強度與上下游關係，更快速且精準的辨識潛力客戶、提升招攬效率與成功率，進而創造更高的業務成效；根據統計，該模組自2023年下半年上線至今，不僅協助中小型分行招攬企業授信新戶逾百戶，核准授信額度達十億元以上，並且持續滲透其他產品成效。

隨著生成式AI崛起，第一銀行以生成式AI與擷取增強生成（Retrieval-Augmented Generation；RAG）技術整合各單位轄下規章並推出「企業內部智能詢答」系統，透過AI強化回覆能力，不僅有效縮短行員查找作業規範與詢答時間，也讓海外分行可以無時差的進行提問，系統上線已回應逾萬筆查詢，使用者普遍給予高度肯定，顯著提升整體作業效率。

除以AI優化內部營運效率，第一銀行於理財領域建置「e-First 智能理財」系統，其資產管理規模在國內銀行業的機器人理財服務中名列前茅，有效打破傳統理財服務仰賴人工諮詢、客戶對投資組合的理解及參與度有限的問題，深受投資人青睞與信任，至於在消金領域，則是透過「AI智能鑑價」，提升客戶即時取得房屋物件預估可貸金額及每月還款金額的效率。

從GALA到黑客松，第一銀行以AI創新文化打造未來金融新樣貌

在以AI加速創新轉型的過程中，第一銀行認為，目前最重要的不是追求技術，而是讓每一位員工可與生成式AI協作，因此，於2025年展開名為Project GALA（Generative AI Liberalize & Accelerate）的生成式AI行動計畫，透過定義GenAI價值金字塔，提升個人效率、創造集體智慧、改善部門流程及推動業務創新的方式，評估每一個應用案例的價值貢獻度，進而形塑生成式AI創新文化與思維，讓員工熟悉生成式AI並且願意使用。

為鼓勵員工以AI賦能工作與流程，第一銀行首次舉辦以「AI輔助工具」為主題的內部競賽活動「2025年第一銀行DigitALL黑客松」，以高額獎金吸引員工組隊參加，並提供技術支援與專業輔導，若方案具備高度可行性與發展潛力，將有機會進一步實作、推動落地並對外展示創新成果，傳遞第一銀行「全員創新、共創未來」的數位轉型精神。

不僅如此，第一銀行亦評估導入具備自主學習、多模態互動的AI Agent，如以NVIDIA高效能GPU與NeMo平台整合語音、文字與影像等多模態能力建立AI Agent，由其負責日常重複性工作並輔助複雜判斷與服務溝通，讓AI輔助並補足人力缺口，並保留關鍵知識以利經驗傳承。此外，導入Microsoft 365、Copilot、Power BI、Teammate等自動化工具與協作平台以提升作業效率，讓員工得以更專注於創造高價值的核心事務上。

以AI賦能數位轉型成效，第一銀行致力建置與完善數位生活圈

除以AI強化創新轉型能量，第一銀行亦十分重視「數據治理」、「資訊架構現代化」與「數位生態圈拓展」等議題，透過系列實作提升第一銀行的數位轉型能量，更精準且快速地提供客戶所需金融服務。例如，透過「銀行即服務（BaaS）」與「銀行即平台（BaaP）」雙軌模式，以應用程式介面（API）串聯電商、旅遊、房產等異業服務，將金融服務嵌入各種生活場景，如線上分期消費、旅遊險保障與房貸鑑價等，藉此擴大客戶接觸與優化使用體驗，逐步打造與完善以「金融即生活」為核心的數位生活圈，多項產品服務更陸續獲得「傑出金融業務菁業獎」、「國家品牌玉山獎」與「臺灣金融研訓院–我國銀行業金融科技創新與數位轉型大調查–《領先者》」等肯定。

為更好的連結與發揮數位生活圈帶來的影響力，第一銀行推出一個全面展示數位金融成就與異業合作成果的「數位生活圈」資訊整合平台，讓客戶與合作夥伴能更直觀地理解銀行在創新、產品服務與數位生態策略上的發展與實績，此外，第一銀行亦透過平台提供客戶眾多好康優惠「小確幸」以減少資訊分散痛點；根據統計，迄今已累積超過120檔以上成功合作案例，平台自4月上線短短三個月即累積超過18萬次瀏覽量，顯示市場對該平台的高度興趣與接受度，有利於數位生活圈的擴展工作。

展望未來，為更好回應「Banking Everywhere, Never at a Bank」以及客戶行為日益場景化與即時化等趨勢，第一銀行將以高度敏銳的策略眼光持續關注外部監管規範與新興科技發展，攜手員工與夥伴以AI等創新技術實踐與擴大「金融即生活」願景，以兼具溫度與科技力的全新金融服務形塑未來金融新世界。