ChatGPT之父也簽公開信！和350名AI權威警告：AI像核戰，恐毀滅人類|數位時代 BusinessNext

今天，AI 領域傳出一封重要的公開信。

包括「ChatGPT 之父」Sam Altman 在內 350 位 AI 權威都簽署了這封聯名公開信，並對當前正在開發的 AI 技術可能會對人類構成生存威脅擔憂。

這封信只有一句聲明：降低人工智慧滅絕的風險，應該與其它社會規模的風險（如大流行病和核武戰爭）一樣，成為全球的優先事項。

AI教父、ChatGPT之父等350人簽署公開信示警

簽署人包括三個領先的 AI 公司高管：OpenAI 首席執行長 Sam Altman、Google DeepMind 首席執行長 Demis Hassabis、Anthropic 的首席執行長 Dario Amodei。更重要的是，名單裡還有 Geoffrey Hinton 和 Yoshua Bengio 兩位人工智慧的「教父」。

超過 350 名從事人工智慧工作的高管、研究人員和工程師簽署了這份由非盈利組織人工智慧安全中心發布的公開信，認為人工智慧具備可能導致人類滅絕的風險，應當將其視為與流行病和核武戰爭同等的社會風險。

如今人們越來越擔心 ChatGPT 等人工智慧模型的發展可能對社會和就業帶來的潛在威脅，很多人呼籲針對 AI 行業進行更強力的監管，否則它將對社會造成不可挽回的破壞。

AI 不斷狂飆，但相關的監管、法律規定卻遲遲沒有跟上，這也意味著沒有人能夠保證 AI 工具以及使用 AI 工具的過程中的安全性。

在上周，Sam Altman 和另外兩位 OpenAI 的高管提出應該建立類似國際原子能機構這樣國際組織來安全監管 AI 的發展，他呼籲國際間領先的人工智慧製造商應該展開合作，並要求政府強化對尖端人工智慧製造商的監管。

延伸閱讀：ChatGPT之父：AI很危險！他建議用「三道紅線」，防堵失控的人工智慧

其實早在 3 月，就有一篇有關叫停 6 個月 AI 研究的公開信造成轟動。

該信呼籲所有的 AI 實驗立即暫停研究比 GPT-4 更先進的 AI 模型，暫停時間至少 6 個月，為的就是把這些可怕的幻想扼殺在搖籃之中。

該聯名信已經獲得了包括 2018 年圖靈獎得主 Yoshua Bengio、馬斯克、史蒂夫 · 沃茲尼亞克、Skype 聯合創辦人、Pinterest 聯合創辦人、Stability AI CEO 等多位知名人士的簽名支持，截稿前聯名人數已經達到 1125 人。

公開信的原文如下：

人工智慧具有與人類競爭的智慧，這可能給社會和人類帶來深刻的風險，這已經通過大量研究得到證實，並得到了頂級 AI 實驗室的認可。正如廣泛認可的阿西洛馬人工智慧原則（Asilomar AI Principles）所指出的，先進的 AI 可能代表地球生命歷史上的重大變革，因此應該以相應的關注和資源進行規劃和管理。

不幸的是，即使在最近幾個月， AI 實驗室在開發和部署越來越強大的數字思維方面陷入了失控的競爭，而沒有人能夠理解、預測或可靠地控制這些數字思維，即使是它們的創造者也無法做到這一點。

現代 AI 系統現在已經在通用任務方面具有與人類競爭的能力，我們必須問自己：
- 我們應該讓機器充斥我們的訊息渠道，傳播宣傳和謊言嗎？
- 我們應該將所有工作都自動化，包括那些令人滿足的工作嗎？
- 我們應該發展可能最終超過、取代我們的非人類思維嗎？
- 我們應該冒失控文明的風險嗎？
-
這些決策不應該由非選舉產生的科技領導者來負責。只有當我們確信 AI 系統的影響是積極的，風險是可控的，我們才應該開發強大的 AI 系統。這種信心必須得到充分的理由，並隨著系統潛在影響的增大而增強。OpenAI 最近關於人工智慧的聲明指出：「在某個時候，可能需要在開始訓練未來系統之前獲得獨立審查，對於最先進的努力，需要同意限制用於創建新模型的計算增長速度。」我們同意。現在就是那個時刻。

因此，我們呼籲所有 AI 實驗室立即暫停至少 6 個月的時間，不要訓練比 GPT-4 更強大的 AI 系統。這個暫停應該是公開和可驗證的，並包括所有關鍵參與者。如果無法迅速實施這樣的暫停，政府應該介入並實行暫時禁令。

AI 實驗室和獨立專家應該利用這個暫停時間共同制定和實施一套共享的先進 AI 設計和開發安全協議，這些協議應該由獨立的外部專家嚴格審核和監督。

這些協議應確保遵守它們的系統在合理懷疑範圍之外是安全的。這並不意味著暫停 AI 發展，而只是從不斷邁向更大、不可預測的黑箱模型及其突現能力的危險競賽中退一步。

AI 研究和開發應該重點放在提高現有強大、先進系統的準確性、安全性、可解釋性、透明度、穩健性、保持一致、可信度和忠誠度。

與此同時，AI 開發者必須與政策制定者合作，大力加速 AI 治理體系的發展。這些至少應包括：
- 專門負責 AI 的新的、有能力的監管機構
- 對高能力 AI 系統和大型計算能力池的監督和跟蹤
- 用於區分真實與合成內容、跟蹤模型洩漏的溯源和浮水印系統
- 健全的審查和認證生態系統；對 AI 造成的損害承擔責任
- 技術 AI 安全研究的充足公共資金
- 應對 AI 引起的巨大經濟和政治變革（特別是對民主制度的影響）的資深機構。

人類可以在 AI 的幫助下享受繁榮的未來。在成功創造出強大的 AI 系統之後，我們現在可以享受一個「AI 盛夏」，在其中我們收獲回報，將這些系統明確地用於造福所有人，並讓社會有機會適應。

在面臨可能對社會造成災難性影響的其他技術上，社會已經按下了暫停鍵。在這裡，我們也可以這樣做。讓我們享受一個漫長的 AI 盛夏，而不是毫無準備地沖向秋天。

延伸閱讀：GPT-4掀起AI界高潮，ChatGPT之父卻怕了：我設了一個終止開關

本文授權轉載自：愛范兒
責任編輯：蘇祐萱

低調布局、深度轉型：永豐的 AI 實力其實早已成形

一直以來，台灣人普遍被教育要「少說話、多做事」，許多企業也習慣把努力放在背後、成果留給時間驗證，永豐金控的 AI 發展路徑，正是這種低調務實性格的展現——不急著對外發聲、也不追逐媒體聲量，而是默默在集團內推動一項又一項創新落地。

自 2020 年啟動數位變革專案，並自建金控 AI 團隊「圖靈計畫」以來，永豐金控便將「場景經營」與「AI 與數位科技」兩大策略定為科技發展主軸，全面將 AI 佈建至集團營運的各個環節，至今已累積推動逾百項金融科技應用專案，涵蓋銀行、證券等子公司，不僅取得多項專利，其中不少更是業界首創的技術與服務模式。

永豐金控數位科技長張天豪以2024年瞬間爆紅的生成式 AI 為例，永豐金控領先業界開發創新服務，獨家首創 Orbit.AI 投資水晶球，可提供五大市場及美元、日圓二大貨幣的即時訊息，更進一步強化大戶投 App的使用體驗，透過AI摘要個股新聞，並挑選具市場影響力的訊息供投顧研究員撰寫評析，再將內容推薦給客戶參考。

此外，永豐創新應用AI Agent（人工智慧代理）推出「永豐iWish」智能服務，Al Agent 會根據客戶所提供的資訊，自動完成新臺幣存款、提款、匯款及轉帳等預填表單作業；同時還推出理專 Copilot，用 AI 協助搜尋客戶、即時摘要客戶個人資訊與商機，協助理專更有效率地經營客戶、提供更精準的理財服務。

然而，因為永豐金控向來「做得多、說得少」，外界反而難以想像其在 AI 投入上的規模與深度。「我們在年度調查中驚訝地發現，外界普遍沒有意識到永豐金控其實非常積極發展 AI，甚至已有多項應用在實際運作中，」張天豪坦言。

對外揭露 AI 腳步與未來路線，打造永豐金控科技生態圈

為補上長期以來的對外溝通缺口，永豐金控選擇舉辦科技年會，將過去這些「做得多、說得少」的科技成果，首次系統性地分享給市場與大眾，永豐希望讓外界清楚理解：集團過去多年累積的 AI 技術能力，未來將落地在哪些場景、又能為客戶與金融服務創造什麼價值。

透過完整呈現未來的科技應用理念和想法，永豐金控期待吸引認同理念的消費者、企業客戶及科技人才。張天豪指出，科技人與社會新鮮人往往不知道金融業同樣需要大量 AI 與科技專才，因此永豐希望藉此機會讓更多人才看見，金融業也能是實踐科技創新的舞台，進而緩解當前產業的人才缺口。

更重要的是，永豐希望藉此機會找到理念相同的戰略合作夥伴，共同打造永豐金控的科技生態圈。畢竟 AI 時代的技術佚代速度太快，金融業若沿用過往「等需求成形再找外部廠商」的合作方式，不僅跟不上科技變化，也難以累積核心能力。因此永豐選擇主動釋出未來規劃，讓擁有技術或對金融場景有想法的外部夥伴能主動洽談、探索更多合作可能。

「我們希望更多科技人才與外部夥伴的加入，加速實現年會主題J’right Experience的願景，」張天豪說明，J’right Experience 來源於 Just right experience，象徵永豐金控對 AI 應用的期待，當科技發展到一定成熟度，金融服務會自然到讓人忘記技術的存在，仿佛金融服務本來就應該是這樣。

張天豪強調，真正決定 AI 價值的並非技術本身，而是「選對場景」，這也是永豐金控透過「J’right Experience」想向外界傳達的核心理念：打造一種直覺、自然，讓人覺得「金融服務本來就應該這樣」的 AI 體驗。

不只談理念，還能搶先體驗下一代 AI 金融服務

永豐金控不只透過年會主題傳達自身對 AI 應用的期待，更特別打造兩款專為實體會場量身開發的 AI 互動產品——「永豐iWish」和「永豐智投」，這是在永豐既有的 AI 技術能力之上，再引入 Multi-Agent 等新技術，讓操作更直覺、回覆更精準，讓與會者能在現場親身體驗下一代 AI 金融服務的運作模式，感受截然不同的互動體驗。

除了與永豐金控一同見證未來金融場景的樣貌，本次年會更邀請多位重磅講者同台對話，包含台灣微軟首席技術長花凱龍以AI 驅動金融業的未來談願景到落地、NVIDIA 資深解決方案架構師李正匡博士從技術角度看金融 AI 應用，以及 Amret 數位資訊長 Sajjad 帶來金融 AI 應用的國際看法。此外，永豐金控的業務與技術團隊也將以對話形式分享實務經驗，從需求端到技術端完整拆解 AI 如何真正落地於金融場景。

AI 正在重新定義金融服務，而永豐金控正用實際行動走在這場變革的最前線。如果你想深入理解 AI 金融的最新進展、下一個五年可能的發展方向，或親自體驗下一代金融服務的模樣，這場年會你絕對不能錯過。

「永豐金控科技年會」將在12月5日於三創生活園區5F CLAPPER STUDIO展演廳盛大登場，以LINE TODAY線上線下同步舉辦。即日起開放活動報名，凡線上報名成功，即可獲得永豐金證券股票禮品卡抽獎資格；線上報名成功，並全程觀看直播及填寫會後問卷，還有機會獲得iPhone 17及AirPods Pro 3等科技好禮；現場參與並完成產品體驗，還可獲得多項專屬禮品。