暫停GPT-4研究6個月！馬斯克帶頭千名CEO、科學家聯名信，他們恐懼什麼？|數位時代 BusinessNext

至今，我們已經經歷了多次數位革命，包括圖形界面的出現、網路的誕生以及移動網路的普及，但沒有一次科技變革像 GPT 模型引發的 AI 浪潮那樣引起如此廣泛的恐慌情緒。

一方面 AI 改變了人們工作和生活的方式，大大提高了效率；另一方面 AI 的運行和發展又充滿不確定性，觸發了人類對於未知事物的天然保護機制——恐懼。

今天，網路上一封公開的聯名信暴紅，該信 呼籲所有的 AI 實驗立即暫停研究比 GPT-4 更先進的 AI 模型，暫停時間至少 6 個月 ，為的就是把這些可怕的幻想扼殺在搖籃之中。

AI 的進步速度實在過於驚人，但相關的監管、審計手段卻遲遲沒有跟上，這也意味著沒有人能夠保證 AI 工具以及使用 AI 工具的過程中的安全性。

該聯名信已經獲得了包括 2018 年圖靈獎得主 Yoshua Bengio、馬斯克、史蒂夫 · 沃茲尼亞克、Skype 聯合創辦人、Pinterest 聯合創辦人、Stability AI CEO 等多位知名人士的簽名支持，截稿前聯名人數已經達到 1,125 人。

公開信的原文如下：

人工智慧具有與人類競爭的智慧，這可能給社會和人類帶來深刻的風險，這已經透過大量研究得到證實，並得到了頂級 AI 實驗室的認可。正如廣泛認可的阿西洛馬爾人工智慧原則（Asilomar AI Principles）所指出的，先進的 AI 可能代表地球生命歷史上的重大變革，因此應該以相應的關注和資源進行規劃和管理。

不幸的是，即使在最近幾個月， AI 實驗室在開發和部署越來越強大的數位化思維方面陷入了失控的競爭，而沒有人能夠理解、預測或可靠地控制這些數位化思維，即使是它們的創造者也無法做到這一點。

現代 AI 系統現在已經在通用任務方面具有與人類競爭的能力，我們必須問自己：
• 我們應該讓機器充斥我們的資訊管道，傳播宣傳和謊言嗎？
• 我們應該將所有工作都自動化，包括那些令人滿足的工作嗎？
• 我們應該發展可能最終超過、取代我們的非人類思維嗎？
• 我們應該冒失控文明的風險嗎？

這些決策不應該由非選舉產生的科技領導人來負責。只有當我們確信 AI 系統的影響是積極的，風險是可控的，我們才應該開發強大的 AI 系統。這種信心必須得到充分的理由，並隨著系統潛在影響的增大而增強。 OpenAI 最近關於人工智慧的聲明指出：「在某個時候，可能需要在開始訓練未來系統之前獲得獨立審查，對於最先進的努力，需要同意限制用於創建新模型的計算增長速度。」我們同意。現在就是那個時刻。

因此， 我們呼籲所有 AI 實驗室立即暫停至少 6 個月的時間，不要訓練比 GPT-4 更強大的 AI 系統。 這個暫停應該是公開和可驗證的，並包括所有關鍵參與者。如果無法迅速實施這樣的暫停，政府應該介入並實行一個暫禁令。

AI 實驗室和獨立專家應該利用這個暫停時間，共同製定和實施一套共享的先進 AI 設計和開發安全協議，這些協議應該由獨立的外部專家嚴格審核和監督。

這些協議應確保遵守它們的系統在合理懷疑範圍之外是安全的。這並不意味著暫停 AI 發展，而只是從不斷邁向更大、不可預測的黑箱模型及其突現能力的危險競賽中退一步。

AI 研究和開發應該重點放在提高現有強大、先進系統的準確性、安全性、可解釋性、透明度、魯棒性、對齊、可信度和忠誠度。

與此同時，AI 開發者必須與政策制定者合作，大力加速 AI 治理體系的發展。這些至少應包括：
• 專門負責 AI 的新的、有能力的監管機構；
• 對高能力 AI 系統和大型計算能力池的監督和跟踪；
• 用於區分真實與合成內容、跟踪模型洩漏的溯源和水印系統；
• 健全的審計和認證生態系統；對 AI 造成的損害承擔責任；
• 技術 AI 安全研究的充足公共資金；
• 應對 AI 引起的巨大經濟和政治變革（特別是對民主制度的影響）的資深機構。

人類可以在 AI 的幫助下享受繁榮的未來。在成功創造出強大的 AI 系統之後，我們現在可以享受一個「AI 盛夏」，在其中我們收穫回報，將這些系統明確地用於造福所有人，並讓社會有機會適應。

在面臨可能對社會造成災難性影響的其他技術上，社會已經按下了暫停鍵。在這裡，我們也可以這樣做。讓我們享受一個漫長的 AI 盛夏，而不是毫無準備地衝向秋天。

在這份公開信裡，附上的簽名表或許要比信的內容本身要精彩，你可以在這裡找到很多熟悉的名字，每一個簽名都表達了簽名者對於 AI 的強烈懷疑態度。

延伸閱讀：AI讓馬斯克「壓力山大」：這是危險的技術！特斯拉也在用，為什麼他這麼說？

不過，有網友發現這些簽名也不一定完全可信，因為在列表中出現了 OpenAI CEO Sam Altman（我封我自己？）和電影《捍衛任務4》男主角 John Wick 的名字，具體的真實性還有待考究。

附上本封聯名信的網址，感興趣的朋友也可以去寫上自己的名字：Pause Giant AI Experiments: An Open Letter

本文授權轉載自：愛范兒 ifanr

責任編輯：傅珮晴、林美欣

以 AI 賦能核保，審查時間省六成

開始一張保單的旅程，核保是第一步，攸關保戶是否能儘速取得保障。投保過程中，若涉及既有病史或體況，核保便須介入評估，綜合審視商品條款、投保規則與法律規範，以決定是否承保，可說是一項高度專業的決策工程。

「以一份新契約為例，客戶的病歷資料可能厚達百頁。核保員得逐頁翻找診斷紀錄、用藥史與手術紀錄，判斷其對承保的影響。但大多數核保人員並不具備醫護背景，這方面的專業判斷力全靠長期經驗積累，導致傳統作業十分耗時。」蔡佳蓉解釋。

為此，富邦人壽建構「核保智能助理」，運用生成式 AI 摘要病歷，解決過往判讀大量專業英文病歷的痛點。這可不是把資料丟進 AI 資料庫就好——蔡佳蓉分享，導入過程中的挑戰之一，是為特種個資去識別化，需先透過個資遮罩工具處理病歷；此外，針對 AI 常見的「幻覺」風險，團隊也反覆調校提示詞，讓摘要報告力求精準正確。

她強調， AI 定位為「初篩與重點整理」的助手，最終決策權仍歸於核保員。透過 AI 摘要、核保員決策的人機協作模式，體況審查平均作業時間成功從 40 分鐘縮短至 15 分鐘，核保效率提升六成，讓核保同仁能將心力集中於高風險案件與例外處理。

以 AI 輔助判讀，加速理賠條款今昔對照

同樣面對大量資料判讀挑戰的，還有理賠。理賠是保險公司實踐承諾、展現服務價值的重要時刻，但隨著醫療技術不斷進步，許多保單條款當年訂定的手術項目，到了今天可能已發展出全新的治療方式。理賠人員需要從大量醫療資料中，判斷新技術是否符合條款約定，過程相當耗時，也需要高度的醫療專業知識。

對此，富邦人壽導入「理賠智能助理」，整合醫療資訊與內部顧問醫師的專業意見，協助理賠人員快速比對保單條款與客戶所接受治療的對應關係。例如，當醫療科技演進產生新的手術方式時，AI 可協助理賠人員快速了解該疾病與手術的進行方式，並檢索相關條款與內部規則，提供理賠判斷建議，縮短過去需逐一查找資料的時間。此外，系統亦能協助摘錄擷取診斷書、病理報告及醫療費用單據等理賠文件審核重點，大幅縮短人工判讀比對時間，讓理賠人員更專注於專業判斷與保戶溝通，加速理賠服務效率與一致性。

客戶服務處處主管張婉茹指出：「AI 除了加速理賠作業，也能將資深理賠人員的專業經驗與判斷邏輯濃縮為高效吸收的知識庫，協助新進同仁快速掌握案件重點與判斷依據，縮短學習曲線，並提升理賠判斷的一致性與品質。」透過 AI 助理減輕資料整理的負擔，理賠人員得以將精力回歸專業決策與客戶溝通。

以 AI 客服加速分流，前線服務更到位

在核保與理賠之外，最大量的服務場景是客服。張婉茹表示，隨著數位原生世代逐漸成為保戶主力，客戶傾向先自主操作解決問題，不會直接撥打電話；一旦選擇撥打電話，就代表問題已超出自助服務能處理的範圍。

對此，AI 客服的導入，不只是回答問題，更是協助客戶找到最適合服務管道的「智慧導航員」。「我們是第一線面對客戶，因此 AI 客服最重要的不是回答得多，而是回答得正確。」張婉茹表示，富邦人壽在設計上特別重視回答來源的可信度，透過既有知識庫與 FAQ 資料治理機制，讓 AI 優先扮演「理解需求、引導服務」的角色，確保保戶獲得正確且一致的資訊。

事實上，富邦人壽的文字客服早於大型語言模型盛行前便已上線，目前文字客服平均每月處理超過六萬則訊息，智能助理能即時理解客戶需求，將保單查詢、資料變更等簡易服務導引至 App 或線上平台快速完成；面對理賠、保單變更或保障內容等較複雜的需求，則由真人客服接手提供專業協助。讓簡單問題快速解決、複雜問題由專人服務，將有限的人力資源投入最需要專業與溫度的服務情境，讓分流機制發揮實際成效。

從核保員手中的病歷、理賠人員桌上的單據，到線上客服的迅速回應，富邦人壽的 AI 布局，始終緊貼第一線作業現場。張婉茹表示，科技發展不一定要一次 end to end 全到位，應該是不停小步快跑，慢慢把應用場景擴大。去年底推出的全新富邦人壽 App，將「簡單、貼心、隨行」的理念落實在使用者介面體驗上，就是一次階段性集大成的成果。

但無論 AI 如何加速資料判讀、優化流程，專業判斷與服務溫度仍是機器無法取代的核心。「要有專業，才能判斷 AI 的產出品質。」富邦人壽兩位主管也強調，科技迅速發展下，富邦人壽導入 AI，不是要取代核保員、理賠人員或客服人員，而是希望讓每一位同仁把時間花在最有價值的地方。當AI承接了流程中繁瑣的資料負荷，人員就能更專注在判斷、溝通與服務，讓同仁的專業與心力回歸到最需要判斷力與人情味的溝通之上，這才是真正以客戶為中心的 AI 轉型。也是富邦人壽實現「AI Everywhere」的旅途上不忘的目標。