暫停GPT-4研究6個月！馬斯克帶頭千名CEO、科學家聯名信，他們恐懼什麼？|數位時代 BusinessNext

至今，我們已經經歷了多次數位革命，包括圖形界面的出現、網路的誕生以及移動網路的普及，但沒有一次科技變革像 GPT 模型引發的 AI 浪潮那樣引起如此廣泛的恐慌情緒。

一方面 AI 改變了人們工作和生活的方式，大大提高了效率；另一方面 AI 的運行和發展又充滿不確定性，觸發了人類對於未知事物的天然保護機制——恐懼。

今天，網路上一封公開的聯名信暴紅，該信 呼籲所有的 AI 實驗立即暫停研究比 GPT-4 更先進的 AI 模型，暫停時間至少 6 個月 ，為的就是把這些可怕的幻想扼殺在搖籃之中。

AI 的進步速度實在過於驚人，但相關的監管、審計手段卻遲遲沒有跟上，這也意味著沒有人能夠保證 AI 工具以及使用 AI 工具的過程中的安全性。

該聯名信已經獲得了包括 2018 年圖靈獎得主 Yoshua Bengio、馬斯克、史蒂夫 · 沃茲尼亞克、Skype 聯合創辦人、Pinterest 聯合創辦人、Stability AI CEO 等多位知名人士的簽名支持，截稿前聯名人數已經達到 1,125 人。

公開信的原文如下：

人工智慧具有與人類競爭的智慧，這可能給社會和人類帶來深刻的風險，這已經透過大量研究得到證實，並得到了頂級 AI 實驗室的認可。正如廣泛認可的阿西洛馬爾人工智慧原則（Asilomar AI Principles）所指出的，先進的 AI 可能代表地球生命歷史上的重大變革，因此應該以相應的關注和資源進行規劃和管理。

不幸的是，即使在最近幾個月， AI 實驗室在開發和部署越來越強大的數位化思維方面陷入了失控的競爭，而沒有人能夠理解、預測或可靠地控制這些數位化思維，即使是它們的創造者也無法做到這一點。

現代 AI 系統現在已經在通用任務方面具有與人類競爭的能力，我們必須問自己：
• 我們應該讓機器充斥我們的資訊管道，傳播宣傳和謊言嗎？
• 我們應該將所有工作都自動化，包括那些令人滿足的工作嗎？
• 我們應該發展可能最終超過、取代我們的非人類思維嗎？
• 我們應該冒失控文明的風險嗎？

這些決策不應該由非選舉產生的科技領導人來負責。只有當我們確信 AI 系統的影響是積極的，風險是可控的，我們才應該開發強大的 AI 系統。這種信心必須得到充分的理由，並隨著系統潛在影響的增大而增強。 OpenAI 最近關於人工智慧的聲明指出：「在某個時候，可能需要在開始訓練未來系統之前獲得獨立審查，對於最先進的努力，需要同意限制用於創建新模型的計算增長速度。」我們同意。現在就是那個時刻。

因此， 我們呼籲所有 AI 實驗室立即暫停至少 6 個月的時間，不要訓練比 GPT-4 更強大的 AI 系統。 這個暫停應該是公開和可驗證的，並包括所有關鍵參與者。如果無法迅速實施這樣的暫停，政府應該介入並實行一個暫禁令。

AI 實驗室和獨立專家應該利用這個暫停時間，共同製定和實施一套共享的先進 AI 設計和開發安全協議，這些協議應該由獨立的外部專家嚴格審核和監督。

這些協議應確保遵守它們的系統在合理懷疑範圍之外是安全的。這並不意味著暫停 AI 發展，而只是從不斷邁向更大、不可預測的黑箱模型及其突現能力的危險競賽中退一步。

AI 研究和開發應該重點放在提高現有強大、先進系統的準確性、安全性、可解釋性、透明度、魯棒性、對齊、可信度和忠誠度。

與此同時，AI 開發者必須與政策制定者合作，大力加速 AI 治理體系的發展。這些至少應包括：
• 專門負責 AI 的新的、有能力的監管機構；
• 對高能力 AI 系統和大型計算能力池的監督和跟踪；
• 用於區分真實與合成內容、跟踪模型洩漏的溯源和水印系統；
• 健全的審計和認證生態系統；對 AI 造成的損害承擔責任；
• 技術 AI 安全研究的充足公共資金；
• 應對 AI 引起的巨大經濟和政治變革（特別是對民主制度的影響）的資深機構。

人類可以在 AI 的幫助下享受繁榮的未來。在成功創造出強大的 AI 系統之後，我們現在可以享受一個「AI 盛夏」，在其中我們收穫回報，將這些系統明確地用於造福所有人，並讓社會有機會適應。

在面臨可能對社會造成災難性影響的其他技術上，社會已經按下了暫停鍵。在這裡，我們也可以這樣做。讓我們享受一個漫長的 AI 盛夏，而不是毫無準備地衝向秋天。

在這份公開信裡，附上的簽名表或許要比信的內容本身要精彩，你可以在這裡找到很多熟悉的名字，每一個簽名都表達了簽名者對於 AI 的強烈懷疑態度。

延伸閱讀：AI讓馬斯克「壓力山大」：這是危險的技術！特斯拉也在用，為什麼他這麼說？

不過，有網友發現這些簽名也不一定完全可信，因為在列表中出現了 OpenAI CEO Sam Altman（我封我自己？）和電影《捍衛任務4》男主角 John Wick 的名字，具體的真實性還有待考究。

附上本封聯名信的網址，感興趣的朋友也可以去寫上自己的名字：Pause Giant AI Experiments: An Open Letter

本文授權轉載自：愛范兒 ifanr

責任編輯：傅珮晴、林美欣

騰雲科技持續展現強勁成長，不僅連續五年維持雙位數的營收增幅，更於 2025 年前三季累計營收來到 5.47 億元、淨利 1.03 億元，年成長率高達 67%，顯示騰雲科技已從智慧零售解決方案供應商擴展成為智慧社區、智慧城市解決方案供應商，並持續發揮高毛利、高成長、以智慧場域資料為核心驅動的代理式 AI 解決方案全方位供應商。

騰雲科技是怎麼辦到的？

騰雲科技董事長暨總經理梁基文不藏私分享兩大關鍵：「首先是以 AI 賦能的產品與服務，協助客戶提升效率、優化營收；其次是透過騰雲孵化器與其生態系中新創夥伴協作，打造零售、不動產、製造與數位保險等產業所需的新商務服務。」

以 AI 賦能全產品線，強化客戶黏著度、深化長期關係

梁基文表示：「AI 不是單一產品或立即變現的技術，要能有效消除資訊不對等，需協助企業先將散落的資料整合成數據資產，才能找出能驅動決策的洞察。」因此，要讓 AI 真正落地，需要同時理解產業現況與營運痛點的夥伴，才能把技術與數據轉化為具體價值，成為企業成長的新引擎。

有鑑於此，騰雲科技的策略是推出 AI Agent 平台 –TrendVotex，由深耕百貨零售、商業不動產等產業的專業團隊協助打造符合場景需求的 AI 代理服務。

例如，為百貨零售打造的「AI 品牌行銷專家」透過市場輿論進行趨勢及同業動態分析、以口碑行銷進行品牌塑造、針對會員數據進行自動化文案生成及傳播、針對行銷成果進行效益分析等自動化決策，「AI 招商助理」則能整合商圈熱度、樓層營運狀態等資訊，提出精準的櫃位調整與招商策略。至於針對複合式商業不動產管理場景推出「AI 能源智慧管理」服務，導入 AIoT 終端裝置佈署並運用其感測數據與歷史異常紀錄，預測設備故障風險，協助排程維修，降低停機時間，大幅提升營運績效。

梁基文補充說明：「除了協助企業打造專屬 AI 代理與串接代理式工作流程（Agentic Workflow），我們也推出 Marketing、Content、Sales、Manufacturing 等跨產業可重複使用的 AI 代理模組，加速零售、不動產、製造、旅遊與數位保險服務等產業的導入腳步。」

值得注意的是，為真正發揮、極大化 AI 價值，騰雲科技不僅提供技術，也協助企業梳理流程、整合分散數據，打造可支撐多場景的數據驅動營運中台。

梁基文表示，不只零售業正加速虛實通路整合，製造與金融服務業也十分重視「全通路數據」，例如製造業需要即時掌握生產過程關鍵數據指標與庫存狀況以確保良率及產能、數位保險業則積極深化對顧客旅程的掌握以完善服務能量等，騰雲科技推出「隨開即用」、雲地整合的 AI 平台，讓企業能在多場景中無縫串接數據並兼顧資訊安全，充分展現「From Insight to Intelligence」價值。

例如，協助數位保險整合顧客的「線上資料（如客戶資料、風險判斷」與「線下數據（如客戶活動數據、場域營運數據）」，透過 AI 進行產品推薦、簡化內部核保作業流程，並提供更加順暢的一致體驗，讓保險也能像零售一樣真正做到懂顧客。

「接下來，我們會把在百貨零售與商業不動產驗證過的技術，進一步擴大到製造、數位保險等產業，讓價值放到最大。」梁基文如是說道。

五大技術、四大產業，騰雲科技以孵化器成就下一個十年

梁基文表示：「過去 10 年，我們專注在『新零售・新生活』；接下來將延伸至『新商務・新生活』，透過收購、合資、投資等方式與外部夥伴共創新的成長動能。」

具體做法是以 ABCDE（AI、Blockchain、Cloud、Data、Experience）五大技術為核心，鎖定零售、不動產、製造與金融服務四大產業，透過外部合作與孵化機制強化解決方案的廣度與深度：整合現場設備、門市裝置、POS、排隊系統、取貨流程、感測器與後勤運作，推出 AIoT 智慧場域管理方案，滿足跨場域、跨產業與跨國企業的需求。

例如，協助泰國五星級酒店導入 AIoT 智慧場域管理方案以優化能源設備管理、降低營運成本並提升使用者體驗等。明（2026）年，騰雲科技計畫將 AIoT 智慧場域管理方案推向製造業廠房，協助客戶管理冷氣、燈光等能源設備並進行碳管理，同時，透過監控產線設備的振動與溫度等數據，提供 AI 預判的設備維修時機（Preventive Maintenance），擴大數位與綠色雙軸轉型的綜效。

除以集團力量推廣 AIoT 智慧場域管理方案，騰雲科技亦積極擴大相應的生態體系發展：首先是與跨業夥伴一同延伸 AIoT 智慧場域管理方案的應用範疇，如與保險業者合資成立數位保險公司以提供 AI-Ready 數位應用方案；其次是建立消費者生態體系以發揮「新商務‧新生活」的相互影響綜效。例如，騰雲科技子公司騰加數位將擴大 AIoT 平台運營版圖，深入零售、商辦與飯店等多元場景，並以此為載體整合數位支付、會員數據與數位內容傳播等應用，藉此強化場域的智慧化能力，以及拓展騰雲解決方案的落地深度與廣度。

「透過 AIoT 智慧場域管理方案、營運中台與 TrendVotex 等產品與服務，我們不僅能更精準回應台灣、日本與東南亞市場在流程自動化、營運效率提升上的需求，也能同步改善大眾的日常體驗，真正落實『新商務・新生活』的共好價值。」關於未來的發展，梁基文如是總結。