ChatGPT之父也簽公開信！和350名AI權威警告：AI像核戰，恐毀滅人類|數位時代 BusinessNext

今天，AI 領域傳出一封重要的公開信。

包括「ChatGPT 之父」Sam Altman 在內 350 位 AI 權威都簽署了這封聯名公開信，並對當前正在開發的 AI 技術可能會對人類構成生存威脅擔憂。

這封信只有一句聲明：降低人工智慧滅絕的風險，應該與其它社會規模的風險（如大流行病和核武戰爭）一樣，成為全球的優先事項。

AI教父、ChatGPT之父等350人簽署公開信示警

簽署人包括三個領先的 AI 公司高管：OpenAI 首席執行長 Sam Altman、Google DeepMind 首席執行長 Demis Hassabis、Anthropic 的首席執行長 Dario Amodei。更重要的是，名單裡還有 Geoffrey Hinton 和 Yoshua Bengio 兩位人工智慧的「教父」。

超過 350 名從事人工智慧工作的高管、研究人員和工程師簽署了這份由非盈利組織人工智慧安全中心發布的公開信，認為人工智慧具備可能導致人類滅絕的風險，應當將其視為與流行病和核武戰爭同等的社會風險。

如今人們越來越擔心 ChatGPT 等人工智慧模型的發展可能對社會和就業帶來的潛在威脅，很多人呼籲針對 AI 行業進行更強力的監管，否則它將對社會造成不可挽回的破壞。

AI 不斷狂飆，但相關的監管、法律規定卻遲遲沒有跟上，這也意味著沒有人能夠保證 AI 工具以及使用 AI 工具的過程中的安全性。

在上周，Sam Altman 和另外兩位 OpenAI 的高管提出應該建立類似國際原子能機構這樣國際組織來安全監管 AI 的發展，他呼籲國際間領先的人工智慧製造商應該展開合作，並要求政府強化對尖端人工智慧製造商的監管。

延伸閱讀：ChatGPT之父：AI很危險！他建議用「三道紅線」，防堵失控的人工智慧

其實早在 3 月，就有一篇有關叫停 6 個月 AI 研究的公開信造成轟動。

該信呼籲所有的 AI 實驗立即暫停研究比 GPT-4 更先進的 AI 模型，暫停時間至少 6 個月，為的就是把這些可怕的幻想扼殺在搖籃之中。

該聯名信已經獲得了包括 2018 年圖靈獎得主 Yoshua Bengio、馬斯克、史蒂夫 · 沃茲尼亞克、Skype 聯合創辦人、Pinterest 聯合創辦人、Stability AI CEO 等多位知名人士的簽名支持，截稿前聯名人數已經達到 1125 人。

公開信的原文如下：

人工智慧具有與人類競爭的智慧，這可能給社會和人類帶來深刻的風險，這已經通過大量研究得到證實，並得到了頂級 AI 實驗室的認可。正如廣泛認可的阿西洛馬人工智慧原則（Asilomar AI Principles）所指出的，先進的 AI 可能代表地球生命歷史上的重大變革，因此應該以相應的關注和資源進行規劃和管理。

不幸的是，即使在最近幾個月， AI 實驗室在開發和部署越來越強大的數字思維方面陷入了失控的競爭，而沒有人能夠理解、預測或可靠地控制這些數字思維，即使是它們的創造者也無法做到這一點。

現代 AI 系統現在已經在通用任務方面具有與人類競爭的能力，我們必須問自己：

我們應該讓機器充斥我們的訊息渠道，傳播宣傳和謊言嗎？
我們應該將所有工作都自動化，包括那些令人滿足的工作嗎？
我們應該發展可能最終超過、取代我們的非人類思維嗎？
我們應該冒失控文明的風險嗎？

這些決策不應該由非選舉產生的科技領導者來負責。只有當我們確信 AI 系統的影響是積極的，風險是可控的，我們才應該開發強大的 AI 系統。這種信心必須得到充分的理由，並隨著系統潛在影響的增大而增強。OpenAI 最近關於人工智慧的聲明指出：「在某個時候，可能需要在開始訓練未來系統之前獲得獨立審查，對於最先進的努力，需要同意限制用於創建新模型的計算增長速度。」我們同意。現在就是那個時刻。

因此，我們呼籲所有 AI 實驗室立即暫停至少 6 個月的時間，不要訓練比 GPT-4 更強大的 AI 系統。這個暫停應該是公開和可驗證的，並包括所有關鍵參與者。如果無法迅速實施這樣的暫停，政府應該介入並實行暫時禁令。

AI 實驗室和獨立專家應該利用這個暫停時間共同制定和實施一套共享的先進 AI 設計和開發安全協議，這些協議應該由獨立的外部專家嚴格審核和監督。

這些協議應確保遵守它們的系統在合理懷疑範圍之外是安全的。這並不意味著暫停 AI 發展，而只是從不斷邁向更大、不可預測的黑箱模型及其突現能力的危險競賽中退一步。

AI 研究和開發應該重點放在提高現有強大、先進系統的準確性、安全性、可解釋性、透明度、穩健性、保持一致、可信度和忠誠度。

與此同時，AI 開發者必須與政策制定者合作，大力加速 AI 治理體系的發展。這些至少應包括：

專門負責 AI 的新的、有能力的監管機構
對高能力 AI 系統和大型計算能力池的監督和跟蹤
用於區分真實與合成內容、跟蹤模型洩漏的溯源和浮水印系統
健全的審查和認證生態系統；對 AI 造成的損害承擔責任
技術 AI 安全研究的充足公共資金
應對 AI 引起的巨大經濟和政治變革（特別是對民主制度的影響）的資深機構。

人類可以在 AI 的幫助下享受繁榮的未來。在成功創造出強大的 AI 系統之後，我們現在可以享受一個「AI 盛夏」，在其中我們收獲回報，將這些系統明確地用於造福所有人，並讓社會有機會適應。

在面臨可能對社會造成災難性影響的其他技術上，社會已經按下了暫停鍵。在這裡，我們也可以這樣做。讓我們享受一個漫長的 AI 盛夏，而不是毫無準備地沖向秋天。

延伸閱讀：GPT-4掀起AI界高潮，ChatGPT之父卻怕了：我設了一個終止開關

本文授權轉載自：愛范兒
責任編輯：蘇祐萱

快速展店背後的挑戰　如何降低跨據點管理與維運負擔

對連鎖零售企業而言，展店代表商機與成長，但當門市數量快速增加，營運與管理的複雜度也隨之提升。尤其對便利商店（C-store）、餐飲連鎖與其他高密度展店型態的企業而言，總部需要面對的不只是據點數量增加，更包括不同門市的設備管理、系統維護、日常維運與人力配置等多方面挑戰。

過去多據點門市的設備與資訊管理，往往以單一門市為單位，各據點可能擁有不同的攝影機、錄影設備配置與管理模式。當總部需要掌握事件狀況、確認門市營運情形，或進行跨區域管理時，往往需要投入大量人力逐一確認資訊，不僅增加管理負擔，也提高維運成本。

此外，零售產業本身具有高度變動性。門市可能因應市場策略進行展店、搬遷、改裝，甚至調整營運規模。傳統一次性設備投資模式，容易讓企業在面對據點變化時缺乏彈性，也增加設備重新配置與後續維護的負擔。

因此，現代零售企業所需要的不只是單純記錄事件的設備，而是一套能隨企業成長彈性調整、協助總部有效掌握多據點安全資訊，並支援未來智慧應用發展的智慧化管理架構。

從既有設備開始升級　降低全面汰換設備的轉型負擔

面對智慧化轉型需求，許多企業最大的挑戰並非是否需要升級，而是如何在不中斷現有營運的情況下完成轉型。

對已經投入大量資源建置安全系統的零售企業而言，全面汰換既有架構不僅成本高，也可能影響門市日常運作。因此，能夠兼容既有設備並逐步升級的彈性架構，成為企業導入智慧安全管理的重要關鍵。

透過混合雲架構，企業可以從既有設備開始，逐步整合不同據點的安全資訊與管理需求，同時導入雲端管理能力。相較於一次性重新建置，新一代平台架構能協助企業延續既有投資價值，並依照實際需求逐步導入更集中化、智慧化的管理能力。

此外，訂閱式雲端服務模式和混合雲安防架構，也為零售企業帶來更靈活的資產管理方式。相較於頻繁的硬體汰換、傳統一次性採購或繁瑣的跨品牌安防系統的管理，企業更有彈性的因應門市拓展、搬遷、調整或營運規模調整，精準配置資源，降低一次性投入壓力，也減少因據點變動造成設備閒置的情況。

對快速成長的連鎖零售企業而言，安全管理不再是一套固定且難以調整的架構，而是一個能隨企業規模與需求持續演進的平台。無論是新增門市、跨區域管理，或因應營運策略調整，都能以更彈性的方式完成管理升級。

AI 不只是安防工具　更開始協助零售提升營運效率

隨著 AI 技術快速發展，安全管理的角色也正在改變。過去企業導入影像系統主要用於事件記錄、事後查看與追蹤；如今，智慧雲端安防平台則能進一步從大量影像資訊中辨識人、車與行為，協助企業從「看見發生什麼」進一步「理解正在發生什麼」，甚至主動協助管理者發現與處理事件。對門市數量眾多、人力有限的連鎖零售業者而言，AI 正逐步成為降低管理負擔、提升營運效率的重要工具。

從基本事件偵測到自然語言規則　讓 AI 主動理解更多異常情境。 AI 智慧辨識已能針對跌倒、奔跑、徘徊、跨線等常見事件進行自動偵測，協助門市減少人工查看影像的需求。而進一步透過 Think Alert，管理者更可以直接以自然語言設定客製化的偵測條件，將 AI 應用延伸至傳統事件規則以外。以門市尖峰時段為例，店員往往需要同時處理結帳、補貨與顧客服務，總部也難以持續掌握每個據點的即時狀況。透過 Think Alert，管理者可以直接以自然語言設定「在門店入口抽菸的人」等情境；當符合設定條件的畫面出現時，系統即可主動發出警報，協助管理者即時掌握異常狀況。對於門市數量龐大的企業而言，這代表 AI 不只是協助辨識既定事件，更能依據不同營運需求，讓管理者以更直覺的方式設定希望 AI 主動關注的情境。

從大海撈針到快速完成調查　Think Search 搭配 Case Vault(案例庫) 掌握完整事件脈絡。 當事件發生後，如何從大量、多據點的影像中找到關鍵人物與事件脈絡，往往是最耗費人力的環節。透過 Think Search，管理者可以直接用自然語言描述想尋找的對象與情境，例如，當家長反映孩童可能在門市附近走失時，店員或總部人員不需要逐一查看不同攝影機的錄影畫面，只要在 Think Search 輸入「昨日上午，牽著小女孩的男性」等自然語言描述，系統即可協助從大量影像中篩選相關畫面，快速找到相關人物可能出現的時間與位置。若需要進一步追蹤，還能將不同搜尋階段找到的重要畫面與資訊整理至 Case Vault，建立事件時間線與人物移動路徑，協助管理者更完整掌握事件脈絡。

從安全管理延伸至顧客服務與門市營運　讓既有影像創造更多價值。 AI 的應用也不只限於安全事件。例如在咖啡店、餐飲等場景，若顧客將手機、包包等物品遺留在座位或櫃台附近，遺留物與遺失物偵測可以協助門市人員更快發現異常，主動確認並協助顧客處理失物問題；人流分析則能協助企業掌握不同時段的門市活動趨勢，作為空間配置與人力安排的參考；車牌辨識可應用於停車區域或門市周邊管理，而工安防護裝備辨識則能協助後場、倉儲等區域進行安全規範管理。透過這些應用，企業能在既有設備基礎上，進一步將影像資料延伸至安全、服務與營運等不同場景。

對連鎖零售業而言，AI 的價值已不只是「看得更清楚」，而是讓企業更快發現問題、更快找到資訊，並進一步理解事件脈絡與營運狀況。從基本事件偵測、自然語言設定規則，到 AI 搜尋與事件調查，再延伸至顧客服務與營運分析，雲端安防平台正讓影像從被動的紀錄工具，逐步成為支援多據點安全管理與營運決策的重要資訊來源。