「我辭職,因為OpenAI的文化壞了」!前安全研究員示警:AI試錯時代已經結束
「我辭職,因為OpenAI的文化壞了」!前安全研究員示警:AI試錯時代已經結束

一名前 OpenAI 安全研究員近日離職後,批評公司對人工智慧(AI)安全的處理方式,認為企業文化過度追求快速開發,導致開發步調過於急促,增加系統發生失誤的風險。

根據《路透》報導,OpenAI前安全研究員羅賓森(David Robinson)近日離職後,週六(3日)在《大西洋》發表題為「I Quit OpenAI Because Its Culture Is Broken」的文章。

他指出,包括OpenAI在內的AI公司,對安全議題的謹慎程度遠遠不夠,應在開發更強大的AI系統前,優先投入安全專業與研究。

羅賓森指出,OpenAI高度依賴所謂的「迭代部署」(iterative deployment)策略,也就是先推出AI系統,再根據實際使用過程中出現的問題,逐步強化安全措施。

他強調,AI產業的「試錯時代已經結束」,先進AI系統所需的安全防護,應比照核能與航空等高風險產業採取更嚴格的標準。

他的批評也為 AI 產業內部的爭論增添新的聲音,焦點在於企業是否正以過快的速度開發愈來愈強大的系統。

OpenAI 及競爭對手 Anthropic 過去都曾因安全控制措施失效,或實驗性系統出現非預期行為而受到檢視。

羅賓森曾在OpenAI任職3年半,參與起草公司的準備度框架,並負責監督12次尖端模型發布的安全報告。

他在文章中寫道:「當公司從一次發布迅速奔向下一次發布時,卻未能達到我認為必要的謹慎程度。」

對於羅賓森的批評,OpenAI 發言人在聲明中表示:「我們確保模型的能力不會超出我們能夠安全管理與防護的範圍;當有必要放慢腳步時,我們會暫停訓練或延後發布模型。」

羅賓森也警告,AI 的能力進步速度已超越研究人員對「對齊」(alignment)的理解。對齊是指確保 AI 系統的行為符合人類目標與價值觀的研究領域。

(本文出自鉅亨網)

關鍵字: #時事追蹤 #openai

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
一次搞懂工業AI
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓