OpenAI 高層爆出了大地震，聯合創辦人 John Schulman 辭職跑去了競爭對手的公司。不過，他們高層的問題還不止於此：另一位聯合創辦人兼總裁 Greg Brockman 也正在長期休假，產品副總裁 Peter Deng 也被曝離職。
John Schulman（約翰·舒曼），長年領導 OpenAI 強化學習團隊，被譽為「ChatGPT架構師」。也是他在 Ilya Sustkever 離開之後，臨時接管了超級對齊團隊。結果，昨天他宣佈「做了一個艱難的決定」，加入隔壁 Anthropic，也就是 Claude 團隊。
與此同時，OpenAI 總裁 Greg Brockman 也宣佈將休長假，直到年底。OpenAI 計畫 10 月 1 日起在全球各地舉辦開發者日等活動，他也將缺席。
Brockman 自述是在連續工作了 9 年之後第一次放鬆，但對年底之後的計畫說的比較模糊，也有網友認為是出於保密協議。
等於說，現在 OpenAI 領導層已經成了一個空殼，除了阿特曼似乎已經沒有其他人了。
ChatGPT 架構師離職
舒曼本科在加州理工學習物理，在 UC 柏克萊短暫學習過神經科學，後來師從強化學習大師 Pieter Abbeel，完成電腦科學博士學位。
在他成為 OpenAI 聯合創辦人時，博士還未畢業。
OpenAI 是他在實習之外工作過的第一家，也是唯一一家公司。
他的代表作、最高被引論文 PPO，即是 ChatGPT 核心技術 RLHF 中選用的強化學習演算法。
後來在從 GPT-3.5、GPT-4 到 GPT-4o 的一系列工作中，舒曼都領導了對齊/後訓練團隊。
這次他自述的離職原因也是與此相關：希望加深對 AI 對齊的關注，並開啟職業生涯的新篇章，可以重返實際的技術工作。
不過，他也給足了 OpenAI 面子，補充「不是因為 OpenAI 缺乏對安全對齊工作的支持而離開」，只是出於個人希望集中精力。
在 ICML2023 的演講中，舒曼自述過個人接下來關注的研究方向之一： 如何避免過度最佳化 。ChatGPT 中的一些令人討厭的行為（例如過度道歉）是過度最佳化的結果。RLHF 很容易對狹窄的指標進行過度最佳化，例如模型可能學會了能獲得獎勵的捷徑，但沒有真正理解。
在今年五月份與 Podcast 主持人 Dwarkesh Patel 訪談時，舒曼也表示，算力應該更多從預訓練向後訓練轉移。
OpenAI 人才持續流失，Anthropic 成最佳去處
由於在 AI 安全方面理念和阿特曼不合，OpenAI 的人才發生了大量流失。
今年5月，超級對齊團隊的兩名負責人——首席科學家 Ilya Sutskever 和 RLHF 發明者之一Jan Leike，在同一天內相繼離開 OpenAI。
彼時離超級對齊團隊的成立，還不到一年。
Jan Leike 離開後更是連發十幾條推文，對著 OpenAI 瘋狂炮轟，控訴其沒有兌現 20% 算力的承諾，並且對安全的重視程度遠不及產品。
後來，Jan Leike 選擇加入了 OpenAI 的競爭對手 Anthropic，繼續進行超級對齊的研究。
在 GPT-4 項目上與 Jan Leike 共同領導對齊工作的 Ryan Lowe，也已於3月底離開 OpenAI。
還有超級對齊成員之一 William Saunders，以及參與過 GPT-4 對抗性測試的 Daniel Kokotajlo，也都從 OpenAI 離職。
更不必說隔壁 Anthropic 的創始人 Dario Amodei 和 Daniela Amodei 兄妹，也是 OpenAI 出身。
哥哥 Dario 離開前是 OpenAI 的研究副總裁，妹妹 Daniela 則是安全與策略部門副總監，走的時候還把 GPT-3 首席工程師 Tom Brown 等十幾名員工一起帶到了 Anthropic。
導致他們選擇出走創業的原因之一，就是 OpenAI 在安全問題尚未解決的情況下就直接發佈了 GPT-3，引發了他們的不滿。
對安全的重視，加上創始人的背景，也讓 Anthropic 成為了包括 Jan Leike 和這次離職的舒曼在內的 OpenAI 員工的主要去處之一。
OpenAI 這邊最近在安全工作上也有所動作——
7月末，OpenAI 把安全部門高級主管 Aleksander Madry 調離了安全崗位，並給他重新分配了 「AI推理」的工作。
但 OpenAI 告訴媒體，Madry 到了新職位上之後，仍將致力於人工智慧安全工作。
CEO 阿特曼也是強調，OpenAI 一直都很重視安全工作，並堅持了「給整個安全團隊至少 20% 算力」的承諾。
但眼尖的網友很快發現，阿特曼玩了一波偷換概念，原來承諾的的是給超級對齊團隊 20% 算力，被偷偷改成了全部安全團隊。
所以，在阿特曼的推文之後，網友也是毫不留情地把這一背景資訊新增了上去，並附上了當時 OpenAI 的官方連結。
本文授權轉載自：T客邦
