Anthropic執行長阿莫迪(Dario Amodei)9月12日發表3,800字長文,呼籲AI業界放慢前沿模型的能力進展,OpenAI執行長奧特曼(Sam Altman)與馬斯克(Elon Musk)隨即表態支持。Meta執行長祖克柏(Mark Zuckerberg)在美國時間9月15日於X發文首度回應,立場明確:每家實驗室都有責任、也有動力以安全所需的步調前進,而且有能力自己採取行動,不必等整個產業一起減速。
祖克柏表示,他支持聘請獨立評估者,但對阿莫迪主張的「集體減速與政府強制跟進」,貼文中一句也沒有呼應,言下之意不言而喻。
祖克柏的四張牌:使用者、法律、評估者、算力
第一張是市場。祖克柏認為,人們不會想用一個跟自己不同調、不照指示做事的AI代理(agent),實驗室因此有「強烈的自然誘因」把模型做得更對齊(alignment,白話說就是AI照人的意思與價值觀行事)。針對「能力先停、等對齊跟上」的辯論,他的看法是:信任與對齊正快速變成AI代理與模型最重要的差異化能力,「任何不專注對齊的實驗室都會落後」。
第二張是法律責任。模型造成傷害,實驗室要負重大責任,這本身就是預防的動機。
第三張是獨立評估者。祖克柏說,聘請獨立評估者與顧問是業界最佳實務,Meta超級智慧實驗室(Meta Superintelligence Labs,MSL)已在多個領域這麼做,「其他實驗室也可以直接這麼做」,並希望評估者生態系更大、更多元。
第四張是算力分配。他重申Meta已承諾把絕大多數算力用在服務使用者,而非競逐遞迴自我改進(recursive self-improvement,讓AI自己訓練下一代AI),其他實驗室也可以做出同樣承諾。這項承諾出自他8月10日發表的長文《The Future is for Everyone》,該文同時保留足以維持競爭力的算力投入遞迴自我改進,並非完全不做。
拿Muse延後上市當例證,回擊「要別人先做」
祖克柏舉Meta自家的例子:個人AI代理Muse為了專注安全與資安,延後數個月才出貨。「我們沒有要求其他人先這麼做才跟進,只是把它當日常工作的一部分做掉,因為這對使用者和對我們都是對的事。」Muse原訂4月推出,最終在9月8日於美國上線。
這句話針對的是阿莫迪三步計畫的推進方式。阿莫迪的第一步是「嵌入式評估者」:讓METR等第三方團隊以近似員工的權限長期進駐實驗室,Anthropic單方面先承諾,並呼籲政府要求其他前沿公司跟進;第二步是民主國家的實驗室協調共同安全標準與進度上限;第三步是全球協調。
反觀祖克柏,他雖然支持聘請獨立評估者,但沒有承諾採用這種近似員工權限的長期進駐制度;對「由政府要求別人跟進」與第二步的集體協調,他的回答是各家「可以直接這麼做」,不必等別人。
兩人的憂慮其實有重疊。阿莫迪長文的第一個觸發點就是遞迴自我改進加速,祖克柏的算力承諾正是針對同一件事。差別在解方,前者要業界協調踩煞車,後者要各家自己顧好。
祖克柏收尾的一句是「打造一個對每個人都正面的未來,關鍵在於維持正確的權力平衡,這件事完全在我們的能力範圍內」。
同一天,黃仁勳與奧特曼也站到「自律」這一邊
《Bloomberg》報導指出,祖克柏發文同一天,輝達(NVIDIA)執行長黃仁勳在Salesforce年度大會Dreamforce上說,安全至關重要,「在很多方面是第一要務」,但「安全是工程問題」。他不認為需要新法律或新法規,市場力量已足以讓企業安全創新;安全與速度是「假選擇」,「你絕對可以同時擁有兩者」。
奧特曼在阿莫迪長文發表後隨即表態支持,但《Bloomberg》報導,他在同一場Dreamforce大會上語氣轉緩。他說對OpenAI與整個產業安全開發AI的能力「非常有信心」,OpenAI雖與Anthropic、Google DeepMind合作處理安全議題,但各家應該能自行安全地改進模型。「我對這件事被框架的方式感到失望。」
換句話說,阿莫迪長文發表三天後,三名重量級執行長同一天的發言重心都落在「各家自己顧好」,與阿莫迪要業界協調減速的方向並不相同。
延伸閱讀:黃仁勳演講,川普一通電話打進來!狂喊:資料中心是未來25年的石油,會讓人民富起來
光鼎股價一年飆400%!從LED跨足功率半導體,昔日血淚教訓成轉型關鍵:最快不一定最好
資料來源:祖克柏X發文、《Bloomberg》、Dario Amodei「We Must Pace the Frontier」、Mark Zuckerberg「The Future is for Everyone」、《Fox Business》
本文初稿為AI編撰,整理.編輯/ 李先泰
