與美國政府關係緊張的Anthropic,在最新模型Fable 5開放三天後,便遭商務部要求將使用範圍限定於本國國民;由於難以即時辨識使用者國籍,Anthropic隨後將Fable 5下架。
這是美國政府首次將原先用於晶片、武器的出口管制權,加諸於AI模型上;也是前沿模型供應商,首度停止已上線模型存取權。政府為什麼這麼緊張?一個越獄示範,真的值得封鎖數億人嗎?
Fable 5為何被要求下架?美國商務部出口管制始末一次看
導火線似乎是所謂的「越獄」(jailbreak)行為。政府官員得知,有人可能繞過Fable 5等級模型的安全護欄,用以識別網路安全漏洞,帶來龐大風險。
據Anthropic部落格公告,公司在美東時間6月12日下午5點21分收到商務部來函,因國安考量,要求暫停所有外國國民(無論身在境內或境外)對Fable 5、Mythos 5的存取權。
事實上,Fable 5已是Mythos 5加諸安全護欄的版本。Mythos起初在4月推出,但因為「過於強大」而未立即釋出,而是先透過「Project Glasswing」與少數夥伴共同合作加強基礎建設安全性。加固安全護欄的版本Fable 5在6月9日才正式推出。
Anthropic稱,沒有完全防止越獄的做法,公司也針對Fable 5強化了安全防衛,包括保存客戶與Fable互動的資訊達30天。Anthropic主張,不應該因為發現有限的越獄風險,就限制數億人的使用權。
Fable 5越獄風險有多嚴重?Anthropic與政府的爭議點何在?
據Axios等外媒報導,在6月11、12日,至少有五家以上公司聯繫了美國多名政府官員,表達Fable 5模型可被越獄的疑慮,最終導致Fable在12日下午下線。
Anthropic:誤解,越獄只是特定情境問題
Anthropic目前將事件定調為誤解。Politico報導,Anthropic執行長達里歐.阿莫戴(Dario Amodei)認為政府指出的繞過安全防衛的方式,只是特定情境問題,而非大規模「越獄」。
政府:花好幾個小時溝通,管制是最後手段
但政府官員顯然未被說服。據政府方面表示,官方希望與Anthropic合作修復安全漏洞,出口管制是「最後手段」。在此之前,雙方花了好幾個小時溝通,最後才不得不這麼做。
但其他報導也指出,Anthropic消息人士表示,即便公司立刻尋求了解安全威脅的性質,以便做出修補,白宮沒有給出太多細節,只給了Anthropic 90分鐘的時間下架模型。
前白宮AI沙皇、基本上反對政府過度監管的創投家David Sacks在X上解釋,一名「高度可信的夥伴」在測試Fable時突破了Anthropic的安全護欄。政府要求Anthropic修補或下架,但Sacks稱「阿莫戴拒絕」。
Sacks表示,Anthropic在部落格文章中認定問題不嚴重,但政府與該可信夥伴並不這麼認為。他也不認為這種說詞符合Anthropic的安全品牌形象,Sacks直言,「Anthropic的反應與他們作為安全AI研究社群的品牌形象和理念大相逕庭。」
Sacks指出,政府是「不情願地」祭出出口禁令。但希望Anthropic可以趕緊解決安全疑慮,讓Fable 5重新上架。
資安專家:截斷Fable 5,反而削弱防禦者的武器
另一方面,在閱讀了Anthropic提供的研究結果拷貝後,資安公司Luta Security的執行長Katie Moussouris在X上表示,她認為那「不是越獄」,而是防禦者需要的功能:防禦導向式提示(Defense Oriented Prompting)。截斷Fable 5存取權,反而縮減防禦者用模型提升自家安全性的能力。
Semafor獨家報導指出,政府限令的部分原因是有與中國相關的團體獲得存取權。擔憂可能透過蒸餾等方式複製出Mythos等級的模型能力。
此報導未獲Anthropic等方面證實。但中國AI公司持續推出新的開源模型。6月13日,中國「AI六小虎」之一智譜(Z.ai)回應意味強烈地宣布將在當地時間晚上5點21分,將自家最強的開源模型GLM-5.2開放給GLM Coding Plan所有訂戶,模型本身也將在隔週開源。
智譜公告直言:「在一些前沿模型突然變得不可用的時刻,我們選擇相信另一條路:前沿智能不應只屬於少數人,也不應被少數規則隨時收回。它應該是開放、可用、可構建,並服務於每一位開發者。」
這是Anthropic與政府衝突的延續嗎?對OpenAI、AI出口管制有何影響?
Sacks在貼文中特別澄清,這起事件與先前Anthropic和國防部的衝突無關。
先前,Anthropic曾因與美國國防部在模型於軍事、大規模監控等應用的協商破局,被列為供應鏈風險。Anthropic雖在地院層級提告成功,但上訴法院拒絕緊急喊停的聲請,全案仍在審理。引發政府是否可透過供應鏈風險機制,對特定企業施加市場限制的辯論。
這次Fable 5、Mythos 5存取權受限,顯示Anthropic與美國政府的信任關係尚未修補。如Anthropic宣稱,同樣的繞過安全護欄的手法,在OpenAI的GPT-5.5等公開模型上也能做到,但只有Anthropic受到管制。Anthropic在部落格文章中表示:「如果這種標準適用於整個產業,我們相信所有前沿模型供應者的新產品的發布都將中斷。」
與雇用數名拜登時期政府官員的Anthropic相比,OpenAI在川普就職隔天,便聯合宣布大型AI基建「Stargate」計畫,也在劃定應用紅線後與國防部達成模型部屬協議,與川普政權的關係較為和緩。
短期而論,在Anthropic海外市場受阻時,整體能力略落後於Fable 5的GPT-5.5,有趁機補位搶占市場的機會。但長期而言,前沿模型受到出口限制的前例出現,全供應商都可能受到衝擊。
目前OpenAI與Anthropic都在IPO之路上,若事件無法快速落幕,隨著合規與地緣政治風險提升,估值邏輯可能發生變化。
亞馬遜Andy Jassy為何向政府示警?Fable 5下架關鍵角色
綜合外媒報導,亞馬遜是向政府提出Fable 5安全疑慮的公司之一。亞馬遜執行長Andy Jassy,向政府高層官員提出自家研究員透過一連串的提示詞,讓Fable 5提供可以用來協助網路攻擊的資訊。
亞馬遜發言人表示,「身為一家服務大量私人企業及公部門客戶的領先雲端服務供應商,各國政府尋求我們對潛在安全風險的意見並非罕見之事。」
雖亞馬遜不是唯一示警者,它同時身為Anthropic的主要股東、Anthropic模型的主要雲端房東,這次的行動仍引外界關注。與此同時,亞馬遜也在擴大對OpenAI的投資。
Fable 5何時恢復?主權AI爭議與後續影響
目前Anthropic已派出資深技術團隊親赴華府溝通,希望早日讓Fable 5恢復上線。根據網友分享,在6月9日後訂閱Claude的使用者可在6月20日前申請比例退費。
這次美國禁令依國籍限制,Anthropic內部外籍員工也受到影響,例如斯洛伐克裔加拿大籍的Andrej Karpathy;影響到公司開發新模型的工作。
另外,傳統的美國盟友如英國、加拿大存取亦受限,在多國再次激起「主權AI」的辯論。台大資訊工程系教授洪士灝也在Facebook上表示,主權AI議題極為重要,但台灣目前投入資源太少。
他指出,「現在有個事件讓大家意識到AI的戰略價值,與其在政治口號或硬體軍備競賽中隨波逐流,不如藉由這次的契機,讓社會理性形成共識:以務實的需求定義主權AI,以人才培育為核心布局算力,並善用台灣晶片設計的強項。這才是台灣在AI時代真正的主權與底氣。」
延伸閱讀:
AI的程式AI自己寫!Anthropic證實Claude貢獻逾8成代碼,為何急籲建立「AI停戰協議」?
Claude Cowork限時優惠!5小時用量免費翻倍,付費用戶1個月內自動套用
