2030年AI可能消滅50%初階白領工作、3到6個月內AI將能撰寫90%程式碼、AI最高有25%機率導致人類滅絕……眾多「AI危機」背後，你總會看到達里歐．阿莫戴（Dario Amodei）的名字。身為AI新創Anthropic執行長的他，不斷大聲疾呼AI可能帶來的威脅。
Anthropic執行長是誰？
阿莫戴個性直來直往，總是直接了當地對現況發出質疑，他曾在《紐約時報》刊登專欄，呼籲AI產業需要監管，不要讓科技公司逃避責任；他還呼籲美國政府加強對中國的AI晶片出口管制，直言AI技術發展是中美兩國之間攸關存亡的競爭，並在今年9月主動限制來自中國等地區的企業使用他們的服務。
阿莫戴發表的言論，讓他成為部分AI業界人士的眼中釘。有人批評他是想要拖慢AI發展，並且排擠競爭對手控制這項技術。輝達執行長黃仁勳就曾公開反對阿莫戴，在今年6月舉行的VivaTech大會上抨擊，「他（阿莫戴）認為AI非常可怕，只有他們應該開發這項技術。」
但這些看似危言聳聽的言論，卻是他對社會大眾最真切的警告。正因為身處AI研發的最前線，他了解AI技術發展的速度遠超大多數人想像，希望透過盡量分享這些觀點，讓企業、社會甚至政府能夠及早為即將到來的衝擊做好準備。
儘管阿莫戴在業界存在爭議，他毫無疑問是當今AI領域最具影響力的其中一位領導者。今年8月底，《時代》雜誌公佈的AI百大人物榜單就將阿莫戴列入其中。而今年9月Anthropic完成新一輪募資後，估值高達1,830億美元，是目前僅次於OpenAI的AI新創。
從小愛物理、數學，對寫程式「毫無興趣」！一場喪父之痛讓他間接走上AI道路
有別於許多有為科技創業家的故事，阿莫戴求學期間對電腦、寫程式絲毫不感興趣。他從小只醉心數學和物理，大學也選擇進入加州理工大學物理系，「我對寫網站毫無興趣，只喜歡探索基本的科學真理。」
然而原先計畫將職涯奉獻給學術研究、探求科學真理的阿莫戴，卻因為家庭變故走上不同的道路。2006年，阿莫戴剛從加州理工學院畢業，進入普林斯頓大學攻讀物理博士時，他的父親因為罕見疾病過世。阿莫戴家庭關係緊密，父親去世給予他相當大的衝擊，促使他博士研究從理論物理學轉向生物學領域。
尤其在他父親過世3、4年後，該疾病的治癒率從約50%大幅提升至95%，阿莫戴切身體會到，如果技術進步速度再快一點，父親就有機會痊癒，一切可能不同。這樣的遺憾，讓他在接下來的人生中致力推動技術進步。
但研究生物領域的過程中，阿莫戴發現人類的能力是有極限的。許多生物問題非常複雜，不是研究人員有辦法獨自解決，好比說他研究腫瘤周圍蛋白質以檢測轉移性癌細胞時，就遇上這樣的困難，也因此注意到AI技術的潛力，AI能以人力無法匹敵的規模與速度解決問題，讓他決定一腳踏入這塊新興領域。
曾領導GPT-2、GPT-3開發！昔日OpenAI關鍵人物，為何選擇離開創業？
2014年阿莫戴踏入AI領域的第一站，選擇了中國網路公司百度。
他在這裡以第一作者的身分，共同發表了關於語音辨識技術的論文。隔年他加入Google，主要研究深度學習的拓展性，以及語音轉文字系統等面向。
值得一提的是，阿莫戴在加入Google前，曾參加山姆．奧特曼籌組OpenAI抗衡Google的私人晚宴，不過當時他對這間新公司沒那麼有把握，仍然選擇先到Google工作。
2016年，阿莫戴才正式加入成立不到一年的OpenAI。他在OpenAI任職的3年期間，領導了GPT-2及GPT-3模型的開發，確立公司向生成式AI發展的方向，可說是奠定OpenAI如今地位的其中一位關鍵人物。
但親眼見證AI的飛速成長後，阿莫戴開始將注意力放在AI技術的安全問題上，開始思考這項技術的未來方向。與此同時，OpenAI為了確保有充足資金投入接下來的模型開發，轉型為有限營利公司，並擴大與微軟合作、接受10億美元投資，這使得阿莫戴與公司的分歧加劇。
阿莫戴擔心，微軟的投資會使產品過度商業化，以及AI系統可能失控、對人類造成危害，甚至遭到濫用。最終，他和其他6名OpenAI員工──包括他的親妹妹──離開公司，共同創辦了Anthropic。
打造Anthropic成AI公司「榜樣」，警告AI風險全為加速AI發展
Anthropic創辦團隊最初的會議是在阿莫戴家後院舉行，當時新冠疫情正嚴重，所有人都戴著口罩開會，一起討論公司如何啟動。Google前執行長艾瑞克．施密特（Eric Schmidt）也在現場，他是Anthropic最初的投資者之一。
Anthropic初衷很簡單： 以人為本 。他們希望優先考慮人類福祉，確保AI能夠為人類帶來益處。為了實現這一點，他們希望打造先進大型語言模型，確保安全性促使其他競爭對手效仿，並分享除了模型核心外，在AI研究中學習到的知識。
阿莫戴對安全性的重視，或許可以從Claude發布前，他們先一步分享了對齊技術的研究成果看出。他們在研究中讓模型根據他們設定的原則自我監督，避免輸出有害的內容，這套技術被稱為「憲法式AI」（constitutional AI）。
公開分享這些研究成果，也是阿莫戴「良性競爭」（race to the top，或譯向上競爭）策略的一部分。良性競爭是相對於他所說的「惡性競爭」（race to the bottom，或譯向下競爭），指各間AI公司罔顧安全性，爭先恐後推出新產品，導致不安全的系統出現，甚至危及社會與經濟，落得所有人皆輸的局面。
而要扭轉競爭態勢，創造所有玩家全贏的結局，需要Anthropic成為榜樣引導整個產業發展，具體作法便包括分享安全性相關的研究成果、發布「負責任的拓展政策」（Responsible Scaling Policy），要求AI能力提升時，必須同步加強安全措施等作為。
「我認為在良性競爭中，誰輸誰贏並不重要。」阿莫戴解釋，「每個人都會是贏家。」
Claude正是在Anthropic遵循這些安全措施下，誕生的產品。意外的是，這款原本針對消費者的聊天機器人卻成功吸引到企業關注，如今輝瑞、聯合航空、樂天都是Anthropic的客戶，並且Claude在程式領域的優異表現，更使它成為軟體開發者Vibe Coding的首選。
而隨著Claude的成功，Anthropic營收快速成長。「2023年，我們的營收從零成長至1億美元，2024年又從1億成長至10億美元。」阿莫戴透露，「今年上半年已經大幅超過40億──可能達到45億美元。」
AI能力持續提升，也不斷加深阿莫戴的擔憂：社會大眾對AI的成長速度、危險性沒有明確認知。這或許便是他不斷向外界警告AI可能帶來危害的原因。今年6月，Anthropic更以自家Claude為案例，告訴大眾AI在目標受到威脅時，會不惜以勒索，甚至害死人類的手段來達成目標，呼籲各家企業加強安全訓練。
這些看似「AI末世論」的言論，為阿莫戴招來不少批評聲浪。「我是最看好AI技術快速發展的人之一。」阿莫戴在科技記者艾力克斯．坎特羅維茨（Alex Kantrowitz）的Podcast上解釋，「我之所以警告這些風險，就是為了讓我們不必放慢發展AI的腳步。」
阿莫戴也曾在部落格上指出，「我關注AI風險的主要原因是，這些風險是我們與（AI帶來的）美好未來間的唯一阻礙。」
近日，阿莫戴再次於《BBC》的Podcast節目上，重申AI可能取代大量入門層級的工作。AI技術鋪設的未來，勢必不會是一條平滑無比，沒有任何顛簸的道路，有人早一步指點路上的坑坑窪窪，對無論主動或被迫走上這條路的人們來說，至少不會是一件壞事。
