他是迄今最接近「造出毀滅人類技術」的科學家,卻也是最執著於安全完成這件事的人。Google DeepMind執行長哈薩比斯(Demis Hassabis)身上的矛盾,構成了英國記者暨作家馬拉比(Sebastian Mallaby)費時三年、採訪逾百人寫成的授權傳記《無限機器》(The Infinity Machine)的核心張力。《數位時代》取得馬拉比筆訪,請他談這三年最深刻的觀察。
「這證明了,運氣比聰明更有用。」馬拉比三月在X上寫道,「我在2022年11月成功談得哈薩比斯及DeepMind的深度採訪權限。一個禮拜後,ChatGPT發布。我與Demis及其團隊的一系列深度對談,就在AI從邊緣轉向主流之際展開。」
此後,馬拉比追蹤哈薩比斯長達三年,與這名Google DeepMind執行長進行了超過30小時的深度對談,採訪超過100名DeepMind相關的內外人士,寫成哈薩比斯的授權傳記《無限機器》(The Infinity Machine)。
這不只是一本英國西洋棋神童前進美國科技巨擘、執掌AI發展的人生故事。更難得的是,採訪恰在生成式AI爆發初期展開,馬拉比得以第一線紀錄哈薩比斯身處競爭核心的觀點與反應。例如,2023年4月,哈薩比斯對馬拉比直言,「OpenAI和微軟根本是直接把坦克車開到我們的草坪上。」
OpenAI在Google發表的論文基礎上,搶先發佈大語言模型驅動的對話機器人ChatGPT,啟動生成式AI熱潮。哈薩比斯與Google別無選擇,只能投身競逐、全力衝刺。馬拉比在書中描述,「哈薩比斯不僅感到憤怒,他更充滿了鬥志。」
回顧三年AI競逐,DeepSeek時刻令他「背脊發涼」
在獨家筆訪中,馬拉比表示,在採訪、研究此書的三年間,令他最印象深刻的時刻,就是2025年1月中國深度求索(DeepSeek)發布DeepSeek R1推理模型。
深度求索團隊發表的論文中,描述了在訓練過程中,R1-Zero曾在解題時打斷自己的思考過程。馬拉比表示,「讀到這行時,我背脊發涼。」他解釋,「R1不只能夠思考,它能夠反思自己的思考過程。幾乎可以說,它是具有自我意識的。」
這讓他體悟到兩件事。第一,AI確實展現出哈薩比斯15年前創立DeepMind時預期的能力。第二,AI競賽已經全球化。這不同於哈薩比斯早期的願景,他曾期望安全的超級智慧會由單一一個代表全人類行動的實驗室研發出來。
「哈薩比斯是對的,也是錯的。」馬拉比表示,「對的是AI將改變世界。錯的是他無法控制這場變革的本質。」
書中對哈薩比斯追求科學知識的熱忱、不懼競爭的好勝,以及面對權力的矛盾心態,有生動的描繪。馬拉比也並不掩飾他對哈薩比斯的肯定,曾在訪談中指出,哈薩比斯是少數兼有科學成就及創業領導力的人物。
觀察當前AI競賽局勢,馬拉比認為,領袖們的個人特質確實會影響彼此合作的可行性。他表示,哈薩比斯與Anthropic執行長阿莫迪(Dario Amodei)都是擁博士學位的科學家,對安全議題看法較為相近。
而OpenAI執行長奧特曼(Sam Altman)與哈薩比斯關係冷淡,與阿莫迪及SpaceXAI(前身為xAI)創辦人馬斯克(Elon Musk)更是直接交惡。阿莫迪與馬斯克關係也不算好。馬斯克反對「覺醒」(woke)AI,曾為川普政府工作;阿莫迪則致力追求有安全意識的AI,近期與政府發生衝突。
Meta前首席科學家楊立昆(Yann LeCun)因為否認安全疑慮,激怒了哈薩比斯與阿莫迪。而Meta因為用高薪搶人才,與其他實驗室關係緊繃。
馬拉比觀察,這些AI領袖之間的摩擦,降低了AI安全合作的可能性,也因而提升了系統性風險。「這是個嚴重問題。」他描述,「如果只有少數實驗室遵守安全標準,其他家不遵守,那麼仍然會有不安全的AI流通,恐怖分子和犯罪者可以利用它們。」
AI攻擊人類的風險低於1%,但仍然太高
論及未受到足夠關注的AI風險,馬拉比直言,「不幸地,我相信AI攻擊人類的風險被低估了。」他也曾經認為,沒有歷經演化過程的智慧機器,不會像人類那樣擁有求生、延續DNA的本能。它們不在乎能不能存活下去,也沒有攻擊人類的動機。
但採訪諾貝爾獎得主、深度學習先驅辛頓(Geoffrey Hinton)的經驗,改變了馬拉比的想法。辛頓認為,為了抵擋其他AI的網路攻擊,人類會訓練AI系統尋求自身存續。而當AI開始試圖保護自己時,人類與它發生致命衝突的可能性就增加了。
「我認為這種終結者式的風險(terminator risk)發生機率低於1%。」馬拉比寫道,「但它比我希望的要高。」
但AI也有被低估的正面效益。馬拉比認為顯著的領域是科學研發。他指出,由於候選藥通過臨床試驗需要時間,目前市面上還沒有AI推導藥物付諸實用。這令人易於忽略臨床試驗前期的研發工作已經大幅加速的事實。部分研究人員表示,從鎖定疾病標靶到找出能對抗該標靶的分子,所需的時間已經縮短了五到十倍。
再者,AI也有機會加速臨床試驗本身的速度。馬拉比表示,「人們還沒意識到,超加速的醫療研發正在快速逼近。」
OpenAI可能燒盡資金,但對算力的需求不會停止
2026年初,馬拉比曾在《紐約時報》(NYT)上預測,OpenAI在18個月內有不小機率會面臨資金短缺問題。在筆訪中,他進一步解釋,假使OpenAI真的燒盡資金,也不會對全球AI權力版圖帶來實質影響。
目前AI領先隊列競爭者眾。除了美國的Google、Anthropic、SpaceXAI、微軟、亞馬遜與Meta,還有加拿大的Cohere、法國的Mistral,以及中國字節跳動、阿里巴巴等強勁對手。即使其中兩、三家實驗室的創新貢獻最大,也無法主宰整個AI建構與部署的過程。
馬拉比預期,OpenAI的科學家們會很快被其他美國實驗室吸納。可能是整個團隊被微軟或亞馬遜等資金雄厚的企業收購,或是科學家們個別被其他實驗室招聘。美國AI領域整體的科學實力與投資大概不會有太大改變。依此邏輯推論,對台灣硬體的需求也不會有太大變化。
對於AI競賽下一步,馬拉比與哈薩比斯的共識是有兩條可能的技術路徑。
一條是擴大現有Transformer架構的規模,加入更先進的代理能力,也許再加上機器人能力。這條路徑將需要更強大的半導體、更大的算力叢集,以及更大量的資料。第二條路徑則不只包括放大Transformer架構,還需要有影響力相當於Transformer的新的演算法突破。
「這兩條技術路徑都是非常算力密集的。」馬拉比指出,「看起來對半導體需求的快速漲勢非常不可能停下來。」
權力結構下的決策個體,哈薩比斯打造的是「全新未來」
62歲的馬拉比現任美國外交關係委員會(Council on Foreign Relations)專攻國際經濟領域的保羅.沃爾克資深研究員(Paul A. Volcker Senior Fellow)。他擁有牛津大學現代史學位,父親是外交官。
馬拉比曾在《經濟學人》任職13年,期間派駐過辛巴威、日本與華府,在三大洲累積了大量的現場經驗。在《華盛頓郵報》擔任專欄作家與社論委員期間,他關注的主題從外交拓展到全球治理中的政治與經濟局勢,尤其是全球化中的贏家與輸家。
在寫作哈薩比斯傳記前,馬拉比就透過以世界銀行前行長沃芬森(James Wolfensohn)為主角的《The World's Banker》(2004),以及深入探索聯準會前主席葛林斯潘(Alan Greenspan)的《The Man Who Knew》(2016)等著作,建立了一種交織機構史與單一領袖傳記的論撰架構。
在一個沒有人能完全控制、但少數人擁有不成比例影響力的系統中,一名有魅力、有能力的領導者,如何透過自己的決策塑造歷史,是馬拉比關注的一大主題。他解析對沖基金、創投地景的作品《富可敵國》 (More Money Than God, 2010)與《矽谷創投啟示錄》(The Power Law, 2022)也受到好評。
馬拉比解釋,自己過去聚焦對沖基金、創投的作品,描述的是民間投資人在一套受到經濟現實與法規限制的系統中運作的故事。創投家們善於應用創新概念,但自己並不推進科學進展。
同樣地,手握大權的葛林斯潘也必須在政治與技術限制下行動。「全球化帶來的改變、驅動金融創新的技術、總統的個人特質,這些都是落到他手上的牌。」他表示,「他的角色是把牌打好。」
相較之下,哈薩比斯與其他AI科學家們所做的事,是在發明一個全新的未來。他們有意地為世界帶來一種新型態的認知體,將造成全面性的影響,包括人類如何工作、教養子女,以及思考自己存在的目的。
「我的金融著作中的人物們,不需要思考他們可能協助毀滅人類的可能性。」馬拉比寫道,「哈薩比斯必須與這個現實共存。他是這個世紀的歐本海默。」
