編按：本書由兩度入圍普立茲獎的當代頂尖財經作家馬拉比（Sebastian Mallaby），歷時三年、絕無僅有的三十小時促膝長談，深入剖析科技先驅德米斯．哈薩比斯（Demis Hassabis），額外採訪超過一百位相關重要人物，詳實記錄DeepMind這家足以顛覆世界的公司發展。隨著AI對人類影響愈來愈深，這將成為定義我們這個時代最重要的篇章。
2023 年4 月底，我拜訪了哈薩比斯，問他近況如何。
「現在是戰爭狀態，」他回答道，「OpenAI 和微軟根本是直接把坦克車開到我們的草坪上。」DeepMind 發表了Sparrow的論文，詳細說明模型的安全機制，讓競爭對手也能運用，為業界樹立了良好的典範。
哈薩比斯認為，DeepMind 在將聊天機器人推向消費市場前選擇了放慢腳步、謹慎評估，也是為業界立下另一個典範。然而，奧特曼卻只是聳了聳肩，一股腦兒的往前衝。
哈薩比斯不禁想，究竟是什麼樣的人才會做出這種決定？
早在模型尚未成熟之前，人工智慧領域的先驅就在學術界默默耕耘、參與奇點峰會，讓他們著迷的是打造AI 的過程：那既是科學的探索，也是創造出全新認知形式的哲學震撼。然而，隨後加入浪潮的這批人，則是將這項加速發展的技術，視為值得利用的大好機會：帶領他們追逐權力與財富。
早期，奧特曼曾公開表態，將自己塑造為富有遠見的領導人，承諾將為全世界打造安全的AI。然而，在推出ChatGPT，並以全球巡迴之旅進一步點燃AI 熱潮的同時，他逐漸暴露出其他的動機。
哈薩比斯想起了保羅•格雷安（Paul Graham），也就是奧特曼職業生涯中最親近的導師之一。「山姆非常擅長獲取權力，」格雷安觀察道，「你可以把他丟到一座充滿食人族的島上，五年後再去看，他大概已經當上國王了。」
「我認為，任何試圖打造AGI的人都必須回答一個問題，」
哈薩比斯說，「為什麼你要打造它？」
「我的理由是科學追尋。但有些人很顯然是為了別的目的而來。」
Google 面臨的三大「創新者困境」
哈薩比斯不僅感到憤怒，他更充滿了鬥志。OpenAI 已經點燃了戰火，就算哈薩比斯希望能放緩AGI 的進程也無濟於事，只能被迫全力衝刺。
除非他選擇退出業界、成為毫無實權的旁觀者，否則他與Google 的同事在這場競賽中就跟其他參賽者一樣，幾乎沒有任何主動權可言。實際上，他們起步緩慢，後來卻下定決心全速衝刺，正好印證了科技決定論的力量。
在過去幾年內，Google 尤其受到一種與競賽誘因相反的力量所牽制。Google 的發展策略受制於所謂的「創新者困境」。過去的創新成果，也就是強大的搜尋技術，使Google 在追求創新突破時反而受到限制：他們不能冒險展開實驗，而危及了主要利潤的來源。這些限制以三種形式呈現。
首先，Google 在搜尋領域的主導地位，有賴於他們提供可靠資訊的聲譽，因此不能貿然推出會產生「幻覺」的聊天機器人。
其次，Google 的營收來自搜尋結果旁投放的廣告，而Google 對於如何將廣告整合到聊天功能中尚無明確的方案，因此聊天機器人的開發暫緩。
第三，一旦得罪政治人物、媒體記者或廣告合作夥伴，Google 廣大的市占率（許多人稱之為非法壟斷），便會岌岌可危。如果AI 一邊大量散播有害內容，一邊表現出詭異的自我意識，無疑會將企業推向自我毀滅之路。
這三種「創新者困境」對Google 的決策影響重大。畢竟，Google 發明的transformer 架構，開啟了生成式AI 革命。隨後，他們更利用這項架構建立內部的語言模型。
Google 的領導階層，尤其是桑德•皮蔡，多年來深知AI 總有一天將徹底顛覆搜尋業務，因此竭力阻止DeepMind 脫離Google。
事實上，矽谷的每位科技主管都對「創新者困境」瞭若指掌，就如同羚羊對獅子般警覺。他們都對全錄帕羅奧圖研究中心（XeroxPARC）的警示寓言耳熟能詳：這間企業研究實驗室在1970 年代極富盛名，發明了電腦滑鼠與圖形使用者介面，卻從未推出任何個人電腦，因為他們認為無紙化辦公將損害母公司的影印機業務。
然而，理解創新者困境是一回事，要抗衡這股力量又是另一回事。即使公司的謹慎立場讓頂尖科學家因備受挫折而離職，Google 仍覺得有義務將內部語言模型保密。
告別「藍天科學」，從研究轉向工程開發
至於DeepMind，則是受到另一種創新者困境的制約：「藍天科學」所帶來的路徑依賴。如果說Google 的前車之鑑是全錄研究中心，那麼DeepMind 的對照則是貝爾實驗室（BellLabs），這間研究機構孕育出眾多榮獲諾貝爾獎的科學家，還在1940、1950 年代率先研發出矽電晶體，卻始終未將這項發明商業化。
DeepMind 在創立之初，採用貝爾實驗室的運作模式看似再理想不過。畢竟通往「無限機器」的道路完全未知，首要任務是建立一個致力於探索性研究的平臺，且貝爾實驗室已經證明這是可行的方法。然而，大型語言模型的問世卻打亂他們原先的計畫。
如今，前方的道路已清晰可見。真正的挑戰在於踏上這條道路，並以最快的速度向前推進。
「在1960 年代後，你不會再用貝爾實驗室那套全面的物理學探索去發明微處理器，」哈薩比斯解釋道，「你不會再去思考，是不是該用電子管？還是某種新的材料？因為答案已經擺在那裡了！」
「現在也是同樣的情況，」哈薩比斯繼續說，「大致而言，我們已經知道如何打造強大的AI。儘管眼前仍存在許多未知數，但探索的範圍已經縮小許多。」
「因此，現在DeepMind 必須從探索邁向開發、從科學走向工程，並從研究轉向產品。而這樣做並不容易。」
擺脫束縛，切換至戰爭模式
ChatGPT 帶來的衝擊迫使Google 和DeepMind 改變，跳脫過去全錄研究中心與貝爾實驗室的思維模式。創新者困境的束縛瞬間瓦解：ChatGPT 的一億次下載量已清楚顯示，聊天機器人就是未來：Google 要麼順勢而為，要麼被時代淘汰。桑德•皮蔡意識到搜尋業務正面臨致命威脅，隨即進入危機應對模式。
他召開一系列緊急會議，就連平時鮮少露面的賴瑞•佩吉與謝爾蓋•布林也出席了，凸顯出事態有多嚴重。佩吉特別強調，Google 必須不惜一切代價全力追趕，否則將毫無立足之地。
同時，在倫敦的哈薩比斯也開始動員團隊，準備調整策略方向。在一次全員會議上，他宣布DeepMind 長期布局的各項前瞻研究計畫必須大幅縮減。公司將不再公開發表關鍵研究成果，以免競爭對手輕易仿效，此外，他們要把重心轉向工程開發，而不僅僅是科學研究。研究人員也必須改變心態，從和平模式切換到戰爭模式。
本文授權轉載自《無限機器》，Sebastian Mallaby著，天下文化出版
