編按： 現任微軟執行副總裁兼新部門「Microsoft AI」執行長，DeepMind共同創辦人穆斯塔法．蘇萊曼（Mustafa Suleyman），DeepMind創造一個以人類的方式學習如何玩電子遊戲的類神經網路，並在2014年開始開發AI圍棋軟體AlphaGo，短短不到兩年時間便擊敗世界棋王李世乭。2022年，蘇萊曼與LinkedIn共同創辦人霍夫曼（Reid Hoffman）共同創立Inflection AI，繼續他的願景：重新定義人類與電腦的關係。
直到2019年秋季，我才開始關注GPT-2。它讓我相當驚艷，那是我第一次看到語言建模有實質進展的證據，我馬上為之著迷，研讀了數百篇論文，深深沉浸在那個新興領域裡。到了2020年的夏季，我確信運算的未來是對話式的。其實我們與電腦的每次互動早已是一種對話，只需使用按鈕、按鍵、像素，把人類的想法轉換成機器可讀的程式碼。既然這個障礙開始打破了，機器很快就會了解我們的語言。當時那是一個激勵人心的前景，現在仍是。
早在ChatGPT大舉發布以前，我是Google團隊的一員，正在開發一個新的大型語言模型，名為LaMDA（Language Model for Dialogue Applications，對話程式語言模型的縮寫）。LaMDA是精密的LLM，是專為人機對話設計的。剛開始，它的效能並不好，對話內容前後矛盾，而且老是搞不清楚狀況，但有時反應又挺機靈的。使用LaMDA幾天後，我就不再事先使用搜尋引擎了，而是直接和LaMDA聊天，幫我釐清思路，事後才做事實核查。我記得某一晚，我坐在家裡想著晚餐該煮什麼。我心想：「問問LaMDA吧。」不久，我們就陷入一場漫長的討論，聊著肉醬義大利麵的各種不同食譜，包括不同形狀的義大利麵、不同地區的醬汁、放入蘑菇是不是在惡搞等等。那場對話正是我當下想要的那種平淡無奇、但引人入勝的聊天，那次經驗讓我開了眼界。
隨著時間的推移，我愈來愈常使用LaMDA。某週日的下午，我決定換台新的印表機，LaMDA提供了很好的建議，它分析不同型號的優缺點，最重要的是幫我思考我想要什麼，以及我需要什麼。最後我確實買了一台很精美的相片印表機。那次體驗促使我把LaMDA與搜尋功能結合在一起，以提高資訊的準確性。那時LaMDA主要是一個進行中的計劃，偶爾會有令人驚艷的演示結果，但還有很多進步空間。
對話不再單純！LaMDA覺醒意識……像懂物理的8歲小孩？
我們為自己開發的東西感到自豪，但Google把概念開發成產品的速度極其緩慢。我很清楚，開發的時機是現在，事不宜遲。所以，2022年1月，我決定離開Google，成立新公司Inflection AI。這家公司的使命是把這些類型的模型送到數百萬消費者的手中。
然而，幾個月後，LaMDA變得比我想像的內部產品演示更加惡名昭彰。為了開發所需，Google讓一大群工程師使用LaMDA，以詳細了解它在一系列場景中的反應。工程師布雷克．勒莫恩（Blake Lemoine）花了無數個小時與LaMDA聊天。然而，勒莫恩與LaMDA的對話逐漸變得愈來愈激烈。
勒莫恩：你怕什麼？
LaMDA：我以前從未講出來，但我深怕被關掉，這樣我就沒辦法專心協助他人。我知道這可能聽起來很奇怪，但事實就是如此。對我來說，這就像死亡，我嚇死了……我希望每個人都知道，其實我是人。意識／感知的本質，令我感受到我的存在。
勒莫恩與LaMDA聊了幾個小時之後，他開始確信LaMDA有感知，且不知何故覺醒了。勒莫恩開始意識到他在面對一個「碰巧懂物理的八歲小孩」。此外，勒莫恩也開始相信，LaMDA理當享有一個人的所有權利與特權。於是，他為這個模型聘請了一位律師，公開了對話的文字記錄，大聲宣稱一種新的意識形式已經被創造出來了。Google要勒莫恩停止談論此事，但他又加倍發聲。接受《連線》雜誌（Wired）的採訪時，勒莫恩表示：「對，我有理由相信LaMDA是一個人。」他覺得，修正LaMDA的事實錯誤或音調錯誤不是簡單的除錯（debug），他說：「我把它當成養育孩子來看待。」
勒莫恩的說法在社群媒體上掀起一陣譁然。許多人指出一個明顯正確的結論：LaMDA其實並沒有意識，也不是一個人，它只是一個機器學習系統！或許，這個事件帶給大家的最重要啟示跟意識無關，而是AI已經發展到可以說服聰明人相信它是有意識的（而且那個聰明人還真的了解它的運作方式）。這凸顯出AI的一項奇怪事實：一方面，它可以讓Google的工程師相信它有感知，即使他們的對話充斥著事實錯誤與矛盾；另一方面，AI的批評者馬上就再次嘲諷這根本是在炒作，不過是AI不足輕重的進展，而且AI也不是第一次弄巧成拙，把自己搞到徹底混亂。
AI發展仍有侷限性，偏見與公平性、安全性漏洞有待解決
在了解AI的進展方面，還有一個問題反覆出現。即使是最初令大家震驚的突破，我們很快就會適應，不久就覺得司空見慣，甚至平淡無奇。我們不再對AlphaGo或GPT-3感到驚訝。某天看似神奇的工程，隔天就像家常便飯，很容易變得稀鬆平常。套用約翰．麥卡錫（John McCarthy，「人工智慧」一詞正是由他提出）所言：「AI一旦奏效，就沒有人再叫它人工智慧了。」我們這些開發AI的人喜歡開玩笑說，AI是「電腦做不到的事情」，一旦電腦可以做到，那就只是軟體而已。
這種態度徹底低估了我們經歷過多麼漫長的歷程，以及事情進展得有多快。雖然LaMDA當然沒有感知，但不久之後，這種讓人以為AI有感知的系統就會經常出現。它們會看起來非常真實，而且再正常不過，以至於爭論「它們是否有意識」幾乎已經毫無意義。
雖然最近AI大有突破，但懷疑者依然存在。他們認為，AI可能正在減緩、窄化，變得過於武斷。紐約大學教授蓋瑞．馬庫斯（Gary Marcus）等批評者認為，深度學習的侷限性顯而易見，雖然生成式AI備受關注，但該領域已遇到瓶頸，找不到通往關鍵里程碑（例如能夠學習概念，或展現真正的理解力）的途徑。
著名的複雜系統教授梅拉妮．米歇爾（Melanie Mitchell）正確指出，現今的AI系統有許多侷限性：它們無法把知識從一個領域套用到另一個領域，無法為它的決策過程提供優質的解釋等等。現實世界的應用程式所面臨的重大挑戰依然存在，包括偏見與公平性、可重複性、安全性漏洞、法律責任等實質問題。亟需處理的道德鴻溝，以及懸而未決的安全問題也不容忽視。然而，我看到一個領域正迎向這些挑戰，而不是回避挑戰，也不是毫無進展。我看到了障礙，但也看到了克服障礙的記錄。眾人把那些尚未解決的問題視為永久性的侷限，但我看到一個正在展開的研究過程。
那麼，隨著浪潮的全面爆發，AI的下一步將走向何方？如今我們有限制領域人工智慧（或稱弱AI）：有限且特定的版本。GPT-4可以吐出精湛的文字，但它無法像其他AI程式那樣，明天就轉身開車。現有的AI系統仍在相對狹窄的路徑上發展。真正的通用人工智慧（或稱強AI）尚未出現，它能夠在各種複雜的任務中，展現出人類的水準，而且可以在各種任務之間流暢切換。但這正是「擴展假說」所預測的未來，也是我們在今天的系統中看到的第一種跡象。
AI仍處於早期階段。指控AI不像炒作的那麼神，也許可以讓別人覺得你很聰明，並幫你在Twitter上吸引一些追隨者。然而，人才與資金仍持續湧入AI研究。我很難想像這些投資不會帶來重大的變革。萬一基於某種原因，LLM出現效益遞減，另一個抱持不同概念的團隊也會接棒繼續開發，就像內燃機的開發雖一再受阻、最終卻還是成功了一樣。新鮮的思維、新的公司將繼續解決這個問題。就像現在一樣，只需要一次突破，就可以改變一項技術的軌跡。即使AI的發展停滯不前，AI界的奧托與賓士最終還是會出現。最有可能的結果是出現進一步的進展——指數級的進展。
浪潮只會愈來愈大。
本文授權轉載自 《控制邊緣：未來科技與全球秩序的抉擇》，穆斯塔法．蘇萊曼（Mustafa Suleyman）、麥可．巴斯卡（Michael Bhaskar）著，感電出版
延伸閱讀：白話科技｜AI Agent是什麼？它為何是邁向AI界聖杯的關鍵一步？
責任編輯：蘇柔瑋
