在針對一個話題開始寫作之前，我一般都會查查資料、列列提綱。而當提筆準備寫寫人工智慧這個最近因為大量相關領域創業公司拿到融資而被再度炒熱的概念的時候，我卻想到了一些有趣的事。
人工智慧（Artificial Intelligence，AI）是個古老的，且在過去的50年裡並沒有得到太多人的太多關注的概念。翻閱維基百科，你甚至能找到「AI寒冬」這一用詞。事實上，人們對於人工智慧知識的淺薄，並不能對人們在這個話題框架下進行討論的希望產生任何阻攔——我就是最好的例子：在「AI寒冬」的時候（幾乎持續了上個世紀整個後半葉）的普羅大眾和現在的普羅大眾對於人工智慧的了解並沒有增進多少，只不過從前人們更願意提「機器學習」（Machine Learning），而最近幾年AI更加吃香罷了。
如果你不是演算法工程師，那麼你不需要了解人工智慧究竟是怎樣產生的，只需要知道它就在那裡，就那麼好用……等等。
我的邏輯在這裡被打斷，然後被轟然推倒。
在「AI 寒冬」的那段時間裡，人工智慧研究因為數次技術革新嘗試的失敗而停滯，改名換姓的機器學習卻更容易受到投資人的青睞。機器學習和人工智慧的研究方式相通，但目標卻截然不同：機器學習希望模仿人類，而人工智慧希望替代人類。就像自動駕駛和無人駕駛一樣，這是兩種自動化程度和智慧程度高度相當，但仍有根本性不同的汽車控制技術。在我的邏輯被自己擊垮之後，邏輯重建將圍繞著自動駕駛、無人駕駛來展開：
一個月之前，世界上最熱門的電動車公司Tesla以「D」字為發表會的主題，吸引了全世界科技迷、汽車愛好者的眼球。半個月之後人們終於知道了「D」代表著什麼，可是期待中的無人駕駛這種富含未來奇幻色彩的功能，還是沒有來到Tesla新車當中，令人們不免有些失望。而在這之前，另一家矽谷科技公司Google 剛剛發布了旗下Google[x] 團隊研發五年之久的無人駕駛汽車，沒有方向盤，沒有油門和剎車等人為的手動裝置。
Tesla是汽車公司，Google卻是間搜尋公司。為什麼我們要依靠一家搜尋公司，而不是汽車公司，來引領無人駕駛的未來？是什麼在阻擋著坐落在全球高科技人才最密集的矽谷地區，擁有全球最優秀汽車相關技術，手握幾乎用不完的資金可以投入研發的Tesla，去做無人駕駛汽車？Tesla創辦人兼執行長Elon Musk 近期在多個場合公開發表的見解或許能夠回答我們的疑慮：
1.Musk此前接受了中國媒體《博客天下》專訪，隻身一人帶採訪團隊三人試駕自家研製的電動車。在震驚於Tesla新車超強的性能之於，採訪者希望了解Musk對於開自家的車有什麼感覺。Musk的回答調性一如往常的高：
我們努力讓這部車的操作界面對駕駛者更直觀，就好像車是自己的一部分，控制車就像控制自己的身體一樣——不需要思考，車就在那裡，隨時準備好感應你的想法，做到你想要做的事。
2.早在今年8月，Musk就曾在Twitter上表達過對於人工智慧的疑慮：
Nick Bostrom的著作《超級智慧》（Superintellegence）值得一看。我們需要對人工智慧非常謹慎，否則其在未來的危害性將不亞於核武器。
不是每一位科技公司領軍人物的每一條發文都值得推敲，Musk 的這一條在當時也一樣。但沒過太久，Musk 用一場演講再度表明了自己並不是說著玩。
3.在美國時間10月26日麻省理工學院的一場公開訪談上，Musk稱人工智慧就像「召喚惡魔」這種神話中遠古的術士才會研習的恐怖技法一樣，將會為研究它、使用它的人帶來無法預估的惡果：
研究人工智慧就像召喚惡魔一樣。就像所有的神話中畫著法陣捧著聖水的邪惡巫師一樣，每個巫師都聲稱自己可以控制惡魔，但沒有一個最終成功的。
人們驚訝於這樣一位具有優秀的技術背景、豐富的項目經驗的科技界高層人士居然會發表這樣「反創新」的言論，更何況他今年三月剛剛跟投了一家人工智慧領域研究圖像識別技術的創業公司。
但換個角度的話這些言論可能更好理解：Musk對Tesla電動車的理解是「控制車就像控制自己的身體一樣——不需要思考，車就在那裡，隨時準備好感應你的想法，做到你想要做的事」，這精準地體現了Musk認為人性應該對車佔有控制權，而不是反過來。也正因為Musk是技術出身，他才對於現在以及可預見的未來里，人工智慧的研究成果取代/奴役人類的程度的理解，比普通人有更多的數據支撐。原來，被他人吹捧為現實版鋼鐵俠的他，恰好是最擔心人工智慧技術過度發展的人。
人工智慧現在都可以做什麼？一家名為Darktrace的公司正在使用貝葉斯理論來開發出一套安全系統，試圖學習什麼是「正常」的情況和「不正常」的情況，從而為部署該系統的IT架構提供事故發生時，甚至是發生前的報警服務；另一家名為Celaton的公司已經可以為用戶提供虛擬客服軟體，通過不斷地學習，幫助用戶在客服工作這一勞動密集型工作上，降低勞動力成本，提高客服溝通成效。
（圖說：由人類研發的深藍，在國際象棋上擊敗了人類自己）
一邊是Tesla作為一家創新型電動車公司，在自動駕駛系統上面的「沒追求」，另一邊則是優秀的人工智慧創業公司希望通過自己的技術，用機器替代人類，給生產效率帶來大變革。為什麼Tesla的新車沒有給機器系統開放更多權限，而只賦予了其類似於過去汽油汽車定速巡航的升級版功能：智慧加減速、變道等等？為什麼不試著讓新車完全替代人的操控？從現實的條件限制上來說，未經機器掃描和繪製過的道路無法支持無人駕駛是一個原因。而擔心機器系統有一天會走到「訊息的奇點」，整合了人類心理模式之後背棄人類設定的三大定律，選擇背叛人類主人，或許是更重要的原因。
自動駕駛希望優化駕駛者的駕駛體驗，而無人駕駛的目標則是替代駕駛者；機器學習希望的終極目標是整合數據以及運算能力，製造成一個位於雲端的計算機——仍為人所用，而人工智慧的研究者恐怕自己也無法確認自己研究的系統，在達到高智慧巔峰的時候，會否選擇完全替代情緒化、有生命週期、低效率的人類。當機器已經可以自行決定什麼是「正常」和「不正常」的時候，可以讓溝通的對象察覺不出來自己是機器的時候，面臨機器很有可能拋棄「忠誠」這一極大影響機器系統自身效率的行為，已經變得越來越懶的人類還有多大的勝算？
無數優秀的文學、影視作品曾經演繹過上述情況的發生和興盛。屆時，機器已不是人類的計算器，而人類會成為機器的電池。我的幾位朋友曾經有過這樣的問題：人類對於人工智慧的研究，真的到了值得擔心的地步了嗎？可能Elon Musk希望傳達給我們的觀點並非如此。的確，適度的人工智慧研究能夠給人類生活帶來進步，但恐怕目前還沒有人能夠研究明白這個「度」究竟是多少，並且說出來，讓像我一樣對於人工智慧同時懷有憧憬、敬畏和恐懼之心的普通人信服。這正是人工智慧最可怕的一點，就像本文邏輯重建中的自動駕駛和無人駕駛關係一樣：如果沒有方向盤、手動設備，這世界上有多少人願意全身心地相信無人駕駛汽車不會讓自己死於非命？
在人工智慧研究合適的「度」被找到之前，無論多麼情緒化、低效和落後，人性掌握控制權恐怕依然是唯一且最好的選擇。
本文出自PingWest／光譜
