30年深度學習的孤獨之旅!今年圖靈獎頒給了「AI三巨頭」

2019.03.29 by
愛范兒 ifanr
愛范兒 ifanr 查看更多文章

愛范兒連接全球創新者及消費者,跨界技術、文化、消費及創新,致力消費科技領域的產業評論、產品報導及社群連接,創造高品質的消費樂趣。

螢幕截圖
2019年圖靈獎頒給三位在深度學習領域深耕多年的巨頭,三人影響力之大可以說涵蓋了目前最先進的AI研究。從起步到成果展現世人眼前,研究的過程要忍受極大的孤獨,這些科技英雄的背後又有什麼不為人知的故事?

有一個流傳很廣的說法:Steve Jobs把公司取名蘋果,並以咬了一口的蘋果作為logo,是為了紀念服食毒蘋果自殺的電腦科學先驅艾倫·圖靈(Alan Mathison Turing)。

Steve Jobs否認了這個說法,但他說,「很希望自己是那樣構思的。」

從電腦科學到人工智慧,圖靈都做出了奠基性的貢獻,以他的名字命名的「圖靈獎」,被公認為電腦世界的最高榮譽,相當於電腦界的諾貝爾獎。

今年的圖靈獎被授予了深度學習領域的三巨頭:Yoshua Bengio、Yann LeCun和Geoffrey Hinton,以表揚他們對人工智慧發展的推動,三位科學家將平分100萬美元的獎金。

現在,深度學習已經幾乎是人工智慧的代名詞,從AlphaGo、人臉辨識、智慧語音助理到自動駕駛,都得益於深度學習的發展。

但它的進步,是一個孤獨的故事。

過去10年內,ImageNet圖像辨識挑戰賽都是人工智慧領域最權威的比賽之一。

ImageNet有一個超百萬張圖片的超級數據庫,其中的圖片由人手工添加標籤,說明圖片的內容,並分成不同的類別,從動物、汽車等大類,一直到虎鯊、廁所衛生紙這樣的小類。

參賽者要做的就是對圖片中的物體進行辨識和分類,準確度最高者獲勝。

作者提供

2012年,首次參賽的加拿大電腦科學家Geoffrey Hinton領銜的團隊拿到了冠軍,而且,比第二名准確率高出了10%。

這個結果震驚了學術界,因為當時的第二名到第四名都用了相同的研究方法,他們已經做到了極致,每個隊伍準確率的差別不超過1%。

Hinton團隊用的是完全不同的方法——深度學習,具體的算法被稱為卷積神經網路(CNN)。這是一個里程碑式的進步,正是Hinton團隊的突破,讓學術界和工業界用更多人關注、使用深度學習,最終推動了人工智慧行業的大發展。

如果以辨識貓為例,傳統的電腦視覺算法依靠設計者的先驗知識,比如透過貓的集合體推斷出,四條腿,體型較小,會喵喵叫的動物為貓。機器透過人的思維構建的模式來判斷它是否為貓。

深度學習則不同,它從海量的和貓相關的數據中自動學習,並提取出相應特徵,最終可以判定某個未知物體為貓。它和人類的思維方式更為接近,這種算法也被歸於神經網路。

雖然看起來深度學習從根本上就是一個更先進的算法,但在過去相當長的時期內,它並不被看好。

因為過去用於訓練的數據集規模都比較小,這很容易導致過擬合現象,即算法在測試集表現很好,但在實際應用出會出現極大的誤差;同時,電腦性能也無法滿足擁有成千上萬個參數的深度學習模型。

Yoshua Bengio、Yann LeCun和Geoffrey Hinton三位科學家正是在這樣的限制下堅持深度學習研究的。

Hinton已經71歲了,上世紀70年代,還在愛丁堡大學攻讀人工智慧博士學位的他就著迷於神經網路,這和當時的學術主流背道而馳,就連他的博士生導師也反對他的研究。

「我們一周見一次面,有時會以爭吵結束,有時候不會。」Hinton在一次採訪中曾回憶他的博士時光。

Yoshua Bengio和Yann LeCun要年輕一些,三人的研究互有交集。Yann LeCun現年58歲,1987至1988年,他在Hinton的實驗室中有一年的博士後研究經歷,之後加入當時最頂尖的隸屬於AT&T的貝爾實驗室。

在貝爾實驗室中,LeCun利用深度學習研發出了辨識手寫的信件和電話號碼的系統,這個成功取得了不錯的商業成功,它一度辨識了美國10%的手寫支票。

但是,當他將深度學習用於其他領域時,就遇到了重重困難,只有當訓練數據集足夠大時,深度學習才能表現得足夠好,但當時很少有什麼領域滿足這個條件。

LeCun的研究被視為異類,但依然有一些研究員和他一樣堅信深度學習的未來,包括現年55歲的,當時同在貝爾實驗室的Yoshua Bengio。

2004年,在加拿大前沿科學機構的讚助下,Geoffrey Hinton創立了專注於「神經計算和自適應感知」的項目,他也邀請了在深度學習堅持多年的Yoshua Bengio和Yann LeCun加入。

三人聯手後,就是推動深度學習不斷前進的故事。他們在2010年幫助微軟、IBM和Google拓展了語音辨識的邊界,之後在圖像辨識做了相同的工作,一直到2012年,Hinton領銜的團隊在ImageNet圖像辨識挑戰賽一戰成名,掀開了人工智慧的嶄新一頁。

現在,Hinton加入了Google,同時在多倫多大學繼續研究工作;LeCun是Facebook的首席人工智慧科學家,同時也是紐約大學的教授;Bengio拒絕了科技巨頭的邀請,他是蒙特利爾大學的教授,並創立了一家名為ElementAI的AI公司。

如果算上Hinton在博士期間的研究,他們已經默默為深度學習奉獻了30年。

「他們引領了科學典範的轉變,歷史最終選擇了他們,我充滿敬畏。」另一位AI權威,艾倫人工智慧研究所CEO,Oren Etzioni如此評價他們的獲獎。

圖靈獎沒有忘記英雄,我們也應該銘記。

本文授權轉載自愛范兒

延伸閱讀

每日精選科技圈重要消息