[東京現場]如何讓機器學習普及化?來聽Google Brain大神Jeff Dean怎麼說

2017.11.29 by
翁書婷
數位時代翁書婷攝影
從喚醒世人對於機器學習的重視到鼓勵業界大量採用,Goolge下一步發展核心是讓機器學習普及化。透過線上釋放免費課程、建構自動化機器學習,讓更多的人可以使用機器學習技術。

Google在2016年3月以Alphago打敗人類棋士,在科技圈掀起人工智慧熱潮後,今年又在杭州舉辦一次人機棋藝大賽,而這個比賽中,輸贏並非重點,真正的重點在向世人說明,人類如何和機器共同合作完成任務,從喚醒世人對於機器學習的重視到鼓勵業界大量採用,Goolge在機器學習下一步和新方針為何?

在東京的媒體活動上,Google研究團隊資深研究員,同時也是Google Brain負責人傑夫·迪恩(Jeff Dean)明確地指出,下一步的發展核心,是建構出更普及的機器學習與公平性。為了達成普及性目標,Goolge的策略是大量提供機器學習課程培訓機會(如將把Google機器學習線上課程免費釋出),讓更多人成為機器學習專家。

另一個策略則具有「破壞式創新」的本質:讓機器學習建模流程更為「自動化」,也就是說,讓本來難度很高的機器學習建模流程變得簡單容易。

自動化機器學習(AutoML)是什麼?

Google在今年的開發者大會上公佈自動化機器學習技術(Auto Machine Learning)。什麼是自動化機器學習?

迪恩直接說明,「AutoML是一組作為控制組網路 (controller network) 的神經網路,這個神經網絡能夠推導出上千個子模型架構 (child model architecture),並且在其中找出執行效率最好的一個子模型架構。 」

迪恩進一步解釋,Google AutoML模型架構能夠針對特定任務進行訓練,並且評估訓練品質。送出的回饋將回到控制組,以修正下一次的資料傳輸。「我們就這樣重複進行上千次的訓練。從產生新的架構、測試、向控制組回報成果、學習、再產生新架構......。」

而強化式學習 (Reinforcement Learning Approach) 能夠讓控制組網路從子模型架構的訓練中變得越來越好。最後控制組網路就能夠學習如何建構一個好的子模型架構(詳情請參見:Using Machine Learning to Explore Neural Network Architecture)。

迪恩是從純技術的角度出發,若把其含義簡化,我們可以說機器學習是自動化的自動化(automation of automation),那自動化機器學習可以理解成「自動化的自動化的『自動化』」。

而除了Google,市面上也還有Auto-sklearn的Auto-Weka、Prodigy與H2o Driverless AI等自動化機器學習工具。

Google AutoML已超越人類專家的表現

迪恩指出,Google AutoML已經有超越人類專家的表現。Google將最新的AutoML方法套用到ImageNet這個最受學術界推崇的電腦視覺數據集中,發現由AutoML所產出的模型比手動的模型還要精準,相較於其他由全球頂尖機器學習專家開發的模型,AutoML模型可更精準地解決問題(詳情請參見:AutoML for large scale image classification and object detection)。

NASNet與人類發明的各種規模的最先進模型在ImageNet圖像分類中的准確率。在 ImageNet 圖像分類上,NASNet 在驗證集上的預測准確率達到了82.7%,超過了Google構建的所有Inception模型此外。
數位時代翁書婷攝影

3個原因,了解為什麼需要AutoML?

「AutoML可以讓更多人使用機器學習技術!並且更有彈性,有更好的結果。」迪恩認為。

1.大廠的雲端API沒辦法滿足所有需求

迪恩指出,在實務操作上,建構機器學習模型需要特定的知識基礎以及訓練。現在的業界作法,利用開放API的方式,提供預先訓練模型 (如Cloud API)的確能解決問題,但若開發者遇到特定的挑戰時,這些預先預練好的模型並沒有辦法發揮作用。「因此Google致力於研發讓機器學習建模過程的自動化。」

2.機器學習模型訓練難度高

除了現有工具沒有辦法發揮作用外,機器學習這件事本身難度就很高。臺灣大學資訊工程系教授林守德在人工智慧的藍海在哪裡?一文中就提及,「人工智慧專家都知道目前的技術還有許多需要突破的點。如機器學習需要依賴大量標注資料、訓練模型參數調校困難等問題。」

來自史丹佛人工智慧實驗室,同時也是博士候選人的依南(S. Zayd Enam)還特別以「機器學習這麼難?」為題撰文。文中指出機器學習非常難,因為1.推動機器學習研究進步的科學本身很困難,需要創新、實驗和堅持 2.把已知的機器學習模型應用到實際工作中也是一件困難的事情 3.機器學習的調適是『指數級』難度的,機器學習算法的Debug都需要很長的時間,很少有算法可以一次成功,所以更多的時間花在調模型上。

3.相關人才不足,人才昂貴

迪恩先前多次演講中提到,「全球目前僅有數千家公司有專業的機器學習人才,我們希望從成千上萬的機器學習難題中解脫出來。」人工智慧人才供給量最大的美國,也都還有巨大的缺口,更別說是其他地區,這些公司都為找不到適合的機器學習人才所苦。

警惕:機器學習公不公平?

不過,在Google致力於讓機器學習大量規模化的同時,也對於機器學習的公平性著墨甚深。「為確保我們所開發出來的系統的公平性,我們從一開始就將公平性和包容性,建構到我們的系統中」迪恩強調。

為此,迪恩指出Google啟動PAIR與Facets(訓練資料中的視覺化模式),從一開始就為機器學習模型建構出公平與包容性。

每日精選科技圈重要消息