台灣科技業的關鍵風口:AIoT
專題故事

AI風潮浪起,各種應用雲湧,早已存在周遭的硬體終將帶著智慧靈魂伴你左右;當軟體大廠與新創面孔都搶進市場,且看台灣科技業如何藉機搶賺這波「邊緣財」。

1 AI應用的最後一哩路

Shutterstock
AI落地是大家一直在探討的問題,因為不管技術多華麗,最終能否應用在人們的日常生活中,才是關鍵。那麼距離AI滲透生活的那天,還有多遠呢?這當中還有什麼關鍵拼圖待補?

隨著Google旗下DeepMind所研發的人工智慧(AI)系統AlphaGo所帶起的一波人工智慧熱潮,台灣沒有錯過。科技部長陳良基將2017年訂為台灣的「人工智慧元年」,從建立「人工智慧高速運算服務」、在台大、清大、交大、成大設立「AI創新研究中心」、打造中科與南科的「智慧機器人自造者基地」,到AI計畫的最後一塊拼圖「半導體射月計畫」,都是希望強化台灣半導體產業於人工邊緣智慧(AI Edge Intelligence)的核心技術競爭力和在前瞻半導體製程與人工智慧晶片系統研發。

曾經走紅的萬物聯網讓科技產業認為,這就是未來的智慧樣貌,直到AlphaGo擊敗世界棋王,科技圈才發現人工智慧所帶來的「智慧服務」,才是真正賦予了萬物聯網的背後價值。

邊緣智慧,AI應用的最後一哩路

事實上,許多具有傳感器的裝置早就存在我們的生活裡,如攝影機、相機、喇叭與麥克風等也在過去10年左右,數位化連上網路。但連結網路攝影機與網路連接儲存裝置(NAS)所組成的數位監視系統相較於過去閉路式、類比訊號的監視裝置,除了儲存資料數位化之外,在本質上並沒有太大的不同,一樣需要人監看、回放,並判斷實際現場狀況。但當人工智慧應用普及,影像辨識、語音辨識轉成文字不再遙不可及,網路攝影機或現場麥克風所傳回的資料都可即時透過自動辨識,判斷畫面中的物體,加上蒐集人臉資訊及現場收音,AI都足以自動綜合解讀更多現場狀況,讓安防業者不再需要配置人力長時間全神貫注監看,僅須排除異常狀態。

數位監視系統配上人工智慧應用,彷彿在機器中加上了靈魂,如果可透過人工智慧學習不同辨識內容組合的場景意義,並對應相應的處理機制,就賦予數位監視系統協助安防控制,真正達成智慧化。

然而,要能夠讓攝影機進行影像辨識,除了可以將影像透過即時傳輸回主機上再進行計算判讀外,也可以想辦法透過攝影機上的處理器,直接計算進行辨識。前者需要占用大量網路傳輸資源,也有延遲時間的限制,但如果可以在攝影機裡加上適當設計、可節省電力的處理器與作業系統,直接現場計算辨識,不但可以省卻傳輸成本,也能減少辨識結果的延遲時間,加快即時反應。「邊緣智慧」就是指「在最終端裝置上的處理器與全套作業系統」,也可說是人工智慧落實到真實生活未來應用的最後一哩路。

從訓練到推論,晶片是最後一塊拼圖

然而對企業來說,深度神經網絡1(Deep Neural Networks,DNNs)所帶起的人工智慧浪潮,就如同遙遠的國度發生了大海嘯,要把如今相對成熟的圖像辨識、語音辨識或文本翻譯,放進真實環境做商業應用仍還有一段距離。

由於深度學習2的演算法與相關應用仍在快速演進中,無論是智慧城市、智慧零售、智慧音箱或無人車等實際的應用場景,仍在大量蒐集數據,讓深度學習演算法學習辨別這些資料特徵與模式的階段,這個系統過程稱為訓練(Training),讓電腦嘗試從我們所蒐集的資料來學習。

陳美如/製作

訓練的過程需要極大的運算量,以圖像辨識為例,要訓練電腦模型認識一種特定物體,例如花朵或貓咪,可能需要至少千張、多則超過百萬張各種不同角度、不同場景、不同光線下所拍攝的照片,因此這樣的運算往往在雲端或資料中心進行。如果要求同樣一個模型要能夠辨識各種不同品種的貓,除了需要更大數量的照片,更需要人工對這些照片中的貓咪品種先進行分類標注,再交給深度學習相關的演算法進行訓練,才能得到最終可應用的模型。

訓練是整個人工智慧應用裡,最耗計算資源的工作步驟,所以通常都會透過繪圖處理器(GPU)所特別擅長的平行運算來進行加速。尤其是現在最熱門、常超過百層、複雜度極高的深度神經網絡,都會希望使用特殊可針對大型矩陣運算做平行處理的特殊計算晶片,來加速訓練過程。然而,人工智慧的真實應用往往發生在終端,無論是圖像、影像、語音辨識或文本翻譯,透過深度學習所訓練出來的模型如果放在雲端,意味著每次應用發生時,終端首先要傳輸圖片、影像、語音或文本,等雲端判讀後再將結果回傳。就算網路頻寬再大、速度再快,這段傳輸與回傳過程都須占用資源、並造成反應時間延遲。

所以,能夠在終端接收實體資料,並快速預測回應的過程稱為推論(Inference)。對推論來說,在終端應用上減除那些對預測不必要的模型,或是合併對結果無足輕重的運算,來縮小計算規模非常重要。就算推論相對不消耗運算資源,但多數推論應用仍須特殊計算晶片加速來縮短反應時間,也就是說,若終端要能進行推論,每一台裝置上都將以晶片來加強能力。

陳美如/製作

中西巨頭投入AI晶片開發,郭台銘也要做

今年1月,新創數據平台CrunchBase所推出的2018年AI市場報告指出,亞馬遜、Google與微軟等網路公司已經主宰了企業AI這個市場,三巨頭分別推出的人工智慧即服務(AI as a Service),已經讓機器學習的新創難以獨立生存。企業AI需要資料中心級的大規模投資,提升每單位電力所能換來的計算量,用更小的空間就能帶來更多的計算,這是雲端服務商所追求的市場,也給了Google等科技巨頭除了GPU與CPU之外,開發專為資料中心進行深度學習加速晶片的好理由。

在Google以TPU這類特殊應用邏輯晶片(ASIC)提高人工智慧應用訓練能力的同時,雲服務業者也期望將推論應用門檻降低,讓推論能力滲透到更多終端應用,如此也可以回過頭來進一步拉高訓練需求。這也是為什麼除了雲端服務巨頭們如Facebook、蘋果,甚至中國的百度、阿里巴巴都紛紛宣布要發展自己的AI晶片,連鴻海董事長郭台銘都喊出:「半導體我們自己一定會做。」

無論是訓練或推論,深度學習所推起的人工智慧應用需求,無疑推動了許多公司評估各種晶片解決方案的可能性。「這將是百家爭鳴的盛會,是計算機架構與封裝技術的復興,我們將在接下來1年看到比過去10年更多、更有趣的計算機。」計算架構權威、加州大學柏克萊校區的榮譽教授大衛·帕特森(David Patterson)非常樂觀看待近來興起的運算晶片熱潮。陳良基也非常期待,台灣若能開發應用在各類智慧終端裝置上的關鍵技術與元件晶片,將可以使具有半導體製造、設計,並能夠整合終端裝置製造供應鏈的我們,再次居於世界領先地位。

AI小辭典

  1. 深度神經網絡 模仿生物神經網絡結構所設計用以模擬學習的數學模型,因不同設計的複雜結構,可相疊達數百層,而被稱為深度神經網絡。
  2. 深度學習 應用各種深度神經網絡所進行的機器學習,被認為是目前人工智慧在商業應用進展的重要研究領域。

每日精選科技圈重要消息

2 AI開發工具戰國時代,企業面臨兩道難題

蔡仁譯/攝影
企業面臨的兩大難題時:使用者多寡、雲服務支援度,牽動技術路線策略選擇;自行開發找人又耗時,外包有技術外流和資安疑慮。

細想每個人工智慧的應用場景,若要從「雲」(雲端)到「端」(終端裝置),走過軟體、韌體(註1)、硬體,乃至於資料與服務邏輯串接,從頭至尾軟、硬整合一條龍提供服務,就需要許多不同的系統開發環節,但各環節之間卻又環環相扣。

單以人工智慧的開發框架(註2)來說,該選擇哪一種框架訓練模型,方便開發者直接將應用模型放到終端去推論、提供真正的智慧服務,就是一個重要關鍵。

「對軟體或網路服務開發者來說,終端硬體通常不是我們熟悉的環境。」Deep Sentinel共同創辦人陳昭穎說。「我們需要晶片上面已經有完整的作業系統,可以跑特定的開發框架,例如Google的TensorFlow或是輝達(Nvidia)的CUDA,讓我們可以把訓練好的模型與終端應用的程式邏輯放上去。」

使用者多寡、雲服務支援度,牽動技術路線策略選擇

推論一定發生在訓練之後,也一定基於訓練的成果。訓練,是人工智慧應用的第一步,這項需要大量的數據儲存與計算量的工作流程,對雲服務大廠來說,是必然且龐大的市場需求。每家大廠都積極推廣,希望能夠將自身的生態系滲透進入更多的智慧應用,所以亞馬遜、Google、微軟甚至是Facebook無不卯足全力推出相應的開發框架,積極吸引想要投入人工智慧應用開發的開發者、新創、各類參與企業使用他們的開源工具。

由於多數的深度學習演算法仍在發展中,每每從學術理論到現實環境實作,需要耗費大量的理解時間與開發人力,專門將不同演算法彙整、實現成特定工具集,也因此,讓想要訓練資料的開發者不需要花費時間自己建造工具,就像取用不同螺絲起子般,輕鬆使用不同演算法的開發框架的確有其必要性。

然而如何選取開發框架,牽涉到一系列的技術路線策略選擇,也往往令企業頭大。

人工智慧應用讓開發團隊的戰線拉得比過去僅提供軟體或網路服務都長,而且每個環節都更碎片。
Deep Sentinel共同創辦人陳昭穎

首先,開發人工智慧演算法的常見程式語言就是第一個門檻。「提供智慧服務的企業通常不會僅需要人工智慧這項應用,原先服務開發已經使用的語言環境是否可以直接接軌就是第一個門檻。」程沛科技執行長王建興說,不同的開發語言常因為適用於不同的應用環境而吸引不同的開發者,也因此,穩定的開發者來源也是企業選擇技術路線必須考慮的長期因素。

除此之外,縱然多數主流的人工智慧開發框架都已經開放其程式碼,但不同框架的社群大小、雲服務的支持程度、工具是否好用易上手、無論是訓練或推論端所需的加速晶片是否支援,都是考慮重點。

不同開發框架的社群大小,通常意味著有多少開發者應用。越多開發者在這個開發框架進行各種改寫或整理,除了表示這個開發框架在較短時間就有機會應用最新的深度學習演算法外,也意味著有更多同好可以討論、協助解決開發上的問題。

對企業來說,這同時也是人才來源較多、支援廠商可能也較多的一個重要訊號。除此之外,為了避免被鎖定(Lock-in)在一個特定的開發框架,導致沒有轉換其他工具的彈性,是否容許將訓練模型轉換到其他不同的工具也是考量點之一。

「當然性能與價格比也是關鍵!」陳昭穎說,「就算是性能好的晶片,可能因為耗電量高或是價格昂貴,甚至因為開發團隊沒辦法很快將訓練完成的人工智慧模型與服務程式裝上,而忍痛放棄。」

陳美如/製作

自行開發找人又耗時,外包有技術外流和資安疑慮

縱然大部分的開發工具都已經開源,意味著企業有機會自行建立開發團隊來發展人工智慧的相關智慧應用,但企業還是一而再、再而三的面臨要自己做,還是外包給特定團隊開發的選擇。自行開發通常掌控度最高,開發進度與設計邏輯都可以掌握在自家手上,但往往也意味著要現有團隊學習開發人工智慧應用的新技能,或是必須招募新的團隊成員,可能面臨不同企業的商業文化與開發慣性之間的磨合,這些都是時間成本。

除此之外,自行開發也有可能面對訓練資料不足,不是這麼容易就可以蒐集一個特定語庫或圖庫來進行訓練。

「人工智慧應用是碎片化的,分散在很多不同服務流程裡。」一位大型金控的技術負責人強調,「你必須把每個流程仔細拆開,確認不同階段所須對應的工具,再來考慮這個工具應該選用什麼樣的框架開發,應該內部做還是外部做。」

他進一步解釋:「以語音辨識相關智慧應用來說,這並非金融服務的核心項目,如果市場上已經有比較好的『語音轉文字』或『文字轉語音』工具,我們就可以考慮直接取用。」

「但是某些服務可能牽涉到企業所蒐集的個人資料處理,例如以機器學習預測客戶這次進線可能需要什麼樣的服務,這部分外包可能就有資料安全與核心知識邏輯流出的疑慮,就得自建團隊做資料分析。」這位金控技術主管說。

「而且所有問題都會在軟體引爆,技術團隊要有能力除錯。」陳昭穎解釋,如果要賦予監控攝影機人工智慧的相關應用,開發團隊就必須將軟體與網路服務邏輯,寫在攝影機上所加裝的運算晶片作業系統中。但硬體不聽話或服務中斷,問題可能發生在裝置過熱、硬體設計本身的問題、也可能韌體沒寫好,或是軟體設計本身的錯誤。無論如何,所有錯誤最終都會呈現在軟體或服務無法運作上,也因此,從軟體或服務起家的技術團隊,需要有硬體設計能力的顧問協助設計,幫忙排除硬體或韌體的問題,協助軟體團隊找出真正的問題;軟體團隊也必須從中學習必須直接與硬體、韌體和平共處的本事。

「為此我們也需要付出代價。」陳昭穎強調,除了與製造商之間的談判,也需要更長的產品開發與調整週期,新創團隊甚至可能必須為此招募硬體工程師或尋求與硬體設計團隊合作,協助原本擅長開發軟體與網路服務的團隊整合產品。陳昭穎苦笑說:「人工智慧應用讓開發團隊的戰線拉得比過去僅提供軟體或網路服務都長,而且每個環節都更碎片,讓人很懷念那過去僅需要在雲上開發相關應用服務的創業年代。」

陳美如/製作

AI小辭典

註1. 韌體:一種介於硬體之間的程式碼,用以控制硬體、查詢其運作狀態,甚至透過改變設定或更新,即可對硬體功能進行調校或升級。
註2. 開發框架:針對AI應用所特別設計的工具箱,內含已經實現科學家所設計的數學模型的程式碼,可如螺絲起子一般直接取用。

每日精選科技圈重要消息

優勢與劣勢

3 搶賺AI「邊緣」商機,台灣必須面對的三大挑戰

蔡仁譯/攝影
AI落地,台灣要面對的挑戰,可從人才、產業、策略三個面向看我們的優勢與劣勢。

「我現在要做這個眼睛,幫台灣再打一波。」前半導體產業協會理事長、現任常務理事暨鈺創董事長盧超群口中的眼睛,是投資新創團隊eCapture所開發可以拍攝出360度影像的攝影球來飛眼(LyfieEye),最近剛結束在美國群眾募資平台Indiegogo上的募資,正式對外開賣。

前半導體產業協會理事長、現任常務理事暨鈺創董事長盧超群。
蔡仁譯/攝影

談到人工智慧(AI)世代,盧超群認為台灣最大的機會就在邊緣運算(Edge Computing),「台灣的機會是從邊緣(edge)端,台灣一定是edge啦!」其中感測器就是一大優勢,「像我們鈺創就做視覺感測晶片,也有聲音感測,可以小兵立大功!」

盧超群認為,透過做低功率(Low Power)的邊緣、物聯網(IoT)相關產品,就能吸引做雲端的大公司來台灣找合作機會,「台灣要跟人家接觸,用我們edge端,也可以做出創新的東西。」

除了缺人,還須擬定留人政策

雖然機會看似很多,但盧超群認為挑戰不出這三件事情:首先,必須面對的是人才問題,「面對聰明的人,你要讓他有所得,不然他就寧願留在美國或去其他地方。」政府必須提出一個能夠留住人才的政策,讓人才可以匯集到台灣,「以台灣現在經濟環境,可能還是要減稅、給他一些獎勵。」盧超群建議。

此外,盧超群認為AI產業要能成功,必須透過幾個大型的計畫匯集人才,目前許多計畫都是由個別教授、產業提出,「現在資金補助的計畫還是比較由下而上,需要一些由上而下的指導,讓小船流回大河流。」盧超群接著說:「我想由上而下應該占60%,40%由下而上。」

最後,盧超群認為產業必須走向垂直整合,「台灣產業大多是水平分工,我們的製造產業是代工為主,這個必須靠一些獎勵、誘導合作。」

因此,盧超群認為台灣高科技、半導體產業必須積極向世界推廣,「機會80%以上都在海外。」除了積極培育科技人才,盧超群更點出必須同等重視文、法、經貿人才的培育,「AI的發展是全方位的,因此不會只是科技業,需要的人才是多方位的。」他最後略感擔憂說:「如果不在海外落腳,只在台灣發光,很快會被國際潮流淹沒掉的。」

產業缺垂直整合,品牌能力更弱

台灣人工智慧學校執行長陳昇瑋也認同,他認為台灣將精力集中在「感知人工智慧」(Perception AI),其中很大的原因是台灣的優勢在半導體與製造,資源很自然集中在相關領域。然而,台灣有了良好的製造基礎與人才培訓後,想要走向國際,仍有個相當明顯的弱勢——品牌能力。「台灣從來都不擅長了解客戶,只會做,做出來給別人賣。」陳昇瑋說:「這樣就算AIoT(人工智慧+物聯網) 發展起來,台灣仍是製造者,賺最廉價的那一塊,但這也不是 AI 能夠解決的。」

Dell EMC技術總監許良謀長期與兩岸產學界合作,他觀察相對中國企業敢於嘗試、有技術就先創業再找需求,台灣產業比較擅長「在項目中AI化」。比方製造業用AI視覺檢測取代肉眼品管,金融業導入聊天機器人(Chatbot)做客服,另一個特色是有源源不絕的應用創意。

盧超群近年一直在提倡「異質性整合」(Heterogeneous Integration,HI),是建議半導體產業必須拋下對製程節點微縮的執著,利用不同技術的異質整合來創新,藉由矽世代4.0創造半導體產業1兆美元以上的產值空間。

政府需要一個留才的政策,讓人才覺得可以匯集在台灣,不然人才會留在美國或其他地方。
鈺創董事長盧超群

「台灣千萬別把自己看小了。」盧超群認為從AI、細菌、人類到醫療,未來必須在不同面向的產業,實現「普世智慧」(Pervasive Intelligence),意思是讓智慧無所不在,而這就是異質性整合技術。

「我們想號召年輕人,不要怕發明、不要怕創新。」就異質性整合來看,盧超群認為台灣的弱點是產業過於水平分工,「然而系統應用是垂直的,就像人無法拆成一塊一塊的活動。」不過另一方面,盧超群也認為正是因為台灣社會的開放氣氛,反而更能夠驅動創新,「台灣有一個很大的優勢就是自由民主,這樣才能創新。」他說。

領導計畫少,政府近年推「射月計畫」

政府近年為了促使人工智慧終端產業鏈技術升級,啟動了「半導體射月計畫」,這項計畫的初衷是希望透過產業界來帶動研發界、學界,「這基本上是一個好的計畫,重點在於產、學、研三界,要如何連結人才。」盧超群認為,現在科技部都傾向給學界經費做研究,「但是如果真的要射月亮,還是需要相互合作。」

政府希望AI成為台灣下世代的發展主軸,因此積極培育研發人才,但盧超群認為沒有產業、研發沒有方向,就留不住人。「同學去念書也是為了要就業,如果台灣沒有這些產業,只有一些小小、零星的,那人才也不要在這邊就業了。」盧超群認為,政府還是必須要正視,「當年來來來,來台大;去去去,去美國,就是因為台灣沒有產業,現在不要再變成這樣了。」盧超群建議政府要讓業界覺得有具體的計畫和事實,就會產生凝聚力,學界就可以跟上,做到以產帶學,以學來支持產。

現在的AI大型計畫都是個別教授、產業提出,這些都是由下而上,欠缺由上而下的大型方案。
鈺創董事長盧超群
王郁倫整理。
陳美如/製作

每日精選科技圈重要消息

專才培育×台灣人工智慧學校執行長陳昇瑋

4 台灣缺AI人才,但缺的是哪種?訪遍傳統企業,專家歸結4種需求

蔡仁譯/攝影
台灣缺AI人才,但缺的是哪種AI人才?台灣人工智慧學校創辦人陳昇瑋拜訪許多台灣傳統企業,最後歸結四個共通的需求與挑戰:瑕疵檢測、預測性維護、自動流程控制以及原料組合最佳化。

走進中研院跨領域科技研究大樓7樓,先看到占地750坪的寬敞空間與大片落地窗,接著映入眼簾的是大大嵌在牆上的「台灣人工智慧學校」。問起台灣人工智慧學校的成立原因,執行長陳昇瑋笑著給了一個簡短的答案:「台灣就很缺AI (人工智慧)人才啊」。

陳昇瑋在台灣人工智慧學校成立前,先與中研院院士孔祥重組建了一支團隊,拜訪了許多台灣傳統企業,包括石化、電子製造、半導體與紡織業等,一起討論AI應用的可能性,他們發現了四個產業共通的挑戰:瑕疵檢測、預測性維護、自動流程控制以及原料組合最佳化。

解決產業問題,不如辦校育才

陳昇瑋與團隊於是針對這四個問題,投入人力開發AI應用,也都獲得相當卓越的成績。以自動流程控制來說,過去人為控制設備參數的良率約在61%,採用深度學習系統後,可將良率大幅上升至98%。
解決這四個產業的共通挑戰,對陳昇瑋來說有兩個意義:第一是證明AI對於台灣產業的確有應用的空間;第二則是發現產業內AI人才的缺口。

「把程式碼給他們,他們也沒有人會維護,更別說應用AI做出第二、第三個案例。」陳昇瑋說。與其成立一個AI公司幫台灣企業解決問題,不如將能量放大1千倍,從根本解決台灣AI人才的缺口。

台灣人工智慧學校於是以培養AI技術領袖與經理人為目標,由財團法人科技生態發展公益基金會與台灣資料科學協會共同主辦,並在獲得台塑、聯發科技、義隆電子、友達光電、奇美實業、英業達六家企業的支持下,於2017年年底正式成立。

想進入台灣人工智慧學校的校門也沒那麼容易,技術領袖人才必須通過程式設計、統計與線性代數等考試,以確保能夠吸收上課內容;而經理人方面,則必須透過書面審核,仍希望經理人班的學員擁有相關的背景。

台灣人工智慧學校的上課內容包含機器學習,以及應用深度學習的自然語言處理、電腦視覺應用等,陳昇瑋表示,除了因應全世界AI教育的潮流趨勢外,也透過替企業製作AI專案的經驗來制定課程。

課程重實作,學員、助教比20:1

不過,台灣人工智慧學校之所以有自信能夠填補台灣AI人才缺口,倚靠的是堅強的助教群、實作題目,以及廣大的校友網路。「只有手把手帶著做、有問題能夠隨時提問,才能真正完成雙向學習。」陳昇瑋說,因此台灣人工智慧學校的學員與助教比,約為20:1,而非大講堂式的單向授課。

另一個重點在於實作題目,課程中有許多的專題實作,分為3至5人一組,一班200人大約可分成50組,等於有50個AI專案同時進行。專案的題目則是產業真正所遭遇到的問題,讓學員「做中學」之外,也更貼近業界現況。

明年我們就會有超過5千個校友,有些是工程師、經理人、技術供應商、應用者等,當這些人透過AI互相連結、互通有無,生態圈自然能夠被打造出來。
台灣人工智慧學校執行長陳昇瑋

最後則是校友網路,陳昇瑋表示「明年我們就會有超過5千個校友,有些是工程師、經理人、技術供應商、應用者等,當這些人透過AI互相連結、互通有無,生態圈自然能夠被打造出來。」

目前台灣人工智慧學校學員所投入的專案中,多集中半導體與製造類型的感知型AI,「人才自然會流動到台灣的優勢產業,」陳昇瑋說,「而這也是台灣發展AIoT(人工智慧+物聯網)的優勢,很多高端的IoT(物聯網)設備都是由台灣生產。」台灣人工智慧學校也將在下一期中提供機器人,讓有志於發展AIoT的學員能夠接觸並發展相關專案。

最後,當問到陳昇瑋對於杜奕瑾的人工智慧實驗室(AI Labs)有什麼看法時,陳昇瑋笑著說大家就一起努力,自己在做的事情是「普惠AI」,由下而上培養AI人才,讓產業能夠真正AI化,畢竟唯有先讓台灣擁有大量的AI人才,才有跟上世界潮流發展的門票。

陳昇瑋,台灣人工智慧學校執行長。
侯俊偉攝影

每日精選科技圈重要消息

關鍵策略×聯發科智慧裝置事業群總經理游人傑

5 智慧音箱的一級玩家,聯發科打磨武器「大平台」

蔡仁譯/攝影
人工智慧+物聯網(AIoT)能夠加速物聯網成長,而聯發科早在2010年就開始投身至物聯網產業,聯發科智慧裝置事業群總經理游人傑索性給AIoT取了一個中文名字——智聯網。

說智慧音箱是科技公司下一個兵家必爭之地,一點都不為過,因為這也是人工智慧(AI)和物聯網(IoT)結合的最好實例。

根據Strategy Analytics研究報告指出,2018年第2季全球智慧音箱出貨量第一品牌為亞馬遜Echo,達480萬台,奪下41%的市占率,其中又以低價的Echo Dot最為暢銷——它採用的正是聯發科的晶片,也是開啟聯發科在智慧音箱康莊大道的關鍵。

「我們在智慧音箱市場的市占率目前約為65%。」聯發科智慧裝置事業群總經理游人傑說道,連全球市占排名前五的阿里巴巴也是聯發科的客戶。台灣IC設計廠搶下智慧音箱半邊天,游人傑坦承,聯發科切入AI及IoT領域的時間比別人「早了一點」。

在游人傑看來,人工智慧+物聯網(AIoT)能夠加速物聯網成長,而聯發科早在2010年就開始投身至物聯網產業,游人傑還索性給AIoT取了一個中文名字——智聯網。

「以理論上來說,AIoT的順序應該是IoT+AI」,他認為AI發展最重要的關鍵是數據資料(Data),先有IoT產生Data,AI才得以實行;再者,AI需要運算大量的數據資料來訓練,計算能力(Computing Power)得要夠強;最後,訓練完得要演算,新的AI演算架構深度學習(Deep Learning)讓穩定性更高、錯誤率更低,這三個因素,造成了現在第三次的人工智慧革命。

聯發科從2014年開始積極投入AI,游人傑遲疑了一下才敢給出肯定句——這時間在業界「算早」。

而經過4年打磨,聯發科已經得出未來AI勢必為「訓練在雲端,演算在終端」的趨勢,在軟硬體整合上已研發出獨有的「秘密武器」。

在今年1月於美國消費性電子展(CES)上,聯發科推出了整合軟硬體的AI「大平台」NeuroPilot,形成了「AI生態系」。平台的組成主要有三種角色:背後技術支援AI合作廠商,如曠世、商湯;雲端網路業者,如Google、亞馬遜、微軟、BAT(百度、阿里巴巴、騰訊);聯發科的客戶可以直接在平台上開發演算法,除了可支援各種不同的數據架構(Data Structure),還直接相容各種不同網路公司的生態系統。今年2月,已藉此成功研發出搭上AI的處理器P60,要用最小的Power處理高效能運算。

「平台讓AI在終端能很容易的開發自己的演算法,再藉由網路公司的雲端來學習,之後再把學習完的結果傳回終端,真正實現邊緣智慧(Edge Intelligence)。」

產品線布局:手機、家電、車用電子

在聯發科的產品布局中,主要把AI導入三大領域:智慧手機、智慧家庭和車用電子。談到哪一領域最具發展潛力?游人傑表示「三塊市場都很大」,但若以成長性來說,車用電子是目前半導體成長最快速的領域,而智慧手機仍是最大的一個。

面對智慧音箱市場競爭加劇,作為市場領導者之一的聯發科下一步有何打算?游人傑笑答:「當然希望市占再增長。」但最重要的目標是要讓「語音」成為最自然的人機操作介面。

除了語音助理和現有裝置結合外,未來會發展語音助理帶動螢幕、攝影機或是模組,發散到各種不同的裝置中如汽車的應用,比如開車時雙手騰不出來,語音就是操作一切最好的選擇。

產業發展AI,可借鏡當年PC模式

「AI要產業化,產業也要AI化」,還沒等記者發問,游人傑已經準備好一套完整的看法,暢談台灣面對AIoT浪潮的現狀。他認為AI應用會走向兩種方式:雲端和終端,台灣的機會則是在後者。「台灣產業鏈有完整的IP(矽智財),這些基礎讓我們在乘載AI的硬體裝置上,能快速達到在世界具有競爭力的市場地位。」

平台讓AI在終端能很容易開發自己的演算法,再藉由網路公司的雲端來學習,之後再把學習完的結果傳回終端,真正實現邊緣智慧。
聯發科智慧裝置事業群總經理游人傑

但這樣並不夠,游人傑也直言,台灣在「AI人才」上相當缺乏,「若以學界方面來看,台灣AI專家、教授的比例,連亞洲前10名都排不上。」此外,在演算法開發人才上也不足,因此聯發科也贊助3千萬元給人工智慧學校,成為台灣培養AI人才的基金。

再者仍需回歸到Data。游人傑表示,台灣有很多中小企業,各個公司都有Data,但都不夠龐大,並且各自散落在公司裡。「夠多Data做訓練,AI的智慧才會越來越高。」他強調,這也是相當需要被整合的一點。

「若要讓一個產業成功,可以借鏡過去PC產業在台灣的發展,成功是來自產官學界非常密切的合作。」政府政策支持,讓PC業形成產業聚落,帶動高效率的水平分工,學界也培養了很多PC人才,這套模式,或許是讓台灣的AI競爭力可以迎頭趕上的思考方向。

聯發科智慧裝置事業群總經理游人傑。
蔡仁譯/攝影

每日精選科技圈重要消息

終端布局×和碩聯合科技技術長黃中于

6 和碩技術長:掌握AI演算法,才是硬體商勝出契機

周書羽/攝影
從科技產業長期趨勢觀察,和碩技術長黃中于認為製造終端裝置掌握AI演算法能力是必要,也是台灣的機會。

和碩聯合科技2018年COMPUTEX上發表第一個聲紋辨識語音助理技術「Amica+」及具Slam(同步定位導航技術,關鍵是六度空間辨別及馬達控制)機器人「海姆達爾」,展示人工智慧(AI)實力,然而為何一家做科技硬體的設計製造工廠,需要掌握AI軟體技術呢?

被員工習慣稱呼為「黃博」的和碩技術長黃中于表示,這是因為從科技產業長期趨勢觀察,製造終端裝置掌握AI演算法能力是必要,也是台灣的機會。

裝置智慧化帶來翻新,是台灣機會

他說,客戶將越來越成熟的軟體設計交給代工廠負責,將資源專注於更高端技術,長期而言,和碩掌握AI演算法能力不僅有助於給客戶產品量產設計建議,未來3∼5年客戶釋出訂單時,和碩會更有優勢。

黃中于笑說,回顧20年前的電腦硬體都是美國製造,但20年後加州已經沒有硬體製造,這部分集中到亞洲來。其實除了硬體,硬體所需要的中下層軟體,比方驅動程式其實也幾乎已由台灣製造業來做,他相信未來系統組裝廠能整合的軟、硬體層次會不斷向上,而客戶端則會往更上層的雲端技術發展。

黃中于預期,「未來亞洲的科技公司做軟體機率會越來越高,即便客戶不將軟體放給代工廠做,代工廠也必須了解軟體,掌握深度。」

黃中于透露,很多國際大客戶找代工廠時,雖然是下單硬體代工訂單,但與供應商談的卻是軟體技術,這是很有趣的現象。這是因為客戶發現,有些代工廠是電路設計能力很強,有些是軟體量產測試能力強,但最後表現的生產效率卻差很大,因為後者可以提供有用的建議,加速產品量產。

「實際上,現在手機、數據機、筆電的作業系統之下,包括驅動程式及韌體,早就都是台灣人做,因為這些軟體直接負責控制硬體各界面,但作業系統上方的中間層軟體或應用軟體、AI還是由客戶掌握。」黃中于說。

代工廠因為幫客戶生產智慧終端裝置,黃中于說,對卷積神經網路(CNN)這些熱門演算法也必須了解,因為這些AI技術會串聯到代工廠開發的產品中,和碩的角色則會協助修改,提高AI辨識率,幫助客戶AI落地。

未來亞洲的科技公司做軟體機率會越來越高,即便客戶不將軟體放給代工廠做,代工廠也必須了解軟體,掌握深度。
和碩聯合科技技術長黃中于

研發兩年,發表聲紋及多人人臉辨識

至於未來AI服務是否最終交由代工廠負責?黃中于坦言,一切取決客戶。現在大型客戶如亞馬遜或Google當然還掌握在自己手裡,但一些中、小型客戶因為欠缺軟體資源,已經開始找代工廠合作。以和碩而言,現在已經有超過5∼6個客戶找上門,要開發智慧音箱。

黃中于認為,3∼5年後國際大廠勢必還會往更高端、更複雜的雲技術發展,演算法長此以往勢必會釋出由代工廠負責,若到時候和碩時候才投入研發,勢必要落後3年。

和碩現在有3千多位研發工程師,其中軟體人才約300∼400人,負責人工智慧技術的團隊不到100人,其中參與演算法模型訓練的約50人。不少人才來自手機部門,而參與擴增實境(AR)眼鏡虛實整合技術的團隊,更有不少是原本網通軟體團隊,原本就熟悉影像處理。

經過兩年AI研發,和碩固定發表最新AI技術,語音助理聰明度明顯進步,從去年語音辨識與手勢辨識,今年進步到聲紋及多人人臉辨識。
為了解決機器人移動問題,黃中于說,必須跨部門號召馬達控制與鏡頭技術人才,共同解決研發瓶頸,必要時也須請出各部門高手組成「Tiger Team」,打通關節。

研發AI裝置,黃中于認為必須掌握三大關鍵技術:包括AI辨識(如人臉或語音辨識)、Slam及手勢與光學辨認。黃中于表示,團隊盡力發展上述關鍵技術,是著眼語音助理未來或許將可以移動,成為更具互動性的服務角色。

物聯網做基礎,帶來需求亮點

過去市場曾誤解物聯網(IoT)將帶來一波新硬體製造商機會,但後來期待破滅,黃中于說,那次的錯誤觀察是原本以為會有取代電腦或手機的新硬體,但後來才認知到,是已經存在的各種裝置連上網路就叫IoT,這波浪潮中也只有智慧音箱跟IP CAM(網路攝影機)成功。
黃中于說,IoT是一切的基礎,裝置被雲端所控制,但終端裝置不能只是呆呆地被操作,現在更強調「邊緣智慧(Edge Intelligence)」,要讓終端變聰明一點,把很多事情在終端完成。

比方語音辨識、聲音辨識、人臉辨識,讓終端裝置有一點AI的能力,現在連輝達(Nvidia)高層都很重視邊緣智慧發展,這個終端趨勢對台灣製造業而言很有利。

每日精選科技圈重要消息

實際應用×鈺創3D感測系統

7 亞馬遜無人店「嗶體驗」,靠MIT技術實現

Shutterstock
年初開幕的亞馬遜無人商店Amazon Go「拿了就走」的體驗,關鍵技術其實就出自台灣IC設計公司鈺創之手。

走進店裡,從貨架上取下商品放進包包,然後率性步出商店。如此顛覆傳統的購物體驗,讓今年初開幕的亞馬遜無人商店「Amazon Go」成為焦點。

阿里巴巴也用,加速雙11購物效率

這「拿了就走」神奇體驗的背後,關鍵就在天花板上6千個3D深度鏡頭,出自台灣IC設計公司鈺創之手。「Amazon Go的影片我很喜歡放。」鈺創董事長盧超群之所以難掩驕傲,是因為旗下的視覺感測系統獲得亞馬遜及阿里巴巴無人商店採用。

鈺創的3D深度鏡頭不同於業界的紅外線3D技術,採用自然光3D感測,透過兩顆以上的鏡頭,測出物體的3D深度圖(Depth Map)進行辨識運算,「這個很厲害,他把商品變成一點一點的,這個叫做『點雲』,透過鏡頭可以把物體三度空間的XYZ抓出來。」盧超群介紹,接著系統能快速轉換成大數據3D點雲資料,判斷出商品的形狀、辨別包裝上的顏色,區別外型相同但價格、口味不同的商品。

消費者從貨架上拿取商品,就會同步記錄在帳上,「厲害的是,如果把商品交給另外一個人,帳單就會跑到對方身上。」盧超群所說的這一切AI運算,都要靠鈺創參與的視覺辨識系統,也有物流業客戶以此判斷包裹大小來估算運費,加速雙十一等購物旺季處理效率提高。

不只如此,3D深度鏡頭也能應用在醫學上,鈺創與日本筑波大學附屬醫院合作肝臟腫瘤手術,透過3D相機建立肝臟模型,讓醫生能夠在下刀時制定出最好的治療方案,「就像是肝臟的GPS,3D視覺去除不相干的影像,只看肝臟上的腫瘤跟血管。」盧超群透露,未來這項技術還要推展到腦瘤治療上。

以Amazon Go來說,盧超群認為「這套系統最珍貴的,是知道什麼東西被拿?什麼東西被拿又被放回去?」顧客在店鋪中的動作,全都累積成資料,可以深度掌握顧客消費習慣。盧超群興奮說:「不得了,過去我們都用眼睛看、耳朵聽、嘴巴講,未來腦中在想些什麼都能知道。」而鈺創為AI應用收集大數據,正快速走在前頭。

今年1月正式開幕的亞馬遜無人店Amazon Go,靠著3D感測辨識技術,實現「商品拿了就走」的消費體驗。

更正啟事:編輯誤植首圖為蔡仁譯攝影,實照片來源為Shutterstock,謹此更正並重新刊登以致歉意。

每日精選科技圈重要消息

台灣新星

8 台灣一哥自比「萬金油」!耐能科技創央視節目估值最高紀錄

吳晴中/攝影
身為全球半導體設計與製造重鎮的台灣,在AI浪潮裡也沒有缺席,整合美中台資源、自主開發、滿足客戶高度軟硬整合需求的耐能科技即為代表。

早在2015年,Google剛宣布投入開發TPU(人工智慧晶片Tensor Processing Units)的時候,台灣創業者劉峻誠就已經在美國加州聖地牙哥成立耐能科技(Kneron),掌握自主開發演算法,開發出滿足客戶高度軟硬整合需求的神經網絡處理器(NPU)解決方案,這也讓科技部長陳良基曾肯定地說,「談到台灣邊緣智慧(Edge Intelligence)代表,絕對不能不提劉峻誠的耐能。」

對於人工智慧運算的最後一哩路,不同於許多一開始圍攻資料中心深度學習演算加速晶片的新創,劉峻誠早看清雲端AI晶片市場終究會是大公司之間的遊戲,除了需要營造出生態系,還需要大量投入在產能與系統建置上。

早在2016年4月就完整提出以人工智慧(AI)+物聯網(IoT)+雲端軟硬整合解決方案的概念,並提出自家設計、低功耗、體積小(只有主流產品的四十分之一),並擁有自主開發演算法的神經網絡處理器一系列智慧產權,作為終端設備推論應用快速、安全的完整解決方案。

這樣的解決方案,吸引了大批著名投資人搶著投資,包含由阿里巴巴創業者基金與中華開發資本領投,高通、奇景光電、紅杉資本加入,後續更引來香港首富李嘉誠旗下的維港投資(Horizons Ventures),這是維港投資繼投資Siri與DeepMind等知名人工智慧新創後,首度出手投資半導體團隊。耐能更在中國中央電視台的《創業英雄匯》節目中,被投資者估值10億元人民幣,打破節目成立以來的最高估值紀錄。

耐能科技創辦人劉峻誠。
吳晴中/攝影

相對其他邊緣智慧的新創後起之秀,耐能的融資總額並非特別高,分布在聖地牙哥、台北、深圳與珠海的團隊人數也並非特別驚人,但因為發展得早,耐能能從諸如百度、騰迅、格力、華碩甚至搜狗這些不同的合作者中,蒐集到更多可用以調教人工智慧演算法的訓練數據,加上自主開發的演算法及與硬體業者的合作關係,可如蘋果一樣,提供一整套的軟硬整合服務。

「能夠先取得數據的優勢,讓耐能不像其他小孩仍是白紙,它已經擁有初階能力,可以減少訓練的時間成本。」劉峻誠說。

劉峻誠認為,未來處處有AI,像智慧門鎖、手機、掃地機器人、冷氣、冰箱、無人機等,都會是潛在領域。自主開發的演算法,讓耐能提供神經網絡處理器的同時,可以隨影像、語音、圖片辨識等應用情境不同,重組其演算法甚至壓縮模型,不但比對手有更高的整合彈性,也可滿足離線環境中輕量化、低功耗、快速開發的智慧產品需求。

畢業於成大、取得加州大學洛杉磯分校博士,曾在諾基亞、晨星、三星、高通都工作過的劉峻誠,離開高通創業就是看準邊緣智慧市場勇敢投入,他說:「邊緣智慧晶片的運用非常不同,每個產業就像是不同的蛋糕。」目前正透過與戰略夥伴合作,深耕垂直產業應用的耐能,將瞄準智慧家居、智慧安防和智慧手機等三大領域。

與中國數家獨角獸相比,看似估值不是最高的耐能,卻對有著豐厚利益收入但也充滿巨大風險的人工智慧市場有滿滿自信,「為了在這個市場中找到生存空間,利基很重要。」劉峻誠說,耐能以規格優異的完整產品線,讓不同廠商可以快速開發需要高度軟硬整合,提供體積更小、功耗更低的解決方案。劉峻誠笑著說:「我們很像是萬金油,可以滿足不同廠商的需要。」

耐能科技

創辦人|劉峻誠
時間|2015年
主要投資人|維港投資、阿里巴巴創業者基金、高通、紅衫資本
募資金額/階段|1,800萬美元A輪融資

每日精選科技圈重要消息