只花2.2毫秒完成推論!NVIDIA催化AI與人互動,大幅縮短BERT的語言訓練時間
只花2.2毫秒完成推論!NVIDIA催化AI與人互動,大幅縮短BERT的語言訓練時間

Siri或是Alexa是你的好朋友嗎?日常生活都會跟他們說上兩句進行互動嗎?這些市場上為人熟悉的語音助理-對話式AI(人工智慧),明顯不同於純粹的「語音搜尋」,最大的差異在於:對話式AI讓人與機器有進一步互動的過程,而非單一的下達指令。

為了要讓對話式AI的表現更加自然、更接近我們人類的溝通語法,目前仰賴的「自然語言處理」(NLP),目的就是要讓電腦能更有能力去了解人類的語言。

而目前NLP最大的困難在於各種語言上的「博大精深」,該如何去讓機器可以在接收文本之後,能夠有最佳且自然的反饋,正確地去理解文句以及其前後文的意涵,是需要花時間去讓機器學習的。

Amazon Alexa
如Alexa、Siri這些語音助理,其實都是一種對話式AI的表現。

近來市場上訓練NLP語言模型的專案,包括BERT、ELMo、XLNet等。其中,Google的BERT更是目前訓練NLP的模型裡面,表現最佳的一個應用;作為開放資源的程式,臉書利用BERT所推出的語言模型:RoBERTa,更是橫掃各大自然語言處理測試排行榜,如GLUE排行榜評分第一。

BERT全名為轉譯器的雙向編碼表述(Bidirectional Encoder Representations from Transformers),是由Google所推出的語言代表模型。

做為一個語言模型(Language Model),最重要的就是在接收詞彙之後,可以去預估接下來詞彙出現的分布機率。但要讓它可以聰明的運作,需要的是極為大量的數據資料學習,以及實際能夠讓人了解的語法結構。再者,如此的語言模型,也能透過遷移學習導入到NLP,同時強化NLP的能力。

從以上的脈絡看來,完成一個語言模型的過程肯定是漫長又複雜的。但NVIDIA就是有辦法利用技術加快這個時程,到底為什麼呢?

未來_賽博_數位_數據
人類正站在文明躍進的轉折點,我們所理解的未來科技,正以難以想像的發展逐步實現。
圖/ shutterstock

NVIDIA如何切入?讓AI在2年後做到15%的客服互動

研調機構Gartner預測,到了2021年,15%的客服互動將由AI執行,包括醫療、零售、金融業等,這樣的比例較2017年增加4倍。

看準互動式AI未來的發展,NVIDIA透過NVIDIA DGX SuperPOD,執行AI語言模式之一的BERT大型版本(BERT-Large),成功將過去需要長達數日的訓練時間,大幅縮短至53分鐘就能完成。同樣的,透過一台NVIDIA DGX-2系統,也能於2.8天內完成BERT-Large的語言訓練。

NVIDIA DGX SuperPOD
NVIDIA透過NVIDIA DGX SuperPOD來執行AI語言模式之一的BERT大型版本(BERT-Large),學習時間降低至53分鐘。
圖/ NVIDIA提供

NVIDIA應用深度學習研究副總裁Bryan Catanzaro在官方影片中表示,我們要是能用越短的時間訓練語言模型,那麼這些模型就能更快學習、理解人類遇到的問題,我們就可以更快獲得想取得的答案(結果)。

NVIDIA 應用深度學習研究副總裁Bryan Catanzaro
Bryan Catanzaro在官方影片中表示,能用越短的時間訓練語言模型,他們就能越快給予我們協助。
圖/ 螢幕截圖

除了縮短訓練時程,推論的反應也相當快速。利用NVIDIA T4 GPU,BERT在SQuAD問答資料集上運作,只需要2.2毫秒就能完成推論,遠低於許多即時應用要求的10毫秒處理門檻;若是用CPU伺服器的話,將會花費約40毫秒的時間才能完成推論。

大型企業陸續導入,微軟藉此提供顧客更佳的搜尋體驗

當前全球也有近數百名開發者在運用NVIDIA AI平台,推動語言理解的研究並開發新服務,包括Microsoft Bing、Clinc、Passage AI等。

Microsoft Bing小組計畫經理Rangan Majumder就表示,目前透過 Azure AI 內建的 NVIDIA GPU,針對熱門的自然語言模型BERT進一步優化推論作業,在排名搜尋品質方面,以雙倍以上的速度超過以往在CPU平台縮短的延遲,網路吞吐量(Throughput)更提高5倍。

從NVIDIA釋出的影片也可發現,藉由「訓練有素」的對話式AI進行與消費者的溝通,機器可以很快速的掌握消費者的提問,並進行具有「溫度」跟「彈性」的回覆,讓對方不覺得是在與機器人溝通,這也是現在對話式AI成功的地方。

NVIDIA BERT語言理解
經由訓練,機器能快速辨識消費者的提問並給予反饋。
圖/ NVIDIA提供

Bryan也提到,當他們發現語言模型變得越來越大的時候,NVIDIA也輸入更多的數據去訓練它們,這些語言模型進而越來越實用。

以此之故,對話式AI將帶領人類到文明的下一個階段,機器更加了解人類的語言,十足的掌握人類的提問,並有效的協助我們解決未來各式的問題,與現今世界截然不同的社會樣貌也越來越清晰可見。

責任編輯:張庭銉

往下滑看下一篇文章
從「矽盾之島」到「資本樞紐」,國發會聯手證交所為AI新十大建設引進資源活水
從「矽盾之島」到「資本樞紐」,國發會聯手證交所為AI新十大建設引進資源活水

在人工智慧(AI)浪潮席捲全球的當下,臺灣不僅要守住半導體矽盾,更要將這股技術優勢轉化為長期的經濟動能,國家級計畫「AI新十大建設」將是重要推力之一!盤點AI新十大建設目標,最關鍵是2040前創造超過15兆元產值,提供50萬個AI高薪就業機會。然而,這項宏大的計畫若要成功,除了技術研發,最核心的動力來源正是「市場資本」。

打磨技術引擎的重要資源,對接全球資本作為動力

攤開AI新十大建設的政策綱領,可發現這項計畫涵蓋數位基磐、關鍵技術、智慧應用共三大層面的整合發展。主導規劃這項計畫的國家發展委員會(以下稱國發會)過去曾指出,AI若要普及到百工百業,必須建構強韌的數位基磐,這不僅包含主權AI與高效算力的布建,更涵蓋資料治理、人才培育,甚至引導市場資金驅動創新等核心支柱。

確實,發展AI極需大量資金挹注。依據CB Insights資料,全球資金持續向AI領域靠攏,2025年Q3單筆一億美元以上的交易件數,較去年同期增加41.82%。至於國內情況,國發基金與數位部合作推動AI新創方案,從今年3月底啟動到11月,已投資3家AI及數位經濟相關企業,累積投資6,100萬元,帶動民間投資約2億3,000萬元。另其他各項方案投資於AI產業累積129家,投資金額24.12億元。

不過從民間角度來看,臺灣投入AI創新的資本規模仍有成長空間。國家發展委員會常務副主委詹方冠就以AI新十大建設的三大關鍵技術之一「矽光子」為例,他表示:「在台積電帶動下,臺灣的矽光子技術已處於全球領先地位,但我們陪同總統參加矽光子產業聯盟座談時發現,廠商最憂心的問題之一就是『資金』的充沛」。

「相較於國外大廠動輒有30、50億美元的併購規模,臺灣矽光子廠商多屬中小企業,儘管我們技術優異,若要進入大量生產或與國際巨頭競爭,就需要資本市場支持,這也是為什麼『亞洲創新籌資平臺』將扮演關鍵角色,」詹方冠補充道。換言之,亞洲創新籌資平臺將為前瞻科技增添「燃油」的戰略價值,透過活絡資金與提升新創成功率,帶動下一波經濟動能。

啟動資本樞紐戰略!國發基金與市場資本協作賦能新創

至於亞洲創新籌資平臺如何讓具備利基技術但尚在成長期的新創或企業,更有效率上市及籌集擴張所需的資金?詹方冠觀察到,證交所創新板近兩年大幅鬆綁制度。相關措施包括縮短集保期間(2年變1年)、免除3年的承銷商保薦、上市後申報會計師內控審查報告期間,從3個會計年度縮短為1個會計年度,有助於縮短企業掛牌時程。

另外詹方冠也提到,國發會的國發基金與證交所的市場資本,兩者也可以相輔相成,扶植更多代表性的AI新創獲得成長需要的銀彈。國發基金先以「創業天使投資方案」提供早期育成支援,當企業具備一定規模後,隨後由亞洲創新籌資平臺輔導機制接手,轉向資本市場獲取更多資源。待企業上市後,國發基金再將獲利的資金進行再投資,形成資本的正向循環。

隨著亞洲創新籌資平臺將其定位為「亞洲那斯達克」,資本投資標的也將突破國界,轉向吸納全球頂尖的創新能量。詹方冠解釋,為了讓臺灣成為亞洲新創資本的匯聚地,國發會的投資政策更趨於開放且具有彈性。他表示,「國發基金的投資並不受限於傳統的公司註冊地,只要外國新創的研發團隊在臺灣、營運主體或主要市場與臺灣連結,無論是國發基金直接投資,或是透過合作的VC共同參與,皆能靈活注資。」

這種跨國投資、落地臺灣的模式,即是「引水入渠」且已有實際案例。詹方冠舉例,過去臺灣為了促進與中東歐合作,設立「中東歐投資基金」,即是瞄準當地具實戰優勢的無人機產業進行布局。換言之,藉由國發會及亞洲創新籌資平臺雙方的協作,有助於臺灣從研發優勢,進一步成為全球產業的資本樞紐與技術整合中心。

培養人才、催化產業生態系,打造臺灣AI導向的護國群山

資本市場不僅吸引資金,更能留住全球頂尖人才。針對AI人才的培育與延攬,詹方冠提到政府採取「教育扎根」與「即戰力養成」雙軌並行,經濟部推動「AI新秀計畫」讓非AI工程背景的畢業生在一年內的培訓、實作後為企業所用。穩固本土人才根基後,目光也會轉向吸引國際人才,目前已修訂《外國專業人才延攬及僱用法》來招攬國際人才。

對內培養、對外延攬的策略,也與亞洲創新籌資平臺相輔相成。當國際AI企業或新創因籌資環境友善而選擇在臺掛牌、投資或設立據點,協助在地人才吸收世界級的實務經驗。更重要的是,資本市場的推動力將帶動AI職缺的薪酬競爭力,進一步吸引海外優秀人才來臺,或驅使旅外臺灣人才歸國發展,為臺灣創造具國際競爭力的高薪職位。

回顧過去十年,臺灣新創家數已擴增三倍,最後詹方冠強調,下一階段國發會的戰略將引導更多創新領域的企業朝向規模化成長。此目標不僅促成單一公司的成功,更期望讓AI、半導體、安控、次世代通訊等「五大信賴產業」產生群聚效應,進而打造科技創新的「護國群山」,藉此鞏固臺灣在全球供應鏈中的戰略地位。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
進擊的機器人
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓