只花2.2毫秒完成推論!NVIDIA催化AI與人互動,大幅縮短BERT的語言訓練時間
只花2.2毫秒完成推論!NVIDIA催化AI與人互動,大幅縮短BERT的語言訓練時間

Siri或是Alexa是你的好朋友嗎?日常生活都會跟他們說上兩句進行互動嗎?這些市場上為人熟悉的語音助理-對話式AI(人工智慧),明顯不同於純粹的「語音搜尋」,最大的差異在於:對話式AI讓人與機器有進一步互動的過程,而非單一的下達指令。

為了要讓對話式AI的表現更加自然、更接近我們人類的溝通語法,目前仰賴的「自然語言處理」(NLP),目的就是要讓電腦能更有能力去了解人類的語言。

而目前NLP最大的困難在於各種語言上的「博大精深」,該如何去讓機器可以在接收文本之後,能夠有最佳且自然的反饋,正確地去理解文句以及其前後文的意涵,是需要花時間去讓機器學習的。

Amazon Alexa
如Alexa、Siri這些語音助理,其實都是一種對話式AI的表現。

近來市場上訓練NLP語言模型的專案,包括BERT、ELMo、XLNet等。其中,Google的BERT更是目前訓練NLP的模型裡面,表現最佳的一個應用;作為開放資源的程式,臉書利用BERT所推出的語言模型:RoBERTa,更是橫掃各大自然語言處理測試排行榜,如GLUE排行榜評分第一。

BERT全名為轉譯器的雙向編碼表述(Bidirectional Encoder Representations from Transformers),是由Google所推出的語言代表模型。

做為一個語言模型(Language Model),最重要的就是在接收詞彙之後,可以去預估接下來詞彙出現的分布機率。但要讓它可以聰明的運作,需要的是極為大量的數據資料學習,以及實際能夠讓人了解的語法結構。再者,如此的語言模型,也能透過遷移學習導入到NLP,同時強化NLP的能力。

從以上的脈絡看來,完成一個語言模型的過程肯定是漫長又複雜的。但NVIDIA就是有辦法利用技術加快這個時程,到底為什麼呢?

未來_賽博_數位_數據
人類正站在文明躍進的轉折點,我們所理解的未來科技,正以難以想像的發展逐步實現。
圖/ shutterstock

NVIDIA如何切入?讓AI在2年後做到15%的客服互動

研調機構Gartner預測,到了2021年,15%的客服互動將由AI執行,包括醫療、零售、金融業等,這樣的比例較2017年增加4倍。

看準互動式AI未來的發展,NVIDIA透過NVIDIA DGX SuperPOD,執行AI語言模式之一的BERT大型版本(BERT-Large),成功將過去需要長達數日的訓練時間,大幅縮短至53分鐘就能完成。同樣的,透過一台NVIDIA DGX-2系統,也能於2.8天內完成BERT-Large的語言訓練。

NVIDIA DGX SuperPOD
NVIDIA透過NVIDIA DGX SuperPOD來執行AI語言模式之一的BERT大型版本(BERT-Large),學習時間降低至53分鐘。
圖/ NVIDIA提供

NVIDIA應用深度學習研究副總裁Bryan Catanzaro在官方影片中表示,我們要是能用越短的時間訓練語言模型,那麼這些模型就能更快學習、理解人類遇到的問題,我們就可以更快獲得想取得的答案(結果)。

NVIDIA 應用深度學習研究副總裁Bryan Catanzaro
Bryan Catanzaro在官方影片中表示,能用越短的時間訓練語言模型,他們就能越快給予我們協助。
圖/ 螢幕截圖

除了縮短訓練時程,推論的反應也相當快速。利用NVIDIA T4 GPU,BERT在SQuAD問答資料集上運作,只需要2.2毫秒就能完成推論,遠低於許多即時應用要求的10毫秒處理門檻;若是用CPU伺服器的話,將會花費約40毫秒的時間才能完成推論。

大型企業陸續導入,微軟藉此提供顧客更佳的搜尋體驗

當前全球也有近數百名開發者在運用NVIDIA AI平台,推動語言理解的研究並開發新服務,包括Microsoft Bing、Clinc、Passage AI等。

Microsoft Bing小組計畫經理Rangan Majumder就表示,目前透過 Azure AI 內建的 NVIDIA GPU,針對熱門的自然語言模型BERT進一步優化推論作業,在排名搜尋品質方面,以雙倍以上的速度超過以往在CPU平台縮短的延遲,網路吞吐量(Throughput)更提高5倍。

從NVIDIA釋出的影片也可發現,藉由「訓練有素」的對話式AI進行與消費者的溝通,機器可以很快速的掌握消費者的提問,並進行具有「溫度」跟「彈性」的回覆,讓對方不覺得是在與機器人溝通,這也是現在對話式AI成功的地方。

NVIDIA BERT語言理解
經由訓練,機器能快速辨識消費者的提問並給予反饋。
圖/ NVIDIA提供

Bryan也提到,當他們發現語言模型變得越來越大的時候,NVIDIA也輸入更多的數據去訓練它們,這些語言模型進而越來越實用。

以此之故,對話式AI將帶領人類到文明的下一個階段,機器更加了解人類的語言,十足的掌握人類的提問,並有效的協助我們解決未來各式的問題,與現今世界截然不同的社會樣貌也越來越清晰可見。

責任編輯:張庭銉

往下滑看下一篇文章
青年如何跨出改變社會的第一步?Impact Star 3 組首獎團隊從教育到減塑,把想法帶進真實現場
青年如何跨出改變社會的第一步?Impact Star 3 組首獎團隊從教育到減塑,把想法帶進真實現場

許多年輕人懷抱熱忱,期盼透過行動讓社會變得更好,卻在起步時感到茫然,不知道該從何著手,也難以確認自己的想法是否回應真實需求。為了接住這份想要改變社會的熱情,「2026 Impact Star 青年影響力啟動賽」為青年搭起一個動手實作的舞台。

Impact Star 由新北市政府青年局主辦、社企流共同推動,邀請 5 個社會創新組織提出第一線問題,並安排專業導師陪伴 10 組青年團隊展開兩個月的實作,從訪談、理解需求開始,把點子一步步做成能進入現場測試的方案。

新北市政府青年局
圖說:新北市青年局 邱兆梅 局長分享「Impact Star 青年影響力啟動賽」的辦理初衷
圖/ 新北市政府青年局

把科學教材放進 LINE,協助老師更快完成備課

「LIS 情境科學教材」長期製作國中小科學影片與教學資源,這次競賽以「跨科教學減壓」為題,希望青年找出方法,協助非自然科背景的老師更容易使用這些教材準備科學課程。

本次獲獎團隊「EDU」成員劉子瑤、梁秭萁訪談一名剛進入教育現場的老師後,發現對方同時教授近 9 個科目,還要兼顧行政工作與班級經營,備課時間格外珍貴。因此決定把解決方案聚焦在備課流程最佳化,協助教師更快找到適合的教材。

「EDU」 決定利用教師們最熟悉的 LINE 官方帳號,整合 LIS 影片、投影片與教案,再把教材內容製作成視覺化備課卡。使用者只要透過手機,就能簡單掌握教學重點、課程流程及所需材料,直接放進既有的備課流程。

透過吸收教師的回饋,「EDU」 在競賽過程中持續調整,讓操作方式更貼近實際使用情境。最終作品在 3 名教師參與的初步測試中,於系統易用性方面獲得 82.5 分,反映受測教師對操作體驗的正面評價。

新北市政府青年局
圖說:劉子瑤、梁秭萁分享,未來也期待相同架構能延伸至其他科目,讓更多教學資源被帶進課堂。
圖/ 新北市政府青年局

把教育平權做成手機遊戲,讓青年找到參與方式

「TFT 為台灣而教」長期關注教育不平等,這次活動希望促進青年思考,如何讓高中生與大學生理解教育平權,並找到適合自己的參與方式。本次獲獎團隊「星築美少女」因此決定製作手機沉浸式遊戲《鐘響以前》,並將這些因素融入故事中。遊戲以一場為期 3 天的營隊為背景,玩家能在 15 至 30 分鐘內探索場景、與角色對話並蒐集線索。

遊玩過程中,玩家會發現一名叫做阿龍的孩子沒有出現在正式名單上;而阿龍未能參加營隊,背後牽涉交通、家庭照顧責任與行政程序等因素。玩家必須在有限的人力、時間與預算中作出選擇,透過安排阿龍的行程,切身理解教育不平等如何出現在孩子的日常生活中。

遊戲結束後,系統會依照過程中的選擇提供「行動者分類」,協助玩家了解自己適合投入陪伴、資訊整理或跨域解題,並附上 TFT 相關計畫與參與連結。在 67 名完成前後測的玩家中,認為自身專業難以對教育平權發揮作用的比例,由約 4 成降至約 2 成,顯示更多玩家在體驗後,看見參與教育平權的可能。

新北市政府青年局
圖說:星築美少女成員分享,自己曾在教育社會學課程中接觸相關議題,理解家庭、交通與經濟條件都可能影響一名孩子的求學歷程。
圖/ 新北市政府青年局

減塑求籤機走進飲料店,環保成為日常選擇

「海湧工作室」長期投入環境教育與廢棄物源頭減量,這次競賽希望讓民眾理解海洋廢棄物治理,並在日常生活中實際參與減塑。本次獲獎團隊「塑 per NOVA」從淨灘資料中注意到塑膠吸管造成的海洋廢棄物問題,也觀察到消費者即使知道減塑的重要,仍習慣於購買飲料時拿取塑膠吸管。

「塑 per NOVA」成員王姸儒、郭書睿,因此把實作場域選在手搖飲店,設計「減塑求籤機」。裝置設在消費者購買飲料的動線上,當消費者準備拿取吸管時,即提供可替代選項,讓減塑融入消費流程。

顧客投入 1 元後,可取得一支可自然分解的蒲草吸管,透過掃描 QR Code,可抽取線上環保籤詩。此求籤的趣味設計有效提升消費者嘗試意願,透過線上籤詩更進一步提供日常減塑方法介紹。

「塑 per NOVA」在 3 間飲料店測試兩週,累積約 150 次蒲草吸管取用。這段經驗讓他們直接觀察顧客如何操作裝置,也了解方案能否融入店家的營運流程,為後續拓展更多場域累積經驗。

新北市政府青年局
圖說:成員王姸儒、郭書睿設計「減塑求籤機」,讓減塑融入原本的消費過程。
圖/ 新北市政府青年局

前進新加坡,青年行動的下一步

獲得首獎的 3 組團隊,預計於 9 月底前往新加坡和南洋理工大學,與當地社會創新組織交流。團隊將延續這次實作累積的經驗,觀察新加坡如何回應相近議題,再思考哪些做法適合帶回台灣。

「EDU」希望了解新加坡如何支持非本科教師授課,以及當地社創組織有哪些能夠立即實踐的做法;「星築美少女」則將觀察教育政策的實際運作,及新加坡如何理解與推動教育平權。「塑 per NOVA」關注當地如何讓環保意識融入民眾生活,並希望從永續措施中找到減塑求籤機後續發展的方向。

頒獎典禮上,「星築美少女」成員王品然坦言:「一開始覺得社會影響力很遙遠,自己做不了什麼東西。」但參加完比賽後發現,踏出第一步就可能帶來改變,她說:「其實做一小步,你就可以改變一些東西。」

從起步時不知道該從何著手,到把方案帶進真實場域,3 組團隊在兩個月的實作中找到答案:青年不必等到有完整的解法才開始,只要先走近一個真實需求,並根據回饋持續調整,對社會的關心就能逐漸成為具體行動。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
一次搞懂工業AI
© 2026 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓