幫台積電做AI智慧助理!除了對話機器人,AI還能怎麼進化?碩網2大策略分析
幫台積電做AI智慧助理!除了對話機器人,AI還能怎麼進化?碩網2大策略分析

打開台積電內部系統,員工無論是想請假、補假或是詢問特休事宜,都能透過AI對話機器人詢問,將不少繁瑣的人資的事務自動化。協助台積電導入這套系統的,正是創業20年,一路從搜尋做到對話式服務的碩網資訊(以下簡稱碩網)。

碩網成立於1999年,最早是做自然語言處理和語意分析,在AI還不熱門的年代,碩網必須耗費許多心力去向業主解釋自家產品。總經理邱仁鈿是麻省理工學院博士,他在受訪時表示,AI熱潮興起後,來詢問導入智慧助理的客戶,比之前增加了兩倍以上,「現在很多客戶要的是由繁而簡的處理。」

生成式AI提高智慧助理詢問度,碩網估:明年客戶大增2倍

當紅的AI技術實際上可簡略分成兩種:分辨式AI和生成式AI。

兩者最重要的差異在於,辨認式AI不會自行生成新的資料,是就既有的數據資料做運算,市面上大多數的聊天機器人皆屬此類。邱仁鈿解釋:「不管是文字、聲音還是影像辨識,精準度再高也就是100%,不可能再向上,因為分辨式AI不會無中生有地產出東西。」

碩網科技總經理邱仁鈿
碩網資訊總經理邱仁鈿指出,生成式AI能無中生有,和過去不同,能做到超越100%想像
圖/ 侯俊偉攝影

生成式AI則不同,是透過大量運算後產出新的資料,例如自行作曲、繪圖或編寫故事,「以前是題目訂好,AI做到極致就好,現在生成式AI能做到超越100%想像。」邱仁鈿說。

以現階段而言,碩網協助如台積電、和泰汽車、IC設計大廠和眾多公部門設置的對話機器人為分辨式AI,但已有導入生成式AI的專案即將上線。邱仁鈿透露,今年底由碩網協助導入的企業客戶約有15至20家,明年底則是這個數字的雙倍以上。

生成式AI敲開產品新大門,對話式機器人未來的2大方向

生成式AI能「無中生有」的特性,加上大語言模型(LLM)的發展日益成熟,幫碩網開啟全新機會大門。在AI領域耕耘多年的邱仁鈿,提出了兩項發展方向,希望在接下來的幾年,能帶領碩網大啖AI對話式服務商機。

首先,是集中火力發展「移轉學習」(transfer learning)用的模型。 轉移學習指的是將原先為特定目的開發,並已訓練好的AI模型,套用其他數據進行學習。可將模型想像成一台果汁機,無論放入蘋果還是葡萄(數據),最終都能達到榨出果汁的目的。

碩網要做的,就是看準客戶需求推出對應的模型,讓企業只需準備好數據,無需從零開始自己訓練模型。然而,準備數據往往是讓企業最頭痛的地方,不僅所需體量龐大,成本也高昂。碩網資訊執行副總經理江明則指出,生成式AI出來後,恰好能解決數據不足的問題。

1I1A4252
碩網資訊執行副總經理江明洋表示,以前都是人在想辦法生出數據給模型訓練,生成式AI出來後,能解決數據量不足的問題。
圖/ 數位時代 拍攝

邱仁鈿比出手勢解釋:「生成式AI讓企業只需要準備一點點資料,就足夠讓碩網替企業訓練專屬模型,達到原本想做的9成功能。當企業將準備資料這負擔從肩膀上卸下來,採用對話機器人的意願就很大。」

其次,就是掌握對話機器人將資訊傳遞給使用者的最後一哩路。 邱仁鈿認為,即使企業導入生成式AI的對話式服務,如何提供使用者覺得直觀且好上手的訊息介面,是評斷服務是否「好用」的關鍵,「只有通過這個channel(溝通管道),對話式機器人才可以做得好。」

為做到這點,碩網並未選擇開發自有介面,而是積極打通包含微軟的企業協作工具Teams,以及Line等個人化訊息介面。邱仁鈿分享:「碩網與台積電合作,最漂亮的地方在於對話機器人就是在Teams上,讓員工能直接接收訊息。」

同樣的狀況也會發生在其他領域企業,以電商來說,在導入生成式AI處理退換貨流程時,如何在溝通介面上夠直觀,讓消費者覺得方便並增加黏著度,是不少企業老闆優先考量的事項。

延伸閱讀:日立把AI變老師傅,怎麼幫新人培訓?

LLM大浪很快就會打來,碩網:我們要踏在浪上

對於AI的未來,邱仁鈿直言AI技術變化太快,很難預測長久的變化,「但在未來12個月內,我們有想法。」

碩網資訊總經理邱仁鈿
碩網資訊總經理邱仁鈿表示,當能主宰市場的大型語言模型出現,碩網有能力蹭在浪上,而不是大浪被淹沒
圖/ 侯俊偉攝影

他將AI技術發展分成三層,最底層為大型語言模型,如Meta的LLaMA;中間則為API(應用程式開發介面),包含ChatGPT和Google的Bard;最上方則是App(應用程式),如微軟的Copilot智慧助理。

邱仁鈿指出,最下方的大型語言模型是寡占遊戲,「以前弄一個軟體新創1到2億美元就可以開始,現在AI時代,沒有個百億資金是不可能的。」他認為,當前仍於百花齊放的時期,過段時間後能「一統天下」大型語言模型將脫穎而出。

邱仁鈿表示,希望能在主流模型出現時就找到其中的立足點,而非重蹈2000年網際網路蓬勃發展初期,台系搜尋引擎不敵美國大廠攻勢而敗陣下來的歷史。為此,碩網在各大模型上皆有投注資源,「起碼標準化的大浪打來時,我們是踏在浪上,而不是被淹沒。」

延伸閱讀:亞馬遜的AI新武器:自動摘要商品評價,好壞秒懂!假評論怎麼揪?

責任編輯:林美欣

關鍵字: #AI #Chatbot
本網站內容未經允許,不得轉載。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
台日半導體新局 全解讀
© 2024 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓