電信龍頭的內部創業團隊InventAI,如何協助企業加速AI轉型?
電信龍頭的內部創業團隊InventAI,如何協助企業加速AI轉型?

一個7年前啟動的AI專案,隨著企業智慧轉型的趨勢發展,逐漸孵化為可望驅動中華電信集團未來營收成長的小金雞,這隻小金雞的名字就叫InventAI。

現為中華電信研究院新創育成團隊的InventAI,初始任務為提供全中華電信使用的AI PaaS平台服務,協助200位以上資料科學家快速取得運算資源及AI開發工具、到2021年開始把DeepFlow AI平台向外推廣、再到2022年推出解讀客戶情緒與意圖的客戶心聲分析平台DeepVoice,InventAI每一次的產品革新都緊緊跟隨著企業需求而前進,不只吸引政府機關、金融及電信業者採用,更先後獲得2024年第32屆台灣精品獎、2024創新商務獎最佳技術創新銀獎的肯定。

「我們持續觀察企業AI轉型的挑戰,並據此擴充平台功能,使DeepFlow成為企業AI轉型的最佳助攻員,」InventAI執行長李柏青首先分享DeepFlow平台的進化歷程,就是為了解決企業在AI轉型時所遇到的4大挑戰。

InventAI
圖/ 數位時代

AI轉型挑戰1》硬體資源分配不均

由於AI應用需要龐大的GPU算力,但GPU是非常昂貴的硬體資源,因此企業在進行AI轉型時遇到的第一個挑戰就是,內部各個AI專案各自申請與採購算力,但投入高額成本買來的運算設備卻無法妥善利用,造成資源閒置或分配不均的現象。

而DeepFlow一開始就是定位在資源共享平台,讓公司內部各個AI專案能夠共享算力,達成資源分配與管理的最佳化。

AI轉型挑戰2》開發時間長且專業人才難覓

考量到數據科學家在開發AI應用時,不只需要申請硬體資源,還有取得數據、準備分析工具等前置作業,且AI模型不只從開發到部署需要一段時間,待能夠規模化上線又得花不少時間,形成企業AI轉型第二個挑戰。

為此,InventAI團隊在DeepFlow平台上納入完整的MLOps功能,從模型開發、訓練、管理、部署到監控,皆可在平台上進行,有效縮減數據科學家在準備AI應用開發環境及部署上線的作業時間至少50%,並提高開發效率,加速企業導入AI應用的腳步。

InventAI技術長黃文俊指出,數據科學家可以透過DeepFlow平台在短時間內快速建立AI模型並瞭解其成效,之後再據此進行調整、持續更新模型版本,以敏捷式開發的概念,提高AI模型的開發速度和準確度。

但數據科學家是稀缺人才,因此DeepFlow也提供超參數調優、自動化建模等功能,讓部分開發流程可以low-code或no-code,如此一來,即便是非數據科學專業的產業專家(Domain Know-how),也能快速疏理資料並建立模型。

AI轉型挑戰3》敏感資料不能上雲

企業AI轉型第三個挑戰是資料安全,礙於法規或商業機密考量,有些資料無法放到雲端去建立模型,因此DeepFlow同時支援地端和雲端,並提供跨雲部署功能,企業可以在地端環境開發AI模型,並將模型服務部署到雲端以便使用,如此既不用擔心資料外洩問題,也能彈性擴充硬體資源,在運算資源不足時,可以透過混合雲架構迅速獲取公有雲的計算資源,將非機密數據傳送至雲端進行處理。

AI轉型挑戰4》AI治理需求興起

隨著AI應用範圍越來越廣,AI的道德風險問題也日益受到重視,各國政府近年來亦陸續採取行動,管理AI的開發及運用方式,如:歐盟通過「人工智慧法案」,金管會亦於2024年6月發布「金融業運用人工智慧指引」,而如何有效落實AI治理,也就成為企業AI轉型的第四個挑戰。

為了滿足AI治理需求,InventAI團隊強化DeepFlow平台的稽核審查機制,使AI開發過程透明化,「就像農產品的生產履歷一樣,AI模型也需要有一張履歷,讓人清楚模型從無到有的過程,」李柏青說,如此才能滿足政府或主管機關的要求。

而DeepFlow平台可以完整記錄AI模型的相關資訊,包括此模型使用了哪些資料進行訓練、資料來源及是否符合使用規範、資料申請者、模型建立者、使用哪些演算法、建立與上線時間、上線後的準確率、模型健康度等,藉由完整履歷資訊以確保AI的可信任度。

InventAI
圖/ 數位時代

從 DeepFlow 走向 DeepVoice 以AI瞭解客戶心聲

在完善DeepFlow平台後,InventAI團隊進一步思考還能為企業AI轉型做什麼?這一次他們將目光放在客服中心,透過DeepVoice平台提供對話摘要、意圖分析、情緒分析等功能,助企業清楚掌握客戶的心聲。

與DeepFlow一樣,DeepVoice亦是為了克服企業客服管理挑戰而生。InventAI業務總監粟郁杉說明,很多企業與政府機關都有客服中心,為了確保客服人員服務流程與品質,過去都是隨機抽取一部份客服電話錄音檔,由檢查員重新聆聽錄音檔內容,這種人工調聽的方式不僅曠日廢時,還有關鍵通話可能未被抽樣等問題。

而DeepVoice平台會先將語音轉成文字,為確保辨識準確度,InventAI團隊自主研發音轉字技術,並針對台灣人說話習慣加強訓練,無論顧客使用國語、台語、英語或三者交錯使用,都可以清楚辨識並轉成文字。

接著DeepVoice運用生成式AI技術去閱讀被轉譯出來的文字,進行通話內容、客戶情緒等分析,一來可以挖掘潛在議題,讓企業及早採取措施,提高客服滿意度,二來可以找出客訴原因,幫助企業改進產品或服務,減少客訴次數。某公司運用DeepVoice分析每天上百通客服電話,從中了解客戶需求、客訴原因等,不只提高通話分析的規模和效率,更大幅降低人工調聽通話的成本。

除了提高客服品質外,DeepVoice平台也可提昇電話行銷成效。藉由生成式AI分析對話內容和客戶情緒,找出最能打動客戶的互動方式與行銷話術,據此訓練電話行銷人員,以提高電話行銷成效。

目前,InventAI團隊正處於積極孵化階段,目標是在2025年獨立成為新創公司,並將持續完善人員編制、豐富產品線及更深入掌握客戶需求,希望搭上這波生成式AI浪潮,為更多企業客戶驅動智慧未來。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
蘋果能再次偉大?
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓