群聯讓AI變平價了!aiDAPTIV+700億參數只要150萬台幣,開發背後全因輝達這件事?
群聯讓AI變平價了!aiDAPTIV+700億參數只要150萬台幣,開發背後全因輝達這件事?

「就像是去很遠的地方,你搭不了火車的話,騎Gogoro也是可以到。」群聯電子執行長潘健成今(24日)在AI EXPO大會的演講上,生動地推銷自家全新產品「aiDAPTIV+」。

生成式AI的爆發,帶動企業對AI的需求。然而中小企業卻不見得能夠負擔昂貴的伺服器價格。群聯的全新固態硬碟(SSD)產品「aiDAPTIV+」,能夠在伺服器內透過群聯自己開發的軟體,將SSD當作記憶體使用,解決AI運算中記憶體容量的問題。

群聯電子
群聯aiDAPTIV+產品系列。
圖/ 邱品蓉攝影

產業分析師指出,處理器中的記憶體越多,價格越高。換句話說,aiDAPTIV+幫助中小企業無需花費太多的價格,也能享有AI應用。潘健成開玩笑表示,原先想稱為窮人的AI,「但這其實就是全民AI的概念。」

群聯的這項技術推出後,引起不小的關注。群聯員工透露,目前該技術已經導入雲達、技嘉、研華和華碩等伺服器廠,「有已經在量產,也有還在POC(概念驗證)階段的。」顯見獲得市場青睞。

太貴就自己做!群聯aiDAPTIV+背後小故事

群聯之所以能開發出這項產品,背後有一個小故事。員工表示:「其實當初我們是想要買輝達(NVIDIA)伺服器來使用。」然而由於不斐的價格,讓群聯開始思考是否有其他替代措施。

為持續開發內部AI應用,群聯接著買下一台非AI伺服器,並想辦法運用對記憶體的研發能力,優化伺服器運作。最終,運用固有的硬體產品,加上自研的中介軟體,群聯不僅解決了內部問題,還陰錯陽差的開發出aiDAPTIV+這套軟硬整合的解決方案。

群聯電子
此圖為伺服器內部,風扇左側藍白相間的SSD,即為群聯aiDAPTIV+產品,能將SSD作為AI擴充記憶體使用
圖/ 邱品蓉攝影

雖然該項技術目前僅支援輝達的伺服器平台,不過群聯的員工表示,「像是超微(AMD)或英特爾(Intel)等其他平台我們也都有在談。」目前能處理的參數量超過700億,同時支援GPT、Llama2和等主流語言模型。

訓練700億參數僅需150萬台幣!群聯最強AI成本控管術

潘健成在今日演講中,表示企業採可以選擇用aiDAPTIV+來導入大語言模型(LLM),再加上微調(Fine-tuning)運算後就能達到目的。他比喻,只要目的相同,雖然不能搭火車,但騎Gogoro也還是會抵達。

以擁有700億個參數量的Llama2為例,僅需採用8顆輝達A6000的RTX顯卡驅動,搭配微調運算,中文AI模型的精準率可達92%,成本則約落在150萬新台幣。這與動輒就需要千萬甚至上億的費用的解決方案相比,有助於AI的普及。

群聯電子
群聯執行長潘健成表示,企業採可以選擇用aiDAPTIV+來導入大語言模型(LLM),再加上微調(Fine-tuning)運算後達到訓練目標
圖/ 邱品蓉攝影

潘健成分享,當前的採用客戶已遍及各行業,加上aiDAPTIV+有助於地端運算的效能提升,能更好的保護機敏性資訊。目前如政府機關、分析師、科學家、工程和建築等領域,都已經是該方案的採用客戶。

延伸閱讀:鴻海乘AI伺服器起飛!劉揚偉一句「全年展望顯著成長」背後,有哪些底氣?

責任編輯:蘇柔瑋

往下滑看下一篇文章
全台首創對話式金融服務iWish 永豐銀讓GAI真正走進金融交易現場
全台首創對話式金融服務iWish 永豐銀讓GAI真正走進金融交易現場

你還在手寫填單、逐格Key-in資料嗎?在生成式AI浪潮席捲各行各業之際,永豐銀行推出全台首創「說話就能完成交易」的智能對話式金融服務iWish,讓繁瑣的填單流程成為過去式,使用者可以透過文字輸入、口說敍述或上傳照片等方式,向AI傳達自身需求,無論哪一種方式,AI都可以即時理解使用者意圖,並根據與使用者的對話內容,自動填寫存款、提款、轉帳、匯款等相關表單,顛覆使用者對金融服務的想像。

生成式AI再進化,開啟AI代理人時代

隨著生成式AI的進步,LLM大型語言模型已具備多輪對話和上下文理解的能力,甚至正邁向可以獨立完成任務、不需要人類涉入的AI代理人(AI Agent)的新階段,這項技術突破讓企業既有服務得以展現全新樣貌。

以國際證券經紀商FBS為例,其推出的FBS AI Assistant服務,跳脫傳統單向建議模式,不直接提供評論或建議,而是讓用戶先選擇一至多項技術指標,再交由生成式AI模型解讀並生成專屬分析與操作建議,打造更具互動性與參與感的使用體驗。

永豐金控數位科技長張天豪認為,這種以生成式AI為核心的互動式服務模式,將大幅優化客戶的使用體驗,成為金融服務新常態。未來,客戶不必學習如何操作App,也不用記得交易程序,只要用對話、上傳照片或螢幕截圖等自己習慣的方式表達需求,AI就會理解並協助完成後續動作。「未來的金融服務將像生活中人與人之間的對話一樣,簡單而自然,」張天豪強調。

永豐銀行
前排由左至右:永豐金控數位科技長 張天豪、永豐銀行資訊、數位及作業督導張升寶、永豐銀行綜合企劃處處長 王筱嵐 後排由左至右:永豐金控數位科技處專案經理 林維婕、永豐金控數位科技處專案工程師 廖庭暘
圖/ 永豐銀行

從填單到對話,iWish重塑分行服務體驗

瞄準此未來趨勢,永豐銀行進一步盤點金融服務場景,決定從最貼近客戶的分行場域出發,打造互動式服務新體驗。

張天豪說明,臨櫃交易往往需要填寫各式各樣的表單,這些表單格式通常很制式、欄位繁複,對不熟悉流程的客戶而言,常常填到一半才發現格式錯誤、填錯位置,甚至必須整張重來,徒增挫折與作業時間。

「iWish服務的推出,就是為了讓這段流程可以變得更自然、直覺且輕鬆,」永豐銀行資訊、數位及作業督導張升寶說,客戶不再需要手寫填單,只要開口說、輸入文字或是上傳圖片,告訴iWish想要使用哪些金融服務,就可以完成交易,將原本繁瑣、仰賴經驗的填單作業,轉化成只需一句話或一張圖就能搞定,大幅提升臨櫃交易的服務體驗與作業效率。

以轉帳交易為例,客戶可以口說轉帳帳戶及金額,或是上傳網購訂單的轉帳頁面截圖、團媽在Line上提醒轉帳付款的對話截圖等,iWish會從中辨識表單所需資訊並精準填入銀行系統中對應的欄位,待客戶確認資訊無誤之後,系統就會生成一個二維條碼,只要將二維條碼交由臨櫃人員完成最後核對,就能輕鬆完成金融交易。

AI減輕行員負擔,專注更高價值服務

除了顛覆客戶的使用體驗,iWish服務也為內部作業流程帶來優化和改變,「對永豐銀行而言,iWish服務不是引進AI技術的炫技展示,而是與現有服務模式的無縫融合,讓創新落地、貼近人性」,永豐銀行綜合企劃處王筱嵐處長說。

王筱嵐進一步表示,最開始,金融交易需要經歷「客戶填單+櫃員輸入」的雙重程序,不僅耗時,也容易出錯。之後,永豐銀行推出免填單服務,客戶可以口述或將交易資訊抄寫在紙上,交由櫃員輸入至系統中、列印單據,待客戶簽名確認即可完成交易。

永豐銀行
圖/ 永豐銀行

而iWish則是免填單服務的再進化,藉由生成式AI(GAI)的語意理解與圖像辨識能力,取代櫃員的手動輸入作業,不僅提高效率與準確度,也大幅降低櫃員的作業負擔,可以將心力投注在更有價值的服務與溝通上。

GAI不只是客服輔助工具,更是金融轉型的推進引擎

相較於目前金融業的生成式AI應用,多數仍停留在客服階段,iWish是全台首創直接導入金融交易場景的GAI服務,堪稱跨出關鍵一步。

然而,在實際開發過程中,永豐銀行團隊也面臨諸多挑戰,其中壓力最大的,便是如何降低LLM可能出現的「幻覺」與辨識錯誤風險。尤其在金融交易場景中,AI的辨識精準度不僅關係到客戶權益,更直接影響其對金融服務的信任感,必須以更審慎的態度來看待。

為此,永豐銀行從多個面向著手提升模型準確度,包括優化Prompt設計與模型邏輯、與前線單位密切協作,共同討論介面呈現、使用流程與應用情境、在UI/UX介面加入提醒文字與引導機制,避免造成誤解。此外,團隊也分階段進行大規模封閉測試,邀請全行數百位同仁參與測試,並根據測試結果持續微調優化,確保最終推出的服務穩定度。

iWish的智慧來自於訓練與學習,「越用越聰明」的特性需要使用者參與激發

iWish是一款全新上市的智能服務,專為提升臨櫃交易體驗而設計。現階段iWish服務聚焦於台幣存款、提款、轉帳及匯款4大交易類型,並以「分行」為主要場景,未來則計劃將iWish服務擴展至更多金融交易類型,甚至走出分行場景,與iBranch等線上服務結合。

永豐銀行
永豐iWish以「智讀」、「智說」、「智寫」人性化操作,讓金融交易更方便快速
圖/ 永豐銀行

iWish的成功落地不僅是技術突破,更宣示意味著,生成式AI正式從客服輔助工具,搖身一變成為可以理解意圖、自然回應、主動引導的智慧助理,讓用戶在熟悉的對話情境中完成交易,實現真正以人為本的金融體驗。而AI模型的成長需要訓練,iWish在初期也需要客戶的參與來變得更聰明,透過接觸到更多元的使用情境,進一步完善服務,讓每一次互動都更懂客戶的需求。

「iWish服務只是第一步,」張升寶認為,這項服務不僅重新定義人與銀行的互動方式,也為生成式AI在金融業的應用看見新的可能。他期許未來能進一步擴大AI Agent應用範圍,讓AI不再只是輔助工具,而是驅動金融轉型的核心力量。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
蘋果能再次偉大?
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓