華碩「AI軟硬兩武器」一次端,客戶搶著要!為何看好伺服器能5年翻5倍?
華碩「AI軟硬兩武器」一次端,客戶搶著要!為何看好伺服器能5年翻5倍?

生成式AI為大眾帶來無限想像,如何安全地使用卻成為一道難題。由於AI必須要有大量的數據建立模型,加上硬體基礎建設成本高昂,不少企業對跟進AI頗有疑慮。一位軟體企業主比喻:「這就很像我喜歡你,但不行碰。」

華碩雲端暨台智雲總經理吳漢章指出,生成式AI問世後,正式進入了「AI2.0」的時代。不同於過去分辨式AI(discriminative AI),生成式AI的算力需求將不同以往。為讓算力普及,三大公有雲業者Azure、Google Cloud和AWS都陸續推出AI模型解決方案,讓企業透過訂閱方式,享用雲端業者的算力服務。

然而,公有雲伺服器非置於企業內部,華碩電腦營運長暨雲端董事長謝明傑表示:「企業如果要做應用,他們會傾向將敏感資料放在地端。」換句話說,將乘載眾多機敏資訊的伺服器放在公司內部,對企業來說最為安心。

華碩電腦營運長暨台智雲董事長謝明傑(左)以及華碩雲端暨台智雲總經理吳漢章
圖/ 蔡仁譯攝影

看準這塊商機,華碩旗下的台智雲推出一站式的解決方案「企業級生成式 AI 解決方案 AFS(AI Foundry Service)」,企業可在零基礎狀況下,獲得置於公司內部的伺服器,並訂閱雲端模型服務,如點菜般獲得整套生成式AI應用工具,幫助企業客戶在安全且成本可控的狀況下落地AI。

軟、硬體都能點菜!一站式服務無痛導入AI

華碩約在2017年就開始安排研發團隊學習AI和雲端技術,兩年後則承接科技部超級電腦計畫「台灣杉二號」。建置成功後,華碩與政府以公私合夥(Public-Private-Partnership,政府與民營企業的合作模式)方式簽訂合約,成立子公司台智雲,由華碩持續商業營運台灣杉二號,並接手研發團隊,獲得另一批生力軍,目前集團AI人數規模約為500人。

硬體:企業自有伺服器成最大亮點

謝明傑指出,華碩在完成政府專案後,獲得許多寶貴經驗。以硬體來說,原就擁有伺服器設計能力的華碩,藉由台灣杉二號獲得設計AI伺服器經驗。謝明傑說:「華碩確實在協助國家網路時,於板卡製造經驗等方面獲得升級。」

台灣杉二號
華碩指出,藉由台灣杉二號的政府專案執行,獲得許多設計AI伺服器經驗
圖/ 華碩提供

一般雲端業者提供的服務皆在雲端上,企業無法購買自用伺服器。但華碩結合軟體和硬體,推出「伺服器+AI模型」的解決方案(AFS),客戶能向華碩購買專用伺服器置於公司,同時訂閱模型推論服務,一站式的解決所有導入生成式AI時會遇到的基礎建設問題。能在雲端解決方案中同購買硬體,是華碩重要特色。

華碩ASUS ESC N8-E11
華碩電腦營運長暨台智雲董事長謝明傑表示,透過與台杉電腦建置的專案參與,華碩在伺服器硬體設計上獲得許多寶貴經驗。
圖/ 華碩提供

軟體:最「接地氣」的預訓練模型

在軟體方面,台智雲擁有「福爾摩沙基礎模型」,內涵大量的繁體中文數據。謝明傑表示,相比起Chat GPT或者LLaMA,台智雲的福爾摩沙模型更加在地化,「每個國家都會碰到,當你要用語言模型時,發現美系大模型裡面沒有台灣的六法全書,台灣人要用的還是要自己訓練。」

台智雲會針對客戶需求,於雲端進行模型預訓練(training)並優化,再協助導入地端進行推論(inferencing)。吳漢章認為,雖然不少科技巨頭已投入訓練,但真正要落地執行時,推論會是未來相當大一塊市場。

吳漢章比喻,於雲端預訓練模型,如同將已經擁有基礎教育知識的高中生送入大學修習,擁有法律、醫療或會計等各領域的專業知識。預訓練模型還必須結合客戶的自有數據,導入地端後才能在推論獲得準確結果。目前,台智雲針對不同領域推出已完成的預訓練模型,目前約15個解決方案,包含營造、食品、傳產、公部門、電商和體等等。

延伸閱讀:跟GPT3.5一樣強、中文更好!最懂台灣的AI大模型「福爾摩沙」登場,厲害在哪?

HGX H100 8GPU
全新一代HGX H100 8-GPU人工智慧伺服器—ASUS ESC N8-E11,雙層GPU、CPU機箱設計,得以實現絕佳散熱、擴充性與強大性能。
圖/ 華碩提供

台智雲也會協助企業把訓練好的模型縮小,依照企業需求提供最低1顆、最高需要16顆GPU的運算方案,讓企業將算力帶回家,不須要自建龐大的機房,只擁有一台伺服器也能享有生成式AI服務。

已攜手70客戶,需求還沒停!華碩喊伺服器五年成長五倍

隨著生成式AI熱度上升,吳漢章透露,當前台智雲客戶已來到70間,同時也展開協助東南亞地區的客戶導入生成式AI。這樣的熱潮帶動硬體,謝明傑表示,華碩有很大的機率能達成五年伺服器成長五倍的目標,對此相當有信心。

此外,華碩今年也躋身成為輝達OVX平台的伺服器供應商。OVX系統是專門為大規模數位孿生 (digital twins) 所設計的運算系統,可用於模擬複雜較高的數位孿生,例如打造整棟建築物、工廠和城市,甚至是整個世界的模型。吳漢章表示,未來OVX不只會用在大型企業的數位孿生應用,「今年我們也拿到兩、三個案子,做智慧城市和醫療照護等。」

NVIDIA OVX L40S GPU
華碩成為OVX供應商之一,華碩電腦營運長暨台智雲董事長謝明傑表示,預計L40S相關服務今年稍晚將會問世。
圖/ 輝達提供

輝達為OVX系統所打造的新一代伺服器,搭載 L40S GPU並採用Ada Lovelace架構。謝明傑指出,基於L40S所打造的相關服務,今年稍晚也會在台智雲問世。

延伸閱讀:Nvidia黃仁勳深夜炸鍋:地表最強晶片GH200問世!華碩躋身新一代OVX平台供應商

責任編輯:蘇祐萱

往下滑看下一篇文章
全台首創對話式金融服務iWish 永豐銀讓GAI真正走進金融交易現場
全台首創對話式金融服務iWish 永豐銀讓GAI真正走進金融交易現場

你還在手寫填單、逐格Key-in資料嗎?在生成式AI浪潮席捲各行各業之際,永豐銀行推出全台首創「說話就能完成交易」的智能對話式金融服務iWish,讓繁瑣的填單流程成為過去式,使用者可以透過文字輸入、口說敍述或上傳照片等方式,向AI傳達自身需求,無論哪一種方式,AI都可以即時理解使用者意圖,並根據與使用者的對話內容,自動填寫存款、提款、轉帳、匯款等相關表單,顛覆使用者對金融服務的想像。

生成式AI再進化,開啟AI代理人時代

隨著生成式AI的進步,LLM大型語言模型已具備多輪對話和上下文理解的能力,甚至正邁向可以獨立完成任務、不需要人類涉入的AI代理人(AI Agent)的新階段,這項技術突破讓企業既有服務得以展現全新樣貌。

以國際證券經紀商FBS為例,其推出的FBS AI Assistant服務,跳脫傳統單向建議模式,不直接提供評論或建議,而是讓用戶先選擇一至多項技術指標,再交由生成式AI模型解讀並生成專屬分析與操作建議,打造更具互動性與參與感的使用體驗。

永豐金控數位科技長張天豪認為,這種以生成式AI為核心的互動式服務模式,將大幅優化客戶的使用體驗,成為金融服務新常態。未來,客戶不必學習如何操作App,也不用記得交易程序,只要用對話、上傳照片或螢幕截圖等自己習慣的方式表達需求,AI就會理解並協助完成後續動作。「未來的金融服務將像生活中人與人之間的對話一樣,簡單而自然,」張天豪強調。

永豐銀行
前排由左至右:永豐金控數位科技長 張天豪、永豐銀行資訊、數位及作業督導張升寶、永豐銀行綜合企劃處處長 王筱嵐 後排由左至右:永豐金控數位科技處專案經理 林維婕、永豐金控數位科技處專案工程師 廖庭暘
圖/ 永豐銀行

從填單到對話,iWish重塑分行服務體驗

瞄準此未來趨勢,永豐銀行進一步盤點金融服務場景,決定從最貼近客戶的分行場域出發,打造互動式服務新體驗。

張天豪說明,臨櫃交易往往需要填寫各式各樣的表單,這些表單格式通常很制式、欄位繁複,對不熟悉流程的客戶而言,常常填到一半才發現格式錯誤、填錯位置,甚至必須整張重來,徒增挫折與作業時間。

「iWish服務的推出,就是為了讓這段流程可以變得更自然、直覺且輕鬆,」永豐銀行資訊、數位及作業督導張升寶說,客戶不再需要手寫填單,只要開口說、輸入文字或是上傳圖片,告訴iWish想要使用哪些金融服務,就可以完成交易,將原本繁瑣、仰賴經驗的填單作業,轉化成只需一句話或一張圖就能搞定,大幅提升臨櫃交易的服務體驗與作業效率。

以轉帳交易為例,客戶可以口說轉帳帳戶及金額,或是上傳網購訂單的轉帳頁面截圖、團媽在Line上提醒轉帳付款的對話截圖等,iWish會從中辨識表單所需資訊並精準填入銀行系統中對應的欄位,待客戶確認資訊無誤之後,系統就會生成一個二維條碼,只要將二維條碼交由臨櫃人員完成最後核對,就能輕鬆完成金融交易。

AI減輕行員負擔,專注更高價值服務

除了顛覆客戶的使用體驗,iWish服務也為內部作業流程帶來優化和改變,「對永豐銀行而言,iWish服務不是引進AI技術的炫技展示,而是與現有服務模式的無縫融合,讓創新落地、貼近人性」,永豐銀行綜合企劃處王筱嵐處長說。

王筱嵐進一步表示,最開始,金融交易需要經歷「客戶填單+櫃員輸入」的雙重程序,不僅耗時,也容易出錯。之後,永豐銀行推出免填單服務,客戶可以口述或將交易資訊抄寫在紙上,交由櫃員輸入至系統中、列印單據,待客戶簽名確認即可完成交易。

永豐銀行
圖/ 永豐銀行

而iWish則是免填單服務的再進化,藉由生成式AI(GAI)的語意理解與圖像辨識能力,取代櫃員的手動輸入作業,不僅提高效率與準確度,也大幅降低櫃員的作業負擔,可以將心力投注在更有價值的服務與溝通上。

GAI不只是客服輔助工具,更是金融轉型的推進引擎

相較於目前金融業的生成式AI應用,多數仍停留在客服階段,iWish是全台首創直接導入金融交易場景的GAI服務,堪稱跨出關鍵一步。

然而,在實際開發過程中,永豐銀行團隊也面臨諸多挑戰,其中壓力最大的,便是如何降低LLM可能出現的「幻覺」與辨識錯誤風險。尤其在金融交易場景中,AI的辨識精準度不僅關係到客戶權益,更直接影響其對金融服務的信任感,必須以更審慎的態度來看待。

為此,永豐銀行從多個面向著手提升模型準確度,包括優化Prompt設計與模型邏輯、與前線單位密切協作,共同討論介面呈現、使用流程與應用情境、在UI/UX介面加入提醒文字與引導機制,避免造成誤解。此外,團隊也分階段進行大規模封閉測試,邀請全行數百位同仁參與測試,並根據測試結果持續微調優化,確保最終推出的服務穩定度。

iWish的智慧來自於訓練與學習,「越用越聰明」的特性需要使用者參與激發

iWish是一款全新上市的智能服務,專為提升臨櫃交易體驗而設計。現階段iWish服務聚焦於台幣存款、提款、轉帳及匯款4大交易類型,並以「分行」為主要場景,未來則計劃將iWish服務擴展至更多金融交易類型,甚至走出分行場景,與iBranch等線上服務結合。

永豐銀行
永豐iWish以「智讀」、「智說」、「智寫」人性化操作,讓金融交易更方便快速
圖/ 永豐銀行

iWish的成功落地不僅是技術突破,更宣示意味著,生成式AI正式從客服輔助工具,搖身一變成為可以理解意圖、自然回應、主動引導的智慧助理,讓用戶在熟悉的對話情境中完成交易,實現真正以人為本的金融體驗。而AI模型的成長需要訓練,iWish在初期也需要客戶的參與來變得更聰明,透過接觸到更多元的使用情境,進一步完善服務,讓每一次互動都更懂客戶的需求。

「iWish服務只是第一步,」張升寶認為,這項服務不僅重新定義人與銀行的互動方式,也為生成式AI在金融業的應用看見新的可能。他期許未來能進一步擴大AI Agent應用範圍,讓AI不再只是輔助工具,而是驅動金融轉型的核心力量。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
蘋果能再次偉大?
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓