陽交大H200運算平台開張!40片輝達GPU效能有多強?訓練AI模型「從1天縮到2小時」
陽交大H200運算平台開張!40片輝達GPU效能有多強?訓練AI模型「從1天縮到2小時」

大AI時代下,加速AI運算的GPU成戰略資源,越來越多算力中心遍地開花,如今這個風潮也吹到培育人才的學界。

國立陽明交通大學8月6日舉辦「GPU高速運算平台捐贈儀式暨啟用典禮」,陽明交大表示,這是台灣大專院校首座搭載最新輝達(NVIDIA)DGX H200伺服器的運算平台。

該平台總計包括2台H100和3台H200伺服器、擁有40片GPU運算卡,算力達1.7PFLOPS(每秒千兆次浮點運算),將能支援校內研究團隊強勁的GPU算力需求,提升在AI領域的國際競爭力。

台灣大專首座「H200運算平台」

陽明交大校長林奇宏指出,為強化AI研究實力,學校積極規劃建置AI高速運算平台,並感謝校友尊博科技執行董事許順宗慷慨捐贈新台幣1000萬元,協助母校購置GPU伺服器。

輝達全球副總裁暨台灣區總經理邱麗孟於致詞提到,陽明交大是台灣第一間和輝達成立創新中心的學校,期待高速運算平台能助力半導體及醫學等相關AI研究。

她也提到,輝達和陽明交大在3個面向展開合作,分別是先進應用研究、AI人才培育以及新創育成。

陽明交大校長林奇宏.jpg
陽明交大校長林奇宏指出,生成式AI在教學及研究場域已帶來非常大的影響,為強化AI研究實力,學校積極規劃建置AI高速運算平台
圖/ 孫嘉君攝影
輝達全球副總裁暨台灣區總經理邱麗孟.jpg
輝達全球副總裁暨台灣區總經理邱麗孟提到,輝達和陽明交大在先進應用研究、AI人才培育以及新創育成3面向展開合作。
圖/ 孫嘉君攝影

整合2台H100+3台H200伺服器

針對建立高速運算平台的契機,陽明交大研發長劉柏村說,校內許多老師及研究團隊很早就開始投入AI相關研究,過去最主要的算力在國網中心,和陽明交大地理距雖離沒有很遠,但使用上需要排隊,2年多前便聽到師生需求,希望校內能有高速運算能力,支撐教學與研究工作。

陽明交大資訊技術服務中心主任施仁忠表示,AI高速運算平台自去年12月到貨後進行安裝測試,今年5月開始邀請校內7、8個研究團隊「試營運」,於8月正式啟用。

陽明交大輝達AI高速運算平台.jpg
陽明交大高速運算平台串連2台輝達H100、3台H200伺服器、擁有40片GPU運算卡,算力達1.7PFLOPS
圖/ 陽明交大提供

目前,高速運算平台已配備2台DGX H100伺服器,未來半年內將陸續整合3台DGX H200伺服器,並將引入AI高速平行檔案系統,搭配無線頻寬交換機(InfiniBand Switch),使總共40片的H100、H200GPU運算卡可叢集使用,提升運算效率。

陽明交大AI高速運算平台有何特色?

陽明交大指出,AI高速運算平台目標為整合和提供校內所需的GPU運算資源,並搭配校內綠能機房,電力使用效率(Power Usage Effectiveness,PUE)可達1.58,得以有效節省能耗、減少碳排。

此外,在資安防護方面,AI高速運算平台並將延續既有的資安防護機制,包含安全遠端存取、防火牆和異常監控等,免於受到資安威脅。

對於AI高速運算平台的應用實例,陽明交大電機系教授簡仁宗表示, 他的研究團隊主要在做AI模型訓練,過去需要1天才能跑出的實驗結果,在使用了新建置的平台後,現在只需2個多小時,減少實驗的等待時間。 而在4倍多的記憶體擴充下,可訓練出效能更強、預測更準的AI模型。

延伸閱讀:路易莎力推2策略救市!京站新門市率隊攻軌道商機,海外4國展店「正在進行中」

責任編輯:李先泰

往下滑看下一篇文章
AI顛覆零售行銷!SAP Emarsys如何助品牌在智慧零售時代,面對品牌轉型挑戰
AI顛覆零售行銷!SAP Emarsys如何助品牌在智慧零售時代,面對品牌轉型挑戰

2025 SAP Emarsys 行銷高峰會日前盛大登場,對談聚焦「AI × 智慧零售 × 個人化數據」三大核心議題,邀集零售、顧問與科技領域專家齊聚一堂,透過一系列主題演講與實務對談,深度剖析品牌如何在生成式 AI 與數據浪潮下加速轉型、強化顧客關係。

現場不僅邀請SAP Emarsys大中華區總經理林彥菁分享AI時代下,如何善用工具抓住消費者的心,並邀請到Deloitte勤業眾信科技與轉型服務事業群資深執行副總經理張益紳、SMCP區域數字化發展及營運總監黃灝良、萬達寵物行銷長何文君、SAP Emarsys資深客戶成功經理李婉琪,以及SAP Emarsys台灣商務代表陳聖文,藉由應用實例與行銷科技實戰經驗,為品牌在AI時代,協助開啟更具洞察與行動力的轉型藍圖。

SAP
Deloitte勤業眾信科技與轉型服務事業群資深執行副總經理張益紳
圖/ 數位時代

吸引消費者難度飆升,靠SAP Emarsys落實超個人化

2025年2月,Deloitte與SAP攜手完成一份全球消費性產品互動報告,當中提及5大關鍵趨勢,包括:吸引與留住消費者越來越難、AI與個人化成為創新的主推力、消費通路多樣化與不確定性、Dark Data造成的困擾,以及Z世代行為的轉變。

張益紳引述報告內容指出,77%的行銷人員認為必須改變與消費者互動的方式,76%認為要比以往更快速地適應市場變化,而這些都指向同個方向:「AI是提升效率、洞察行為的關鍵工具」。AI時代品牌要突圍,就必須將個人化體驗升級,走向「超個人化」,把每個消費者視為獨立個體,藉由SAP Emarsys等行銷科技工具,企業可更快速落實個人化體驗,真正讓AI成為品牌與顧客之間的橋樑。不過他也提醒,AI雖然能提升效率,但最終仍須仰賴人工把關品質。

談到個人化,李婉琪說到,許多企業初次導入SAP Emarsys所服務面對的第一個挑戰,就是數據來源過於分散,「比如線上、線下、LINE、會員資料都分開,要做 Machine Learning 就會有難度。」因此,SAP Emarsys團隊會先協助客戶整合多元資料,讓後續的AI分析與客戶旅程規劃更有效率。

她建議企業在選擇AI工具時,「必須清楚導入這套工具的核心目的,也要看這個平台未來是不是有持續優化、能整合、夠穩定。」SAP Emarsys的服務剛好都符合這些特點,能讓品牌無後顧之憂。

SAP
SAP Emarsys大中華區總經理林彥菁
圖/ 數位時代

SAP Emarsys在AI應用已有具體實踐,助顧客加快行銷速度

隨著全球零售加速進入數據驅動時代,該如何在短時間內抓住消費者眼球?林彥菁剖析:「從行銷人員的角度,現階段品牌只有黃金9秒的時間跟客戶互動。」 品牌必須從各式平台,抓住客戶的忠誠度,行銷人員也要從不同的角度出發,去設計策略與顧客互動。她舉例,像「登記保固」可以促進忠誠度,「QR Code」可帶來二次銷售,甚至從一個人的購物行為延伸到另一個人、從線上帶到線下,都是行銷人員可以觸發互動的時刻。SAP Emarsys提供「行銷自動化」的平台,能串接不同管道,幫助品牌跟客戶互動。

SAP Emarsys在AI應用上,已有不少具體實踐。包括提供15種以上的「預設報表模板」,能夠節省資料整理時間,並導入「自然語言儀表板」,讓企業的非技術人員也能自定義查詢與分析。AI能搜尋最合適產品、推薦熱門主題行銷內容。SAP也計畫推出新產品「SAP Joule」,整合ERP、供應鏈等,透過Agent溝通生成指令,幫助企業快速達成預期業務成果,協助品牌發揮AI整合應用的效益。

林彥菁強調:「AI或現在經常在討論的ChatGPT,就是可以幫大家做到「Time to Market」或者「Time to Value」,節省大家操作的時間。」SAP Emarsys的角色,就是幫助品牌整合跨通路資料、串接SAP生態系產品,並透過AI與行銷自動化功能,節省客戶團隊日常操作與內容產製的時間,加快行銷反應速度。

SAP
萬達寵物行銷長何文君
圖/ 數位時代

SAP Emarsys合作,萬達寵物繳出漂亮成績單

沒有好的AI工具有多痛苦?黃灝良指出其在剛加入這個品牌時發現的4個核心問題,包括資料分散、CRM與顧客資訊斷裂、前線銷售缺乏工具與洞察、競爭對手在數位轉型領先等。他強調,在公司內同樣是「轉換」,每個部門的定義卻不同,「同企業要唱同一首歌,講同一種語言才行。」因此,資料定義、公司管理非常重要,而且智慧零售不是只有科技,更關鍵的是用數據建立信任。他說:「我們要求團隊每一次與顧客互動,都要成為一個可以產生轉換的行動。而這一切的基礎,是要先與他互動建立關係。」

目前有不少企業都已經享受到使用SAP Emarsys的好處。何文君指出,旗下擁有超過126間「寵物公園」實體門市的萬達寵物與SAP Emarsys合作後,寫下亮眼的成績單,包括:客戶流失率下降、回購率成效翻倍、高忠誠黑卡會員人數也因此倍數成長。

萬達寵物透過SAP Emarsys的系統,針對會員的年齡、養寵類型、交易商品、品牌偏好、來店頻率、購買時段等資料建模,描繪出一條條購物旅程腳本,建立超過1000種會員輪廓。何文君認為,好的CRM就像GPT,能不斷學習、測試、優化,萬達寵物在與SAP Emarsys的CRM上合作能成功,也仰賴有好的系統支撐,加上有耐心的團隊,去debug解決問題。

SAP
SAP Emarsys台灣商務代表陳聖文
圖/ 數位時代

SAP Emarsys解決企業個人化行銷的痛點,助品牌在AI時代進化

整場活動中,雖然不斷提到AI時代個人化的重要性,不過陳聖文也提醒道:「如果線上、線下資料整合不全,就會形成數據孤島,讓個人化非常不精準。」數位時代總編王志仁也形容數據孤島就如同「地圖上看2公分,但實際行軍要200公里。」表面上資料彷彿已經齊備,實際上部門之間缺乏整合,數據無法流通、無法即時應用,導致企業決策像是在迷霧中摸索前行,耗時又低效,而SAP Emarsys的系統能整合非常多資料,包括原生的ERP,以及品牌的官網、APP等,讓內部的黃金數據不會被遺漏。

陳聖文指出,最重要的還是「原生雲」的整合、將線上、線下過去的資料都先整回來,再去想如何與消費者做溝通,將LINE、網站、廣告全都當成溝通場景。他也提醒,若設定的時候有一個節點沒處理好,就可能成資料孤島。畢竟,在AI驅動的行銷時代,唯有將資料真正整合,讓每一次溝通都建立在用戶行為之上,品牌才能精準觸及受眾、創造實質轉換。SAP Emarsys也會持續協助零售品牌,在AI時代更進化。

歡迎下載 SAP Emarsys: 全球消費性產品互動報告 | 台灣版

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
AI全球100+台灣50
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓