陽交大H200運算平台開張!40片輝達GPU效能有多強?訓練AI模型「從1天縮到2小時」
陽交大H200運算平台開張!40片輝達GPU效能有多強?訓練AI模型「從1天縮到2小時」

大AI時代下,加速AI運算的GPU成戰略資源,越來越多算力中心遍地開花,如今這個風潮也吹到培育人才的學界。

國立陽明交通大學8月6日舉辦「GPU高速運算平台捐贈儀式暨啟用典禮」,陽明交大表示,這是台灣大專院校首座搭載最新輝達(NVIDIA)DGX H200伺服器的運算平台。

該平台總計包括2台H100和3台H200伺服器、擁有40片GPU運算卡,算力達1.7PFLOPS(每秒千兆次浮點運算),將能支援校內研究團隊強勁的GPU算力需求,提升在AI領域的國際競爭力。

台灣大專首座「H200運算平台」

陽明交大校長林奇宏指出,為強化AI研究實力,學校積極規劃建置AI高速運算平台,並感謝校友尊博科技執行董事許順宗慷慨捐贈新台幣1000萬元,協助母校購置GPU伺服器。

輝達全球副總裁暨台灣區總經理邱麗孟於致詞提到,陽明交大是台灣第一間和輝達成立創新中心的學校,期待高速運算平台能助力半導體及醫學等相關AI研究。

她也提到,輝達和陽明交大在3個面向展開合作,分別是先進應用研究、AI人才培育以及新創育成。

陽明交大校長林奇宏.jpg
陽明交大校長林奇宏指出,生成式AI在教學及研究場域已帶來非常大的影響,為強化AI研究實力,學校積極規劃建置AI高速運算平台
圖/ 孫嘉君攝影
輝達全球副總裁暨台灣區總經理邱麗孟.jpg
輝達全球副總裁暨台灣區總經理邱麗孟提到,輝達和陽明交大在先進應用研究、AI人才培育以及新創育成3面向展開合作。
圖/ 孫嘉君攝影

整合2台H100+3台H200伺服器

針對建立高速運算平台的契機,陽明交大研發長劉柏村說,校內許多老師及研究團隊很早就開始投入AI相關研究,過去最主要的算力在國網中心,和陽明交大地理距雖離沒有很遠,但使用上需要排隊,2年多前便聽到師生需求,希望校內能有高速運算能力,支撐教學與研究工作。

陽明交大資訊技術服務中心主任施仁忠表示,AI高速運算平台自去年12月到貨後進行安裝測試,今年5月開始邀請校內7、8個研究團隊「試營運」,於8月正式啟用。

陽明交大輝達AI高速運算平台.jpg
陽明交大高速運算平台串連2台輝達H100、3台H200伺服器、擁有40片GPU運算卡,算力達1.7PFLOPS
圖/ 陽明交大提供

目前,高速運算平台已配備2台DGX H100伺服器,未來半年內將陸續整合3台DGX H200伺服器,並將引入AI高速平行檔案系統,搭配無線頻寬交換機(InfiniBand Switch),使總共40片的H100、H200GPU運算卡可叢集使用,提升運算效率。

陽明交大AI高速運算平台有何特色?

陽明交大指出,AI高速運算平台目標為整合和提供校內所需的GPU運算資源,並搭配校內綠能機房,電力使用效率(Power Usage Effectiveness,PUE)可達1.58,得以有效節省能耗、減少碳排。

此外,在資安防護方面,AI高速運算平台並將延續既有的資安防護機制,包含安全遠端存取、防火牆和異常監控等,免於受到資安威脅。

對於AI高速運算平台的應用實例,陽明交大電機系教授簡仁宗表示, 他的研究團隊主要在做AI模型訓練,過去需要1天才能跑出的實驗結果,在使用了新建置的平台後,現在只需2個多小時,減少實驗的等待時間。 而在4倍多的記憶體擴充下,可訓練出效能更強、預測更準的AI模型。

延伸閱讀:路易莎力推2策略救市!京站新門市率隊攻軌道商機,海外4國展店「正在進行中」

責任編輯:李先泰

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
進擊的機器人
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓