大專首座輝達DGX H100/H200伺服器 陽明交大AI高速運算平台啟用

台灣大專院校首座DGX H100/H200伺服器今天在陽明交大啟用,且是全台大專院校首座AI高速運算平台。(記者洪美秀攝)
〔記者洪美秀/新竹報導〕陽明交通大學在校內建置一座AI高速運算平台今天啟用,是台灣大專院校首座Nvidia DGX H100/H200伺服器。校方表示,這個平台包括兩台H100和三台H200伺服器,擁有40片GPU運算卡,算力達1.7 PFLOPS(每秒千兆次浮點運算)。未來,可支援校內研究團隊強勁的GPU算力需求,提升陽明交大在AI研究領域的國際競爭力,且可擴及各大校區。
校長林奇宏表示,學校為強化AI研究領域實力,此次建置的AI高速運算平台,是由尊博科技(JUMBO)執行董事學長許順宗捐贈1000萬元,用在母校購置GPU伺服器。會中輝達全球副總裁暨台灣區總經理邱麗孟也共同見證,並宣示藉由提升學校在GPU高速運算資源的建置,迎向未來AI時代的挑戰。
林奇宏說,AI是新世代文藝復興運動,此次結合校友及產業界,希望透過伺服器的強化,擴大AI的運算能力,未來將可全方位多元運用到百工百業,也能讓台灣AI產業再升級。
陽明交大資訊技術服務中心主任施仁忠提到,此AI高速運算平台已配備2台DGX H100伺服器,未來半年將陸續整合3台DGX H200伺服器,並且將引入AI高速平行檔案系統加入陣列,搭配無線頻寬交換機,總共40片H100/H200 GPU運算卡可叢集使用,增加多張GPU運算卡使用的數量和靈活度。現有平台已搭配資源排程與管理軟體,將可有效率且彈性地提供AI運算資源給各校內研究團隊使用。
電機系教授簡仁宗表示,他實驗室研究團隊主要在做AI模型訓練,過去需要跑一天的實驗結果,使用校方最新建置的AI高速運算平台後,只花2個多小時就能產生結果,大幅減少實驗的等待時間,並且在4倍多記憶體擴充下訓練出效能更強預測更準之AI模型。
而此AI高速運算平台目標在整合和提供校內所需的GPU運算資源,提升全校運算資源建置的效率,並搭配校內綠能機房,電力使用效率(簡稱PUE)可達1.58,可有效節省能耗、減少碳排,另資訊中心既有的完善資安防護機制,包含安全遠端存取、防火牆和異常監控等,將可對AI高速運算平台進行資安防護。

台灣大專院校首座DGX H100/H200伺服器今天在陽明交大啟用,且是全台大專院校首座AI高速運算平台。(記者洪美秀攝)

台灣大專院校首座DGX H100/H200伺服器今天在陽明交大啟用,且是全台大專院校首座AI高速運算平台。(記者洪美秀攝)

台灣大專院校首座DGX H100/H200伺服器今天在陽明交大啟用,且是全台大專院校首座AI高速運算平台,其速度及算力將讓各項研究更快速。(陽明交大提供)(記者洪美秀攝)

台灣大專院校首座DGX H100/H200伺服器今天在陽明交大啟用,且是全台大專院校首座AI高速運算平台。(記者洪美秀攝)