上萬顆Nvidia的GPU助攻!攜手微軟打造AI超級電腦,厲害在哪裡?
上萬顆Nvidia的GPU助攻!攜手微軟打造AI超級電腦,厲害在哪裡?

NVIDIA(輝達)宣布,將與微軟(Microsoft)展開多年的合作計畫,共同打造全球最強大的人工智慧超級電腦,結合 Microsoft Azure 的先進超級運算基礎設施,以及 NVIDIA 的 GPU、網路技術和完整的 AI 軟體堆疊支援這台 AI 超級電腦,協助企業訓練、部署和擴展 AI,其中包括最先進的大型模型。

Nvidia Hopper H100 GPU
圖/ Nvidia

Azure 的雲端 AI 超級電腦包括功能強,適用於執行 AI 分散式訓練和推論作業。Azure 是第一個整合 NVIDIA 先進 AI 堆疊的公有雲,在其平台上加入上萬個 NVIDIA 高階AI產品,包含 A100 和 H100 GPU、NVIDIA Quantum-2 400Gb/s InfiniBand 網路技術與 NVIDIA AI Enterprise 軟體套件。

雙方亦合作將微軟的 DeepSpeed 深度學習最佳化軟體,調整到最佳狀態。NVIDIA 專為 Azure 最佳化的 AI 工作流程和軟體開發套件,將提供 Azure 的企業客戶使用。

NVIDIA 企業運算部門副總裁 Manuvir Das 表示:「AI 技術的進步加上產業採用的腳步不斷加快。基礎模型的突破性發展促進研究潮、培育出更多新創公司,並開發出新的企業應用。」

除此之外,微軟雲端運算與人工智慧事業群執行副總裁 Scott Guthrie 也指出:「AI 將推動企業與工業運算的下一波自動化,讓企業在因應動盪的經濟局勢時能事半功倍。」

NVIDIA H100引擎,將協助微軟加速AI部署

此外,Azure 平台亦將支援眾多 AI 應用程式和服務,包括微軟的 DeepSpeed(開源深度學習優化庫)及 NVIDIA AI Enterprise 軟體套件。 DeepSpeed 在 NVIDIA H100 引擎輔助下,將用於大型語言模型、生成式 AI 和電腦程式碼編寫等廣泛應用。

另外,NVIDIA AI Enterprise 包含用於語音 AI 的 NVIDIA Riva 及 NVIDIA Morpheus 網路安全應用框架,能簡化 AI 工作流程中,從資料處理、AI 模型訓練、模擬及大規模部署等各個步驟。

責任編輯:錢玉紘

本網站內容未經允許,不得轉載。

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
台日半導體新局 全解讀
© 2024 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓