微軟真的推出自研晶片了!微軟於台灣時間17日凌晨舉辦Ignite秋季大會,為今年的尾聲投下震撼彈,宣布推出兩款自研AI晶片,專為雲端資料中心架構設計,能夠降低能耗、成本的「Microsoft Azure Cobalt」,以及專為AI運算力設計的「Microfoft Azure Maia」,兩者都採用台積電5奈米製程。目前會先應用在內部的運算工作上,明年開始提供算力給客戶使用。
除此之外,微軟也和多年夥伴輝達(NVIDIA)宣布推出「生成式AI代工服務」NVIDIA AI Foundry Service in Azure,提供企業客戶訓練生成式AI所需的工具和技術。
微軟兩款自研晶片現身!助攻雲端、AI運算力
本次Ignite大會最大亮點,就是微軟重磅推出自研AI晶片,而且一次就驚喜推出兩款產品。
雲端運算晶片:Microsoft Azure Cobalt 100
Cobalt取名自化學元素「鈷」,第一代編號將從100開始起算,是一款專為微軟Azure雲端資料中心所設計的晶片,用來提升運算效能、降低能耗、降低運營成本,採用台積電5奈米製程。
微軟執行長納德拉(Satya Nadella)指出,這是目前雲端業者中速度最快的雲端運算晶片。目前已經在Azure資料中心運轉中,支應微軟內部的運算工作,明年開始擴大讓客戶也能使用Cobalt的算力
AI加速器:Microfoft Azure Maia 100
Maia取名自希臘神話的春天女神,同樣從編號100開始起算,是一款專為LLM大型語言模型訓練、推論和能力設計的AI加速器,同樣採用台積電5奈米,1050個晶體,是目前業界可以製造的最大量。
微軟甚至在會場秀出機架設備,為Maia巨大運算量,專門設計出一整套資料中心機架級的水冷系統,可以直接加在現有的資料中心設備上,未來硬體和軟體都將圍繞著Maia設計,提升整體效能,也能促進微軟達到2050年資料中心淨零碳排的願景。
早在今年10月,《The Information》 就在報導中指出,面對AI晶片短缺、成本高昂的市況,微軟從2019年就啟動自研AI晶片專案「雅典娜Athena」,希望減緩成本壓力,旗下的AI公司OpenAI則在考慮自研、收購公司或者加強和NVIDIA等GPU業者的合作。
微軟聯手NVIDIA、AMD升級軟硬體服務
微軟在大會中也宣告和NVIDIA、AMD(超微)推出更深度的軟硬體合作,NVIDIA執行長黃仁勳也親自到現場站台宣布合作內容。
NVIDIA軟硬體合作:明年引進更高階的H200、還要推「AI代工服務」
微軟和NVIDIA已經合作多年,採用H100加速器建造的超級電腦Eagle,在台灣時間15日才剛剛獲得全球500大超級電腦中第三名的成績,是雲端業者首度進榜。
本次在硬體方面的合作,宣布在Azure中導入NVIDIA的「NC H100 v5虛擬機系列」,是以目前最高階的GPU H100所設計的虛擬機服務,讓微軟用戶可以「需要多少再用多少」,按照當下工作量的需求,彈性切分AI運算的資源。同時微軟也宣告將在明年引入更高階的H200規格,實現更短的反應時間。
軟體方面,雙方宣布聯手推出「 AI代工服務 」:NVIDIA AI Foundry Service in Azure,目的是提供工具和技術,讓微軟的企業客戶和新創公司都可以輕鬆訓練模型、開發生成式AI應用程式,黃仁勳指出「像是一個AI工廠,完全只為了AI而生。」
黃仁勳指出,這套系統是雙方團隊用12個月「超級忙碌」的狀態下產出的作品,因為生成式AI改變了運算方法、網路連結、晶片到API的所有事情,而第一波進入這塊領域的是微軟等大型雲端公司,第二波是擁有先進技術的AI新創,隨著這套簡單上手的系統和Copilot等助手的協助,一般企業將加入第三波的行列。
AMD:全新加速器MI300助攻AI運算
微軟本次也宣布和AMD擴大合作,在資料中心加入AMD今年全新發布的Instinct MI300系列AI加速器,內含1400億個電晶體,採用5或6奈米製程,專為AI加速運算所設計,納德拉指出,這項深入合作將讓微軟用更少的GPU完成更龐大的任務。
天風國際分析師郭明錤上月指出,AMD明年將有超過50%的AI晶片出貨給微軟,代表微軟成為AMD在AI晶片最大的客戶。
責任編輯:林美欣