微軟(MSFT.US)推出針對AI的全新ND H100 v5 虛擬機(jī) 采用英偉達(dá)(NVDA.US) H100 GPU

智通財經(jīng)APP獲悉，當(dāng)?shù)貢r間周一，微軟(MSFT.US) 宣布加強(qiáng)和英偉達(dá)(NVDA.US)的合作，將 GPU 從此前的 A100 升級到 H100，推出專門針對人工智能開發(fā)的全新的ND H100 v5 虛擬機(jī)。據(jù)了解 ， 微軟先前在 Azure OpenAI 服務(wù)中宣布了 ChatGPT 相關(guān)服務(wù)，而本次虛擬機(jī)是該服務(wù)的補(bǔ)充，它允許第三方通過 Azure 訪問聊天機(jī)器人技術(shù)。

微軟表示，該虛擬機(jī)主要面向需要整合或開發(fā)人工智能的企業(yè)，將使用 8 塊英偉達(dá) H100 Tensor Core GPU，通過下一代 NVSwitch 和 NVLink 4.0 互連，在非阻塞(non-blocking)的胖樹(Fat-Tree)架構(gòu)網(wǎng)絡(luò)下，每塊 GPU 的 NVIDIA Quantum-2 CX7 InfiniBand 性能可以達(dá)到 400 Gb / s，每臺虛擬機(jī)可以達(dá)到 3.2Tb / s。

此外，考慮到訓(xùn)練大型語言模型(llm)需要大量的圖形處理器(GPU)連接，這些機(jī)器允許微軟的客戶創(chuàng)建可擴(kuò)展到任何規(guī)模的基礎(chǔ)設(shè)施，以執(zhí)行任何人工智能任務(wù)。

據(jù)悉，去年3月，英偉達(dá)在其GTC開發(fā)者大會上發(fā)布了H100 GPU。值得一提的是，花旗于本周一曾表示，英偉達(dá)是芯片行業(yè)“最受歡迎”的股票之一。