微軟推出專門針對AI開發(fā)的ND H100 v5虛擬機 采用英偉達H100 GPU

原標題：微軟推出 ND H100 v5 虛擬機：采用英偉達 H100 GPU，滿足企業(yè) ChatGPT 生成式 AI 需求

3 月 14 日消息，微軟于今天宣布加強和英偉達的合作，將 GPU 從此前的 A100 升級到 H100.推出專門針對人工智能開發(fā)的全新的 ND H100 v5 虛擬機。

微軟表示該虛擬機主要面向需要整合或開發(fā)人工智能的企業(yè)，IT之家附該虛擬機配置如下：

8 塊英偉達 H100 Tensor Core GPU，通過下一代 NVSwitch 和 NVLink 4.0 互連

在非阻塞(non-blocking)的胖樹(Fat-Tree)架構(gòu)網(wǎng)絡(luò)下，每塊 GPU 的 NVIDIA Quantum-2 CX7 InfiniBand 性能可以達到 400 Gb / s，每臺虛擬機可以達到 3.2Tb / s。

通過 NVSwitch 和 NVLink 4.0.每臺虛擬機內(nèi)的 8 個本地 GPU 之間的對分帶寬為 3.6TB / s。

采用英特爾第 4 代 Xeon Scalable 處理器

使用 PCIe Gen5 連接 GPU，每個 GPU 帶寬為 64GB / s

16 通道 4800MHz DDR5 DIMM

微軟先前在 Azure OpenAI 服務(wù)中宣布了 ChatGPT 相關(guān)服務(wù)，而本次虛擬機是該服務(wù)的補充，它允許第三方通過 Azure 訪問聊天機器人技術(shù)。

來源：IT之家

IT時代網(wǎng)(關(guān)注微信公眾號ITtime2000，定時推送，互動有福利驚喜)所有原創(chuàng)文章版權(quán)所有，未經(jīng)授權(quán)，轉(zhuǎn)載必究。
創(chuàng)客100創(chuàng)投基金成立于2015年，直通硅谷，專注于TMT領(lǐng)域早期項目投資。LP均來自政府、互聯(lián)網(wǎng)IT、傳媒知名企業(yè)和個人。創(chuàng)客100創(chuàng)投基金對IT、通信、互聯(lián)網(wǎng)、IP等有著自己獨特眼光和豐富的資源。決策快、投資快是創(chuàng)客100基金最顯著的特點。

相關(guān)文章

微軟推出專門針對AI開發(fā)的ND H100 v5虛擬機 采用英偉達H100 GPU