商业日报网

微软推出NDH100v5虚拟机:采用英伟达H100GPU,满足企业Cha

来源:IT之家    发布时间:2023-03-15 08:21:27   阅读量:5023   

,微软于今天宣布加强和英伟达的合作,将 GPU 从此前的 A100 升级到 H100,推出专门针对人工智能开发的全新的 ND H100 v5 虚拟机。

微软表示该虚拟机主要面向需要整合或开发人工智能的企业,IT之家附该虚拟机配置如下:

  • 8 块英伟达 H100 Tensor Core GPU,通过下一代 NVSwitch 和 NVLink 4.0 互连

  • 在非阻塞的胖树(Fat-Tree)架构网络下,每块 GPU 的 NVIDIA Quantum-2 CX7 InfiniBand 性能可以达到 400 Gb / s,每台虚拟机可以达到 3.2Tb / s。通过 NVSwitch 和 NVLink 4.0,每台虚拟机内的 8 个本地 GPU 之间的对分带宽为 3.6TB / s。

  • 采用英特尔第 4 代 Xeon Scalable 处理器

  • 使用 PCIe Gen5 连接 GPU,每个 GPU 带宽为 64GB / s

  • 16 通道 4800MHz DDR5 DIMM

微软先前在 Azure OpenAI 服务中宣布了 ChatGPT 相关服务,而本次虚拟机是该服务的补充,它允许第三方通过 Azure 访问聊天机器人技术。

【免责声明】 凡本站未注明来源为(商业日报网)的所有作品,均转载、编译或摘编自其它媒体,转载、编译或摘编的目的在于传递更多信息,并不代表本站赞同其观点和对其真实性负责。其他媒体、网站或个人转载使用时必须保留本站注明的文章来源,并自负法律责任。

热文推荐

首页 | 焦点| 业界| 财经| 企业| 消费| 行业| 股票| 视窗| 商业| 经贸| 产业| 资讯

Copyright @ 2010- 备案号:鄂ICP备2021013412号-3 网站地图