您的位置:中国金融观察网 > 资讯 >

微软正式上线最强生成式AI虚拟机、扩展AzureOpenAI服务

2023-08-08 09:23 来源:IT之家   

,微软今年 3 月和英伟达合作,宣布推出 Azure ND H100 v5 VM 虚拟机预览版;经过数月的测试之后,微软今天正式推出该虚拟机,帮助企业更高效处理生成式 AI 任务。

IT之家此前报道,ND H100 v5 VM,是 Azure 迄今更强大和高度可伸缩的 AI 虚拟机系列。

该虚拟机支持的按需配置可达 8 至上千个通过 Quantum-2 InfiniBand 网络互连的 NVIDIA H100 GPU,使得 AI 模型的性能明显提高。相较上一代 ND A100 v4 VM,本次推出的虚拟机包含以下创新技术:

  • 8 块 NVIDIA H100 Tensor Core GPU,通过下一代 NV Switch 和 NV Link 4.0 互连。

  • 在无阻塞胖树网络中,每个 GPU 搭载 400 Gb / s NVIDIA Quantum-2 CX7 InfiniBand 和每 VM 3.2Tb / s 的性能。

  • 每个 VM 中的 8 块本地 GPUs 之间通过 3.8Tb / s 对分割带宽的 NV Switch 和 NV Link 4.0 互联。

  • 第四代英特尔至强可扩展处理器。

  • PCIE 第 5 代主机到 GPU 互连,每个 GPU 带宽为 64Gb / s。

  • 16 信道的 4800 MHz DDR5 内存。

新的虚拟机使用 NVIDIA 的 NVIDIA Tensor Core H100 GPU 和 NVIDIA Quantum-2 InfiniBand 网络,当前仅限于美国东部和西部 Azure 企业访问。

微软补充说,公司正在努力在明年为其虚拟机添加数十万块新的 GPU。

微软正式宣布该 Azure 虚拟机之外,还宣布扩展其 Azure OpenAI 服务,在加拿大东部、美国东部 2、日本东部和英国南部地区上线。

微软表示 Azure OpenAI 服务客户已经超过 11000 名,本季度平均每天吸引 100 名新客户。

这一显著的增长证明了我们的服务为渴望利用人工智能潜力满足其独特需求的企业带来的价值和可扩展性。

微软还补充说,ChatGPT AI 平台最强大的版本 GPT-4 也将适用于新的 Azure OpenAI 服务区域。

相关阅读:

《微软 Azure ND H100 v5 VM 虚拟机预览发布:采用 8 至上千个 NVIDIA H100 Tensor Core GPU》

广告声明:文内含有的对外跳转链接,用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

郑重声明:此文内容为本网站转载企业宣传资讯,目的在于传播更多信息,与本站立场无关。仅供读者参考,并请自行核实相关内容。

栏目导读
你与“诗和远方”之间,只差一个TA

你与“诗和远方”之间,只差一个TA

第一次看到Poppy的时候,相信很多人会说这个姑娘真的很精致优雅。没错,小红书里的Poppy笑起来很甜,举手投足都很自信很淡定。但很难想象P...

2023-10-13 15:34
交通银行助力世界数字经济大会打造更鲜活的数字应用场景

交通银行助力世界数字经济大会打造更鲜活的数字

2023世界数字经济大会暨第十三届智慧城市与智能经济博览会于10月13日至15日在宁波举行,交通银行连续三年作为支持单位参与大会。作为唯一参...

2023-10-13 12:57
进军超深层,钻出“地下珠峰”

进军超深层,钻出“地下珠峰”

塔里木油田钻井现场塔里木油田公司供图位于沙漠腹地的塔中第三联合站塔里木油田公司供图在塔里木这个我国陆上最大的含油气盆地,分布着全国80%以上...

2022-08-18 11:43
四款人民视频融媒新品在2022智能视听大会上线

四款人民视频融媒新品在2022智能视听大会上

8月16日至18日,以“虚实共生数字新未来”为主题的2022(GIAC)智能视听大会在山东省青岛市举办。在开幕式上,人民视频联合行业头部生态...

2022-08-18 11:42