11月21日,NVIDIAGTC正式在苏州召开,NVIDIA黄世勋表示,旗下HGX-2服务器平台目前已经被广泛采用。该加速服务器平台适用于AI深度学习、机器学习和高性能计算。
在GTCChina上最新采用HGX-2的企业包括:百度、腾讯、浪潮等等,浪潮是中国首家构建HGX-2服务器的厂商,浪潮AI超级服务器AGX-5专为解决当前AI深度学习和高性能计算的性能扩展难题而设计。联想、华为、曙光也已宣布成为NVIDIAHGX-2云服务器平台的合作伙伴。
此外,甲骨文上月宣布其计划为甲骨文云基础设施部署NVIDIAHGX-2平台,并将采用裸机和虚拟机两种实例,便于顾客轻松访问统一的HPC和AI计算架构。
NVIDIA的HGX-2在单节点中能够提供2千万亿次的计算性能,据黄世勋介绍,与仅使用CPU的服务器相比,它将AI机器学习工作负载的运行速度提升近550倍,将AI深度学习工作负载的运行速度提升近300倍,将高性能计算工作负载的运行速度提升近160倍。
HGX-2云服务器平台融合了高精度FP64和FP32,可实现精确高性能计算;同时也融合了更快速的低精度FP16和INT8,可实现深度学习和机器学习。
计算性能方面,HGX-2具备NVIDIANVSwitch互联结构等功能,将16个NVIDIATeslaV100TensorCoreGPU连接到一起,形成一个巨型GPU,能够提供2千万亿次的AI性能。HGX-2还具有0.5TB内存和16TB/s总内存带宽。