12月21日，浪潮边缘计算服务器NE5260M5宣布对燧原科技全新发布的人工智能推理加速卡 “云燧i10”完成兼容适配与深度优化，可根据客户需求支持2-4张云燧i10，为边缘AI推理应用如自动驾驶、智慧交通、ETC识别、精密仪器预测性维护、AI工业质检等场景提供强大算力支持，最高性能可达每秒70万亿次（70Tflops)。
浪潮边缘AI推理服务器全面支持云燧i10▲
云燧i10是一款面向云端和边缘端数据中心的高性能推理卡，云燧i10是单槽位标准卡，支持PCIe 4.0，FP32算力达到17.6TFLOPS，BF16/FP16算力70.4TFLOPS。云燧i10实现多用户支持，最大可支持4个设备实例，具备计算与存储资源的独享性，多用户间安全隔离；单颗芯片上可同时部署不同的业务与负载，实现多任务并行，有效提高利用率；支持KVM、Xen等系统虚拟化平台。
浪潮边缘计算服务器NE5260M5高度2U，深度只有430毫米，可部署在通信机房或直接悬挂在墙壁上。尽管该服务器体积小巧，但NE5260M5支持多种异构加速卡，并且各个模块具有良好的散热效果，能够很好适应边缘恶劣的高温湿环境。基于高度适配的软硬件组合，浪潮NE5260M5可搭载2-4张云燧i10，最多可提供高达每秒70万亿次的单精度算力和280万亿次的半精度算力，高精度主流推理模型的性能实现了业界领先为边缘环境提供更加灵活的加速选择。
在计算机视觉领域中，可实时高速图像视觉处理，广泛应用于工厂AI质检、场景识别、智能交通等应用，在图像识别场景中，基于ImageNet图像数据集，超过75.9%准确率，推断性能超过3000FPS，在业界公认的基准测试模型ResNet-50上，性能是一般产品的1.7倍。在视频增强场景中，可实时进行视频分辨率增强，服务器处理性能可达240FPS，性能达到业界一般产品的2倍。在自然语言处理领域中，可应用于文本分类、舆情监管、智能客服等场景，在业界公认的测试模型Bert-Base上，同时兼顾性能和精度，在FP32高精度下性能是业界一般产品的1.5倍。在电商、短视频推荐场景中，可实现精准、高效、实时的目标内容投放，在业界流行的主流推荐模型xDeepFM上，性能是业界一般产品的2倍，因为采用FP32高精度的推理，推荐内容更准确。
得益于5G的拉动，AI正加速向边缘渗透，未来将会有千亿级的终端、无限的数据需要在边缘侧进行人工智能推理，对边缘侧的AI算力提出了更高的要求。浪潮作为全球领先的计算力提供商，目前已面向工业互联网、智能网联汽车、城市治理、工业互联网、产业+AI等七大边缘计算场景打造丰富的边缘计算产品形态及方案，基于云燧i10的浪潮边缘NE5260M5，将进一步推动AI向边缘场景的产业化落地，驱动各行业的数字化、智慧化转型。
