燧原科技进军AI边缘领域，携手浪潮推出边缘AI推理服务器

似水流年

燧原科技进军AI边缘领域，携手浪潮推出边缘AI推理服务器



燧原科技继前日发布首款人工智能推理产品 “云燧®i10”，宣布携手浪潮，共同推出基于云燧i10的浪潮边缘计算服务器“NE5260M5”。标志燧原科技业务向AI边缘推理的拓展。该服务器可根据客户需求支持2-4张云燧i10，为边缘AI推理应用如自动驾驶、智慧交通、ETC识别、精密仪器预测性维护、AI工业质检等场景提供强大算力支持。

                               
登录/注册后可看大图

搭载云燧i10的浪潮边缘计算服务器NE5260M5

云燧i10是一款面向云端数据中心的高性能推理卡，单槽位标准卡，支持PCIe 4.0，FP32算力达到17.6TFLOPS，BF16/FP16算力70.4TFLOPS。云燧i10实现多用户支持，最大可支持4个设备实例，具备计算与存储资源的独享性，多用户间安全隔离；单颗芯片上可同时部署不同的业务与负载，实现多任务并行，有效提高利用率；支持KVM、Xen等系统虚拟化平台。

                               
登录/注册后可看大图

云燧i10

                               
登录/注册后可看大图

云燧i10

浪潮边缘计算服务器NE5260M5高度2U，深度只有430毫米，可部署在通信机房或直接悬挂在墙壁上。尽管该服务器体积小巧，但NE5260M5支持多种异构加速卡，并且各个模块具有良好的散热效果，能够很好适应边缘恶劣的高温湿环境。基于高度适配的软硬件组合，浪潮NE5260M5可搭载2-4张云燧i10，最多可提供高达每秒70万亿次的单精度算力和280万亿次的半精度算力，高精度主流推理模型的性能实现了业界领先，为边缘环境提供更加灵活的加速选择。

·       在计算机视觉领域中，可实时高速图像视觉处理，广泛应用于工厂AI质检、场景识别、智能交通等应用，在图像识别场景中，基于ImageNet图像数据集，超过75.9%准确率，推断性能超过3000FPS，在业界公认的基准测试模型ResNet-50上，性能是一般产品的1.7倍。在视频增强场景中，可实时进行视频分辨率增强，服务器处理性能可达240FPS，性能达到业界一般产品的2倍。

·       在自然语言处理领域中，可应用于文本分类、舆情监管、智能客服等场景，在业界公认的测试模型Bert-Base上，同时兼顾性能和精度，在FP32高精度下性能是业界一般产品的1.5倍。

·       在电商、短视频推荐场景中，可实现精准、高效、实时的目标内容投放，在业界流行的主流推荐模型xDeepFM上，性能是业界一般产品的2倍，因为采用FP32高精度的推理，推荐内容更准确。

燧原科技创始人兼COO张亚林表示：“日益丰富的边缘AI推理应用，要求在边缘实现低延迟、高吞吐量的人工智能，诸如基于不同地点之间连续的数据流实现实时感知、理解和执行。搭载了云燧i10的浪潮边缘计算服务器NE5260M5，可以为企业客户提供强大的边缘计算能力，以处理来自客户和设施交互中产生的海量原始数据，从而快速制定人工智能决策以驱动业务的更好发展。”

浪潮边缘计算事业部总经理孙波表示：“AI和5G的拉动下，AI不断向边缘场景渗透。浪潮作为全球领先的计算力提供商，目前已面向工业互联网、智能网联汽车、城市治理、工业互联网、产业+AI等七大边缘计算场景打造丰富的边缘计算产品形态及方案，基于云燧i10的浪潮边缘NE5260M5，将进一步推动AI向边缘场景的产业化落地，驱动各行业的数字化、智慧化转型。”

小碎步灬

   厉害厉害