OpenPPL 是商汤基于自研高性能算子库的开源深度学习推理平台,能够让人工智能应用高效可靠地运行在现有的 CPU、GPU 等计算平台上,为云端场景提供人工智能推理服务。
官网:openppl.ai
在刚刚举行的 2021 世界人工智能大会(WAIC)上,商汤科技正式推出 OpenPPL 计划 —— 决定将深度学习推理部署引擎 SensePPL 中云端推理的能力开源给技术社区,从而加速 AI 技术的普及与进步!
▎把推理交给 OpenPPL,把时间还给思考
OpenPPL 基于全自研高性能算子库,拥有极致调优的性能;同时提供云原生环境下的 AI 模型多后端部署能力,并支持 OpenMMLab 等深度学习模型的高效部署。
一、高性能
设计微架构友好的任务/数据/指令等多级并行策略,自研 NV GPU、 x86 CPU 计算库,满足部署场景对神经网络推理、常用图像处理的性能需求
- 支持 GPU T4 平台 FP16 推理
- 支持 CPU x86 平台 FP32 推理
- 核心算子优化,平均性能领先业界
二、OpenMMLab 部署
支持 OpenMMLab 检测、分类、分割、超分等系列前沿模型,同时提供模型前后处理所需图像处理算子
- 遵循 ONNX 开放标准,提供 ONNX 转换支持
- 支持网络动态特性
- 提供 MMCV 算子高性能实现
三、云上多后端部署
面向云端异构推理场景,支持多平台部署
- 支持 x86 FMA & AVX512、NV Turing 架构
- 支持异构设备并行推理
▎项目链接
欢迎 star,欢迎提 issue~
???? Contact us: OpenPPL
▎结语
机器学习的发展远没有结束,我们将始终关注业界的进展。OpenPPL 会吸收业界的需求,长期维护并完善算子的种类,模型支持的类型,并将长期优化模型推理全链条。