Skip to content

Latest commit

 

History

History
374 lines (324 loc) · 16.3 KB

README_zh-CN.md

File metadata and controls

374 lines (324 loc) · 16.3 KB
Raw
 
OpenMMLab 官网 HOT      OpenMMLab 开放平台 TRY IT OUT
 

docs badge codecov license issue resolution open issues

English | 简体中文

MMDeploy 1.x 版本

全新的 MMDeploy 1.x 已发布，该版本适配OpenMMLab 2.0 生态体系，使用时务必对齐版本。 MMDeploy 代码库默认分支从master切换至main。 MMDeploy 0.x (master)将逐步废弃，新特性将只添加到 MMDeploy 1.x (main)。

mmdeploy mmengine mmcv mmdet mmpretrain and others
0.x.y - <=1.x.y <=2.x.y 0.x.y
1.x.y 0.x.y 2.x.y 3.x.y 1.x.y

硬件模型库 使用 MMDeploy 1.x 版本转换了 2300 个 onnx/ncnn/trt/openvino 模型，可免费搜索下载。系统内置真实的服务端/嵌入式硬件，用户可以在线完成模型转和速度测试。

介绍

MMDeploy 是 OpenMMLab 模型部署工具箱，为各算法库提供统一的部署体验。基于 MMDeploy，开发者可以轻松从训练 repo 生成指定硬件所需 SDK，省去大量适配时间。

架构简析

特性简介

支持超多 OpenMMLab 算法库

支持多种推理后端

支持的设备平台和推理引擎如下表所示。benchmark请参考这里

Device /
Platform		 Linux Windows macOS Android
x86_64
CPU		 onnxruntime
pplnn
ncnn
LibTorch
OpenVINO
TVM
onnxruntime
OpenVINO
ncnn
- -
ARM
CPU		 ncnn
- - ncnn
RISC-V ncnn
- - -
NVIDIA
GPU		 onnxruntime
TensorRT
LibTorch
pplnn
onnxruntime
TensorRT
- -
NVIDIA
Jetson		 TensorRT
- - -
Huawei
ascend310		 CANN
- - -
Rockchip RKNN
- - -
Apple M1 - - CoreML
-
Adreno
GPU		 - - - SNPE
ncnn
Hexagon
DSP		 - - - SNPE

SDK 可高度定制化

  • Transform 数据预处理
  • Net 推理
  • Module 后处理

中文文档

新人解说

基准与模型库

基准和支持的模型列表可以在基准和模型列表中获得。

贡献指南

我们感谢所有的贡献者为改进和提升 MMDeploy 所作出的努力。请参考贡献指南来了解参与项目贡献的相关指引。

致谢

  • OpenPPL: 高性能推理框架底层库
  • OpenVINO: AI 推理优化和部署框架
  • ncnn: 为手机端极致优化的高性能神经网络前向计算框架

引用

如果您在研究中使用了本项目的代码或者性能基准，请参考如下 bibtex 引用 MMDeploy:

@misc{=mmdeploy,
    title={OpenMMLab's Model Deployment Toolbox.},
    author={MMDeploy Contributors},
    howpublished = {\url{https://github.com/open-mmlab/mmdeploy}},
    year={2021}
}

开源许可证

该项目采用 Apache 2.0 开源许可证。

OpenMMLab 的其他项目

  • MMEngine: OpenMMLab 深度学习模型训练基础库
  • MMCV: OpenMMLab 计算机视觉基础库
  • MMPretrain: OpenMMLab 深度学习预训练工具箱
  • MMagic: OpenMMLab 新一代人工智能内容生成（AIGC）工具箱
  • MMDetection: OpenMMLab 目标检测工具箱
  • MMDetection3D: OpenMMLab 新一代通用 3D 目标检测平台
  • MMYOLO: OpenMMLab YOLO 系列工具箱和基准测试
  • MMRotate: OpenMMLab 旋转框检测工具箱与测试基准
  • MMTracking: OpenMMLab 一体化视频目标感知平台
  • MMSegmentation: OpenMMLab 语义分割工具箱
  • MMOCR: OpenMMLab 全流程文字检测识别理解工具包
  • MMPose: OpenMMLab 姿态估计工具箱
  • MMHuman3D: OpenMMLab 人体参数化模型工具箱与测试基准
  • MMFewShot: OpenMMLab 少样本学习工具箱与测试基准
  • MMAction2: OpenMMLab 新一代视频理解工具箱
  • MMFlow: OpenMMLab 光流估计工具箱与测试基准
  • MMDeploy: OpenMMLab 模型部署框架
  • MMRazor: OpenMMLab 模型压缩工具箱与测试基准
  • MIM: OpenMMlab 项目、算法、模型的统一入口
  • Playground: 收集和展示 OpenMMLab 相关的前沿、有趣的社区项目

欢迎加入 OpenMMLab 社区

扫描下方的二维码可关注 OpenMMLab 团队的 知乎官方账号，扫描下方微信二维码添加喵喵好友，进入 MMDeploy 微信交流社群。【加好友申请格式：研究方向+地区+学校/公司+姓名】

我们会在 OpenMMLab 社区为大家

  • 📢 分享 AI 框架的前沿核心技术
  • 💻 解读 PyTorch 常用模块源码
  • 📰 发布 OpenMMLab 的相关新闻
  • 🚀 介绍 OpenMMLab 开发的前沿算法
  • 🏃 获取更高效的问题答疑和意见反馈
  • 🔥 提供与各行各业开发者充分交流的平台

干货满满 📘，等您来撩 💗，OpenMMLab 社区期待您的加入 👬