前言

欢迎大家关注有三AI的视频课程系列，我们的视频课程系列共分为5层境界，内容和学习路线图如下：

第1层：掌握学习算法必要的预备知识，包括Python编程，深度学习基础，数据使用，框架使用。

第2层：掌握CV算法最底层的能力，包括模型设计基础，图像分类。

第3层：掌握CV算法最核心的方向，包括图像分割，目标检测，图像生成，目标跟踪。

第4层：掌握CV算法最核心的应用，包括人脸图像，图像质量，视频分析，图像编辑。

第5层：掌握算法落地的关键技术，包括模型优化，模型部署。

其中部分课程的主体内容已经更新完毕，比如数据使用/图像分类/图像分割/目标检测/图像生成/视频分类/模型部署；部分课程正在重制更新中，比如模型优化，部分课程正在计划上线中，比如图像编辑，请大家及时关注！

本次给大家介绍的课程内容是《深度学习之模型部署》中的部分内容，即NCNN模型部署，目标是帮助大家掌握NCNN工具的基本使用。

为什么要学习这门课

在深度学习模型的落地场景中，嵌入式平台占比非常大，诸如手机等各类移动端设备，车载设备。嵌入式系统的应用场合大多对可靠性、实时性有较高要求，因此我们进行模型部署的时候，需要有更加轻量级的部署工具。

当前模型部署工具非常多，包括NCNN，MNN，Tengine等，我们前面已经介绍过MNN与Tegnine，本次我们介绍的是NCNN，这是由腾讯优图实验室推出的为手机端极致优化的高性能神经网络前向计算框架。

NCNN支持主流的平台和常见的视觉任务，涵盖了模型的加载解析，格式转换，在多种架构的芯片上高效运行，具有以下特点：

• 支持卷积神经网络，支持多输入和多分支结构，可计算部分分支

• 无任何第三方库依赖，不依赖 BLAS/NNPACK 等计算框架

• 纯 C++ 实现，跨平台，支持 android ios 等

• ARM NEON 汇编级良心优化，计算速度极快

• 精细的内存管理和数据结构设计，内存占用极低

• 支持多核并行计算加速，ARM big.LITTLE cpu 调度优化

• 支持基于全新低消耗的 vulkan api GPU 加速

• 可扩展的模型设计，支持 8bit 量化和半精度浮点存储

• 支持caffe/pytorch/mxnet/onnx/darknet/keras/tensorflow(mlir)模型

• 支持直接内存零拷贝引用加载网络模型

• 可注册自定义层实现并扩展

本次课程，我们就介绍NCNN的基本使用。

课程内容介绍

本课程内容包括NCNN框架介绍和模型部署，并附带完整的工程代码：

(1) NCNN框架介绍。介绍的内容主要包括NCNN框架特点，环境配置。

(2) Tengine模型部署。介绍的内容主要包括模型格式转换，NCNN推理案例实现与代码解析。

《深度学习之模型部署》的其他课程内容还包括：

(1) 模型部署基础。讲解模型部署的流程与常见的方式，约10分钟，本小节内容可以免费收听。

(2) Tengine嵌入式平台部署。Tengine涵盖了模型的加载解析，格式转换，计算图的调度和优化，在多种架构的芯片上高效运行，具有通用，开放，高性能等特点，本部分课程讲解Tengine框架介绍和模型部署，并附带完整的工程代码，约40分钟。

(3) 微信小程序部署。部署到线上现在最轻便且最方便传播的当属微信小程序了，微信小程序依托于微信，不需要下载安装即可使用，本课程内容包括微信小程序部署服务端开发与前端开发的内容，并附带完整的工程代码，约70分钟。

(4) TensorRT模型优化与部署，TensorRT是一个高性能的深度学习推理（Inference）优化器，可以为深度学习应用提供低延迟、高吞吐率的部署推理。本部分课程内容主要包含Tensorrt入门、环境配置与安装、Python/C++接口网络加速实战等，约90分钟。

(5) Android部署，介绍MNN框架的编译安装，模型转化与量化加速、手机端部署实例3个部分，约60分钟。

完整的课程内容可见脑图：

本课程讲师为言有三，讲师简介如下：

言有三

龙鹏，笔名言有三，技术社区《有三AI》创始人。先后就读于华中科技大学(2008-2012)，中国科学院半导体研究所神经网络实验室(2012-2015)，先后就职于奇虎360人工智能研究院(2015.7-2017.5)，陌陌科技深度学习实验室(2017.5-2019.3)，深度学习算法专家，阿里云MVP，华为云MVP。

拥有超过7年的计算机视觉从业经验，拥有丰富的传统图像算法和深度学习计算机视觉项目经验，著有书籍《深度学习之图像识别：核心技术与案例实战》(机械工业出版社2019.4)，《深度学习之模型设计：核心算法与案例实践》(电子工业出版社2020.6)，《深度学习之人脸图像处理：核心算法与案例实战》(机械工业出版社2020.7)，《深度学习之摄影图像处理：核心算法与案例精粹》(人民邮电出版社2021.4)，拥有10余项发明技术专利与学术论文。

擅长领域：Caffe，Tensorflow，Pytorch等主流深度学习平台。神经网络与深度学习理论，深度学习模型设计与优化，计算机视觉的基础领域，AI美学，2D与3D人脸算法，生成对抗网络GAN等领域。

本课程特色与适合人群

本课程是模型部署课程的其中一部分，属于有三AI整个课程体系中的高阶课程，对大家的能力有一些要求，包括：

(1) 掌握深度学习模型训练与推理能力。包括Pytorch/Tensorflow/Caffe，CNN模型设计，CV基础方向。

(2) 熟练使用Linux，Python与C++编程语言。

本课程适合人群：

(1) 所有学习人工智能/深度学习算法，并有志于从事该领域的人员。

(2) 从事深度学习模型技术应用落地的技术人员。

(3) 对模型的部署落地感兴趣，希望增加自己项目经验的技术人员。

如何获取课程

订阅本课程的方法有两个：

其一：订阅有三AI-CV秋季划模型优化组，可以获得深度学习模型设计与优化相关的所有内容，模型优化组季划介绍如下：

有三AI计算机视觉学习季划

有三AI季划是我们推出的终身计算机视觉培养计划，有三作为主要导师直接带领，囊括答疑，微信群交流，线下活动，多本自写的书籍，图文课件与代码，直播与直播，知识星球社区，内容组与研发组权限，了解详细请阅读以下文章：

【CV秋季划】模型优化很重要，如何循序渐进地学习好？

其二：单独订阅《深度学习之模型部署》视频专栏，本专栏定价为399，聚焦于深度学习模型部署落地相关内容，包括但不限于安卓移动端部署(基于MNN)，微信小程序部署(基于Pytorch，Flask等)，服务端部署(基于TensorRT，ONNX)，嵌入式平台部署(基于Tengine等)，通用模型部署(基于NCNN)，最新如下：

【视频课】一课掌握常见深度学习模型部署平台与框架(从Android到小程序，MNN到TensortRT)！

该专栏课程的完整目录如下：

往期相关

• 【视频课】超全深度学习路线图，有三AI所有免费与付费的视频课程内容汇总！