如何将深度学习模型部署到实际工程中?(分类+检测+分割)
应用背景介绍
早在遥远的1989年,一家叫做ALVIVN的公司首次将神经网络用在汽车上,进行车道线检测和地面分割。时至今日,深度学习已经应用在自动驾驶系统的多个分支领域。首先是感知领域,常用的传感器有相机、激光雷达和毫米波雷达。深度学习利用二维图像或三维点云作为输入,对其中的障碍物进行检测、识别、分割、跟踪和测距。
Mask RCNN
M3DSSD: Monocular 3D Single Stage Object Detector
PointPillars: Fast Encoders for Object Detection from Point Clouds
其次是定位领域,自动驾驶通常需要厘米级的定位精度,这就使得传统高精地图在许多场景下不十分可靠。近年来一些方法使用在线地图学习,基于车载传感器观测,动态地构建高清地图,是一种比传统的预标注高清地图更可扩展的方式,为自动驾驶车辆提供语义和几何先验。
HDMapNet: An Online HD Map Construction and Evaluation Framework
再次是预测规划,使用深度学习方法可以更好的预测障碍物的轨迹,甚至有的方法把感知-预测结合来解决问题。
PnPNet: End-to-End Perception and Prediction with Tracking in the Loop
正因为深度学习算法在自动驾驶中的广泛应用,使得模型部署工程师炙手可热,大多数公司既要求算法工程师设计算法,又要部署移植,同时具备两项技能的人才一直是自动驾驶公司优先录取的对象,对应的薪资也是非常可观。
如何入门学习?
无论是分类、检测或分割任务,大多数深度学习算法都有对应的开源实现,通常基于python,然而如何将模型部署到C/C++工程中并没有系统的教程,导致很多童鞋停留在模型的调参与优化上,为此我们推出了国内首个面向工业级实战类教程:《自动驾驶中的深度学习模型部署实战》,一线大厂算法工程师带队,10年工程化经验,帮助大家快速进步,少走弯路。
目前大多数自动驾驶硬件平台采用英伟达的GPU方案,无论是工控机平台上,还是嵌入式平台。软件方面,Nvidia则提供了丰富的SDK来帮助开发者使用GPU,比如适用于模型部署的TensorRT,适用于数据处理的NPP和NvMedia等,还有cuDNN和cublas等基础库可供使用,甚至可使用cuda c更方便的进行扩展。本课程主要讲解如何使用TensorRT进行模型部署,以及使用NPP和cuda进行数据预处理,其中TensorRT和cuda是本课程的两个重点,cuda则是其中相对的难点。课程大纲如下:
讲师介绍
课程讲师为毕业于哈尔滨工业大学的硕士,有10年C++编程经验,2018年开始接触深度学习模型部署,2019年加入一家大型自动驾驶公司。对TensorRT和GPU并行编程有深入理解。本课程将以深度学习模型部署为主线,带领大家掌握TensorRT的使用和cuda编程。
课程亮点
本课程将采用理论和实践相结合的思路,首先对TensorRT的编程模型以及GPU/cuda的相关知识进行讲解,带领大家达到知其所以然的程度;之后课程将用分类、检测、分割三个例子来展示详细编程流程,并给出相关代码,达到真正能落地的工业级分享。
学后收获
1.能够熟悉掌握模型部署的预处理、后处理流程;
2.对TensorRT框架的整体结构有较深理解,能够实现自定义层;
3.掌握分类、检测、分割模型的部署流程,能够将产品模型部署到硬件中;
4.面向企业级的岗位技术栈要求;
课程要求和面向对象
1.计算机视觉相关方向,具备一定Python或者C/C++的编程基础;
2.需要自备GPU或网上租赁服务器;
3.对自动驾驶领域有着强烈兴趣的本科生、研究生,从事模型部署相关工作的人员。
开课时间
2021年12月11日正式开课,历时两个月,详细课表以学习群内公告为准。
课程咨询与购买
▲扫码学习课程
群号:910070197
▲课程咨询QQ群,了解更多
▲长按加客服微信,咨询更多
如何将深度学习模型部署到实际工程中?(分类+检测+分割)相关推荐
- 深度学习模型部署简要介绍
一.模型部署简介 近几年来,随着算力的不断提升和数据的不断增长,深度学习算法有了长足的发展.深度学习算法也越来越多的应用在各个领域中,比如图像处理在安防领域和自动驾驶领域的应用,再比如语音处理和自然语 ...
- 【深度学习】基于web端和C++的两种深度学习模型部署方式
深度学习 Author:louwill Machine Learning Lab 本文对深度学习两种模型部署方式进行总结和梳理.一种是基于web服务端的模型部署,一种是基于C++软件集成的方式进行部署 ...
- pytorch基于web端和C++的两种深度学习模型部署方式
本文对深度学习两种模型部署方式进行总结和梳理.一种是基于web服务端的模型部署,一种是基于C++软件集成的方式进行部署. 基于web服务端的模型部署,主要是通过REST API的形式来提供接口方便调用 ...
- 为什么将表格的method改为post后就无法工作_用Python将Keras深度学习模型部署为Web应用程序...
构建一个很棒的机器学习项目是一回事,但归根结底,你希望其他人能够看到你的辛勤工作.当然,你可以将整个项目放在GitHub上,但是怎么让你的祖父母也看到呢?我们想要的是将深度学习模型部署为世界上任何人都 ...
- 面向生产环境!深度学习模型部署资源全辑
点上方计算机视觉联盟获取更多干货 仅作学术分享,不代表本公众号立场,侵权联系删除 转载于:机器学习实验室 Author:louwill Machine Learning Lab AI博士笔记系列推 ...
- 深度学习模型部署学习一
深度学习模型部署 学习链接:模型部署入门教程(一):模型部署简介 写在前面: 本文档为学习上述链接的相关记录,基本内容一致,仅用于学习用途,若侵权请联系我删除 目 录 深度学习模型部署 1 为什么 ...
- 深度学习模型部署技术方案
深度学习模型部署技术方案 训练好的深度学习模型如何进行部署的相关技术方案 1 什么是模型部署? 2 数据科学项目整个开发流程 3 使用flask 将 Keras深度学习模型部署为Web应用程序 4 T ...
- 深度学习模型部署之模型优化
文章目录 前言 模型剪枝 MNIST 常规训练 Setup 常规训练模型 模型评估 Pruning 模型定义 训练模型 评估模型 pruning your model API prune_low_ma ...
- 【项目实战课】从零掌握安卓端Pytorch原生深度学习模型部署
欢迎大家来到我们的项目实战课,本期内容是<从零掌握安卓端Pytorch原生深度学习模型部署>.所谓项目课,就是以简单的原理回顾+详细的项目实战的模式,针对具体的某一个主题,进行代码级的实战 ...
最新文章
- ECCV 2020 Oral | 可逆图像缩放:完美恢复降采样后的高清图片
- Linux Shell脚本入门--wc命令
- python【力扣LeetCode算法题库】219 -存在重复元素 II
- TypeError: ‘method‘ object is not subscriptable
- CRTMPServer 在CentOS 64-bit下的编译(转)
- JS身份证合法性校验完全版
- 接口测试工具ApiPost 发送报 socket hangup 的解决方案
- 华为摄像头搜索软件_华为Mate 40 Pro评测:硬件和软件表现都近乎完美
- 服务器安全设置篇(珍藏补充版中)
- 单片机入门必备知识,c语言基础来了
- 课程设计每日总结0819
- 具象的东西_学完就忘?掌握科学的记忆方法,你也能成为学习高手
- html 拼图游戏,HTML5人物拼图游戏
- P1757 通天之分组背包题解
- 信号处理趣学D4——利用谐波叠加对周期方波进行逼近
- 树上差分的整理(点的树上差分和边的树上差分)
- google浏览器设置为豆沙绿
- java导出excel 序号_Java 实现导出excel表
- 电脑公司GhostXP SP3装机版V12.0
- ROS Navigation之map_server完全详解