基于TensorRT的深度学习模型部署实战教程!
应用背景介绍
早在遥远的1989年,一家叫做ALVIVN的公司首次将神经网络用在汽车上,进行车道线检测和地面分割。时至今日,深度学习已经应用在自动驾驶系统的多个分支领域。首先是感知领域,常用的传感器有相机、激光雷达和毫米波雷达。深度学习利用二维图像或三维点云作为输入,对其中的障碍物进行检测、识别、分割、跟踪和测距。
Mask RCNN
M3DSSD: Monocular 3D Single Stage Object Detector
PointPillars: Fast Encoders for Object Detection from Point Clouds
其次是定位领域,自动驾驶通常需要厘米级的定位精度,这就使得传统高精地图在许多场景下不十分可靠。近年来一些方法使用在线地图学习,基于车载传感器观测,动态地构建高清地图,是一种比传统的预标注高清地图更可扩展的方式,为自动驾驶车辆提供语义和几何先验。
HDMapNet: An Online HD Map Construction and Evaluation Framework
再次是预测规划,使用深度学习方法可以更好的预测障碍物的轨迹,甚至有的方法把感知-预测结合来解决问题。
PnPNet: End-to-End Perception and Prediction with Tracking in the Loop
正因为深度学习算法在自动驾驶中的广泛应用,使得模型部署工程师炙手可热,大多数公司既要求算法工程师设计算法,又要部署移植,同时具备两项技能的人才一直是自动驾驶公司优先录取的对象,对应的薪资也是非常可观。
如何入门学习?
无论是分类、检测或分割任务,大多数深度学习算法都有对应的开源实现,通常基于python,然而如何将模型部署到C/C++工程中并没有系统的教程,导致很多童鞋停留在模型的调参与优化上,为此我们推出了国内首个面向工业级实战类教程:《自动驾驶中的深度学习模型部署实战》,一线大厂算法工程师带队,10年工程化经验,帮助大家快速进步,少走弯路。
目前大多数自动驾驶硬件平台采用英伟达的GPU方案,无论是工控机平台上,还是嵌入式平台。软件方面,Nvidia则提供了丰富的SDK来帮助开发者使用GPU,比如适用于模型部署的TensorRT,适用于数据处理的NPP和NvMedia等,还有cuDNN和cublas等基础库可供使用,甚至可使用cuda c更方便的进行扩展。本课程主要讲解如何使用TensorRT进行模型部署,以及使用NPP和cuda进行数据预处理,其中TensorRT和cuda是本课程的两个重点,cuda则是其中相对的难点。课程大纲如下:
讲师介绍
课程讲师为毕业于哈尔滨工业大学的硕士,有10年C++编程经验,2018年开始接触深度学习模型部署,2019年加入一家大型自动驾驶公司。对TensorRT和GPU并行编程有深入理解。本课程将以深度学习模型部署为主线,带领大家掌握TensorRT的使用和cuda编程。
课程亮点
本课程将采用理论和实践相结合的思路,首先对TensorRT的编程模型以及GPU/cuda的相关知识进行讲解,带领大家达到知其所以然的程度;之后课程将用分类、检测、分割三个例子来展示详细编程流程,并给出相关代码,达到真正能落地的工业级分享。
学后收获
1.能够熟悉掌握模型部署的预处理、后处理流程;
2.对TensorRT框架的整体结构有较深理解,能够实现自定义层;
3.掌握分类、检测、分割模型的部署流程,能够将产品模型部署到硬件中;
4.面向企业级的岗位技术栈要求;
课程要求和面向对象
1.计算机视觉相关方向,具备一定Python或者C/C++的编程基础;
2.需要自备GPU或网上租赁服务器;
3.对自动驾驶领域有着强烈兴趣的本科生、研究生,从事模型部署相关工作的人员。
开课时间
2021年12月11日正式开课,历时两个月,详细课表以学习群内公告为准。
课程咨询与购买
▲扫码学习课程
群号:910070197
▲课程咨询QQ群,了解更多
▲长按加客服微信,咨询更多
基于TensorRT的深度学习模型部署实战教程!相关推荐
- 基于web端和C++的两种深度学习模型部署方式
深度学习Author:louwillMachine Learning Lab 本文对深度学习两种模型部署方式进行总结和梳理.一种是基于web服务端的模型部署,一种是基... 深度学习 Author:l ...
- 【深度学习】基于web端和C++的两种深度学习模型部署方式
深度学习 Author:louwill Machine Learning Lab 本文对深度学习两种模型部署方式进行总结和梳理.一种是基于web服务端的模型部署,一种是基于C++软件集成的方式进行部署 ...
- pytorch基于web端和C++的两种深度学习模型部署方式
本文对深度学习两种模型部署方式进行总结和梳理.一种是基于web服务端的模型部署,一种是基于C++软件集成的方式进行部署. 基于web服务端的模型部署,主要是通过REST API的形式来提供接口方便调用 ...
- 深度学习模型部署简要介绍
一.模型部署简介 近几年来,随着算力的不断提升和数据的不断增长,深度学习算法有了长足的发展.深度学习算法也越来越多的应用在各个领域中,比如图像处理在安防领域和自动驾驶领域的应用,再比如语音处理和自然语 ...
- 如何将深度学习模型部署到实际工程中?(分类+检测+分割)
应用背景介绍 早在遥远的1989年,一家叫做ALVIVN的公司首次将神经网络用在汽车上,进行车道线检测和地面分割.时至今日,深度学习已经应用在自动驾驶系统的多个分支领域.首先是感知领域,常用的传感器有 ...
- 【项目实战课】从零掌握安卓端Pytorch原生深度学习模型部署
欢迎大家来到我们的项目实战课,本期内容是<从零掌握安卓端Pytorch原生深度学习模型部署>.所谓项目课,就是以简单的原理回顾+详细的项目实战的模式,针对具体的某一个主题,进行代码级的实战 ...
- 基于web端的深度学习模型部署
1.1 web服务与技术框架 下面以ResNet50预训练模型为例,旨在展示一个轻量级的深度学习模型部署,写一个较为简单的图像分类的REST API.主要技术框架为Keras+Flask+Redis. ...
- 深度学习模型部署之模型优化
文章目录 前言 模型剪枝 MNIST 常规训练 Setup 常规训练模型 模型评估 Pruning 模型定义 训练模型 评估模型 pruning your model API prune_low_ma ...
- 深度学习模型部署技术方案
深度学习模型部署技术方案 训练好的深度学习模型如何进行部署的相关技术方案 1 什么是模型部署? 2 数据科学项目整个开发流程 3 使用flask 将 Keras深度学习模型部署为Web应用程序 4 T ...
最新文章
- R语言循环中break函数和next函数使用实战
- 系统集成项目管理工程师教程(第2版)带书签目录
- java url 上传文件_Java使用HttpURLConnection上传文件(转)
- 产生数(Floyd)
- [深度学习] AutoDis --- KDD2021 连续特征的Embedding学习框架
- win系统如何连接共享服务器,window7 pro 访问局域网内共享服务器
- 服务器传文件的工具,向服务器传文件的工具
- python ndimage_Python ndimage.zoom方法代码示例
- coreldraw sp2精简版 x4_CorelDRAW X4下载-CorelDRAW X4 SP2 精简版_Win10镜像官网
- 拟合函数,偏差和方差
- ae效果英文版翻译对照表_AE特效中英名字对照表
- RestClient操作文档
- linux 实验感悟_linux实验感想
- linux ogv格式转换,使用OGV转换将OGV转换为Linux中的AVI | MOS86
- OSChina 周四乱弹 —— 月中发工资还没到家……
- 漫画喵的100行Python代码逆袭
- Android仿微信头像放大效果
- XAMARIN.ANDROID的安装
- word保存html格式批注没有了,word批注框里字体消失的解决办法
- vr虚拟现实技术前景怎么样?虚拟展示技术应用介绍
热门文章
- 计算机未响应硬盘,怎么处理电脑硬盘未响应
- 通信原理复习笔记(EEEN3005J Communication Theory)(10)
- 如何在Centos8系统打开openVPN服务?
- vue中$bus的用法及$emit、$on、$off的使用
- c4d学习笔记1 简单建模
- Pythoch 中的state_dict() 和 load_state_dict()
- 战地2服务器怎么虚拟人数,战地2 BOT(AI)人数调整教程
- C# 之 FileStream类介绍
- c4d python sdk_C4D脚本自动接口完成脚本 Python Cinema 4D API auto completion (fake package)
- pe系统怎么删除服务器密码,win10系统怎么用pe删除系统开机密码