cuda-trt 学习
https://github.com/jinmin527/learning-cuda-trt
learning-cuda-trt
- A large number of cuda/tensorrt cases
- 在这个project中,提供大量的cuda和tensorrt学习案例
- cuda驱动api
- cuda运行时api
- tensorRT基础入门
- 基本的tensorRT学习
- 插件、onnx解析器
- tensorRT高阶应用
- 导出onnx,前后处理
- 具体项目为案例,掌握如何处理复杂情况
这是一个学习cuda、tensorrt的源代码案例项目
- 大量案例,从基础的cuda驱动api、运行时api到tensorrt的基础入门、tensorrt的高级进阶
- 模型的导出、模型的前后处理等等,多线程的封装等等
- 希望能够帮助你进一步掌握tensorRT
使用方法-自行配置环境
- 案例均使用makefile作为编译工具
- 在其中以
${@CUDA_HOME}
此类带有@符号表示为特殊变量 - 替换此类特殊变量为你系统真实环境,即可顺利使用
- 在其中以
- 大部分时候,配置完毕后,可以通过
make run
实现编译运行
使用方法-自动配置环境
- 要求linux-ubuntu16.04以上系统,并配有GPU和显卡驱动大于495最佳
- 安装python包,
pip install trtpy -U -i https://pypi.org/simple
- 配置快捷方式,
echo alias trtpy=\"python -m trtpy\" >> ~/.bashrc
- 应用快捷方式:
source ~/.bashrc
- 配置key:
trtpy set-key sxaikiwik
- 获取并配置环境:
trtpy get-env --cuda=11
- 目前仅支持10和11,如果驱动版本不适配,会提示找不到适配的版本
- 自动改变配置变量:
trtpy prep-vars .
,把当前目录下的所有变量都自行替换 - 即可运行
make run
Reference
- TensorRT的B站视频讲解:https://www.bilibili.com/video/BV1Xw411f7FW
- 官方的视频讲解:https://www.bilibili.com/video/BV15Y4y1W73E
- trtpy前期介绍文档:https://zhuanlan.zhihu.com/p/462980738
- 本源代码对应配套的视频教程讲解(腾讯课堂):https://ke.qq.com/course/4993141
cuda-trt 学习相关推荐
- GPU(CUDA)学习日记(十一)------ 深入理解CUDA线程层次以及关于设置线程数的思考
GPU(CUDA)学习日记(十一)------ 深入理解CUDA线程层次以及关于设置线程数的思考 标签: cuda存储线程结构网格 2012-12-07 16:30 6298人阅读 评论(4)收藏 举 ...
- GPU(CUDA)学习日记(十三)------ CUDA内存简介
GPU(CUDA)学习日记(十三)------ CUDA内存简介 标签: cuda存储线程结构 2012-12-07 16:53 2902人阅读 评论(0)收藏 举报 分类: GPU(16) CUDA ...
- GPU(CUDA)学习日记(九)------ CUDA存储器模型
GPU(CUDA)学习日记(九)------ CUDA存储器模型 标签: cuda存储bindingcache编程api 2012-09-27 10:53 1677人阅读 评论(1) 收藏 举报 分类 ...
- VS2017 CUDA编程学习4:CUDA并行处理初探 - 向量加法实现
文章目录 前言 CUDA实现向量加法 2. 结果展示 总结 学习资料 VS2017 CUDA编程学习1:CUDA编程两变量加法运算 VS2017 CUDA编程学习2:在GPU上执行线程 VS2017 ...
- VS2017 CUDA编程学习8:线程同步-原子操作
文章目录 前言 1. 原子操作的理解 2. C++ CUDA实现原子操作 3. 执行结果 总结 学习资料 VS2017 CUDA编程学习1:CUDA编程两变量加法运算 VS2017 CUDA编程学习2 ...
- 【CUDA】学习笔记(1)JetsonNano+Ubuntu+Eclipse
最近朋友送了一个Jetson nano 2g,正好用来学习一下比较热门的异构编程.之前有些C/C++开发的经验,但对CUDA基本没有接触过,在此记录一下学习CUDA的过程和心得.既然是编程方面的学习, ...
- 查看Anaconda Tensorflow CUDA 版本 学习笔记
查看Anaconda Tensorflow CUDA 版本 学习笔记 序号 内容 1 查看Anaconda版本 2 查看Tensor flow版本 3 查看DUDA版本 一,Anaconda版本: c ...
- VS2017 CUDA编程学习11:CUDA性能测量
文章目录 前言 1. CUDA事件API 2. C++ 实现CUDA事件例子 3. CUDA事件例子的执行结果 4. NVIDIA Visual Profiler工具 总结 学习资料 VS2017 C ...
- VS2017 CUDA编程学习5:CUDA并行执行-线程
文章目录 前言 1. 线程 2. 代码实现 总结 学习资料 VS2017 CUDA编程学习1:CUDA编程两变量加法运算 VS2017 CUDA编程学习2:在GPU上执行线程 VS2017 CUDA编 ...
- Cuda编程学习(一)
使用Cuda进行GPU编程 --GPU高性能编程Cuda实战 第四章C并行编程总结 开始学习Cuda和GPU编程的相关知识啦. 感觉GPU编程会越来越重视,尤其是在移动端的计算复杂度优化方面.掌 ...
最新文章
- winform 外部组件发生异常
- 自己动手实现操作系统引导程序(OS bootloader)——借助QEMU/GDB/losetup/dd等工具
- 中国人民大学_《组织行为学》_16.重塑组织模块导论
- Windows 自动登陆的简单方法
- 实现UILabel渐变色效果
- 根据当前时间如何找到上月的第一天和最后一天?
- linux程序已经在后台运行冻结了_Linux 让程序在后台执行
- MySQL_存储过程
- 简单的控制台五子小游戏棋程序(Java)
- CSS学习总结3:CSS定位
- 机器学习—数据挖掘之灰色预测算法
- OBS直播影视使用虚拟声卡
- ldo和dcdc功耗_DCDC与LDO的区别详解
- Outlook的服务器设置中POP3协议,在outlook的服务器设置中POP3协议是指
- 【Burp Suite实战指南】【定期更新】
- QQ跳转浏览器php代码,QQ微信域名预防封禁强制跳转至浏览器打开PHP源代码下载...
- 2019学位计算机模拟试题,2019年下半年成人学位英语模拟试题1
- OA系统中如何实现合同管理?
- 海康威视2019校招
- vue手脚架生成vue项目(个人笔记)