https://github.com/jinmin527/learning-cuda-trt

learning-cuda-trt

  • A large number of cuda/tensorrt cases
  • 在这个project中,提供大量的cuda和tensorrt学习案例
  • cuda驱动api
  • cuda运行时api
  • tensorRT基础入门
    • 基本的tensorRT学习
    • 插件、onnx解析器
  • tensorRT高阶应用
    • 导出onnx,前后处理
    • 具体项目为案例,掌握如何处理复杂情况

这是一个学习cuda、tensorrt的源代码案例项目

  1. 大量案例,从基础的cuda驱动api、运行时api到tensorrt的基础入门、tensorrt的高级进阶
  2. 模型的导出、模型的前后处理等等,多线程的封装等等
  3. 希望能够帮助你进一步掌握tensorRT

使用方法-自行配置环境

  1. 案例均使用makefile作为编译工具

    • 在其中以${@CUDA_HOME}此类带有@符号表示为特殊变量
    • 替换此类特殊变量为你系统真实环境,即可顺利使用
  2. 大部分时候,配置完毕后,可以通过make run实现编译运行

使用方法-自动配置环境

  1. 要求linux-ubuntu16.04以上系统,并配有GPU和显卡驱动大于495最佳
  2. 安装python包,pip install trtpy -U -i https://pypi.org/simple
  3. 配置快捷方式,echo alias trtpy=\"python -m trtpy\" >> ~/.bashrc
  4. 应用快捷方式:source ~/.bashrc
  5. 配置key:trtpy set-key sxaikiwik
  6. 获取并配置环境:trtpy get-env --cuda=11
    • 目前仅支持10和11,如果驱动版本不适配,会提示找不到适配的版本
  7. 自动改变配置变量:trtpy prep-vars .,把当前目录下的所有变量都自行替换
  8. 即可运行make run

Reference

  • TensorRT的B站视频讲解:https://www.bilibili.com/video/BV1Xw411f7FW
  • 官方的视频讲解:https://www.bilibili.com/video/BV15Y4y1W73E
  • trtpy前期介绍文档:https://zhuanlan.zhihu.com/p/462980738
  • 本源代码对应配套的视频教程讲解(腾讯课堂):https://ke.qq.com/course/4993141

cuda-trt 学习相关推荐

  1. GPU(CUDA)学习日记(十一)------ 深入理解CUDA线程层次以及关于设置线程数的思考

    GPU(CUDA)学习日记(十一)------ 深入理解CUDA线程层次以及关于设置线程数的思考 标签: cuda存储线程结构网格 2012-12-07 16:30 6298人阅读 评论(4)收藏 举 ...

  2. GPU(CUDA)学习日记(十三)------ CUDA内存简介

    GPU(CUDA)学习日记(十三)------ CUDA内存简介 标签: cuda存储线程结构 2012-12-07 16:53 2902人阅读 评论(0)收藏 举报 分类: GPU(16) CUDA ...

  3. GPU(CUDA)学习日记(九)------ CUDA存储器模型

    GPU(CUDA)学习日记(九)------ CUDA存储器模型 标签: cuda存储bindingcache编程api 2012-09-27 10:53 1677人阅读 评论(1) 收藏 举报 分类 ...

  4. VS2017 CUDA编程学习4:CUDA并行处理初探 - 向量加法实现

    文章目录 前言 CUDA实现向量加法 2. 结果展示 总结 学习资料 VS2017 CUDA编程学习1:CUDA编程两变量加法运算 VS2017 CUDA编程学习2:在GPU上执行线程 VS2017 ...

  5. VS2017 CUDA编程学习8:线程同步-原子操作

    文章目录 前言 1. 原子操作的理解 2. C++ CUDA实现原子操作 3. 执行结果 总结 学习资料 VS2017 CUDA编程学习1:CUDA编程两变量加法运算 VS2017 CUDA编程学习2 ...

  6. 【CUDA】学习笔记(1)JetsonNano+Ubuntu+Eclipse

    最近朋友送了一个Jetson nano 2g,正好用来学习一下比较热门的异构编程.之前有些C/C++开发的经验,但对CUDA基本没有接触过,在此记录一下学习CUDA的过程和心得.既然是编程方面的学习, ...

  7. 查看Anaconda Tensorflow CUDA 版本 学习笔记

    查看Anaconda Tensorflow CUDA 版本 学习笔记 序号 内容 1 查看Anaconda版本 2 查看Tensor flow版本 3 查看DUDA版本 一,Anaconda版本: c ...

  8. VS2017 CUDA编程学习11:CUDA性能测量

    文章目录 前言 1. CUDA事件API 2. C++ 实现CUDA事件例子 3. CUDA事件例子的执行结果 4. NVIDIA Visual Profiler工具 总结 学习资料 VS2017 C ...

  9. VS2017 CUDA编程学习5:CUDA并行执行-线程

    文章目录 前言 1. 线程 2. 代码实现 总结 学习资料 VS2017 CUDA编程学习1:CUDA编程两变量加法运算 VS2017 CUDA编程学习2:在GPU上执行线程 VS2017 CUDA编 ...

  10. Cuda编程学习(一)

    使用Cuda进行GPU编程 --GPU高性能编程Cuda实战    第四章C并行编程总结 开始学习Cuda和GPU编程的相关知识啦. 感觉GPU编程会越来越重视,尤其是在移动端的计算复杂度优化方面.掌 ...

最新文章

  1. winform 外部组件发生异常
  2. 自己动手实现操作系统引导程序(OS bootloader)——借助QEMU/GDB/losetup/dd等工具
  3. 中国人民大学_《组织行为学》_16.重塑组织模块导论
  4. Windows 自动登陆的简单方法
  5. 实现UILabel渐变色效果
  6. 根据当前时间如何找到上月的第一天和最后一天?
  7. linux程序已经在后台运行冻结了_Linux 让程序在后台执行
  8. MySQL_存储过程
  9. 简单的控制台五子小游戏棋程序(Java)
  10. CSS学习总结3:CSS定位
  11. 机器学习—数据挖掘之灰色预测算法
  12. OBS直播影视使用虚拟声卡
  13. ldo和dcdc功耗_DCDC与LDO的区别详解
  14. Outlook的服务器设置中POP3协议,在outlook的服务器设置中POP3协议是指
  15. 【Burp Suite实战指南】【定期更新】
  16. QQ跳转浏览器php代码,QQ微信域名预防封禁强制跳转至浏览器打开PHP源代码下载...
  17. 2019学位计算机模拟试题,2019年下半年成人学位英语模拟试题1
  18. OA系统中如何实现合同管理?
  19. 海康威视2019校招
  20. vue手脚架生成vue项目(个人笔记)

热门文章

  1. IDEA热部署JRebel 插件
  2. 又想起Solaris
  3. 刚入门学单片机都想知道的,单片机会不会淘汰,难学吗,单片机是不是落伍了,不会模拟电路能不能学单片机,如何尽快学会单片机
  4. Redash -- Redash问题排查
  5. 走进“开源SDR实验室” 一起玩转GNU Radio:LoRa实验
  6. 使用Visdom可视化工具初体验
  7. 物联网开发用java还是python-物联网项目的编程语言有哪些?
  8. 从斗鱼顶级女主播来思考直播间画面的布局
  9. 翼状胬肉复发风险大?选择合适手术方法可降低风险!
  10. MySQL-03-索引