在ubuntu 20.04 上安装 onnxruntime CUDA

onnxruntime 可以加速模型的部署，同时可以跨框架，例如
源码项目位置：https://github.com/microsoft/onnxruntime

里面有一些依赖，这里直接打包，提供百度网盘的下载：

链接：https://pan.baidu.com/s/1sTryvfX0sLKIoHm8aMm4Sg
提取码：be9o

解压后：
执行命令：

git  initgit submodule syncgit submodule update --init --recursive

1.然后进行编译：使用CUDA

./build.sh --skip_tests --use_cuda --config Release --build_shared_lib --parallel --cuda_home /usr/local/cuda --cudnn_home /usr/local/cuda

2.如果不使用CUDA，用默认的CPU

./build.sh --skip_tests  --config Release --build_shared_lib --parallel

3.使用TensorRT:

./build.sh --build_shared_lib --skip_tests --config Release --use_cuda --cudnn_home /usr/local/cuda/ --cuda_home /usr/local/cuda  --use_tensorrt --tensorrt_home /home/TensorRT-version/

安装成功。

因为微软没用提供find_package()的用法，所以这里CMAKE写法：

#onnxruntime
set(ONNXRUNTIME_ROOT_PATH your_path_to_onnxruntime_source_dir)
set(ONNXRUNTIME_INCLUDE_DIRS ${ONNXRUNTIME_ROOT_PATH}/include/onnxruntime${ONNXRUNTIME_ROOT_PATH}/onnxruntime${ONNXRUNTIME_ROOT_PATH}/include/onnxruntime/core/session/)
set(ONNXRUNTIME_LIB ${ONNXRUNTIME_ROOT_PATH}/build/Linux/Release/libonnxruntime.so)
include_directories(${ONNXRUNTIME_INCLUDE_DIRS})
target_link_libraries(${PROJECT_NAME} ${ONNXRUNTIME_LIB})

在C++里面头文件：

#include <core/session/onnxruntime_cxx_api.h>
#include <core/providers/cuda/cuda_provider_factory.h>
#include <core/session/onnxruntime_c_api.h>

另外可以编译tensorRT版本的，加速模型推理。

在ubuntu 20.04 上安装 onnxruntime CUDA相关推荐

Ubuntu 20.04上安装Git方法
Git是世界上最受欢迎的分布式版本控制系统,被许多开源和商业项目使用.它使您可以与其他开发人员在项目上进行协作,跟踪代码更改,还原到上一阶段,创建分支等. Git最初是由Linux内核的创建者Linu ...
ubuntu使用fail2ban_如何在Ubuntu 20.04上安装和配置Fail2ban
暴露给Internet的任何服务都有遭受恶意软件攻击的风险. 例如,如果您在可公开访问的网络上运行服务,则攻击者可以使用暴力手段尝试登录您的帐户. Fail2ban是一种工具,可通过监视服务日志中的恶 ...
ubuntu19 安装git_如何在Ubuntu 20.04上安装Git
Git是世界上最受欢迎的分布式版本控制系统,被许多开源和商业项目使用.它使您可以与其他开发人员在项目上进行协作,跟踪代码更改,还原到上一阶段,创建分支等. Git最初是由Linux内核的创建者Linu ...
ubuntu linux安装控制面板,在Ubuntu 20.04上安装Ajenti控制面板的方法
本文介绍在Ubuntu 20.04服务器上安装Ajenti控制面板的方法,下面介绍的安装方法最大的好处是它完全自动化的. 一.更新Ubuntu 20.04系统确保您正在全新安装Ubuntu 20.0 ...
go 写文件_如何在 Ubuntu 20.04 上安装 Go
本文最先发布在: 如何在 Ubuntu 20.04 上安装 Gowww.itcoder.tech Go,通常被称为 golang,它是一门由 Google 创建的现代化的开源编程语言,它允许你构建实 ...
ubuntu安装ftp_如何在 Ubuntu 20.04 上安装 Webmin
本文最先发布在: 如何在 Ubuntu 20.04 上安装 Webminwww.itcoder.tech Webmin 是一个开源控制面板,它允许你通过简单易用的 Web 界面,就可以管理你的 Li ...
如何在Ubuntu 20.04 上安装 Xrdp 服务器（远程桌面）
本文最先发布在: https://www.itcoder.tech/posts/how-to-install-xrdp-on-ubuntu-20-04/ Xrdp 是一个微软远程桌面协议(RDP)的开 ...
如何在 Ubuntu 20.04 上安装 Java
本文最先发布地址如何在 Ubuntu 20.04 上安装 Java 在这个指南中,我们将会描述如何在 Ubuntu 20.04 上安装 Java. Java 是世界上最流行的编程语言之一,被用来构建 ...
ubuntu安装python百度经验_如何在Ubuntu 20.04上安装Python 3.9（含python编译安装和使用Apt命令安装）...
在本文中,我们将向您展示在Ubuntu 20.04上安装Python 3.9的两种方法.第一种使用APT命令安装Python3.9,第二种是在Ubuntu20.04上编译安装Python 3.9.本教 ...
Ubuntu 20.04 上安装 TeamViewer
本人实测,使用teamviewer,windows和ubuntu两端都可以实现远程控制和文件传输,只需要对应电脑下载好对应版本,安装即可. teamviewer官网下载地址:https://www.t ...

在ubuntu 20.04 上安装 onnxruntime CUDA

在ubuntu 20.04 上安装 onnxruntime CUDA相关推荐

最新文章

热门文章

在ubuntu 20.04 上 安装 onnxruntime CUDA

在ubuntu 20.04 上 安装 onnxruntime CUDA相关推荐

最新文章

热门文章

在ubuntu 20.04 上安装 onnxruntime CUDA

在ubuntu 20.04 上安装 onnxruntime CUDA相关推荐