win10 c++调用pytorch模型

1.pytorch模型生成pt模型

"""Export a pth model to TorchScript formatsimport time
import torch
import torch.nn as nn
from torch.utils.mobile_optimizer import optimize_for_mobile
from model.model import parsingNetdef main():net=“测试代码中调用模型的代码”state_dict = torch.load("./model/ep099.pth", map_location='cpu')['model']net.load_state_dict(compatible_state_dict, strict=False)net.eval()# An example input you would normally provide to your model's forward() method.example = torch.rand(1,3,288,800).cuda()# Use torch.jit.trace to generate a torch.jit.ScriptModule via tracing.traced_script_module = torch.jit.trace(net, example)output = traced_script_module(torch.ones(1,3,288,800).cuda())traced_script_module.save("./model/best.pt")# The traced ScriptModule can now be evaluated identically to a regular PyTorch moduleprint(output)if __name__ == "__main__":main()

2. vs2019下配置libtorch

注意libtorch版本和训练模型的pytorch版本一致

3. 使用c++调用pytorch模型

#include <torch/script.h>
#include <iostream>int main(void)
{torch::jit::script::Module module = torch::jit::load("best.pt");assert(module != nullptr);std::cout << "Model is loaded!" << std::endl;// Create a vector of inputs.std::vector<torch::jit::IValue> inputs;inputs.push_back(torch::ones({ 1, 3, 288, 800 }).cuda());// Execute the model and turn its output into a tensor.at::Tensor result = module.forward(inputs).toTensor();std::cout << result << std::endl;system("pause");return 0;
}

win10 c++调用pytorch模型相关推荐

C++调用PyTorch模型：LibTorch
转载的文章,挺不错,学习一下! LibTorch学习笔记(一) 前天由于某些原因需要利用C++调用PyTorch,于是接触到了LibTorch,配了两天最终有了一定的效果,于是记录一下. 环境 PyT ...
Java调用Pytorch模型进行图像识别
之前写了个输入是1x2向量的模型的调用文章,后来有了个需要用到图像识别的项目,因此写下此文记录一下在java中如何借助DJL调用自己写的pytorch模型进行图像识别. 官网例子我具体模型用的什么模 ...
libtorch 调用pytorch模型
我测试的速度没有提升 int main(int argc, const char* argv[]) {//size_t len = url.length();//获取字符串长度char sBuf[10 ...
Java调用Pytorch实现以图搜图（附源码）
Java调用Pytorch实现以图搜图设计技术栈: 1.ElasticSearch环境: 2.Python运行环境(如果事先没有pytorch模型时,可以用python脚本创建模型): 1.运行效果 ...
[LibTorch] C++ 调用 PyTorch 导出的模型
参考文章 C++部署pytorch模型利用LibTorch部署PyTorch模型官方文档问题 pytorch 的神经网络模型有很多,但 libtorch 就特别少.现在面临的问题是要在 C++ ...
利用C++调用PyTorch的模型
背景 PyTorch的主要接口是Python语言.虽然Python是许多需要动态和易于迭代的场景的首选语言,但同样有很多情况下,Python的这些属性恰好是不利的.在生产环境中,需要保证低延迟和其它严 ...
PyTorch模型部署：pth转onnx跨框架部署详解+代码
文章目录引言基础概念 onnx:跨框架的模型表达标准 onnxruntime:部署模型的推理引擎示例代码 0)安装onnx和onnxruntime 1)pytorch模型转onnx模型 2)on ...
TensorRT和PyTorch模型的故事
点击上方"视学算法",选择加"星标"或"置顶" 重磅干货,第一时间送达作者丨伯恩legacy 来源丨https://zhuanlan.zh ...
手把手教你洞悉 PyTorch 模型训练过程，彻底掌握 PyTorch 项目实战！（文末重金招聘导师）...
(文末重金招募导师) 在CVPR 2020会议接收中,PyTorch 使用了405次,TensorFlow 使用了102次,PyTorch使用数是TensorFlow的近4倍. 自2019年开始,越来 ...

win10 c++调用pytorch模型

win10 c++调用pytorch模型相关推荐

最新文章

热门文章