pytorch模型转onnx遇到的问题记录

1 . AttributeError: module ‘onnxruntime‘ has no attribute ‘InferenceSession‘

解决方法

FAIL : Non-zero status code returned while running Add node.

尝试过很多方法，发现最终是环境问题，重新安装环境即可，注意cuda版本和onnxruntime的对应关系

https://onnxruntime.ai/docs/execution-providers/CUDA-ExecutionProvider.html

我是使用镜像https://hub.docker.com/r/anubisdockerhub/cuda11.0-cudnn8启动容器，再安装1.8版本的onnxruntime-gpu解决该问题的

onnxruntime.capi.onnxruntime_pybind11_state.RuntimeException: [ONNXRuntimeError] : 6 : RUNTIME_EXCEPTION : Non-zero status code returned while running Add node. Name:‘Add_9’ Status Message: /onnxruntime_src/onnxruntime/core/providers/cpu/math/element_wise_ops.h:487 void onnxruntime::BroadcastIterator::Append(int64_t, int64_t) axis == 1 || axis == largest was false. Attempting to broadcast an axis by a dimension other than 1. 2 by 3

我出现这个错误是在bert做表征之后，用于命名实体识别，因为是bert是基于sub-word的，所以对最后的输出需要取出每个词最后一个子词对应的表征。在按索引取数时出现这个错误。

解决方法

pytorch模型转onnx遇到的问题记录相关推荐

【TensorRT】PyTorch模型转换为ONNX及TensorRT模型
文章目录 1. PyTorch模型转TensorRT模型流程 2. PyTorch模型转ONNX模型 3. ONNX模型转TensorRT模型 3.1 TensorRT安装 3.2 将ONNX模型转换 ...
模型转换：pytorch模型转onnx, onnx转tensorflow, tensorflow转tflite
文章目录软件版本: pytorch模型转onnx onnx模型转tensorflow tensorflow模型转tflite 软件版本: tensorflow 2.3.1 pytorch 1.6.0 ...
Pytorch模型转onnx打包部署(完全脱离pytorch)
一.问题阐述: 深度学习pytorch框架在实际部署中由于其对环境和资源要求太高以及python语言的限制性,导致其部署存在重重困难,在这里介绍一下onnxruntime(GPU)的部署流程. 二.o ...
pytorch模型转ONNX转TensorRT，模型转换和推理部署
一.pth模型转ONNX import os import sys import torch import numpy as npfrom feat.model import ResNet # 导入自 ...
PyTorch模型部署：pth转onnx跨框架部署详解+代码
文章目录引言基础概念 onnx:跨框架的模型表达标准 onnxruntime:部署模型的推理引擎示例代码 0)安装onnx和onnxruntime 1)pytorch模型转onnx模型 2)on ...
onnx实现对pytorch模型推理加速
向AI转型的程序员都关注了这个号???????????? 人工智能大数据与深度学习公众号:datayx 微软宣布将多平台通用ONNX机器学习引擎开源,此举将让机器学习框架,向着机器学习框架的标准化 ...
pytorch模型(.pt)转onnx模型(.onnx)的方法详解(1)
1. pytorch模型转换到onnx模型 2.运行onnx模型 3.比对onnx模型和pytorch模型的输出结果我这里重点是第一点和第二点,第三部分比较容易首先你要安装依赖库:onnx ...
pyTorch模型部署--高并发web服务c++移动端ncnn
文章目录 1 综述 2 以python web服务的形式进行部署 3 c++调用方式进行部署 3.1 torchscript 3.1.1 模型转换 3.1.1.1 torch.jit.trace 3. ...
从pytorch模型到wk
背景: 深度学习训练的模型,很多项目需要移植到板子上应用,这里记录了移植华为海思的芯片Hi3516CV500上的流程.在这里默认板子已经预装好系统,服务器的系统为ubuntu16.04. 目的:本文主 ...

pytorch模型转onnx遇到的问题记录

pytorch模型转onnx遇到的问题记录相关推荐

最新文章

热门文章