pytorch模型转onnx Exporting the operator _thnn_fused_lstm_cell to ONNX opset version 9 is not supported

转换onnx模型的时候遇到_thnn_fused_lstm_cell的报错，刚开始的报错是提示Keyerror:_thnn_fused_lstm_cell，然后在https://github.com/pytorch/pytorch/issues/25533看到有人说是pytorch和CUDA版本太低的原因以及当使用CPU就不会报错，然后我首先尝试将pytorch升级到最新，CUDA也升级到10.2，最终还是报错Exporting the operator _thnn_fused_lstm_cell to ONNX opset version 9 is not supported. Please open a bug to request ONNX export support for the missing operator.

之后我定位到这个错误的产生是转换onnx模型时使用了torch.nn.LSTMCell()这个方法，如果使用torch.nn.LSTM()就不会报错，但是如果在CPU环境下将torch.nn.LSTMCell()转换成onnx则不会报错。总的来说就是torch.nn.LSTMCell()方法目前不支持在GPU环境下转换成onnx模型。目前已经给pytorch的GitHub提交issue，等待官方出解决方法。

下面是报错复现的列子：

import torch
import torch.nn as nnclass StackedLSTM(nn.Module):def __init__(self, num_layers, input_size, rnn_size, dropout):super(StackedLSTM, self).__init__()self.dropout = nn.Dropout(dropout)self.num_layers = num_layersself.layers = nn.ModuleList()for _ in range(num_layers):self.layers.append(nn.LSTMCell(input_size, rnn_size))input_size = rnn_sizedef forward(self, input_feed, hidden):h_0, c_0 = hiddenh_1, c_1 = [], []for i, layer in enumerate(self.layers):h_1_i, c_1_i = layer(input_feed, (h_0[i], c_0[i]))input_feed = h_1_iif i + 1 != self.num_layers:input_feed = self.dropout(input_feed)h_1 += [h_1_i]c_1 += [c_1_i]h_1 = torch.stack(h_1)c_1 = torch.stack(c_1)return input_feed, (h_1, c_1)#下面是在CPU环境下转换onnx模型，可以成功转换
lstm = StackedLSTM(2, 580, 500, 0.3)  #实例化StackedLSTM
h_t = torch.randn(2, 10, 500)  #隐状态h
h_c = torch.randn(2, 10, 500)  #隐状态c
hidden = (h_t, h_c)
a = torch.randn(10, 580)  #输入
torch.onnx.export(lstm, (a, hidden), f='LSTM.onnx', input_names=['input', 'hidden'], output_names=['output', 'h_t', 'h_c'])  #转换onnx模型下面是在GPU环境下转换onnx模型，报错！
lstm = StackedLSTM(2, 580, 500, 0.3).cuda()  #实例化StackedLSTM
h_t = torch.randn(2, 10, 500).cuda()  #隐状态h
h_c = torch.randn(2, 10, 500).cuda()  #隐状态c
hidden = (h_t, h_c)
a = torch.randn(10, 580).cuda()  #输入
torch.onnx.export(lstm, (a, hidden), f='LSTM.onnx', input_names=['input', 'hidden'], output_names=['output', 'h_t', 'h_c'])  #转换onnx模型

pytorch模型转onnx Exporting the operator _thnn_fused_lstm_cell to ONNX opset version 9 is not supported相关推荐

silu to ONNX opset version 12 is not supported
yolov7导出onnx时报错: Starting ONNX export with onnx 1.12.0... ONNX export failure: Exporting the operato ...
【pytorch】——exporting the operator relu6 to onnx opset version 13 is not supported
pytorch1.8.0, onnx F.relu6无法导出到onnx.应该是pytorch1.8.0没有定义relu6的导出规则,但是用nn.relu6是可以的. import torch impo ...
RuntimeError: Exporting the operator count_nonzero to ONNX opset version 13 is not supported. Please
这个问题找了很久一步一步试出来的其实就是里面用到的某个函数onnx不支持,换一种形式就可以了其中tensor.to_llist()也不支持
Pytorch模型(.pth)转onnx模型(.onnx)
简介 Open Neural Network Exchange(ONNX,开放神经网络交换)格式,是一个用于表示深度学习模型的标准,可使模型在不同框架之间进行转移. ONNX是一种针对机器学习所设计的 ...
【yolov5】pytorch模型导出为onnx模型
博主想拿官网的yolov5训练好pt模型,然后转换成rknn模型,然后在瑞芯微开发板上调用模型检测.但是官网的版本对npu不友好,所以采用改进结构的版本: 将Focus层改成Conv层将Swish激 ...
YOLOv5的pytorch模型文件转换为ONNX文件
YOLOv5 YOLOv5下载与测试运行导出ONNX格式文件 ONNX转为为IR中间格式环境: Windows 10 Anaconda 2.0.4 OpenVINO 工具包 2021.2 Pyth ...
PyTorch模型部署：pth转onnx跨框架部署详解+代码
文章目录引言基础概念 onnx:跨框架的模型表达标准 onnxruntime:部署模型的推理引擎示例代码 0)安装onnx和onnxruntime 1)pytorch模型转onnx模型 2)on ...
onnx实现对pytorch模型推理加速
向AI转型的程序员都关注了这个号???????????? 人工智能大数据与深度学习公众号:datayx 微软宣布将多平台通用ONNX机器学习引擎开源,此举将让机器学习框架,向着机器学习框架的标准化 ...
pytorch模型(.pt)转onnx模型(.onnx)的方法详解(1)
1. pytorch模型转换到onnx模型 2.运行onnx模型 3.比对onnx模型和pytorch模型的输出结果我这里重点是第一点和第二点,第三部分比较容易首先你要安装依赖库:onnx ...
【TensorRT】PyTorch模型转换为ONNX及TensorRT模型
文章目录 1. PyTorch模型转TensorRT模型流程 2. PyTorch模型转ONNX模型 3. ONNX模型转TensorRT模型 3.1 TensorRT安装 3.2 将ONNX模型转换 ...

pytorch模型转onnx Exporting the operator _thnn_fused_lstm_cell to ONNX opset version 9 is not supported

pytorch模型转onnx Exporting the operator _thnn_fused_lstm_cell to ONNX opset version 9 is not supported相关推荐

最新文章

热门文章