keras模型转TensorFlow模型-tensorrt UFF格式

最近在学习tensorrt，需要将keras训练好保存的.hdf5格式模型转为tensorflow的.pb模型，然后转为tensorrt支持的uff格式。
做个记录。
代码如下:

转为tensorflow的.pb格式

# h5_to_pb.pyfrom keras.models import load_model
import tensorflow as tf
import os
import os.path as osp
from keras import backend as K# 路径参数
input_path = '/home/cendelian/Study_CV/face_age_competition/Resnet_Tensorrt-master/model/'
weight_file = 'resnet50_0.1273_3.7708.hdf5'
weight_file_path = osp.join(input_path, weight_file)
output_graph_name = weight_file[:-3] + '.pb'# 转换函数
def h5_to_pb(h5_model, output_dir, model_name, out_prefix="output_", log_tensorboard=True):if osp.exists(output_dir) == False:os.mkdir(output_dir)out_nodes = []for i in range(len(h5_model.outputs)):out_nodes.append(out_prefix + str(i + 1))tf.identity(h5_model.output[i], out_prefix + str(i + 1))sess = K.get_session()from tensorflow.python.framework import graph_util, graph_ioinit_graph = sess.graph.as_graph_def()main_graph = graph_util.convert_variables_to_constants(sess, init_graph, out_nodes)graph_io.write_graph(main_graph, output_dir, name=model_name, as_text=False)if log_tensorboard:from tensorflow.python.tools import import_pb_to_tensorboardimport_pb_to_tensorboard.import_to_tensorboard(osp.join(output_dir, model_name), output_dir)# 输出路径
output_dir = osp.join(os.getcwd(), "trans_model")
# 加载模型
print(weight_file_path)
h5_model = load_model(weight_file_path)
# model.load_weights
h5_to_pb(h5_model, output_dir=output_dir, model_name=output_graph_name)
print('model saved')

Note

期间遇到一个错误：
tensorflow.python.framework.errors_impl.NotFoundError: libnvinfer.so.5: cannot open shared object file: No such file or directory
后面解决方法是将tensorflow环境切换到tensorflow-gpu 1.15。
原因是我安装的tensorrt版本是7.0，
tensorrt7.0版本需要tensorflow1.14+以上的环境才可以。
keras模型需要用save()保存模型结果，save()既保持了模型的图结构，又保存了模型的参数。
save_weights()保存的模型结果，它只保存了模型的参数，但并没有保存模型的图结构。
本次运行的环境：tensorflow1.15，cuda10.0，cudnn7.6

转为tensorrt 的uff格式

只需要要一行指令如下：

convert-to-uff resnet50_0.1273_3.7708.h.pb

其中‘resnet50_0.1273_3.7708.h.pb’为上一个步骤转换得到的结果。
该指令运行后可以得到一个
’ resnet50_0.1273_3.7708.h.uff '文件。

结束！

keras模型转TensorFlow模型-tensorrt UFF格式相关推荐

深度学习之格式转换笔记(三)：keras(.hdf5)模型转TensorFlow(.pb) 转TensorRT(.uff)格式
环境: tensorflow1.15,cuda10.0,cudnn7.6.4 将keras训练好保存的.hdf5格式模型转为tensorflow的.pb模型,然后转为tensorrt支持的uff格式. ...
（原）linux下caffe模型转tensorflow模型
转载请注明出处: http://www.cnblogs.com/darkknightzh/p/7419352.html 参考网址: https://github.com/ethereon/caffe- ...
onnx模型转tensorflow模型
ONNX是开源神经网络交换平台,有了它基本上不用纠结用什么深度学习框架的问题了.我现在记录一下怎么将onnx模型转换成tensorflow模型. 1.安装tensorflow和onnx 我是通过Ana ...
(六)将样式转换模型从TensorFlow转换为TensorFlow Lite
目录介绍什么是TensorFlow Lite? TensorFlow Lite转换器运行TensorFlow Lite模型下一步下载 g_model_BtoA_005730.zip - 12 ...
ONNX系列四 --- 使用ONNX使TensorFlow模型可移植
目录 TensorFlow简介安装和导入转换器快速浏览模型将TensorFlow模型转换为ONNX 摘要和后续步骤参考文献下载源547.1 KB 系列文章列表如下: ONNX系列一 --- ...
Deploying Keras model on Tensorflow Serving
keras训练了个二分类的模型.需求是把keras模型跑到 tensorflow serving上 (TensorFlow Serving 系统用于在生产环境中运行模型) keras模型转 tenso ...
DL | TensorRT将Tensorflow模型转换为uff格式报错Unable to locate package uff-converter-tf
前情概要:尝试用Nvidia的tensorRT加速模型,生成tf的pb模型后,用uff的python工具包进一步转换模型时,出现错误. 实验环境:TensorRT 5.0+CUDA10.0的nvidi ...
TensorRT 4 基本介绍及TensorFlow模型转化Uff格式导入（二）
原创作品,转载时请务必以超链接形式标明文章原始出处: http://www.dapalm.com/?p=143,作者:大数据,怕了么? 目录原创作品,转载时请务必以超链接形式标明文章原始出处: ht ...
如何不部署Keras / TensorFlow模型
While the most articles about deep learning are focusing at the modeling part, there are also few ab ...

keras模型转TensorFlow模型-tensorrt UFF格式

转为tensorflow的.pb格式

Note

转为tensorrt 的uff格式

keras模型转TensorFlow模型-tensorrt UFF格式相关推荐

最新文章

热门文章