在modelarts上部署backend为TensorFlow的keras模型

最近老山在研究在modelarts上部署mask-rcnn，源代码提供的是keras模型。我们可以将keras转化成savedModel模型，在TensorFlow Serving上部署，可参考老山的上篇部署文章。至于输入和输出张量，到已经预先存在model.input和model.output中了。

不多说，直接上代码。

from keras import backend as K
import tensorflow as tf
# 在此之前，先加载keras模型
# 。。。
# 加载完成with K.get_session() as sess:export_path = './saved_model'builder = tf.saved_model.builder.SavedModelBuilder(export_path)signature_inputs = {'input_image': tf.saved_model.utils.build_tensor_info(model.input[0]),'input_image_meta': tf.saved_model.utils.build_tensor_info(model.input[1]),'input_anchors': tf.saved_model.utils.build_tensor_info(model.input[2]),}signature_outputs = {'mrcnn_detection':tf.saved_model.utils.build_tensor_info(model.output[0]),'mrcnn_class':tf.saved_model.utils.build_tensor_info(model.output[1]),'mrcnn_bbox':tf.saved_model.utils.build_tensor_info(model.output[2]),'mrcnn_mask':tf.saved_model.utils.build_tensor_info(model.output[3]),'ROI':tf.saved_model.utils.build_tensor_info(model.output[4]),'rpn_class':tf.saved_model.utils.build_tensor_info(model.output[5]),'rpn_bbox':tf.saved_model.utils.build_tensor_info(model.output[6]),        }classification_signature_def = tf.saved_model.signature_def_utils.build_signature_def(inputs=signature_inputs,outputs=signature_outputs,method_name=tf.saved_model.signature_constants.PREDICT_METHOD_NAME)builder.add_meta_graph_and_variables(sess,[tf.saved_model.tag_constants.SERVING],signature_def_map={'root': classification_signature_def},)builder.save()

作者：山找海味

在modelarts上部署backend为TensorFlow的keras模型相关推荐

mask rcnn算法分析_在modelarts上部署mask-rcnn模型
最近老山完成了对mask-rcnn在modelarts上的部署,部署模型来自于这个项目.部署的过程大体和我的上篇文章使用modelarts部署bert命名实体识别模型相似,许多细节也不在赘述.这篇文章 ...
在modelarts上部署mask-rcnn模型
最近老山完成了对mask-rcnn在modelarts上的部署,部署模型来自于这个项目.部署的过程大体和我的上篇文章使用modelarts部署bert命名实体识别模型相似,许多细节也不在赘述.这篇文章 ...
在 Android 上部署Machine Learning（ML）模型
@如何在 Android 上部署机器学习 (ML) 模型 ** 如何在 Android 上部署Machine Learning(ML) 模型 ** 目录 Android上的 ML 项目工作流程在 A ...
java lstm pb_在Tensorflow Serving上部署基于LSTM的文本分类模型
一些重要的概念 Servables Servables 是客户端请求执行计算的基础对象,大小和粒度是灵活的. Servables 不会管理自己的运行周期. 典型的Servables包括: a Tens ...
Tensorflow Serving部署tensorflow、keras模型详解
写在篇前本篇介绍如何使用Tensorflow Serving组件导出训练好的Tensorflow模型,并使用标准tensorflow model server来部署深度学习模型预测服务.tens ...
Sklearn，TensorFlow，keras模型保存与读取
一.sklearn模型保存与读取 1.保存 1 from sklearn.externals import joblib 2 from sklearn import svm 3 X = [[0, 0 ...
TensorFlow与PyTorch模型部署性能比较
TensorFlow与PyTorch模型部署性能比较前言 2022了,选 PyTorch 还是 TensorFlow?之前有一种说法:TensorFlow 适合业界,PyTorch 适合学界.这种说 ...
用TVM在硬件平台上部署深度学习工作负载的端到端 IR 堆栈
用TVM在硬件平台上部署深度学习工作负载的端到端 IR 堆栈深度学习已变得无处不在,不可或缺.这场革命的一部分是由可扩展的深度学习系统推动的,如滕索弗洛.MXNet.咖啡和皮托奇.大多数现有系统针对 ...
如何在谷歌云平台上部署可解释性模型
2020-02-26 21:52 导语:获取 TensorFlow 模型的局部和全局解释图片来源于 Pixabay 现代机器学习和人工智能在解决复杂的问题方面取得了令人印象深刻的成果.然而,复杂的问 ...

在modelarts上部署backend为TensorFlow的keras模型

在modelarts上部署backend为TensorFlow的keras模型相关推荐

最新文章

热门文章