python 无法引用 tensorflow.keras_解决TensorFlow调用Keras库函数存在的问题

tensorflow在1.4版本引入了keras，封装成库。现想将keras版本的GRU代码移植到TensorFlow中，看到TensorFlow中有Keras库，大喜，故将神经网络定义部分使用Keras的Function API方式进行定义，训练部分则使用TensorFlow来进行编写。一顿操作之后，运行，没有报错，不由得一喜。但是输出结果，发现，和预期的不一样。难道是欠拟合？故采用正弦波预测余弦来验证算法模型。

部分调用keras库代码如上图所示，用正弦波预测余弦波，出现如下现象：

def interface(_input):

tmp = tf.keras.layers.Dense(10)(_input)

vad_gru = tf.keras.layers.GRU(24, return_sequences=True)(tmp)

denoise_output = tf.keras.layers.Dense(1)(vad_gru)

return denoise_output

波形是断断续续的。而且最后不收敛。

运行N久。。。之后

基本断定是程序本身的问题，于是通过排查，发现应该是GRU的initial_state没有进行更新导致的。导致波形是断断续续的，没有学习到前一次网络的输出。于是，决定不使用Keras库实现一遍：

部分代码如下：

def interface(_input):

tmp = tf.keras.layers.Dense(10)(_input)

gru_cell = tf.nn.rnn_cell.GRUCell(vad_cell_size)

with tf.name_scope('initial_state'):

cell_init_state = gru_cell.zero_state(batch_size, dtype=tf.float32)

cell_outputs, cell_final_state = tf.nn.dynamic_rnn(

gru_cell, tmp, initial_state=cell_init_state, time_major=False)

denoise_output = tf.keras.layers.Dense(1)(cell_outputs)

return denoise_output, cell_init_state, cell_final_state

波形图如下（这才是GRU的正确打开方式啊～）：

再回头看之前写的调用keras，既然知道了是initial_state没有更新，那么如何进行更新呢？

网上查找了大量的资料，说要加上

update_ops = []

for old_value, new_value in layers.updates:

update_ops.append(tf.assign(old_value, new_value))

但是加上去没有效果，是我加错了还是其他的，大家欢迎指出来

以下是我做的一些尝试，就不一一详细说明了，大家看一下，具体不再展开，有问题大家交流一下，有解决方法的，能够分享出来，感激不尽～

def interface(_input):

# input_layer = tf.keras.layers.Input([None, 1])

# input_layer = tf.keras.layers.Input(batch_shape=(50, 20, 1))

tmp = tf.keras.layers.Dense(10)(_input)

# tmp = tf.keras.layers.Dense(24)(tmp)

# with tf.variable_scope('vad_gru', reuse=tf.AUTO_REUSE):

# vad_gru, final_state = tf.keras.layers.GRU(24, return_sequences=True, return_state=True, stateful=True)(tmp)

# print(vad_gru)

# _initial_state = vad_gru.zero_state(50, tf.float32)

# tf.get_variable_scope().reuse_variables()

# vad_gru = tf.contrib.

# tmp = tf.reshape(tmp, [-1, TIME_STEPS, vad_cell_size])

gru_cell = tf.nn.rnn_cell.GRUCell(vad_cell_size)

# gru_cell = tf.keras.layers.GRUCell(self.vad_cell_size)

with tf.name_scope('initial_state'):

cell_init_state = gru_cell.zero_state(batch_size, dtype=tf.float32)

cell_outputs, cell_final_state = tf.nn.dynamic_rnn(

gru_cell, tmp, initial_state=cell_init_state, time_major=False)

# print(cell_outputs.get_shape().as_list())

# cell_outputs = tf.reshape(cell_outputs, [-1, vad_cell_size])

denoise_output = tf.keras.layers.Dense(1)(cell_outputs)

print(denoise_output.get_shape().as_list())

# model = tf.keras.models.Model(input_layer, denoise_output)

# update_ops = []

# for old_value, new_value in model.layers[1].updates:

# update_ops.append(tf.assign(old_value, new_value))

return denoise_output, cell_init_state, cell_final_state

补充知识：TensorFlow和Keras常用方法（避坑）

TensorFlow

在TensorFlow中，除法运算：

1.tensor除法会使结果的精度高一级，可能会导致后面计算类型不匹配，如float32 / float32 = float64。

2.除法需要分子分母同类型，否则报错。

产生类似错误提示如下：

-1.TypeError: x and y must have the same dtype, got tf.float32 != tf.int32

-2.TypeError: Input ‘y' of ‘Mul' Op has type float32 that does not match type float64 of argument ‘x'.

-3.ValueError: Tensor conversion requested dtype float64 for Tensor with dtype float32: ‘Tensor(“Sum:0”, shape=(), dtype=float32)'

-4.ValueError: Incompatible type conversion requested to type ‘int32' for variable of type ‘float32_ref'

解决办法：

tf.cast(a, tf.float32) # 转换成同类型即可

tf.boolean_mask

K.gather

K.argmax

K.max

以上这篇解决TensorFlow调用Keras库函数存在的问题就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持我们。

本文标题: 解决TensorFlow调用Keras库函数存在的问题

本文地址: http://www.cppcns.com/jiaoben/python/324684.html

python 无法引用 tensorflow.keras_解决TensorFlow调用Keras库函数存在的问题相关推荐

python循环引用问题怎么解决_python解决循环引用问题
当项目中的模块过多,或功能划分不够清晰时会出现循环引用的问题,如下有两个模块moduleA 和 moduleB: #moduleA from moduleB import b def a(): pr ...
python怎么引用多行输入_python调用shell返回两行第二行需要输入密码怎么办？import os os.syst...
没有办法交互,用ftplib吧 # 例:FTP编程 from ftplib import FTP ftp = FTP() timeout = 30 port = 21 ftp.connect('192 ...
python 调用 tensorflow.dll_解决windows上安装tensorflow时报错,“DLL load failed: 找不到指定的模块”的问题...
最近打算开始研究一下机器学习,今天在windows上装tensorflow花了点功夫,其实前面的步骤不难,只要依次装好python3.5,numpy,tensorflow就行了,有一点要注意的是目前只 ...
python变量初始化的位置不当、程序结果可能会出现问题_解决tensorflow由于未初始化变量而导致的错误问题...
我写的这个程序 import tensorflow as tf sess=tf.InteractiveSession() x=tf.Variable([1.0,2.0]) a=tf.constant( ...
成功解决tensorflow.python.framework.errors_impl.NotFoundError: FindFirstFile failed for: ../checkpoints
成功解决tensorflow.python.framework.errors_impl.NotFoundError: FindFirstFile failed for: ../checkpoints ...
成功解决 \tensorflow\…\datasets\mnist.py:290: DataSet.__init__ (from tensorflow.contrib.learn.python.lea
成功解决 \tensorflow\-\datasets\mnist.py:290: DataSet.__init__ (from tensorflow.contrib.learn.python.lea ...
成功解决tensorflow\contrib\learn\python\learn\datasets\base._internal_retry.locals.wrap.locals.wrapp
成功解决tensorflow\contrib\learn\python\learn\datasets\base._internal_retry.<locals>.wrap.<loca ...
成功解决tensorflow\contrib\learn\python\learn\datasets\mnist.py: maybe_download (from tensorflow.contri
成功解决tensorflow\contrib\learn\python\learn\datasets\mnist.py: maybe_download (from tensorflow.contri ...
python 无法引用 tensorflow.keras_win10+anaconda安装tensorflow和keras遇到的坑小结
win10下利用anaconda安装tensorflow和keras的教程都大同小异(针对CPU版本,我的gpu是1050TI的MAX-Q,不知为啥一直没安装成功),下面简单说下步骤. 一 Anaco ...

python 无法引用 tensorflow.keras_解决TensorFlow调用Keras库函数存在的问题

python 无法引用 tensorflow.keras_解决TensorFlow调用Keras库函数存在的问题相关推荐

最新文章

热门文章