Tensorflow实现MNIST数据自编码(2)

对自编码(1)进行改进，(1)中实现的网络是用2个编码层，2个解码层，现在对它进行添加编码层和解码层分别为4层

原始数据784--》256--》64--》16--》2

#encoding=utf-8
import tensorflow as tf
from tensorflow.examples.tutorials.mnist import input_data
mnist = input_data.read_data_sets('/data',one_hot=True)
learning_rate = 0.01
n_hidden_1 = 256
n_hidden_2 = 64
n_hidden_3 = 16
n_hidden_4 = 2
n_input = 784 #输入图片大小28*28
x = tf.placeholder('float',[None,n_input])
y = x
weights = {
'encoder_h1':tf.Variable(tf.random_normal([n_input,n_hidden_1])),
'encoder_h2':tf.Variable(tf.random_normal([n_hidden_1,n_hidden_2])),
'encoder_h3':tf.Variable(tf.random_normal([n_hidden_2,n_hidden_3])),
'encoder_h4':tf.Variable(tf.random_normal([n_hidden_3,n_hidden_4])),
'decoder_h1':tf.Variable(tf.random_normal([n_hidden_4,n_hidden_3])),
'decoder_h2':tf.Variable(tf.random_normal([n_hidden_3,n_hidden_2])),
'decoder_h3':tf.Variable(tf.random_normal([n_hidden_2,n_hidden_1])),
'decoder_h4':tf.Variable(tf.random_normal([n_hidden_1,n_input])),
}
biases = {
'encoder_b1':tf.Variable(tf.zeros([n_hidden_1])),
'encoder_b2':tf.Variable(tf.zeros([n_hidden_2])),
'encoder_b3':tf.Variable(tf.zeros([n_hidden_3])),
'encoder_b4':tf.Variable(tf.zeros([n_hidden_4])),
'decoder_b1':tf.Variable(tf.zeros([n_hidden_3])),
'decoder_b2':tf.Variable(tf.zeros([n_hidden_2])),
'decoder_b3':tf.Variable(tf.zeros([n_hidden_1])),
'decoder_b4':tf.Variable(tf.zeros([n_input])),
}
#定义网络模型
def encoder(x):
layer_1 = tf.nn.sigmoid(tf.add(tf.matmul(x,weights['encoder_h1']),biases['encoder_b1']))
layer_2 = tf.nn.sigmoid(tf.add(tf.matmul(layer_1,weights['encoder_h2']),biases['encoder_b2']))
layer_3 = tf.nn.sigmoid(tf.add(tf.matmul(layer_2,weights['encoder_h3']),biases['encoder_b3']))
layer_4 = tf.nn.sigmoid(tf.add(tf.matmul(layer_3,weights['encoder_h4']),biases['encoder_b4']))
return layer_4
def decoder(x):
layer_1 = tf.nn.sigmoid(tf.add(tf.matmul(x, weights['decoder_h1']), biases['decoder_b1']))
layer_2 = tf.nn.sigmoid(tf.add(tf.matmul(layer_1, weights['decoder_h2']), biases['decoder_b2']))
layer_3 = tf.nn.sigmoid(tf.add(tf.matmul(layer_2, weights['decoder_h3']), biases['decoder_b3']))
layer_4 = tf.nn.sigmoid(tf.add(tf.matmul(layer_3, weights['decoder_h4']), biases['decoder_b4']))
return layer_4
y_pred = decoder(encoder(x))
print('y_pred',y_pred)
cost = tf.reduce_mean(tf.pow(y-y_pred,2))
optimizer = tf.train.AdamOptimizer(learning_rate).minimize(cost)
training_epochs = 20
batch_size = 256
display_step = 1
with tf.Session() as sess:
tf.global_variables_initializer().run()
total_batch = int(mnist.train.num_examples/batch_size)
#循环开始训练
for epoch in range(training_epochs):
#遍历全部数据集
for i in range(total_batch):
batch_xs,batch_ys = mnist.train.next_batch(batch_size)
_,c = sess.run([optimizer,cost],feed_dict={x:batch_xs})
if epoch%display_step == 0:
print('Epoch:','%04d'%(epoch+1),'cost=','{:.9f}'.format(c))
print('finished')

Tensorflow实现MNIST数据自编码(2)相关推荐

Tensorflow实现MNIST数据自编码(3)
前面自编码(1)和自编码(2)是针对高维数据维数进行降低维数角度改进模型,但是还需要让这些特征具有抗干扰能力,输入的特征数据受到干扰时,生成特征依然不会怎么变化,使自动编码器具有更好的泛化能力 #en ...
Tensorflow实现MNIST数据自编码(1)
自编码网络能够自学习样本特征的网络,属于无监督学习模型的网络,可以从无标注的数据中学习特征,它可以给出比原始数据更好的特征描述,具有较强的特征学习能力. 主要的网络结构就是高维特征样本--->编 ...
tensorflow学习笔记——使用TensorFlow操作MNIST数据（1）
续集请点击我:tensorflow学习笔记--使用TensorFlow操作MNIST数据(2) 本节开始学习使用tensorflow教程,当然从最简单的MNIST开始.这怎么说呢,就好比编程入门有He ...
使用Tensorflow操作MNIST数据
MNIST是一个非常有名的手写体数字识别数据集,在很多资料中,这个数据集都会被用作深度学习的入门样例.而TensorFlow的封装让使用MNIST数据集变得更加方便.MNIST数据集是NIST数据集的 ...
TensorFlow学习笔记（十四）TensorFLow 用mnist数据做classification
之前的例子,给的都是tf来做regression,也就是回归问题,现在用tf来做一个classification的处理,也就是分类问题. 这里用的数据集是mnist数据. 代码: "&quo ...
Tensorflow实战之下载MNIST数据，自动分成train， validation和test三个数据集
TensorFlow 实战Google深度学习框架第2版 ,郑泽宇之P96.下载MNIST数据,自动分成train, validation和test三个数据集,源码如下: #!/usr/bin/en ...
【TensorFlow】MNIST手写数字识别
MNIST MNIST是一个非常简单的机器视觉数据集.如图,它由几万字28像素×28像素的手写数字组成,这些图片只包含灰度值信息.我们的任务是对这些手写数字的图片进行分类,转成0~9一共10类. ...
机器学习入门案例简单理解——Tensorflow之MNIST解析
深度学习简单介绍首先要简单区别几个概念:人工智能,机器学习,深度学习,神经网络.这几个词应该是出现的最为频繁的,但是他们有什么区别呢? 人工智能:人类通过直觉可以解决的问题,如:自然语言理解,图像识 ...
TF之DCGAN：基于TF利用DCGAN测试MNIST数据集并进行生成过程全记录
TF之DCGAN:基于TF利用DCGAN测试MNIST数据集并进行生成目录测试结果测试过程全记录测试结果 train_00_0099 train_00_0799 train_00_0899 t ...

Tensorflow实现MNIST数据自编码(2)

Tensorflow实现MNIST数据自编码(2)相关推荐

最新文章

热门文章