Tensorflow实现MNIST数据自编码(1)

自编码网络能够自学习样本特征的网络，属于无监督学习模型的网络，可以从无标注的数据中学习特征，它可以给出比原始数据更好的特征描述，具有较强的特征学习能力。

主要的网络结构就是高维特征样本---》编码成---》低维特征---》解码回---》高维特征，下面以MNIST数据集为示例进行演示：

import tensorflow as tf
#导入数据集合
from tensorflow.examples.tutorials.mnist import input_data
mnist = input_data.read_data_sets('/data/',one_hot=True)
#整体流程，原始图片像素28*28-784
#784-》256-》128-》128-》256-》784
learning_rate = 0.01
n_hidden_1 = 256 #第一层256个结点
n_hidden_2 = 128 #第二层128个结点
n_input = 784
x = tf.placeholder('float',[None,n_input])
y = x
weights = {
'encoder_h1':tf.Variable(tf.random_normal([n_input,n_hidden_1])),
'encoder_h2':tf.Variable(tf.random_normal([n_hidden_1,n_hidden_2])),
'decoder_h1':tf.Variable(tf.random_normal([n_hidden_2,n_hidden_1])),
'decoder_h2':tf.Variable(tf.random_normal([n_hidden_1,n_input])),
}
biases = {
'encoder_b1':tf.Variable(tf.zeros([n_hidden_1])),
'encoder_b2':tf.Variable(tf.zeros([n_hidden_2])),
'decoder_b1':tf.Variable(tf.zeros([n_hidden_1])),
'decoder_b2':tf.Variable(tf.zeros([n_input])),
}
def encoder(x):
layer_1 = tf.nn.sigmoid(tf.add(tf.matmul(x,weights['encoder_h1']),biases['encoder_b1']))
layer_2 = tf.nn.sigmoid(tf.add(tf.matmul(layer_1,weights['encoder_h2']),biases['encoder_b2']))
return layer_2
def decoder(x):
layer_1 = tf.nn.sigmoid(tf.add(tf.matmul(x,weights['decoder_h1']),biases['decoder_b1']))
layer_2 = tf.nn.sigmoid(tf.add(tf.matmul(layer_1,weights['decoder_h2']),biases['decoder_b2']))
return layer_2
pred = decoder(encoder(x))
cost = tf.reduce_mean(tf.pow(y-pred,2))
optimizer = tf.train.GradientDescentOptimizer(learning_rate).minimize(cost)
training_epochs = 20 #共迭代20次
batch_size = 256 #每次取256个样本
display_step = 5 #迭代5次输出一次信息
#启动会话
with tf.Session() as sess:
sess.run(tf.global_variables_initializer())
total_batch = int(mnist.train.num_examples/batch_size)
#开始训练
for epoch in range(training_epochs):
for i in range(total_batch):
batch_xs,batch_ys = mnist.train.next_batch(batch_size)#取数据
_,c = sess.run([optimizer,cost],feed_dict={x:batch_xs})#训练模型
if epoch % display_step == 0:#输出日志信息
print("Epoch:",'%4d' % (epoch+1),'cost=',"{:.9f}".format(c))
print('Training Finished!')
correct_prediction = tf.equal(tf.argmax(pred,1),tf.argmax(y,1))
accuracy = tf.reduce_mean(tf.cast(correct_prediction,'float'))
print('Accuracy:',1-accuracy.eval({x:mnist.test.images,y:mnist.test.images}))

Tensorflow实现MNIST数据自编码(1)相关推荐

Tensorflow实现MNIST数据自编码(3)
前面自编码(1)和自编码(2)是针对高维数据维数进行降低维数角度改进模型,但是还需要让这些特征具有抗干扰能力,输入的特征数据受到干扰时,生成特征依然不会怎么变化,使自动编码器具有更好的泛化能力 #en ...
Tensorflow实现MNIST数据自编码(2)
对自编码(1)进行改进,(1)中实现的网络是用2个编码层,2个解码层,现在对它进行添加编码层和解码层分别为4层原始数据784-->256-->64-->16-->2 #enc ...
tensorflow学习笔记——使用TensorFlow操作MNIST数据（1）
续集请点击我:tensorflow学习笔记--使用TensorFlow操作MNIST数据(2) 本节开始学习使用tensorflow教程,当然从最简单的MNIST开始.这怎么说呢,就好比编程入门有He ...
使用Tensorflow操作MNIST数据
MNIST是一个非常有名的手写体数字识别数据集,在很多资料中,这个数据集都会被用作深度学习的入门样例.而TensorFlow的封装让使用MNIST数据集变得更加方便.MNIST数据集是NIST数据集的 ...
TensorFlow学习笔记（十四）TensorFLow 用mnist数据做classification
之前的例子,给的都是tf来做regression,也就是回归问题,现在用tf来做一个classification的处理,也就是分类问题. 这里用的数据集是mnist数据. 代码: "&quo ...
Tensorflow实战之下载MNIST数据，自动分成train， validation和test三个数据集
TensorFlow 实战Google深度学习框架第2版 ,郑泽宇之P96.下载MNIST数据,自动分成train, validation和test三个数据集,源码如下: #!/usr/bin/en ...
【TensorFlow】MNIST手写数字识别
MNIST MNIST是一个非常简单的机器视觉数据集.如图,它由几万字28像素×28像素的手写数字组成,这些图片只包含灰度值信息.我们的任务是对这些手写数字的图片进行分类,转成0~9一共10类. ...
机器学习入门案例简单理解——Tensorflow之MNIST解析
深度学习简单介绍首先要简单区别几个概念:人工智能,机器学习,深度学习,神经网络.这几个词应该是出现的最为频繁的,但是他们有什么区别呢? 人工智能:人类通过直觉可以解决的问题,如:自然语言理解,图像识 ...
TF之DCGAN：基于TF利用DCGAN测试MNIST数据集并进行生成过程全记录
TF之DCGAN:基于TF利用DCGAN测试MNIST数据集并进行生成目录测试结果测试过程全记录测试结果 train_00_0099 train_00_0799 train_00_0899 t ...

Tensorflow实现MNIST数据自编码(1)

Tensorflow实现MNIST数据自编码(1)相关推荐

最新文章

热门文章