UFLDL教程：Exercise:Vectorization

载入数据并显示

Deep Learning and Unsupervised Feature Learning Tutorial Solutions

下载MINIST数据集及加载数据集的函数。MINIST数据集的介绍。

% Change the filenames if you've saved the files under different names
% On some platforms, the files might be saved as
% train-images.idx3-ubyte / train-labels.idx1-ubyte
images = loadMNISTImages('train-images.idx3-ubyte');
labels = loadMNISTLabels('train-labels.idx1-ubyte');% We are using display_network from the autoencoder code
display_network(images(:,1:100)); % Show the first 100 images
disp(labels(1:10));

修改train.m中的初始参数

visibleSize = 28*28;   % number of input units 输入层单元数
hiddenSize = 196;     % number of hidden units隐藏层单元数
sparsityParam = 0.1;   % desired average activation of the hidden units.稀疏值% (This was denoted by the Greek alphabet rho, which looks like a lower-case "p",%  in the lecture notes).
lambda = 3e-3;     % weight decay parameter 权重衰减系数
beta = 3;            % weight of sparsity penalty term稀疏值惩罚项的权重

修改训练集，把step1里面的patches的产生改为

%% STEP 1: Implement sampleIMAGES 第1步：实现图片采样
%实现图片采样后，函数display_network从训练集中随机显示200张
%  After implementing sampleIMAGES, the display_network command should
%  display a random sample of 200 patches from the dataset
%从10000张中随机选择200张显示
% patches = sampleIMAGES;
% figure
% display_network(patches(:,randi(size(patches,2),200,1)),8)
% title('sampleIMAGES')
%%为产生一个200维的列向量，每一维的值为0~10000中的随机数，说明是随机取200个patch来显示images = loadMNISTImages('train-images.idx3-ubyte');
labels = loadMNISTLabels('train-labels.idx1-ubyte');% We are using display_network from the autoencoder code
figure
display_network(images(:,1:100)); % Show the first 100 images
title('first100images')
figure
disp(labels(1:10));
title('first100label')patches=zeros(visibleSize,10000);for i=1:10000patches(:,i)=reshape(images(:,i),visibleSize,1);
end% patches = normalizeData(patches);
% 在实现手写字符识别时，是不需要对其做归一化处理的
%要清楚的是，MINIST数据集本身就已经对数据进行了归一化的处理%  Obtain random parameters theta 初始化参数向量theta
theta = initializeParameters(hiddenSize, visibleSize);

为了提高效率，可把train.m中的 STEP 3: Gradient Checking这步注释掉，因为在本例中训练集更大，梯度检查会比较慢。

参考文献

https://github.com/jiandanjinxin/matlab_code-ufldl-exercise-/tree/master/vectorization_exercise

深度学习入门教程UFLDL学习实验笔记二：使用向量化对MNIST数据集做稀疏自编码

Deep Learning 2_深度学习UFLDL教程：矢量化编程（斯坦福大学深度学习教程）

吴恩达 Andrew Ng 的公开课

UFLDL教程：Exercise:Vectorization相关推荐

UFLDL教程: Exercise: Implement deep networks for digit classification
Deep networks Deep Learning and Unsupervised Feature Learning Tutorial Solutions 深度网络的优势比单层神经网络能学习到 ...
UFLDL教程: Exercise:Self-Taught Learning
自我学习 Deep Learning and Unsupervised Feature Learning Tutorial Solutions 1.先训练稀疏自编码器提取特征,再把特征和label给s ...
Python数据处理 PCA/ZCA 白化(UFLDL教程:Exercise:PCA_in_2DPCA_and_Whitening)
Python数据处理 PCA/ZCA 白化参考材料 PCA.白化以及一份别人的课后作业答案 UFLDL教程答案(3):Exercise:PCA_in_2D&PCA_and_Whitenin ...
UFLDL教程: Exercise:Learning color features with Sparse Autoencoders
Linear Decoders Deep Learning and Unsupervised Feature Learning Tutorial Solutions 以三层的稀疏编码神经网络而言,在s ...
UFLDL教程： Exercise: Sparse Autoencoder
自编码可以跟PCA 一样,给特征属性降维一些matlab函数 bsxfun:C=bsxfun(fun,A,B)表达的是两个数组A和B间元素的二值操作,fun是函数句柄或者m文件,或者是内嵌的函数.在 ...
UFLDL教程：数据预处理
数据预处理是深度学习中非常重要的一步!如果说原始数据的获得,是深度学习中最重要的一步,那么获得原始数据之后对它的预处理更是重要的一部分. 一般来说,算法的好坏一定程度上和数据是否归一化,是否白化有关. ...
UFLDL教程：Exercise:Softmax Regression
Softmax分类函数的Python实现 Deep Learning and Unsupervised Feature Learning Tutorial Solutions 逻辑回归假设函数在线性 ...
UFLDL教程：Exercise:PCA in 2D PCA and Whitening
相关文章 PCA的原理及MATLAB实现 UFLDL教程:Exercise:PCA in 2D & PCA and Whitening python-A comparison of vario ...
斯坦福大学UFLDL教程列表
UFLDL教程说明:本教程将阐述无监督特征学习和深度学习的主要观点.通过学习,你也将实现多个功能学习/深度学习算法,能看到它们为你工作,并学习如何应用/适应这些想法到新问题上. 本教程假定机器学习的 ...

UFLDL教程：Exercise:Vectorization

UFLDL教程：Exercise:Vectorization相关推荐

最新文章

热门文章