Deep Learning L教程（六）

本文转自深度学习论坛

稀疏自编码器符号一览表

下面是我们在推导sparse autoencoder时使用的符号一览表：

符号	含义
	训练样本的输入特征，.
	输出值/目标值. 这里可以是向量. 在autoencoder中，.
	第个训练样本
	输入为时的假设输出，其中包含参数 . 该输出应当与目标值具有相同的维数.
	连接第层单元和第层单元的参数.
	第层单元的偏置项. 也可以看作是连接第层偏置单元和第层单元的参数.
	参数向量. 可以认为该向量是通过将参数组合展开为一个长的列向量而得到.
	网络中第层单元的激活（输出）值. 另外，由于层是输入层，所以 .
	激活函数. 本文中我们使用 .
	第层单元所有输入的加权和. 因此有 .
	学习率
	第层的单元数目（不包含偏置单元）.
	网络中的层数. 通常层是输入层，层是输出层.
	权重衰减系数.
	对于一个autoencoder，该符号表示其输出值；亦即输入值的重构值. 与含义相同.
	稀疏值，可以用它指定我们所需的稀疏程度
	（sparse autoencoder中）隐藏单元的平均激活值.
	（sparse autoencoder目标函数中）稀疏值惩罚项的权重.

中文译者

邵杰（jiesh@hotmail.com），许利杰（csxulijie@gmail.com），余凯（kai.yu.cool@gmail.com）

Deep Learning L教程（六）相关推荐

干货丨科普丨大牛的《深度学习》笔记，Deep Learning速成教程
深度学习,即Deep Learning,是一种学习算法(Learning algorithm),亦是人工智能领域的一个重要分支.从快速发展到实际应用,短短几年时间里,深度学习颠覆了语音识别.图像分类. ...
大牛deep learning入门教程
雷锋网(搜索"雷锋网"公众号关注)按:本文由Zouxy责编,全面介绍了深度学习的发展历史及其在各个领域的应用,并解释了深度学习的基本思想,深度与浅度学习的区别和深度学习与神经网络之 ...
【深度学习】大牛的《深度学习》笔记，Deep Learning速成教程
深度学习,即Deep Learning,是一种学习算法(Learning algorithm),亦是人工智能领域的一个重要分支.从快速发展到实际应用,短短几年时间里,深度学习颠覆了语音识别.图像分类. ...
大牛的《深度学习》笔记，Deep Learning速成教程
本文由Zouxy责编,全面介绍了深度学习的发展历史及其在各个领域的应用,并解释了深度学习的基本思想,深度与浅度学习的区别和深度学习与神经网络之间的关系. 深度学习,即Deep Learning,是一种 ...
Deep learning：十六(deep networks)
本节参考的是网页http://deeplearning.stanford.edu/wiki/index.php/UFLDL_Tutorial中关于Building Deep Networks for ...
大牛deep learning集合
作者1:tornadomeet 出处:http://www.cnblogs.com/tornadomeet 作者1:denghp83 出处:http://blog.csdn.net/denghp83/ ...
网上某位牛人的deep learning学习笔记汇总
目录(?)[-] 作者tornadomeet 出处httpwwwcnblogscomtornadomeet 欢迎转载或分享但请务必声明文章出处 Deep learning一基础知识_1 Deep le ...
Deep learning笔记
Deep learning:一(基础知识_1) 出处:http://www.cnblogs.com/tornadomeet 欢迎转载或分享,但请务必声明文章出处. 前言: 最近打算稍微系统的学习下de ...
深度学习Deep learning：四十九(RNN-RBM简单理解)
前言: 本文主要是bengio的deep learning tutorial教程主页中最后一个sample:rnn-rbm in polyphonic music. 即用RNN-RBM来model复调 ...

Deep Learning L教程（六）

中文译者

Deep Learning L教程（六）相关推荐

最新文章

热门文章