深度学习步骤概览

step1：建立模型

问题：建立什么样的模型；选择多少层数，每层选择多少神经元

激活函数：

为什么引入激活函数：①为了增强网络表达能力，我们需要激活函数将“线性函数”转变为“非线性函数”；②非线性函数的激活函数需要有连续性，因为连续非线性激活函数是可导的，可以用最优化的方法来求解。

常见激活函数如下

前馈神经网络

输出层

step2：损失函数（常用损失函数：平方误差，交叉熵）

step3：参数学习（）

梯度下降法

上面的网络中学要学习的参数特别多，下面的卷积神经网络可以大幅度降低需要学习的参数。

卷积神经网络

卷积神经网络结构上的三大特性：局部连接；权重共享；下采样

建立模型

卷积核

多通道卷积

池化层

输出层

交叉熵损失函数

神经算法网络基本原理相关推荐

神经对抗网络自动标注,神经对抗网络研究课题
深度学习什么是对抗式神经网络? 对抗式神经网络GAN让机器学会"左右互搏"GAN网络的原理本质上就是这两篇小说中主人公练功的人工智能或机器学习版本. 一个网络中有两个角色,修炼的过 ...
神经张量网络：探索文本实体之间的关系
欢迎大家前往云加社区,获取更多腾讯海量技术实践干货哦~ 译者:Waitingalone 本文翻译自Gaurav Bhatt在 http://deeplearn-ai.com 发表的NEURAL TEN ...
模生物嗅觉的神经算法，能让电脑芯片识别气味
图片来源@视觉中国文|学术头条当我们闻到橘子味时,你有没有想过它的气味很可能与其他几种气味结合在一起,比如汽车尾气.垃圾.鲜花.肥皂等.这些气味同时与大脑嗅球中的数百个感受器结合,彼此掩盖,使橘子 ...
TextRank算法的基本原理及textrank4zh使用实例
版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明. 本文链接:https://blog.csdn.net/wotui1842/article/de ...
神经形态网络——大脑神经图论文阅读笔记【1】
这个故事始于文章 "Learning function from structure in neuromorphic networks" \quad\quad 首先我们把摘要的翻 ...
深度学习（7）——艺术风格的神经算法
艺术风格的神经算法 A Neural Algorithm of Artistic Style Mr. Gatys有三篇关于风格迁移的文章,这是第二篇,其余两篇请看上一篇译文和下一篇译文其中有详细的公 ...
EEMD算法的基本原理
目录 EMD算法存在的不足 EEMD算法简介 EEMD算法的基本原理 EMD算法存在的不足 EMD算法能将原始信号不断进行分解,获取符合一定条件下的IMF分量.这些 IMF 分量之间的频率往往不同,这 ...
moead算法流程步骤_数据聚类（一）常见聚类算法的基本原理[图解]
文章整理了五种常见聚类算法的基本原理,通过简易图解的形式对算法原理进行形象化的描述,同时给出了算法的实现流程和数学表达.全文约4192字. 相关名词的英文翻译监督学习Supervised Learn ...
论文浅尝 - ICLR 2020 | 用于文本推理的神经模块网络
论文笔记整理:邓淑敏,浙江大学在读博士,研究方向为低资源条件下知识图谱自动化构建关键技术研究. 论文链接:https://openreview.net/pdf?id=SygWvAVFPr Demo链接 ...

神经算法网络基本原理