神经网络与机器学习 笔记—基本知识点(上)
神经网络与机器学习 笔记—基本知识点(上)
0.1 什么是神经网络:
神经网络是由简单处理单元构成的大规模并行分布处理器,天然具有存储经验知识和使之可用的特性。神经网络在两个方面与大脑类似。
- 神经网络是通过学习过程从外界环境中获取知识的。
- 互连神经元的连接强度,即突触权值,用于存储获取的知识。
用于完成学习过程的程序称为学习算法,其功能是以有序的方式改变网络的突触权值以获得想要的设计目标。
神经网络性质和优点:
1.神经网络的大规模并行分布式结构。
2.神经网络的学习能力以及由此而来的泛化能力。
[泛化:指神经网络通过学习总结数据之后对没有见过但是相似的数据的分析辨别能力。]
神经网络的能力:
非线性、输入输出映射、自适应性、证据响应、上下文信息、容错性、VLSI实现,very-large-scale-integrated 超大规模集成、分析和设计一致性、神经生物类比、神经元模型。
0.2 人类大脑
......
0.3 神经元模型
神经网络与机器学习 笔记—基本知识点(上)相关推荐
- 神经网络与机器学习 笔记—基本知识点(下)
神经网络与机器学习 笔记-基本知识点(下) 0.1 网络结构: 神经网络中神经元的构造方式与用于训练网络的学习算法有着密切的联系,有三种基本的网络结构: 0.7 知识表示 ...
- 神经网络与机器学习 笔记—LMS(最小均方算法)和学习率退火
神经网络与机器学习 笔记-LMS(最小均方算法)和学习率退火 LMS算法和Rosenblatt感知器算法非常想,唯独就是去掉了神经元的压制函数,Rosenblatt用的Sgn压制函数,LMS不需要压制 ...
- 神经网络与机器学习 笔记—小规模和大规模学习问题
监督学习的可行性依赖于下面的关键问题: 由N个独立同分布的样本(X1,D1),(X2,D2),-,(Xn,Dn) 组成的训练样本是否包含了构造具有良好泛化性能的机器学习的足够信息? 计算考虑: 神经网 ...
- 神经网络与机器学习 笔记—核方法和径向基函数网络(上)
对于神经网络的监督学习有多种不同方法.之前一直总结整理的多层感知器反向传播算法,可以看做是递归技术的应用,这种技术在统计学中通称为随机逼近. 这次是采用不同的途径,通过包含如下两个阶段的混合方式解决非 ...
- 神经网络与机器学习 笔记—支持向量机(SVM)(上)
支持向量机(SVM)的主要思想: 给定训练样本,支持向量机建立一个超平面作为决策曲面,使得正例和反例之间的隔离边缘被最大化. 线性可分模式的最优超平面 训练样本{(xi,di)}^N i=1 ,其中x ...
- 神经网络与机器学习 笔记—卷积神经网络(CNN)
卷积神经网络 之前的一些都是考虑多层感知器算法设计相关的问题,这次是说一个多层感知器结构布局相关的问题.来总结卷积神经网络.对于模式分类非常合适.网络的提出所隐含的思想收到了神经生物学的启发. 第一个 ...
- 神经网络与机器学习 笔记—时序模式、非线性滤波
时序模式.非线性滤波 以多层感知器为例的静态神经网络的原型应用是结构化模式识别.时序模式识别或飞翔性滤波要求对随时间演化的模式进行处理,对特定的时刻的相应不仅依赖于输入的当前值,还依赖于以前的值.简单 ...
- 神经网络与机器学习 笔记—泛化和交叉验证
泛化和交叉验证 泛化 在反向传播学习中,一般从一个训练样本开始,而且通过网络中装载尽可能多的训练样本来使用反向传播算法计算一个多层感知器的突触权值.希望这样设计的神经网络可以很好的泛化.对于从未在生成 ...
- 神经网络与机器学习 笔记—多层感知器(MLP)
多层感知器(MLP) Rosenblatt感知器和LMS算法,都是单层的并且是单个神经元构造的神经网络,他们的局限性是只能解决线性可分问题,例如Rosenblatt感知器一直没办法处理简单异或问题.然 ...
最新文章
- Leangoo阶段式(瀑布式)游戏产品研发
- opencv python BRIEF描述子
- 耳鼻喉专科服务机构“仁树医疗”完成数千万元A轮融资...
- Linux学习:第二章-Linux安装
- django-redis中redis.conf配置详细说明
- 输变电设备物联网节点设备无线组网协议_AIS-Link-艾森智能的工业物联网连接协议...
- 用$.getJSON() 和$.post()获取第三方数据做页面 ——惠品折页面(1)
- Spring-core-Environment/profiles
- 如何对动态创建控件进行验证以及在Ajax环境中的使用
- CSS+html制作简历表
- CS131-Lecture1 课程介绍
- android控制wifi,基于 Android 手机操作和控制的 Wifi 小车程序设计
- 数学专业英语--2.5(几何)
- 『Mysql』汇总Mysql索引失效的常见场景
- 本地电脑安装虚拟机-解决USB驱动报错(代码 39)问题
- linux进化树分析的软件,进化树分析及相关软件使用说明
- 免费的压缩/解压缩软件
- 二级路由dhcp关闭连不上wifi_路由器的使用小技巧!
- Java招聘的一些心得和建议
- 【创意编程】《暗潮》:processing随机游走及噪声之美