神经网络算法-论证单层感知器的局限性

今天课上学习了一个思路将真值表转换到平面直角坐标系中来论证线性可分还是不可分，挺有意思记录一下。

简单感知器模型实际上仍然是MP模型的结构，但是它通过采用监督学习来逐步增强模式划分的能力，达到所谓学习的目的。

感知器处理单元对n个输入进行加权和操作v即：vi=f(∑i=0Nwixi−θ)v_{i}=f(\sum_{i=0}^Nw_{i}x_{i}-\theta)vi=f(∑i=0Nwixi−θ)

其中，Wi为第i个输入到处理单元的连接权值，f为阶跃函数。

感知器在形式上与MP模型差不多，它们之间的区别在于神经元间连接权的变化。感知器的连接权定义为可变的，这样感知器就被赋予了学习的特性。

利用简单感知器可以实现逻辑代数中的一些运算。

x1	x2	y=x1 and x2	y=x1 or x2	x1取非
0	0	0	0	1
0	1	0	1	1
1	0	0	1	0
1	1	1	1	0

Y=f(w1x1+w2x2-θ)

(1)“与”运算。当取w1＝w2＝1，θ＝1.5时，上式完成逻辑“与”的运算。

(2)“或”运算，当取wl＝w2＝1，θ＝0.5时，上式完成逻辑“或”的运算。

(3)“非”运算，当取wl=-1，w2＝0，θ＝-1时．完成逻辑“非”的运算。

与许多代数方程一样，上式中不等式具有一定的几何意义。

对于一个两输入的简单感知器，每个输入取值为0和1，如上面结出的逻辑运算，所有输入样本有四个，记为(x1，x2)：(0，0)，(0，1)，(1，0)，(1，1)，构成了样本输入空间。例如，在二维平面上，对于“或”运算，各个样本的分布如下图所示。

直线1 *x1+1 *x2-0.5＝0将二维平面分为两部分，上部为激发区(y，=1，用★表示)，下部为抑制区(y＝0，用☆表示)。

简单感知器引入的学习算法称之为误差学习算法。该算法是神经网络学习中的一个重要算法，并已被广泛应用。

现在来论证一下单层感知器的局限性——仅对线性可分问题具有分类能力：

异或逻辑的真值表：

输入x1	输入x2	输出Y
0	0	0
0	1	1
1	0	1
1	1	0

将他们标在平面坐标系中可发现，任何直线也不能把两类样本分开。

如果两类样本可以用直线、平面或者超平面分开，称为线性可分，否则为线性不可分。

所以说要克服单层感知器这一局限性

就需要在输入层与输出层之间引入隐层作为输入模式的内部表示。

神经网络算法-论证单层感知器的局限性相关推荐

深度学习（神经网络）[1]——单层感知器
深度学习(神经网络)[1] -- 单层感知器算法描述 python实现示例运行结果可视化算法描述最原始的神经网络模型,类似于神经网络中的单个神经元,该算法局限性也很大,只适用于解决线性可分的 ...
神经网络学习（1）————单层感知器以及python实现
一.感知器模型单层感知器是感知器中最简单的一种,有单个神经元组成的单层感知器只能用于解决线性可分的二分性问题.在空间中如果输入的数据是可分的,感知器相当于将输入的数据在空间中分为两类,已经证明,如果 ...
单层感知器线性分类、多层感知器非线性分类样例调用matlab神经网络工具箱实现
%给定样本输入向量P,目标输出向量T %net = newp(PR,S,TF,LF) %PR为输入矢量的取值范围的最大值和最小值 S为神经元的个数 TF为网络的传递函数默认为hardlim LF为网 ...
神经网络 | 网络优化-线性神经网络-delta学习规则-梯度下降法（单层感知器-异或问题Python源代码）
===================================================== github:https://github.com/MichaelBeechan CSDN: ...
为什么在反向传播中感知器初始值不能为0_深度学习理论分享之——单层感知器简述...
1单层感知器概述单层感知器(Single Layer Perceptron)是最简单的神经网络.它包含输入层和输出层,而输入层和输出层是直接相连的.单层感知器属于感知器中最简单的一种分类器,属于机器学 ...
MP模型、单层感知器、多层感知器的理解
神经网络基础序言 MP模型 1.逻辑与: 2.逻辑或: 3.逻辑异或: 单层感知器多层感知器(BP) 序言关于神经网络的内容已经学习了很多,也发现了一些问题,而这些问题是因为基础不牢靠引起的,所 ...
单层感知器python_感知器及其在Python中的实现
本文涵盖以下主题: 什么是感知器?算法.Python实现.局限性. 什么是感知器? 生物神经元示意图感知器的概念类似于大脑基本处理单元神经元的工作原理.神经元由许多由树突携带的输入信号.胞体和轴突携 ...
从单层感知器到深度学习以及深度学习必知的框架
从单层感知器到深度学习以及深度学习必知的框架一单层神经网络(感知器) 1.结构下面来说明感知器模型. 在原来MP模型的"输入"位置添加神经元节点,标志其为"输入单元 ...
深度学习--TensorFlow （1）单层感知器1 -- 实现单数据训练
目录一.基础理论 1.单词感知器介绍 2.单词感知器学习规则前向传递(得到输出y) 反向传递(更新权重w) 二.实现单层感知器 1.初始参数设置 2.正向传播(得到输出y) 3. 反向传播(更新权 ...

神经网络算法-论证单层感知器的局限性

神经网络算法-论证单层感知器的局限性相关推荐

最新文章

热门文章