神经网络解决逻辑运算问题

神经网络通过不同的架构设置，来完成不同的任务，比如我们看到一半的逻辑与运算：

x1ANDx2={1ifx1=1andx2=10otherwisex_1\ AND\ x_2=\begin{cases}1 \quad if\ x_1=1\ and \ x_2=1\\0\quad otherwise\end{cases}x1 AND x2={1if x1=1 and x2=10otherwise

可以发现，逻辑运算可以转换为一个01分类问题。在sigmoid函数中:

g(4)≈1g(4)≈1g(4)≈1g(−4)≈0g(−4)≈0g(−4)≈0

因此，我们采用感知器神经网络：
[x0x1x2]→[g(z(2))]→hΘ(x)\left[\begin{matrix}x_0\\x_1\\x_2\end{matrix}\right]\rightarrow\left[g(z^{(2)})\right]\rightarrow h_\Theta(x)⎣⎡x0x1x2⎦⎤→[g(z(2))]→hΘ(x)

并令：
Θ(1)=[−302020]\Theta^{(1)}=\left[-30\quad 20 \quad 20\right]Θ(1)=[−302020]

生成的神经网络如下图所示：

得到的逻辑运算结果：
hΘ(x)=g(−30+20x1+20x2)h_\Theta(x) = g(-30+20x_1+20x_2)hΘ(x)=g(−30+20x1+20x2)
x1=0andx2=0theng(−30)≈0x_1 = 0\ and\ x_2=0\ then\ g(-30)\approx 0x1=0 and x2=0 then g(−30)≈0x1=0andx2=1theng(−10)≈0x_1 = 0\ and\ x_2=1\ then\ g(-10)\approx 0x1=0 and x2=1 then g(−10)≈0x1=1andx2=0theng(−10)≈0x_1 = 1\ and\ x_2=0\ then\ g(-10)\approx 0x1=1 and x2=0 then g(−10)≈0x1=1andx2=1theng(10)≈0x_1 = 1\ and\ x_2=1\ then\ g(10)\approx 0x1=1 and x2=1 then g(10)≈0

当然，这是手动进行定义的参数，我们也可以初始化如下样本对神经网络进行训练：
X=[000100010001]X=\left[\begin{matrix} 0 & 0 & 0 \\ 1 & 0 & 0 \\ 0 & 1 & 0 \\ 0 & 0 & 1 \end{matrix}\right]X=⎣⎢⎢⎡010000100001⎦⎥⎥⎤

代码及实现可以参看程序示例。

3.8 神经网络解决逻辑运算问题-机器学习笔记-斯坦福吴恩达教授相关推荐

4.4 机器学习系统设计--垃圾邮件分类-机器学习笔记-斯坦福吴恩达教授
机器学习系统设计–垃圾邮件分类假定我们现有一封邮件,其内容如下: From: cheapsales@buystufffromme.com To: ang@cs.stanford.edu Subjec ...
3.9 神经网络解决多分类问题-机器学习笔记-斯坦福吴恩达教授
神经网络解决多分类问题假定我们需要将图像分为四类: 行人图像车辆图像摩托车图像卡车图像这是一个多分类问题,由于图像特征较多,因此我们可以考虑设计含有多个隐含层的神经网络来完成特征优化(扩展) ...
3.11 程序示例--逻辑运算-机器学习笔记-斯坦福吴恩达教授
程序示例–逻辑运算我们使用感知器神经网络来描述逻辑AND运算: 代码: # coding: utf-8 # neural_network/test_logic_and.py "" ...
3.10 程序示例--神经网络设计-机器学习笔记-斯坦福吴恩达教授
神经网络设计在神经网络的结构设计方面,往往遵循如下要点: 输入层的单元数等于样本特征数. 输出层的单元数等于分类的类型数. 每个隐层的单元数通常是越多分类精度越高,但是也会带来计算性能的下降,因此, ...
3.2 神经网络概述-机器学习笔记-斯坦福吴恩达教授
神经网络概述人体神经元模型神经元的可以分为四个区域: 接收区(receptive zone):树突接收到输入信息. 触发区(trigger zone):位于轴突和细胞体交接的地方,决定是否产生神经 ...
2.3 利用正规化解决过拟合问题-机器学习笔记-斯坦福吴恩达教授
利用正规化解决过拟合问题在之前的文章中,我们认识了过拟合问题,通常,我们有如下策略来解决过拟合问题: 减少特征数,显然这只是权宜之计,因为特征意味着信息,放弃特征也就等同于丢弃信息,要知道,特征的获 ...
4.3 偏差与方差-机器学习笔记-斯坦福吴恩达教授
偏差与方差在机器学习中,偏差(bias) 反映了模型无法描述数据规律,而方差(variance) 反映了模型对训练集过度敏感,而丢失了数据规律,高偏差和高方差都会造成新数据到来时,模型给出错误的预 ...
4.6 大数据集-机器学习笔记-斯坦福吴恩达教授
大数据集在机器学习领域,流传着这样一句话: It's not who has the best algorithm that wins. It's who has the most data. 所以 ...
3.12 程序示例--多分类问题-机器学习笔记-斯坦福吴恩达教授
多分类问题我们手上包含有手写字符的数据集,该数据集来自斯坦福机器学习的课后作业,每个字符图片大小为 20×20 ,总的样本规模为 5000×400 , 我们的神经网络设计如下,包含 1 个隐含层,隐 ...

3.8 神经网络解决逻辑运算问题-机器学习笔记-斯坦福吴恩达教授

神经网络解决逻辑运算问题

3.8 神经网络解决逻辑运算问题-机器学习笔记-斯坦福吴恩达教授相关推荐

最新文章

热门文章