深度学习公式推导（1）：神经元的数学公式

在上节中我们说了神经元是如何接受信号，并且发射点火从而影响其他神经元的，下面先来复习一下整个过程。

如上图所示，神经元点火的过程。

(i) 神经元接受来自其他多个神经元的信号，这些信号会作为该神经元的输入。

(ii) 如果信号量之和达到了神经元点火的阈值，神经元就会触发点火。

也即是说神经元的输出有两种情况，点火或者不点火，我们用数字信号 0表示不点火， 1 表示点火。

如上图所示，y 代表神经元的输出0（无输出信号），1（有输出信号）。同样，作为神经元的输入，也存在有信号输入（1）和无信号输入（0），我们用x1、x2、x3 来表示，这三个值也有可能是0或者是1.

输入的信号可以通过0，1表示是否输入，但是每个信号量大小是不一样的，因此我们这里为其设置权重，分别对应三个输入的三个信号量的权重分别是就是w1，w2，w3.

于是就得到如下公式：

当w（权重）和x （是否有信号）相乘以后求和小于某一个阀值(θ)的时候，说明没有达到点火的条件，此时的y=0。反之如果wx 相乘的和大于等于 (θ)的时候，说明满足点火的条件也就是 y =1.

接着，我们将上面的公式，在坐标轴上画出来。

如上图所示，横轴是

纵轴是 y。当横轴的值大于 θ 的时候y值为 1，反之为0。

然后再对上图进行变换，将整个图像向右平移θ 个单位。

也就是将横轴变为

同时将上面的公式设为z。

那么神经元点火的公式就变成如下：

这里用函数u 和变量 

得到了y。

再对其进行简化，由于 z 代表 

，所以得到y=u(z)

如上表所示，当wx相乘的和小于θ的时候推出 z 小于 0， u(z) 函数结果为 0 ，y=0 说明不点火。

当wx相乘的和大于θ的时候推出 z 大于 0， u(z) 函数结果为 1 ，y=1 说明点火。

深度学习公式推导（1）：神经元的数学公式相关推荐

一文读懂深度学习：从神经元到BERT
阿里妹导读:自然语言处理领域的殿堂标志 BERT 并非横空出世,背后有它的发展原理.今天,蚂蚁金服财富对话算法团队整理对比了深度学习模型在自然语言处理领域的发展历程.从简易的神经元到当前最复杂的BER ...
深度学习入门——波士顿房价预测
基于神经网络模型的波士顿房价预测波士顿房价预测是一个经典的机器学习任务,类似于程序员世界的"Hello World".以"波士顿房价预测"任务为例,我们学习如 ...
“深度学习之父”大谈AI：寒冬不会出现，论文评审机制有损创新
整理 | 琥珀出品 | AI科技大本营 [AI 科技大本营导读]近日<连线>杂志发表了一篇文章,记录了与"深度学习之父" Geoffrey Hinton 围绕人工智能 ...
心得丨深度学习的技术原理、迭代路径与局限
本文尝试复盘梳理深度学习目前的技术要点,深度学习中模型迭代的方向,以及改进后存在的局限. 第一部分:深度学习技术基本要素:神经元.神经网络.分类器.可视化框架在深度学习领域,神经元是深度学习的基本单 ...
深度学习：技术原理、迭代路径与局限
来源:36氪作者:何沛宽本文尝试复盘梳理深度学习目前的技术要点,深度学习中模型迭代的方向,以及改进后存在的局限. 第一部分:深度学习技术基本要素:神经元.神经网络.分类器.可视化框架在深度学习领 ...
0基础怎样理解深度学习的工作原理？做个票价预测工具就懂了
原作:Radu Raice 安妮编译自 Medium 量子位出品 | 公众号 QbitAI 这篇文章颇!具!人!气! 软件工程专业的学生Radu Raice近日发表了文章<Want to k ...
第1周学习笔记：深度学习和pytorch基础
目录一视频学习 1.绪论 2.深度学习概述二代码学习 1.Pytorch基础练习 2.螺旋数据分类一视频学习 1.绪论人工智能(Artificial Intelligence):使一部机 ...
07组第二次作业深度学习和pytorch基础
07组第二次作业深度学习和pytorch基础 1.视频学习 20020007118 张泽峰 1.1绪论人工智能的前景比较广阔,人才缺口比较大. 专家系统早期的人工智能依赖于专家系统通过一些专家 ...
【深度学习】深度学习：技术原理、迭代路径与局限
来源:36氪作者:何沛宽本文尝试复盘梳理深度学习目前的技术要点,深度学习中模型迭代的方向,以及改进后存在的局限. 第一部分:深度学习技术基本要素:神经元.神经网络.分类器.可视化框架在深度学习领 ...

深度学习公式推导（1）：神经元的数学公式

深度学习公式推导（1）：神经元的数学公式相关推荐

最新文章

热门文章