神经元是如何组成神经网络？

上节课我们讲解了，为什么需要神经网络？回答了机器学习深度学习，擅长解决哪类问题之后，这节课我们就要开始讲解神经网络的组成要素神经元，神经元具体是如何工作的？是如何组成神经网络，以及神经元的数学表达式。

首先我们来看一下什么是神经元，我们以生物体的神经元来做类比，比如人脑的神经元是如何工作和构成功？首先我们看到下面这副图。

如简单示意图所示，它是由树突、轴突，还有连接树突和轴突的细胞核来组成。树突负责接收其他神经元传过来的信号，由神经细胞核汇总树突传过来的信号量，如果信号量超过了一个阀值，则细胞核通过轴突把信号传递给其他神经元。具体的工作过程见下图：

神经细胞接收到树突传过来的信号之后，就开始变红并判断是不是应该输出信号，如果输入的信号之和小于阈值则不输出任何信号，反之则输出大小固定的信号。为什么有阈值这个要求，其实也非常好理解，我们看喜剧之所以会发笑，是因为神经脑细胞传递出来的这个信号超过了我们的笑点，所以我们就笑了，笑点就是阈值。输出信号就是笑和不笑，也可以这样表示，笑用1表示，不笑用0表示。

整个完整的过程可以由下面这个动图来进行演示：

整理神经元工作结构如下：

来自其他多个神经元的信号之和成为神经元的输入。
如果这个信号之和超过神经元固有的阈值，则点火。
神经元的输出信号可以用数字信号0和1来表示，即使有多个输出端，其值也是同一个。

在上述3点基础上，我们尝试用数学的方式来表达神经元的工作结构。

我们可以用数学式表示输入信号，由于输入信号是来自相邻神经元的输出信号，所以根据第3点输入信号，也可以用有、无两种信息表示，因此用变量X表示，输入信号时如下所示。

接下来我们用数学式表示输出信号，根据第3点输出信号可以用来表示点火与否的“有”“无”两种信息来表示，因此用变量y表示输出信号如下所示。

从第1点和第2点可知神经元点火与否是根据来自其他神经元的输入信号的和来判定的，但是这个求和的方式应该不是简单的求和，比如我们在看喜剧小品的过程中之所以会发笑，是因为我们看到了演员浮夸的表演，而不仅仅是听到了台词，在看喜剧表演的过程中，很明显视神经细胞所发出的信号量要明显高于听觉带来的信号量，所以对于输入信号的和大脑是通过改变权重来求和的。那么这个改变权重来求和是如何用数学的方式来进行表达呢？仔细看下面这幅图。

我们得到了图中的公式1，W1X1+ W2X2 + W3X3 。

根根根据我们总结的第2点，神经元在信号之和超过阀值时点火不超过阀值时不点火，于是利用公式1，点火条件可以如下公式2表示。

下面呢，我们将点火条件公式2图形化，以神经元的输入信号之和为横轴神经元的输出信号，y为纵轴将公式2用图形表示出来，如下图所示。当输入信号之和小于θ时，y取值0，反之y取值1。

如果我们要用一个函数来表示这个图形就需要用到下面的单位阶跃函数。其图形如下图所示。

利用单位阶跃函数。公式2就可以用公式3来表示，

通过下面这个表格可以证明公式2和公式3是等价的。

最后还是给大家留个作业吧。

作业：如果你是产品经理，面向算法工程师提出实现神经元的需求，你要怎么提？如果你是算法工程师，你需要得到什么样的需求，才能够给出神经元的数学表示？

课程结束时，如果觉得课程GET到你了，请一键三连哟！

为了奖励童鞋阅读到最后，给出个彩蛋，推荐阅读《深度学习的数学》，本课程中很多知识点就是来自此书。

神经元是如何组成神经网络？相关推荐

【数据挖掘】神经网络后向传播算法 ( 线性回归与逻辑回归 | 单个神经元本质及逻辑 | 神经网络每一层分析 | 神经网络矩阵形式 | 线性变换与非线性变换 )
文章目录 I . 线性回归与逻辑回归 II . sigmod 非线性激活函数 III . 神经元单元逻辑 IV . 单个神经元单元总结 V . 神经网络每一层分析 VI . 神经网络矩阵 ...
从神经元谈到深度神经网络
作者 | 泳鱼来源 | 算法进阶本文将从神经元到逻辑回归模型结构,并将其扩展到深度深度网络模型. 一.谈谈智慧对于人类智慧奥秘的探索,不同时代.学科背景的人对于智慧的理解及其实现方法有着不同的思 ...
Facebook：易于解释的神经元可能会阻碍深度神经网络的学习
选自 Facebook AI 博客作者:Matthew Leavitt.Ari Morcos 机器之心编译编辑:张倩.杜伟易于解释的神经元对于提升神经网络的性能来说是必要的吗?Facebook ...
神经元谈到深度神经网络
序列文章上文[<一文速览机器学习的类别(Python代码)>](https://www.jianshu.com/p/fbe59dc46907) 提到逻辑回归并做了简单介绍.本文将从神经元 ...
单神经元自适应控制算法,bp神经网络缺点及克服
为什么BP神经网络是有限自适应的? 算法都是有自身的缺陷的吧,要不也不会出现这么多的神经网络改进的算法,但是BP神经网络对大多数的问题都是有一定的处理能力的,只是处理的精度不一定能够达到要求. 优化初 ...
从神经元到CNN、RNN、GAN…神经网络看本文绝对够了
在深度学习十分火热的今天,不时会涌现出各种新型的人工神经网络,想要实时了解这些新型神经网络的架构还真是不容易.光是知道各式各样的神经网络模型缩写(如:DCIGN.BiLSTM.DCGAN--还有哪些? ...
多层感知机和神经网络的区别_学习笔记－从神经元到神经网络
人的大脑神经网络的复杂程度有人说,只有银河系可以比拟.总所周知,神经网络就是模仿大脑神经网络用数学知识构造的模型.单个神经元还是比较简单的. 神经元一个神经元有树突,轴突,和细胞体等部分.树突接受输 ...
神经网络 - 用单层感知器实现多个神经元的分类 - （Matlab建模）
训练样本矩阵: P = [0.1 0.7 0.8 0.8 1.0 0.3 0.0 –0.3 –0.5 –1.5; 1.2 1.8 1.6 0.6 0.8 0.5 0.2 ...
人工神经网络神经元模型,人工神经元算法机制图
神经网络算法原理 4.2.1概述人工神经网络的研究与计算机的研究几乎是同步发展的. 1943年心理学家McCulloch和数学家Pitts合作提出了形式神经元的数学模型,20世纪50年代末,Rosen ...

神经元是如何组成神经网络？

神经元是如何组成神经网络？相关推荐

最新文章

热门文章