感知机的出现是人工智能发展史一大重要里程碑，其后才诞生了：多层感知机、卷积神经网络等一系列的经典网络模型。

在我看来，它虽然是深度学习领域的一大开端，但本身解决的只是线性二分类问题，它本身与机器学习经典模型线性SVM有着一些相似度。又如Logistic sigmoid函数，也可以解决二分类问题，且这时我们接触了非线性函数，后面所接触的激活函数如Softmax又可以看作logistic是它的一种特殊情况。

因此，我打算按这种顺序重新整理一下：

感知机->Logistic回归分类->多层感知机->...
线性SVM->核SVM

一、阈值逻辑单元(Threshold Logic Unit, TLU)

如上图是一个神经元，我们可以看到它的胞体、轴突、树突。

我们高中的时候学过一种东西叫做神经递质，分为抑制性神经递质和兴奋性神经递质，以及一些关于兴奋和抑制相关的知识；

我们把这些递质看作神经元的输入，则可模仿神经元建立以下模型(M-P unit)：

其中：

那个方块中的符号代表阶跃函数

$x_{i}$ 兴奋性输入

$z_{i}$ 抑制性输入

$y_{i}$ 二元化输出

输入与输出都是二进制的

$\theta$ 阈值

解释如下：

M-P单元可以被单个抑制性信号所抑制，就像真实的神经元一样。
如果, , . . . , 至少有一个为 1, 则该单元被抑制且

AI遮天传 ML/DL-感知机相关推荐
1. AI遮天传 DL-多层感知机
  本文介绍多层感知机,会先按照历史顺序介绍多层感知机诞生前的一些模型,后面介绍具体实现与其算法. 一.前戏 1.1 阈值逻辑单元(Threshold Logic Unit, TLU) 如上图是一个神经元 ...
2. AI遮天传 DL-回归与分类
  本文主要介绍Logistic回归和Softmax回归一.回归与分类回忆给定数据点集合和相应的标签 ,对于一个新的数据点x,预测它的标签(目标是找到一个映射 ): 如果是一个连续的集合,称其为回 ...
3. AI遮天传 ML-广义线性模型(一)
  前文:AI遮天传 ML-回归分析入门_老师我作业忘带了的博客-CSDN博客前文回顾: 还记得很久很久以前,我们学习了简单的回归分析,这其实与我们在学校所学的求解回归方程并没无太大的区别,或许仅是维度 ...
4. AI遮天传 DL-CNN
  上次我们介绍了多层感知机(MLP),本次将介绍深度学习领域中第二个基本的模型:卷积神经网络(CNN).CNN在MLP之上又引入了两种新的层:卷积层和池化层. 一.简介 1.1 大脑皮层中的局部检测器和 ...
5. AI遮天传 DL-反馈神经网络RNN
  本文会先介绍动态系统的概念,然后介绍两种简单的反馈神经网络,然后再介绍两种门控神经网络(LSTM, GRU),最后是关于反馈神经网络的应用(本次以语音识别为例). RNN: Recurrent neu ...
6. AI遮天传 ML-KNN
  我们之前学习的方法如决策树.回归分析.贝叶斯分析都可以看作是三步走的学习方法,即: 估计问题的特征(如分布) 做出模型假设(LSE.Decision.Tree.MAP.MLE ) 找到最优的参数 ...
7. AI遮天传 ML-SVM
  支持向量机(Support Vector Machine,SVM)是Corinna Cortes和Vapnik等于1995年首先提出的,它在解决小样本.非线性及高维模式式识别中表现出许多特有的优势,并 ...
8. AI遮天传 ML-集成学习
  "Two heads are better than one." "三个臭皮匠,顶一个诸葛亮" 把多个人的智慧集合到一起,可能会比一个人好,放在机器学习上,我们 ...
9. AI遮天传 ML-无监督学习
  一.无监督学习介绍机器学习算法分类(不同角度): 贪婪 vs. 懒惰参数化 vs. 非参数化有监督 vs. 无监督 vs. 半监督 ...... 什么是无监督学习?(unsupervised l ...
最新文章
热门文章

AI遮天传 ML/DL-感知机

一、阈值逻辑单元(Threshold Logic Unit, TLU)

AI遮天传 ML/DL-感知机相关推荐

最新文章

热门文章