2019独角兽企业重金招聘Python工程师标准>>>

摘要: 那些年我们错误理解了人工神经网络,想知道错在什么地方吗?快来学习一下吧。

神经网络是机器学习算法中最流行且最强大的算法。在定量金融中,神经网络通常用于时间序列预测、构建专有指标、算法交易、证券分类和信用风险建模,它也被用来构建随机过程模型和价格衍生工具。尽管它很有用,但神经网络往往因为它们的性能是“不可靠的”而声誉不佳。在我看来,这可能是由于对神经网络工作机制误解所致。本系列将讨论了一些常见的对于神经网络的误解。本文先介绍两个错误的理解:它是人脑的模型,第二它是统计学的一种弱形式。

神经网络不是人脑的模型

人类的大脑是我们这个时代最伟大的奥秘,科学家们尚未就其工作原理达成共识。目前有两种大脑理论:即祖母细胞理论和分布式表征理论。第一个理论认为,单个神经元具有很高的处理信息能力,并且能够表达复杂的概念。第二种理论认为,神经元更简单,复杂对象的表示分布在许多神经元中。人工神经网络貌似是受到第二种理论的启发。

我相信目前这一代神经网络不具备感知能力(与智能不同)的一个原因是因为生物神经元比人工神经元复杂得多。

大脑中的单个神经元是一台令人难以置信的复杂机器,即使在今天我们也不明白。而神经网络中的单个“神经元”是一个非常简单的数学函数,只能捕捉生物神经元复杂性的一小部分。所以说神经网络模仿大脑,这在思路上是真的,但真正的人造神经网络与生物大脑没有什么相似之处——Andrew Ng

大脑和神经网络之间的另一大区别在于规模和组织。人脑比神经网络包含更多的神经元和突触,他们有自我组织能力和适应性。相比之下,神经网络是根据架构来组织的。神经网络不像大脑那样是“自组织”的,与有序网络相比,神经网络更接近图形。

由大脑成像技术发展而来的一些非常有趣的大脑视图。 

先比之下,我们只能说神经网络受大脑启发,就像北京的奥林匹克体育场受到鸟巢的启发。这并不意味着奥林匹克体育场就是鸟巢,它只意味着在体育场的设计中存在一些鸟巢的元素。换句话说,大脑的某些元素存在于神经网络的设计中,但它们比我们想像的要少得多。

事实上,神经网络与统计方法(如曲线拟合和回归分析)更密切相关。在定量金融的背景下,我认为重要的是要记忆,因为虽然说“某种东西受到大脑的启发”可能听起来很酷,但这种说法可能会导致不切实际的期望或恐惧。欲了解更多信息,请参阅这篇文章

 

曲线拟合也称为函数逼近,神经网络常常用来逼近复杂的数学函数。

神经网络不是弱统计

神经网络由相互连接的节点层组成,单个节点被称为感知器,类似于多重线性回归。在多层感知器中(MLP),感知器被排列成层并且层与层彼此连接。在MLP中,有三种类型的层:即输入层、隐藏层和输出层。输入层接收输入模式,输出层输入映射的分类或输出信号的列表。隐藏层调整这些输入的权重,直到神经网络的误差最小化。

映射输入:输出

感知器可以接收由n属性组成的输入向量z=(z1,z2,...Zn)。这个输入向量称为输入模式,这些输入根据该感知器的权向量加权:v=(v1,v2...,vn)。在多元线性回归的背景下,这些可以被认为是回归系数或贝塔值。感知器的净输入信号net通常是输入模式与其权重的总和乘积,其使用和积神经元网络被称为求和单元。

net=ni1zivi

净输入信号减去偏差θ然后馈送到某个激活函数f()。激活函数通常是在(0,1)或(-1,1)之间有界的单调递增函数(下文将进行进一步讨论),另外激活函数可以是线性或非线性的。

下面显示了一些神经网络中常用的激活函数:

最简单的神经网络就是只有一个将输入映射到输出的神经元。给定一个模式p,这个网络的目标是使输出信号op的误差相对于某些给定训练模式tp某个已知目标值的误差最小化。例如,如果神经元应该将p映射到-1,但其映射到了1,那么神经元的误差(如平方和距离测量)将为4。

分层(Layering)

如上图所示,感知器被组织成层。第一层输入感知器,从训练集PT接收模式p。最后一层是映射到这些模式的预期输出。

隐藏层是接收另一层的输出作为输入,并且输出形成输入到另一层的隐藏层。那么,这些隐藏层是做什么的?其中一种技术解释是它们提取输入数据中的显着特征,这些特征对输出具有预测能力。这被称为特征提取,并以某种方式执行与统计技术(如主成分分析)类似的功能。

深度神经网络具有大量的隐藏层,并且能够从数据中提取更多的特征。最近,深度神经网络对于图像识别问题表现得特别好。下面显示了图像识别环境下的特征提取示例:

我认为使用深度神经网络所面临的问题之一(除了过度拟合之外)是神经网络的输入几乎总是被大量预处理。

学习规则(Learning Rules)

如前所述,神经网络的目标是最小化一些误差测量值ε。最常见的误差指标是平方和误差,尽管这一指标对异常值很敏感。

考虑到网络的目标是最小化ε,我们可以使用优化算法来调整神经网络中的权重。神经网络最常见的学习算法是梯度下降算法,尽管可以使用其他更好的优化算法。梯度下降的工作方式是计算误差相对于神经网络中每个层的权重的偏导数,然后向与梯度相反的方向移动(因为我们想要最小化神经网络的误差)。通过最小化误差,我们可以最大化神经网络样本的性能。

总结

在学术界,一些统计学家认为,神经网络是一个“懒惰分析师的弱统计”方式。但我认为神经网络代表了数百年统计技术的抽象,对于神经网络背后统计数据的精彩解释,我建议阅读这篇文章。我同意一些从业者喜欢将神经网络视为一个“黑匣子”,可以在不花时间理解问题本质以及神经网络是否合适的情况下去研究神经网络。在对于金融市场来说,我认为神经网络并不能完美的展示它的能力。因为市场是动态的,而神经网络假定输入模式的分布随着时间的推移是保持不变。

数十款阿里云产品限时折扣中,赶紧点击领劵开始云上实践吧!

以上为译文。

本文由阿里云云栖社区组织翻译。

文章原标题《artificial-neural-networks-some-misconceptions》,

作者:Jayesh Bapu Ahire  译者:虎说八道,审校:。

文章为简译,更为详细的内容,请查看原文

转载于:https://my.oschina.net/u/3722671/blog/1835060

被错误理解的人工神经网络(一)!相关推荐

  1. 人工神经网络的功能特点,人工神经网络的优缺点

    人工神经网络的特点有哪些 人工神经网络的特点和优越性,主要表现在三个方面:第一,具有自学习功能. 例如实现图像识别时,只在先把许多不同的图像样板和对应的应识别的结果输入人工神经网络,网络就会通过自学习 ...

  2. 【人工智能】话说人工智能与人工神经网络的历程

    人工智能与机器学习 人工智能是计算机科学的一个分支,它企图了解智能的实质,并生产出一种新的能以人类智能相似的方式做出反应的智能机器,该领域的研究包括机器人.语言识别.图像识别.自然语言处理和专家系统等 ...

  3. 人工神经网络——理解人工神经元和神经网络

    前言 人工神经网络主要根据大脑神经元构建人工神经元,并且按照一定的拓扑结构建立神经元之间的连接,模拟生物神经网络.早期模型强调生物合理性,目前更加强调对认知能力的模拟,完成某种特定任务.人工神经网络系 ...

  4. 人工神经网络与神经网络,对人工神经网络的理解

    人工神经网络,人工神经网络是什么意思 . 一.人工神经网络的概念人工神经网络(ArtificialNeuralNetwork,ANN)简称神经网络(NN),是基于生物学中神经网络的基本原理,在理解和抽 ...

  5. 人工神经网络的算法原理,对人工神经网络的理解

    什么是人工神经网络及其算法实现方式 人工神经网络(Artificial Neural Network,即ANN ),是20世纪80 年代以来人工智能领域兴起的研究热点. 它从信息处理角度对人脑神经元网 ...

  6. 根据自己的理解给出人工神经网络的定义,并指出其特征

    人工神经网络的基本组成是什么啊 基本结构是三层,输入层,隐层,输出层,各层由神经元和神经元之间的权值组成. 人工神经网络的定义,详细说明 人工神经网络(Artificial Neural Networ ...

  7. 用小事例来理解模糊控制、人工神经网络、PID控制等

    自适应控制.预测控制.模糊控制等,跟PID一样,是控制算法. 而粒子群.遗传算法(类似的还有蚁群算法.神经网络,还有机器学习.人工智能中的很多方法)是优化方法,本来跟控制没关系,只不过有时被拿来参数优 ...

  8. 第一次,我们在人工神经网络中发现了「真」神经元

    视学算法报道 转载自:机器之心 参与:杜伟.魔王 无论是字面上.符号上还是概念上的表达,这种神经元都会对相同的概念做出反应. OpenAI 的研究者们在人工神经网络 CLIP 上发现了「真」神经元,这 ...

  9. 第一次,人类在人工神经网络中发现了“真”神经元

    来源:学术头条 本文经授权转载自机器之心(almosthuman2014) OpenAI 的研究者们在人工神经网络 CLIP 上发现了「真」神经元,这种机制解释了 AI 模型对令人惊讶的视觉呈现进行分 ...

  10. 对人工神经网络“开刀”,利用神经科学消融法检测人工神经网络

    来源:DeepTech深科技 摘要:当谈及人工神经网络,黑箱问题总会引起热议,人们对黑箱问题的评价褒贬不一. 有人认为黑盒是神经网络的优势,这代表神经网络的自主学习性,代表其自动学习以及自动完善的特性 ...

最新文章

  1. java 多路分发_java实现多路分发
  2. LUOGU P4195 Spoj3105 Mod
  3. mysql提示The server quit without updating PID file /usr/local/mysql/data/localhost.localdomain.pid
  4. 企业是否真的需要BI?
  5. python任务调度平台 界面_分布式任务调度平台XXL-JOB
  6. java的excel导出_java 实现excel 导出功能
  7. css33d坐标系,CSS3-3D技术
  8. 用批处理替换文件中的内容
  9. php 容器对象,Laravel 6.2 中添加了可调用容器对象的方法
  10. 学习笔记 ---- 设计模式之观察者模式
  11. Digital Filters
  12. Debian 配置Bind9 DNS服务器
  13. html入住登记源码,酒店客户入住登记管理系统设计与实现.doc
  14. cefsharp启动优化
  15. Alpha 冲刺(8/10)
  16. 3374——数据结构实验之查找二:平衡二叉树
  17. linux源码中,.org 0x2000,ENTRY(pg1)表示的是什么意思?org是什么意思,ENTRY是什么意思啊?
  18. html如何使一个盒子水平垂直居中
  19. sketchup转stl_Sketchup最好用的减面优化和格式转换插件!
  20. 一文读懂成交量、换手率

热门文章

  1. SDOI2017 树点涂色
  2. [Python设计模式] 第14章 老板来了——观察者模式
  3. [转载]【深入Java虚拟机】之四:类加载机制
  4. oracle 误删除数据,回退表数据
  5. Node.js CVE-2017-14849复现(详细步骤)
  6. JPA 系列教程14-自定义类型-@Embedded+@Embeddable
  7. 关于readonly修饰符
  8. 正确理解和使用GBK及UTF-8编码
  9. Oracle学习笔记之触发器
  10. Memory Monitor