传统机器学习和深度神经网络对比
Table of Content
- Alpha GO
- 神经网络
- 从工业的角度对比传统机器学习和深度神经网络
Alpha GO
虽然大家会说AlexNet是深度学习的开始,但真正引爆整个AI行业的可以说是Alpha GO(人称阿尔法狗)。Alphabet子公司Deepmind开发的围棋算法在01博弈游戏上成功击败人类,除了传统的把神经网络往深里走,然后通过过去对局的学习意外,还加入了一些探索性的策略使得人们认为它将是未来的AI发展方向。如果你英语够好也可以直接阅读它的原文,这里并不是我想说的重点。我们要沉下心来反思这个浮躁的技术。
神经网络
一种传统的机器学习方法,它就好像是一颗横着放的树加上一些策略,看起来像人类的思考方式。它有人脑神经元的特质,像生物感受器一样。有多个输入端和多个输出端。同一个细胞可能要受到多个来源的输入才可能传播到下个神经细胞。
神经网络完美地复制了这一结构,它早在上个世纪初就已经有人用电阻地方式去模拟这样地算法,可是最终以失败告终,最直接地原因就是能力不是几十个神经元可以体现出来的。像万金油ResNet152的层数到达了152层神经网络,训练的过程对显卡要求是非常的高,如果使用Pytorch那么请自己查2019年Nvidia 2080Ti 8G现存以上显卡价格。不得不佩服人脑的伟大,可以提供几亿个这样的网络同时互相作用。
但实际上它完全无法突破的就是对于一个问题的定义范围。比如,你让Alpha GO去试试英雄联盟?因此神经网络只是一种像显微镜一样的工具,在某些场合能够超越人类,但最后还是一个解决问题的工具而已(离通过图灵测试还远着呢)。它在复杂的现实世界里,应用的范围也是有限的,受到数据集和网络设计的限制。更重要的是对于深层次的网络平民级显卡是无法承受。除非有无限的时间和无限石子。
然而传统的机器学习算法并没有以上的问题。他们深知自己是一门工具,有效地为工业界提供稳定可靠解决方法。所以现在比较突出的深度神经网络应用有Computer Vision, Natural Language Processing和Recommendation System里。除了NLP以外,其余两个方向算是找到了自己的金主,但Recommendation System算是一个比较不正宗的神经网络,后面文章会对比。由于个人还没有时间深入到NLP的领域太深,我就从CV和RS两个方向,对深度网络做个简单评判。
从工业的角度对比传统机器学习和深度神经网络
在学深度神经网络的时候有个词汇就定好传统机器学习和深度神经网络的应用范围,那就是可解释性。当深度神经网络只有几层的时候我们可以用卷积核的感受野来解释它的合理性。可随着网络深层化,一些Dropout、BN层使得它就像变了一个人似的无法解释为什么会这么做的黑盒子。
有这么一种观点,工业界不允许大量运用这么摸棱两可的技术,因为它无法证明它自己的正确性,就好比我们不可以用深度神经网络去测算桥梁的稳定程度,也不可以在食品生产的某个环节相信那91%的准确性,因为那8%的错误会导致工业血本无归,无法证明它的正确意味着跟一部分的工业完全脱钩。但过分的追求可解释就等于没有隐私!这也是不符合工业界的思路,也是深度神经网络的机会。设计网络地时候可以结合传统机器学习,也许也能提高不少可解读。所以深度神经网络在各种行业探索中前行。
传统机器学习和深度神经网络对比相关推荐
- 对抗机器学习系列——深度神经网络的盲点
1.引言 近些年,深度学习在计算机视觉领域取得了很好的表现,引领了第三次人工智能的浪潮.目前大部分表现优异的应用都用到了深度学习,大红大紫的 AlphaGo 就使用到了深度学习. 但是本期讲的 ...
- 对传统机器学习和深度学习的一些思考
文章目录 0.写在前面 1. 机器学习是什么? 2. 从机器学习到深度学习 2.1 机器学习的发展历史 2.2 到底机器学习和深度学习的关系是什么? 3. 传统的机器学习算法没落了么?还有必要学么? ...
- 机器学习、监督学习、非监督学习、强化学习传统机器学习、深度学习、迁移学习基本概念
文章目录 机器学习(machine learning) 监督学习(supervised learning) 非监督学习(unsupervised learning) 强化学习(reinforcemen ...
- 机器学习、深度神经网络的认识与结论
0. 深度神经网络的分类 General DL FC:Fully Connected Sequence Models: 1D 数据 RNN.LSTM Image 2D.3D CNN Unsupervi ...
- 机器学习 vs 深度学习到底有啥区别,为什么更多人选择机器学习
机器学习和深度学习有什么区别?让我们从本文中寻找答案. 目标 本文中,我们将深度学习与机器学习作比较.我们将逐一了解他们.我们还会讨论他们在各个方面的不同点.除了深度学习和机器学习的比较,我们还将研究 ...
- AI人工智能ML机器学习DL深度学习
人工智能Artificial Intelligence最早是在1956年提出的.几个计算机科学家在达特茅斯会议上希望能使计算机不仅仅是进行简单的计算,而是可以达到人脑相同的功能.关于人工智能,罗辑思维 ...
- 机器学习_深度学习毕设题目汇总——行人
下面是该类的一些题目: 题目 图像中的行人检测关键技术研究 基于图像的行人再识别重排序算法研究 基于显著区域特征的行人再识别技术研究 基于深度学习的行人重识别算法研究 基于生物视觉模型的行人识别研究 ...
- 机器学习VS深度学习
如今,当有人提到人工智能引起社会变革潜力时,他们很可能是在谈论机器学习中的人工神经网络.当一篇文章谈人工神经网络突破性进展时,作者很可能指的是深度学习. 人工神经网络是一种非线性统计建模工具,可以用 ...
- 文本分类:Keras+RNN vs传统机器学习
摘要:本文通过Keras实现了一个RNN文本分类学习的案例,并详细介绍了循环神经网络原理知识及与机器学习对比. 本文分享自华为云社区<基于Keras+RNN的文本分类vs基于传统机器学习的文本分 ...
- 一文读懂机器学习与深度学习的联系与区别
一文读懂机器学习与深度学习的联系与区别 https://mp.weixin.qq.com/s/6Zk5JxBUs_Op1wwiY4EIZA 翻译: Tocy, kevinlinkai, 雪落无痕xd ...
最新文章
- Tutorial——使用Maven开发Cloud Driver
- 时间换算_只愿与一人十指紧扣_新浪博客
- python读取nii文件_python实现批量nii文件转换为png图像
- Tool之Bazel:Bazel的简介、安装、使用方法之详细攻略
- optee:kernel space调用user space进程时候的硬件行为
- QT的QDtls类的使用
- C++ replace replace_if replace_copy replace_copy_if
- 搜狗输入法不能输入验证码,验证码错误怎么办?
- Spark SQL and DataFrame Guide(1.4.1)——之DataFrames
- Scala学习(二、控制结构)
- MVC应用程序JsonResult()的练习
- Java中的final、static、this、super 关键字
- buck-boost电路中,输入电压增加后,电感电流曲线变化的推导 // 《精通开关电源设计》P44 图2-3
- 希尔加密法matlab,希尔密码加密解密
- Jmeter使用插件查看服务器CPU、内存使用率
- 怎么修改数据库服务器名字,sql改数据库名称
- Oracle 校验统一社会信用代码函数
- python中close函数的用法_skft包 pythonpython close()是什么?python close()定义及用法详解...
- vue:单文件组件模板
- 2021 GitHub年度排行榜出炉!中文Top3项目诞生!