常用的机器学习与深度学习算法简介

  • 1、机器学习
    • 1.1 决策树与随机森林
    • 1.2 支持向量机(SVM)
    • 1.3 k-最近邻算法
    • 1.4 朴素贝叶斯分类器
  • 2、深度学习
    • 2.1 人工神经网络
    • 2.2 深度神经网络
    • 2.3 卷积神经网络
    • 2.4 循环神经网络
    • 2.5 自编码器

1、机器学习

1.1 决策树与随机森林

决策树(Decision Tree)是一种将决策流程以树状结构清晰表示的机器学习方法,本质上是通过一系列规则对数据进行分类的过程。

图1-决策树

随机森林(Random Forest)是通过构建多个决策树对样本进行训练并预测的一种分类器,其最终输出的类别是由每个决策树输出的类别的众数而决定。

图2-随机森林

1.2 支持向量机(SVM)

支持向量机(Support Vector Machine)是一类按监督学习方式对数据进行二元分类的广义线性分类器,其决策边界是对学习样本求解的最大边距超平面。

图3-支持向量机

1.3 k-最近邻算法

k-最近邻算法(k-Nearest Neighbor,KNN)是一种用于分类和回归的无监督学习算法,也是最简单的机器学习算法之一。该算法在诸多领域得到了广泛的应用,如在药物研发领域常用于化合物的分类,识别活性化合物。

图4-k最近邻算法

1.4 朴素贝叶斯分类器

朴素贝叶斯分类器(Naive Bayes Classifier)是应用最为广泛的分类算法之一。借助于先验概率与后验概率的概念,贝叶斯分类器只需要少量的训练数据即可估计出一些必要的参数,能够在许多复杂的条件中取得较好的效果。

图5-朴素贝叶斯分类器

2、深度学习

2.1 人工神经网络

人工神经网络(Artificial Neural Network,ANN)是20世纪80 年代以来人工智能领域兴起的研究热点。它从信息处理角度对人脑神经元网络进行抽象,建立某种简单模型,按不同的连接方式组成不同的网络。

图6-人工神经网络

2.2 深度神经网络

人工神经网络(Artificial Neural Network,ANN)又称简单神经网络(Simple Neural Network),由输入层、一个隐藏层、输出层三个部分组成,每层都包含若干个神经元。而深度神经网络(Deep Neural Network, DNN)本质上是具有多个隐藏层的ANN,它是最早被应用的深度学习算法之一。

图7-深度神经网络

2.3 卷积神经网络

卷积神经网络(Convolutional Neural Network,CNN)是一种前馈神经网络,通常由输入、卷积层、池化层、全连接层、输出五个部分组成。其中,卷积层是CNN的核心层,该层由一系列的卷积核组成。池化层又称下采样层,主要用于压缩特征空间。CNN在图像识别领域的表现尤为出色,除此之外,CNN在物体检测、图像分割、人脸识别、脑电信号分类等领域都有着广泛的应用。

图8-卷积神经网络

2.4 循环神经网络

与ANN类似,循环神经网络(Recurrent Neural Network,RNN)同样由输入层、隐藏层、输出层三部分组成。RNN是一类用于处理序列的神经网络,如时间序列数据、文本序列数据等。不同于ANN,RNN隐藏单元的状态不仅依赖于当前的输入,还依赖于上一个时刻隐藏单元的输出,这使得RNN成为了一个具有记忆能力的神经网络。RNN在自然语言处理(Natural Language Processing)方面得到了广泛应用,比如基于RNN的LSTM算法被应用于文本生成、机器翻译、语音识别等领域。

值得一提的是,LSTM算法在近年来有着一些我们熟知的应用:

  • 2015年以来,在机械故障诊断和预测领域,相关学者应用LSTM来处理机械设备的振动信号。
  • 2016年,谷歌公司应用LSTM来做语音识别和文字翻译,其中Google翻译用的就是一个7-8层的LSTM模型
  • 2016年,苹果公司使用LSTM来优化Siri应用

图9-循环神经网络

2.5 自编码器

自编码器(Auto Encoder,AE)是一种用于非监督学习的神经网络,同样具有输入层、隐藏层、输出层三层结构,包含编码、解码两个部分。AE的主要作用在于重构输入,即将原始输入经编码抽象后传递至解码器。AE在NLP领域中的机器翻译、文档聚类、情绪分析等任务中都有着广泛的应用。

图10-自编码器

常用的机器学习与深度学习算法简介相关推荐

  1. Dataset:数据集集合(综合性)——机器学习、深度学习算法中常用数据集大集合(建议收藏,持续更新)

    Dataset:数据集集合(综合性)--机器学习.深度学习算法中常用数据集大集合(建议收藏,持续更新) 目录 常规数据集 各大方向分类数据集汇总 具体数据集分类 相关文章 DL:关于深度学习常用数据集 ...

  2. Python大数据综合应用 :零基础入门机器学习、深度学习算法原理与案例

    机器学习.深度学习算法原理与案例实现暨Python大数据综合应用高级研修班 一.课程简介 课程强调动手操作:内容以代码落地为主,以理论讲解为根,以公式推导为辅.共4天8节,讲解机器学习和深度学习的模型 ...

  3. 【重磅干货】Python、机器学习、深度学习算法实战和应用必备书籍

    [导读]首先祝大家中秋佳节快乐,乘此良辰美景,今天就给大家发一波福利干货!本文给大家分享机器学习.深度学习算法实战和应用必备的4本"宝藏"书.具体书籍展示如下:(文末提供下载方式! ...

  4. ML/DL:关于机器学习、深度学习算法模型的选择

    ML/DL:关于机器学习.深度学习算法模型的选择 目录 算法思路 算法思路 更新--

  5. 主流深度学习算法简介

    ** 深度学习算法简介** 1. 深度学习主流算法包括: 1.1 CNN (卷积神经网络) 卷积神经网络(CNN)是最常见的深度学习方法之 一.自20 世纪80 年代后期以来,CNN 已应用于视觉识别 ...

  6. 人工智能,机器学习和深度学习关系简介

    首先,我们看一下人工智能,机器学习和深度学习的关系: 很明显的可以看出,人工智能包含机器学习,机器学习又包含深度学习,他们是一个同心圆.而人工智能,顾名思义,粗略的可以看做把人的智慧和机器结合起来,机 ...

  7. 9种深度学习算法简介

    导读:从算法处理的流程来划分,基于深度学习的目标检测算法可分为两阶段(Two-Stage)算法和一阶段(One-Stage)算法,两阶段算法需要先进行候选框的筛选,然后判断候选框是否框中了待检测目标, ...

  8. 机器学习六—深度学习算法之人工神经网络(ANN)

    人工神经网络(ANN) 一.什么是人工神经网络 二.人工神经网络的运行原理 三.神经网络训练过程 四.神经网络 MLPClassifier 参数用法 五.人工神经网络算法实现 1.首先简单使用skle ...

  9. 机器学习深度学习算法及代码实现

    原文地址:https://blog.csdn.net/qq_31456593/article/details/69340697 最近在学机器学习,学习过程中收获颇多,在此留下学习记录,希望与同道中人相 ...

  10. 机器学习和深度学习_算法测评 | 机器学习VS深度学习

    OLDER BROTHER 大家好,我是你们的机房老哥! "机器学习进阶" 「前言」 " 机器学习和深度学习是很早前就埋下的坑,最近决定整合写一篇,利用机器学习的经典算法 ...

最新文章

  1. 互联网天生本质与产业大局的开始
  2. JKS 密钥库使用专用格式。建议使用 “keytool -importkeystore XXX “迁移到行业标准格式?
  3. mysql有实例名这个概念,MySQL的一些概念笔记
  4. 钉钉产品介绍_钉钉正式推出智能OA:免费开放、一站解决“人财物事”管理难题...
  5. 3d 仪表盘_新一代标致2008官图发布 配备3D全息仪表盘
  6. zhajinhuagame为了迎接新版
  7. ocupload完成文件上传(一键上传)
  8. 近似推断:使用高斯混合模型
  9. hexo之Volantis主题美化
  10. H3CSE认证网络工程师视频课程-广域网-宋文峰-专题视频课程
  11. 月神带你逻辑漏洞挖掘
  12. Asp.net EnableViewState属性
  13. 用思维导图描绘5G场景
  14. TensorFlow 2.9的零零碎碎(五)-模型编译
  15. macM1芯片安装nacos2.0X
  16. MATLAB颜色映像
  17. Spring基础(持续更新)
  18. 每日新闻:Gartner报告:这五大新兴科技趋势将模糊人机界限;阿里云肖力:阿里云安全三大“核驱动: 可信、智能、合规...
  19. Win10系统提示“抱歉,目前Cortana不支持中文(中华人民共和国)”
  20. 蓝牙Ibeacon室内定位之微信摇一摇原理浅析--蓝牙定位--新导智能

热门文章

  1. python绘制直方图显示数字_Python实现柱状图【数字精准展示,使用不同颜色】
  2. 神州数码交换机CS6200命令(信息安全管理与评估赛项)
  3. unity开宝箱动画_如何用PPT打造一个「开启宝箱」的动画?
  4. Android Studio 3.4.1设置背景颜色为保护色
  5. [Excel]VBA编程入门基础知识
  6. mongovue使用简介
  7. Gerber文件的输出
  8. 基于Hough变换的直线检测(Matlab)
  9. Blender场景建模练习:破旧的公寓楼
  10. 计算机毕业设计java+SSM网上购物超市网站(源码+系统+mysql数据库+Lw文档)