一、人工智能

  1. 人工智能:人工智能就是让其具有人类的智能。“计算机控制”+“智能行为”
    流派:连接主义(能力好但缺乏解释性)、符号主义(解释性好)、行为主义。
  2. 人工智能研究领域
    机器感知(计算机视觉、语音信息处理、模式识别)
    学习(机器学习、强化学习)
    语言(自然语言处理)
    记忆(知识表示)
    决策(规划、数据挖掘)
  3. 如何开发一个人工智能系统?
    专家知识(人工规则)
    机器学习≈构建一个映射函数=规则(语音识别、图像识别、围棋、机器翻译)
    训练数据,测试数据。

二、机器学习

  1. 原始数据 --> 数据预处理 --> 特征提取 --> 特征转换 --> 预测 --> 结果
    _______________|--------------特征处理-----------| ____浅层学习
  2. 语义鸿沟:人工智能挑战之一
    底层特征 VS 高层语义
  3. 好的数据表示?
    很强表示能力、后续学习任务变得简单、具有一般性,任务或领域独立的
    数据表示是机器学习的核心问题。
    ①局部表示:离散表示、符号表示。One-Hot向量
    ② 分布式表示:压缩、低位、稠密向量;用O(N)个参数表示O(2k)区间
  4. 表示学习
    原始数据 --> 底层特征 --> 中层特征 --> 高层特征 --> 预测 --> 结果
    ____________|-----------表示学习---------------|
  5. 传统特征提取vs表示学习
    特征提取:基于任务或先验对去除无用特征。(对分类器效果不能保证)
    表示学习:通过深度模型学习高层语义特征。(没有明确目标,对分类器有帮助)

三、 神经网络

人工神经网络:由大量神经元以及他们之间的有向连接构成。

  1. 神经元的激活规则:输入到输出的映射关系,一般非线性函数
  2. 网络的拓扑结构:不同神经元之间的连接关系
  3. 学习算法:通过训练数据来学习神经网络的参数。
    前馈网络、记忆网络、图网络。

如何解决贡献度分配问题?偏导数

四、神经网络发展史

模型提出:MP模型、B型图灵机、感知器(Perceptron)
冰河期:基本感知器无法处理异或、反向传播算法、新知机(类似于卷积神经网络)
反向传播算法引起的复兴:Hopfield网络、玻尔兹曼机、多层感知器、卷积神经网络。
流行度降低:--------
深度学习崛起:多层前馈神经网络可以先通过逐层与训练,再用反向传播算法进行精调方式进行有效学习。深度卷积神经网络模型、

机器学习与神经网络绪论相关推荐

  1. 基于Apache Spark的机器学习及神经网络算法和应用

    使用高级分析算法(如大规模机器学习.图形分析和统计建模等)来发现和探索数据是当前流行的思路,在IDF16技术课堂上,英特尔公司软件开发工程师王以恒分享了<基于Apache Spark的机器学习及 ...

  2. 机器学习实战-神经网络-21

    机器学习实战-神经网络-手写数字识别项目 # pip install scikit-learn --upgrade from sklearn.neural_network import MLPClas ...

  3. 【机器学习】神经网络BP理论与python实例系列

    理论部分 <机器学习--人工神经网络之发展历史(神经元数学模型.感知器算法)> <机器学习--人工神经网络之多层神经网络(多层与三层)> <机器学习--人工神经网络之后向 ...

  4. 机器学习——人工神经网络之BP算法编程(python二分类数据集:马疝病数据集)

    目录 一.理论知识回顾 1.神经网络模型 2.明确任务以及参数 1)待估参数: 2)超参数: 3)任务 3.神经网络数学模型定义 1)激活函数 ​ 2)各层权重.阈值定义 3)各层输入输出定义 4.优 ...

  5. 机器学习——人工神经网络之后向传播算法(BP算法)

    目录 一.后向传播算法的本质--梯度下降法求局部极值 1.w迭代公式的合理性 二.后向传播算法的推导(以二层神经网络为例) 1.问题描述(创建目标函数loss函数,求参数) 2.求解参数的流程(四步曲 ...

  6. 机器学习——人工神经网络之多层神经网络(多层与三层)

    目录 一.多层神经网络 1.多层神经网络数学模型 2.数学模型中的非线性函数fai 1)非线性函数fai存在的意义 2)非线性函数fai具体是什么? 3.多层神经网络与单层神经网络的区别与改进 1)单 ...

  7. 机器学习——人工神经网络之发展历史(神经元数学模型、感知器算法)

    目录 一.神经元的数学模型 ​ 二.感知器算法(SVM算法前身) 1.目的 2.流程 >>>问题1:下图w和b的调整是什么意思? 3.算法的有效性验证 1)原算法 2)增广矩阵 3) ...

  8. 猿宵节正确打开方式:你要的大数据、机器学习、神经网络…已配齐

    导读:数据叔听说,程序猿们今晚要通宵了: 但数据叔真心希望,在这个以团圆为关键词的节日里,你能早点下班,跟家人一起过节.光说几句祝福的话好像诚意不够,数据叔再送一本书,愿你在新年开工之际提高姿势水平. ...

  9. 机器学习:神经网络的代价函数及反向传播算法

    在<机器学习:神经网络的模型构建>中,我记录了神经网络的一些基础知识,包括神经网络的逻辑单元.模型表示.前向传播等等.这篇笔记中,我会整理神经网络的代价函数以及反向传播算法- 那么如何在给 ...

  10. 吴恩达机器学习4——神经网络

    吴恩达机器学习4--神经网络 1. 非线性假设 2. 神经网络算法 2.1 神经元 2.2 神经网络 3. 神经网络算法实例 3.1 例子1:单层神经网络表示逻辑运算 3.2 例子2 4. 多分类 1 ...

最新文章

  1. Nature重磅:管轶等发现穿山甲是SARS-CoV-2的中间宿主
  2. linux ubuntu 系统日志信息
  3. 【偶尔一道ctf】xctf adword mobile easy-apk
  4. varchar和Nvarchar区别 ----转载
  5. 360手机麦克风测试软件,【奇酷小技巧】教你无需ROOT增大话筒、听筒和外放声音!...
  6. 学习Knowledge Graph Embedding Based Question Answering代码笔记
  7. tf.nn.dropout
  8. linux内核完全剖析0.11,linux0.11内核完全剖析 - ramdisk.c
  9. ASP数据库连接方式大全
  10. 面向对象的JavaScript-007-Function.prototype.bind() 的4种作用
  11. js排序算法05——快速排序
  12. 编写iPhone应用程序有何不同
  13. 阶段1 语言基础+高级_1-3-Java语言高级_05-异常与多线程_第6节 Lambda表达式_6_Lambda表达式有参数有返回值的...
  14. 电压比较器的原理与应用
  15. ORACLE P6 21.12 系统虚拟机(VM)分享
  16. JS base64 加密和 后台 base64解密(防止中文乱码)
  17. winapi获取鼠标指向当前元素
  18. 关于ruby on rails启动服务器 Webpacker configuration file not found问题
  19. 云计算现在前景如何?怎么转型成为云计算工程师?
  20. 解决无线网络不稳定的两个方案几个方法

热门文章

  1. DSP,从入门到入土
  2. eclipse使用教程超详细讲解
  3. 使用USB驱动虚拟一个声卡
  4. 线性代数之 矩阵乘法的本质
  5. Unity3D视频教程,Unity3D从入门到精通视频教程
  6. 如果找活跃IP段!抓肉鸡必须的!
  7. web第二章 namp和massan扫描技术
  8. php 显示探针_PHP探针
  9. 重温经典:Windows1.0系统体验和尝试自己编写Windows1.0系统
  10. MMORPG大型游戏设计与开发(概述)updated