机器学习与神经网络绪论
一、人工智能
- 人工智能:人工智能就是让其具有人类的智能。“计算机控制”+“智能行为”
流派:连接主义(能力好但缺乏解释性)、符号主义(解释性好)、行为主义。 - 人工智能研究领域
机器感知(计算机视觉、语音信息处理、模式识别)
学习(机器学习、强化学习)
语言(自然语言处理)
记忆(知识表示)
决策(规划、数据挖掘) - 如何开发一个人工智能系统?
专家知识(人工规则)
机器学习≈构建一个映射函数=规则(语音识别、图像识别、围棋、机器翻译)
训练数据,测试数据。
二、机器学习
- 原始数据 --> 数据预处理 --> 特征提取 --> 特征转换 --> 预测 --> 结果
_______________|--------------特征处理-----------| ____浅层学习 - 语义鸿沟:人工智能挑战之一
底层特征 VS 高层语义 - 好的数据表示?
很强表示能力、后续学习任务变得简单、具有一般性,任务或领域独立的
数据表示是机器学习的核心问题。
①局部表示:离散表示、符号表示。One-Hot向量
② 分布式表示:压缩、低位、稠密向量;用O(N)个参数表示O(2k)区间 - 表示学习
原始数据 --> 底层特征 --> 中层特征 --> 高层特征 --> 预测 --> 结果
____________|-----------表示学习---------------| - 传统特征提取vs表示学习
特征提取:基于任务或先验对去除无用特征。(对分类器效果不能保证)
表示学习:通过深度模型学习高层语义特征。(没有明确目标,对分类器有帮助)
三、 神经网络
人工神经网络:由大量神经元以及他们之间的有向连接构成。
- 神经元的激活规则:输入到输出的映射关系,一般非线性函数
- 网络的拓扑结构:不同神经元之间的连接关系
- 学习算法:通过训练数据来学习神经网络的参数。
前馈网络、记忆网络、图网络。
如何解决贡献度分配问题?偏导数
四、神经网络发展史
模型提出:MP模型、B型图灵机、感知器(Perceptron)
冰河期:基本感知器无法处理异或、反向传播算法、新知机(类似于卷积神经网络)
反向传播算法引起的复兴:Hopfield网络、玻尔兹曼机、多层感知器、卷积神经网络。
流行度降低:--------
深度学习崛起:多层前馈神经网络可以先通过逐层与训练,再用反向传播算法进行精调方式进行有效学习。深度卷积神经网络模型、
机器学习与神经网络绪论相关推荐
- 基于Apache Spark的机器学习及神经网络算法和应用
使用高级分析算法(如大规模机器学习.图形分析和统计建模等)来发现和探索数据是当前流行的思路,在IDF16技术课堂上,英特尔公司软件开发工程师王以恒分享了<基于Apache Spark的机器学习及 ...
- 机器学习实战-神经网络-21
机器学习实战-神经网络-手写数字识别项目 # pip install scikit-learn --upgrade from sklearn.neural_network import MLPClas ...
- 【机器学习】神经网络BP理论与python实例系列
理论部分 <机器学习--人工神经网络之发展历史(神经元数学模型.感知器算法)> <机器学习--人工神经网络之多层神经网络(多层与三层)> <机器学习--人工神经网络之后向 ...
- 机器学习——人工神经网络之BP算法编程(python二分类数据集:马疝病数据集)
目录 一.理论知识回顾 1.神经网络模型 2.明确任务以及参数 1)待估参数: 2)超参数: 3)任务 3.神经网络数学模型定义 1)激活函数 2)各层权重.阈值定义 3)各层输入输出定义 4.优 ...
- 机器学习——人工神经网络之后向传播算法(BP算法)
目录 一.后向传播算法的本质--梯度下降法求局部极值 1.w迭代公式的合理性 二.后向传播算法的推导(以二层神经网络为例) 1.问题描述(创建目标函数loss函数,求参数) 2.求解参数的流程(四步曲 ...
- 机器学习——人工神经网络之多层神经网络(多层与三层)
目录 一.多层神经网络 1.多层神经网络数学模型 2.数学模型中的非线性函数fai 1)非线性函数fai存在的意义 2)非线性函数fai具体是什么? 3.多层神经网络与单层神经网络的区别与改进 1)单 ...
- 机器学习——人工神经网络之发展历史(神经元数学模型、感知器算法)
目录 一.神经元的数学模型 二.感知器算法(SVM算法前身) 1.目的 2.流程 >>>问题1:下图w和b的调整是什么意思? 3.算法的有效性验证 1)原算法 2)增广矩阵 3) ...
- 猿宵节正确打开方式:你要的大数据、机器学习、神经网络…已配齐
导读:数据叔听说,程序猿们今晚要通宵了: 但数据叔真心希望,在这个以团圆为关键词的节日里,你能早点下班,跟家人一起过节.光说几句祝福的话好像诚意不够,数据叔再送一本书,愿你在新年开工之际提高姿势水平. ...
- 机器学习:神经网络的代价函数及反向传播算法
在<机器学习:神经网络的模型构建>中,我记录了神经网络的一些基础知识,包括神经网络的逻辑单元.模型表示.前向传播等等.这篇笔记中,我会整理神经网络的代价函数以及反向传播算法- 那么如何在给 ...
- 吴恩达机器学习4——神经网络
吴恩达机器学习4--神经网络 1. 非线性假设 2. 神经网络算法 2.1 神经元 2.2 神经网络 3. 神经网络算法实例 3.1 例子1:单层神经网络表示逻辑运算 3.2 例子2 4. 多分类 1 ...
最新文章
- Nature重磅:管轶等发现穿山甲是SARS-CoV-2的中间宿主
- linux ubuntu 系统日志信息
- 【偶尔一道ctf】xctf adword mobile easy-apk
- varchar和Nvarchar区别 ----转载
- 360手机麦克风测试软件,【奇酷小技巧】教你无需ROOT增大话筒、听筒和外放声音!...
- 学习Knowledge Graph Embedding Based Question Answering代码笔记
- tf.nn.dropout
- linux内核完全剖析0.11,linux0.11内核完全剖析 - ramdisk.c
- ASP数据库连接方式大全
- 面向对象的JavaScript-007-Function.prototype.bind() 的4种作用
- js排序算法05——快速排序
- 编写iPhone应用程序有何不同
- 阶段1 语言基础+高级_1-3-Java语言高级_05-异常与多线程_第6节 Lambda表达式_6_Lambda表达式有参数有返回值的...
- 电压比较器的原理与应用
- ORACLE P6 21.12 系统虚拟机(VM)分享
- JS base64 加密和 后台 base64解密(防止中文乱码)
- winapi获取鼠标指向当前元素
- 关于ruby on rails启动服务器 Webpacker configuration file not found问题
- 云计算现在前景如何?怎么转型成为云计算工程师?
- 解决无线网络不稳定的两个方案几个方法