神经网络：巨量并行，智慧无限

神经元（感知机，Perceptrons），注意常数项w0,不然总是经过原点
如何设置和调整感知机输入的权重？
梯度下降法，知错就改法（Stochastic Learning）
如何解决线性不可分问题？
线性不可分：一根线无法分出来类别
解决办法：多层感知机，把原始问题转化，将不可分转化为可分
The Sigmoid Threshold Unit
sigmoid函数代替门限函数
输入值越接近0，导数越大
神经网络算法（ANN）
- BP(Backpropagation Rule) 前馈型
  能够很好的逼近任意复杂的函数
  深度学习：多层多层感知机
  缺点：陷入局部最优解
  学习率大小的设置：不能太小（必定掉入第一个坑），不能太大（超过真正的解）
- Beyond BP Networks
  - Elman Network
    记忆功能
  - Hopfield Network
    回忆、联想功能
- 特点
  神经网络训练速度慢、准确度高、可解释性差
Demo

【学习笔记】《数据挖掘：理论与算法》CH4神经网络相关推荐

数据挖掘-理论与算法公开课笔记
数据挖掘-理论与算法公开课笔记制作:纪元本提纲遵循CC-BY-NC-SA协议 (署名-非商业性-相同方式共享) 最近更新时间:2020年3月4日01:48:00 文章目录 10.2.1.1 Da ...
TensorFlow 深度学习笔记 TensorFlow实现与优化深度神经网络
TensorFlow 深度学习笔记 TensorFlow实现与优化深度神经网络转载请注明作者:梦里风林 Github工程地址:https://github.com/ahangchen/GDLnote ...
神经网络学习笔记（一) RBF径向基函数神经网络
神经网络学习笔记(一) RBF径向基函数神经网络 2018年08月06日 13:34:26 吃机智豆长大的少女乙阅读数:2735 RBF径向基函数神经网络初学神经网络,以下为综合其他博主学习材料及 ...
TensorFlow2.0 学习笔记（三）：卷积神经网络（CNN）
欢迎关注WX公众号:[程序员管小亮] 专栏--TensorFlow学习笔记文章目录欢迎关注WX公众号:[程序员管小亮] 专栏--TensorFlow学习笔记一.神经网络的基本单位:神经元二.卷 ...
tensorflow学习笔记二——建立一个简单的神经网络拟合二次函数
tensorflow学习笔记二--建立一个简单的神经网络 2016-09-23 16:04 2973人阅读评论(2) 收藏举报分类: tensorflow(4) 目录(?)[+] 本笔记目的 ...
【学习笔记】多项式相关算法
[学习笔记]多项式相关算法手动博客搬家: 本文发表于20181125 13:19:28, 原地址https://blog.csdn.net/suncongbo/article/details/844 ...
深度学习笔记（4）浅层神经网络
深度学习笔记(4) 浅层神经网络 1. 神经网络概述 2. 激活函数 3. 激活函数的导数 4. 神经网络的梯度下降 5. 随机初始化 1. 神经网络概述神经网络看起来是如下: 有输入特征x1.x2 ...
Apollo星火计划学习笔记——Apollo开放空间规划算法原理与实践
文章目录前言 1. 开放空间规划算法总体介绍 1.1 Task: OPEN_SPACE_ROI_DECIDER 1.2 Task: OPEN_SPACE_TRAJECTORY_PROVIDER 1. ...
Boost库学习笔记（二）算法模块-C++11标准
Boost库学习笔记(二)算法模块-C++11标准一.综述 Boost.Algorithm是一系列人通用推荐算法的集合,虽然有用的通用算法很多,但是为了保证质量和体积,并不会将太多通用算法通过审查测 ...
【学习笔记】目标检测算法总结
[学习笔记]目标检测算法总结说明 MacOS操作系统. MindNote思维导图软件. B站学习视频+原论文学习. 初学者笔记如有问题请多多指教记录 Overfeat模型.R-CNN.Fast ...

【学习笔记】《数据挖掘：理论与算法》CH4神经网络

神经网络：巨量并行，智慧无限

【学习笔记】《数据挖掘：理论与算法》CH4神经网络相关推荐

最新文章

热门文章