第一章 神经网络基础

目前,深度学习(Deep Learning,简称DL)在算法领域可谓是大红大紫,现在不只是互联网、人工智能,生活中的各大领域都能反映出深度学习引领的巨大变革。要学习深度学习,那么首先要熟悉神经网络(Neural Networks,简称NN)的一些基本概念。当然,这里所说的神经网络不是生物学的神经网络,我们将其称之为人工神经网络(Artificial Neural Networks,简称ANN)貌似更为合理。神经网络最早是人工智能领域的一种算法或者说是模型,目前神经网络已经发展成为一类多学科交叉的学科领域,它也随着深度学习取得的进展重新受到重视和推崇。

为什么说是“重新”呢?其实,神经网络最为一种算法模型很早就已经开始研究了,但是在取得一些进展后,神经网络的研究陷入了一段很长时间的低潮期,后来随着Hinton在深度学习上取得的进展,神经网络又再次受到人们的重视。本文就以神经网络为主,着重总结一些相关的基础知识,然后在此基础上引出深度学习的概念,如有书写不当的地方,还请大家评批指正。

一、神经元模型

神经元是神经网络中最基本的结构,也可以说是神经网络的基本单元,它的设计灵感完全来源于生物学上神经元的信息传播机制。我们学过生物的同学都知道,神经元有两种状态:兴奋和抑制。一般情况下,大多数的神经元是处于抑制状态,但是一旦某个神经元收到刺激,导致它的电位超过一个阈值,那么这个神经元就会被激活,处于“兴奋”状态,进而向其他的神经元传播化学物质(其实就是信息)。

下图

BP算法(神经网络基础+BP算法推导+BP算法举例+java代码实现+Python代码实现+局限性)相关推荐

  1. 独家 | 从基础到实现:集成学习综合教程(附Python代码)

    作者:AISHWARYA SINGH 翻译:和中华 校对:丁楠雅 本文约8000字,建议阅读10+分钟. 本文从基础集成技术讲起,随后介绍了高级的集成技术,最后特别介绍了一些流行的基于Bagging和 ...

  2. 算法实战应用案例精讲-【图像处理】Pillow图像处理(python代码实战)

    目录 操作图像 计算机图像基础 颜色和RGBA值 坐标和 Box 元组 CMYK 和 RGB着色

  3. MATLAB算法实战应用案例精讲-【语音识别】语音合成(附python代码实现)

    目录 前言 什么是语音合成 拼接法 参数法 1.传统方法:(基于信号处理)

  4. 【算法】Shannon Entropy决策中的香农熵介绍、计算以及python代码实现

    1. 实现 香农熵又称信息熵,反映了一条信息的信息量大小和它的不确定性之间的关系,是信息量的度量,单位为 bit. 对于某件事情: 不确定性越大,熵越大,确定该事所需的信息量也越大: 不确定性越小,熵 ...

  5. 加勒比海盗船——最优装载问题(趣学算法C++代码和python代码)

    C++代码: #include<iostream> #include<algorithm> #include<conio.h> const int N=100000 ...

  6. 图像处理算法实战应用案例精讲-【目标检测】YOLO(附python代码实现)

    目录 前言 几个高频面试题目 1.如何对目标物体进行检测? 方法一:窗口切分

  7. “华为杯”研究生数学建模竞赛2019年-【华为杯】A题:基于神经网络的无线电波传播损耗预测模型(附优秀论文及Python代码)

    目录 摘 要: 1. 问题重述 1 . 1 问题背景 1 . 2 问题描述 2. 符号与变量说明

  8. DL之BP:神经网络算法简介之BP算法简介(链式法则/计算图解释)、案例应用之详细攻略

    DL之BP:神经网络算法简介之BP算法简介(链式法则/计算图解释).案例应用之详细攻略 相关文章:DL之DNN之BP:神经网络算法简介之BP算法/GD算法之不需要额外任何文字,只需要八张图讲清楚BP类 ...

  9. DL之DNN之BP:神经网络算法简介之BP算法/GD算法之不需要额外任何文字,只需要八张图讲清楚BP类神经网络的工作原理

    DL之DNN之BP:神经网络算法简介之BP算法/GD算法之不需要额外任何文字,只需要八张图讲清楚BP类神经网络的工作原理 目录 BP类神经网络理解 1.信号正向传播FP 2.误差反向传播BP+GD B ...

  10. 算法设计与分析——算法学基础(三):渐进记号

    分类目录:<算法设计与分析>总目录 相关文章: 算法学基础(一):算法学概述 算法学基础(二):分析算法 算法学基础(三):渐进记号 第<算法学基础(二):分析算法>中定义了算 ...

最新文章

  1. 导师喜不喜欢你?看以下几点就知道!
  2. R语言dplyr包对数据进行超前或者之后处理(lead、lag)实战
  3. 关于python那些事_Python 入门你必须知道的那些事
  4. 自制单选多选日历文本框文本域控件
  5. Arts 第四周(4/8 ~ 4/14)
  6. Request的getParameter和getAttribute方法的差别
  7. 交叉熵损失函数原理详解,KL散度
  8. 【75位联合作者Nature重磅】AI药神:机器学习模型有望提前五年预测白血病!
  9. 手写分页 个人感觉还能优化,甚至抽象出来,需要高手讲解
  10. 当配置 DispatcherServlet拦截“/”,SpringMVC访问静态资源的三种方式
  11. 丶对字符串进行加密和解密
  12. pwm一个时间单位_通过PWM进行数模转换的滤波电路分析计算
  13. Mongo连接可视化工具Robo3T,以及Robo3T使用
  14. 怎么用计算机录像,怎么用电脑自带屏幕录制工具?免费录制方法
  15. freertos空闲任务、阻塞延时
  16. Wormhole流程搭建踩坑总结(一)
  17. ueditor编辑器遇到的问题
  18. (深度学习入门)sigmoid型函数和 sigmoid函数的区别
  19. java 读取db3 数据库_db4o(db3文件是什么数据库)
  20. 编写程序,找出用户输入的一串数的最大数,程序需要提示用户一个一个地输入数,当用户输入0或负数时,程序显示出已输入的最大负整数:

热门文章

  1. 微信小程序开发制作 | 第1期:下载微信小程序开发工具
  2. 怎么学单片机,怎么入门
  3. 上三角、下三角、对称矩阵
  4. 国药准字、药品本位码
  5. 《Qt 5/PyQt 5实战指南》目录
  6. 关于Terra和Aqua的轨道问题整理
  7. adams做动态静力学分析(牛头刨床为例)机械原理课设(完整)
  8. 《遥感原理与应用》总结—遥感平台
  9. 插件对计算机的运行有什么影响吗,电脑插件太多导致电脑运行缓慢怎么办 - 驱动管家...
  10. ant-design tree 设置默认选中状态_[路由系列]5分钟设置一台Ubiquiti的ERX路由器