学习《机器学习100天》第27天 什么是神经网络？ | 深度学习，第1章
github上的项目，跟着一起学习
项目地址 https://github.com/MLEveryday/100-Days-Of-ML-Code
Youtube频道3Blue1Brown中有精彩的视频介绍神经网络。这个视频提供了很好的解释，并使用手写数字数据集演示基本概念。
B站视频在这里（https://www.bilibili.com/video/av15532370）。
以下是视频笔记：
人脑能轻易的识别并不清晰的数字3
如果写一个程序，来完成这一工作
神经网络的变种：
卷积神经网络，擅于图像识别
长短期记忆网络，擅于语音识别
神经网络的原味版（多层感知器MLP）
名称来源：人的大脑结构
神经元，装有一个数字（0到1之间）的容器
很多个神经元，分别对应图像中的每个像素（28*28=784个），神经元中的数字（激活值）代表对应像素的灰度值（0纯黑，1纯白）
这些784个神经元组成了网络的第一层，
最后一层代表0-9这十个数字，这些激活值表示系统认为输入的图像对应着哪个数字的可能性
中间还有几层“隐含层”，大黑箱
神经网络工作时，上一层的激活值，决定下一层的激活值
处理机制，一层的激活值是通过怎样的运算，算出下一层的激活值
模拟生物钟神经元组成的网络
神经网络如何工作，在第一层输入784个灰度值，输出层最亮的神经元就是神经网络的“选择”
凭什么我们就觉得这种层状结构可以做到智能判断？
人在在识别数字时，是各个部分的组合
理想情况下，希望倒数第二层中的各个神经元，分别对应上一个笔画部件。
当输入一个9或8这种带圈的数字时，某一个神经元的激活值就会接近1.不特指某个圈，而是希望所有这种位于图像顶部的圆圈图案都能点亮这个神经元，这样，从第三层到输出层，只需要学习哪些部件能组合出哪个数字。
识别圆圈的任务可以拆分为更细微的问题，识别出细微的边
希望第二层的神经元，对应短边
不仅是数字识别，图像识别等很多识别工作都能像这样，拆分成小块
上一层的激活值，如何决定下一层的激活值：设计一个机制，把像素拼成短边，把短边拼成图案，
把图案拼成数字。
设计第二层的这一个神经元，能够正确识别出图像中的这块区域里，是否存在一条边。
需要知道这个网络的参数，应该如何调整网络上的旋钮开关，才能让它足以表示出，要么这种图案，要么别的像素图案，要么是几条边组合成圆圈的图案之类。
需要给这个歌神经元和第一层所有神经元间的每一条接线，赋上权重值。激活值*权重值，求和。
把关注区域的权重赋值为正，其他所有的权重为0，对所有像素值取加权和，就会只累积我们关注区域的像素值了。
如果想识别出是否存在一条边，只需给周围一圈的像素赋予负的权重。
在神经网络中，需要激活值在0-1之间。
把加权和输进某个函数，压缩到0-1之间
sigmoid函数/logistic/逻辑斯蒂曲线，把非常大的负值变成接近0，非常大的正值，变成接近1
有时希望大于10再激活，可以-10（这个附加的数叫做偏置），再送进sigmoid函数
权重告诉你第二层的神经网络关注什么样的像素图案
这一层每个神经元，都会和第一层全部的784个神经元相连接，每个各带一个偏置
整个神经网络，很多个权重和偏置。及其如何学习，实际上是计算机如何设置这一大坨的数字参数
符号表达，表示所有连线
把某一层中所有的激活值统一成一列向量
把它和下一层所有的权重放到一个矩阵中，矩阵第n行就是这一层的所有神经元和下一层的神经元连线的权重
权重矩阵和向量乘积的第n项，是这一层所有的激活值和下一层第n个神经元间连线权重的加权和
神经元，数字的容器，函数（输入是上一层所有神经元的输出，输出是0-1之间的值）
其实整个神经网络就是一个函数，复杂一点的函数
神经网络是如何通过数据，来获得合适的权重和偏置的？下集
早期的神经网络用sigmoid函数映射到0-1之间，模拟生物神经元的激活。
但现在的神经网络基本不用sigmoid函数了，用ReLU线性整流函数，返回0和a的最大值，其中a是函数的输入
模拟生物的神经元，大于某一值就激发
在特别深的神经网络上效果特别好
学习《机器学习100天》第27天 什么是神经网络？ | 深度学习，第1章相关推荐
- 人工智能概述、人工智能发展历程、人工智能主要分支、机器学习工作流程、完整机器学习项目的流程、机器学习算法分类、独立同分布、模型评估、深度学习简介
日萌社 人工智能AI:Keras PyTorch MXNet TensorFlow PaddlePaddle 深度学习实战(不定时更新) 1.1 人工智能概述 1 人工智能应用场景 2 人工智能小案例 ...
- 实战 | 深度学习轻松学：如何用可视化界面来部署深度学习模型 转载 2017年12月27日 00:00:00 109 翻译 | AI科技大本营 参与 | 王赫 上个月，我有幸结识了 DeepCogn
实战 | 深度学习轻松学:如何用可视化界面来部署深度学习模型 转载 2017年12月27日 00:00:00 标签: 109 编辑 删除 翻译 | AI科技大本营 参与 | 王赫 上个月,我有幸结识了 ...
- 【组队学习】【31期】水很深的深度学习
水很深的深度学习 航路开辟者:刘洋 领航员:陈宇 航海士:刘洋.陈陟原.左凯文.初晓宇.刘羽中 基本信息 开源内容:https://github.com/datawhalechina/unusual- ...
- 让深度学习进入移动端，蘑菇街在移动端的深度学习优化实践
http://777n.com/keji/50566.html http://777n.com/keji/50566.html http://777n.com/keji/50566.html 深度学习 ...
- 神经网络(深度学习)----MLPClassifier库的初尝试
文章目录 神经网络(深度学习) 神经网络模型 神经网络调参 默认情况(1层hidden层,包含100个隐单元hidden unit) 减少隐单元个数 添加多层隐层 切换激活函数 正则化操作 随机化种子 ...
- 深度学习框架的来龙去脉——史上最全面最新的深度学习框架对比分析
一.深度学习框架概述与深度学习技术的四大阵营 人工智能从学术理论研究到生产应用的产品化开发过程中通常会涉及到多个不同的步骤和工具,这使得人工智能开发依赖的环境安装.部署.测试以及不断迭代改进准确性和性 ...
- 深度学习之初识篇——小白也能跑通的深度学习万能框架【交通标识牌检测】
目录 环境下载:点击即可 数据集下载:点击即可 深度学习环境配置 点击下载深度学习环境 数据集准备 使用自己标注的数据集 使用标注软件 数据准备 VOC标签格式转yolo格式并划分训练集和测试集 部署 ...
- 神经网络+深度学习+增强学习
神经网络+深度学习+增强学习 神经网络 像飞机的灵感来源于鸟类,雷达的灵感来源于蝙蝠,红外线的灵盖来源于蛇,而本文要讨论的神经网络灵感来源于我们自己,人类大脑的神经元结构.从神经元结构被提出,到时下火 ...
- 学习这么多算法到底在解决哪些问题？深度学习之外，我们要选择谁？
CSDN 出品的<2018-2019 中国人工智能产业路线图>V2.0 版即将重磅面世! V1.0 版发布以来,我们有幸得到了诸多读者朋友及行业专家的鼎力支持,在此表示由衷感谢.此次 V2 ...
- 实战 | 深度学习轻松学：如何用可视化界面来部署深度学习模型
翻译 | AI科技大本营 参与 | 王赫 上个月,我有幸结识了 DeepCognition.ai 的创始人. Deep Cognition (深度认知) 建立的深度学习工作室,为很多准备部署深度学习框 ...
最新文章
- 前端面经笔记 2021.8.28
- 关于Map的key值的问题
- 12月22日 find命令
- GoJS超详细入门（插件使用无非：引包、初始化、配参数（json）、引数据（json）四步）...
- 自动驾驶汽车想成为主流？先过了这十二关再说
- UINavigationController使用的一些技巧
- 配置 LBaaS - 每天5分钟玩转 OpenStack（121）
- 2015-03-19 create php alternative for myslq_result in mysqli(PHP)--PDO Tutorial for Mysql Developers
- [NOIP2003] 提高组 洛谷P1041 传染病控制
- sharepoint小 tip
- Use a production WSGI server instead（搭建web网站出现的问题）
- 编译原理（王生源第三版）第一章学习笔记（含第一章习题）
- 基于STC89C52单片机的LED显示电子钟的制作
- 国际象棋棋盘 java_java绘制国际象棋与中国象棋棋盘
- 解决浏览器被劫持的一些方法
- Python运用循环实现模拟登录
- CSharp中集合与字典Contains效率差别
- 万由u-nas系统用上Let’s Encrypt 免费Https安全证书
- matlab---矩阵运算函数
- C#，桌面游戏编程，编写制作《扫雷》游戏代码的实现——需求分析与总体架构设计