前面介绍了TensorFlow的主要概念,并给出了一个完整的TensorFlow程序来训练神经网络.这一章将介绍:如何设计和优化神经网络,使得他能够更好地对未知的样本进行预测。
1.介绍深度学习与深层神经网络的概念,并给出一个实际的样例来说明深层神经网络可以解决部分浅层神经网络解决不了的问题。
2.介绍如何设定神经网络的优化目标。这个优化目标也就是损失函数,所以将分别介绍分类问题和回归问题中比较常用的几种损失函数。除了使用经典的损失函数外,还将给出一个样例来讲解如何通过损失函数的设置,使神经网络优化的目标更加接近实际问题的需求。
3.将更加详细地介绍神经网络的反向传播算法,并且给出一个TensorFlow框架来实现反向传播的过程。
4.在对神经网络优化有了进一步了解之后,最后将介绍在神经网络优化中经常遇到的几个问题,并且给出解决这些问题的具体方法。

1.1深度学习与深层神经网络

维基百科对深度学习的精确定义为“一类通过多层非线性变换对高复杂性数据建模算法的合集”。因为深层神经网络是实现“多层非线性变换”最常用的一种方法,所以在实际中基本上可以认为深度学习就是深层神经网络的代名词。从维基百科给出的定义看出,深度学习有两个非常重要的特性——多层和非线性。本节将给出详细的解释:
1.先介绍线性变换存在的问题,以及为什么要在深度学习的定义中强调“复杂问题”
2.将介绍如何实现去线性化,并给出TensorFlow程序来实现去线性化的功能
3.将介绍一个具体的样例来说明深层网络比浅层网络可以解决更多的问题

1.1线性模型的局限性

TensorFlow之深层神经网络相关推荐

  1. 【TensorFlow】笔记2:深层神经网络

    一.深度学习 vs 深层神经网络 深度学习:一类通过多层非线性变换对高复杂性数据建模算法的集合. 1.激活函数 线性模型的最大特点:任意线性模型的组合仍是线性模型,能够解决的问题也是有限的,这就是线性 ...

  2. TensorFlow:实战Google深度学习框架(三)深层神经网络

    第四章 深层神经网络 4.1 深度学习与深层神经网络 4.1.1 线性模型的局限性 4.1.2 激活函数实现非线性化 4.1.3 多层网络解决异或问题 4.2 损失函数 4.2.1 经典损失函数 1. ...

  3. 02.改善深层神经网络:超参数调试、正则化以及优化 W3. 超参数调试、Batch Norm和程序框架(作业:TensorFlow教程+数字手势预测)

    文章目录 1. 探索TensorFlow库 1.1 线性函数 1.2 计算 sigmoid 1.3 计算损失函数 1.4 One_Hot 编码 1.5 用0,1初始化 2. 用TensorFlow建立 ...

  4. 【翻译】Sklearn 与 TensorFlow 机器学习实用指南 —— 第11章 训练深层神经网络(中)...

    梯度裁剪 减少梯度爆炸问题的一种常用技术是在反向传播过程中简单地剪切梯度,使它们不超过某个阈值(这对于递归神经网络是非常有用的:参见第 14 章). 这就是所谓的梯度裁剪.一般来说,人们更喜欢批量标准 ...

  5. 【TensorFlow】TensorFlow从浅入深系列之二 -- 教你通过思维导图深度理解深层神经网络

    本文是<TensorFlow从浅入深>系列之第2篇 TensorFlow从浅入深系列之一 -- 教你如何设置学习率(指数衰减法) TensorFlow从浅入深系列之二 -- 教你通过思维导 ...

  6. 《Scikit-Learn与TensorFlow机器学习实用指南》第11章 训练深层神经网络

    第11章 训练深层神经网络 来源:ApacheCN<Sklearn 与 TensorFlow 机器学习实用指南>翻译项目 译者:@akonwang @飞龙 校对:@飞龙 @Zeyu Zho ...

  7. TensorFlow学习笔记——深层神经网络

    引言 TensorFlow 版本1.15pip3 install tensorflow==1.15.0. 这是<TensorFlow实战Google深度学习框架(第2版)>的学习笔记,所有 ...

  8. ApacheCN《Sklearn 与 TensorFlow 机器学习实用指南》 第11章 项目训练深层神经网络(梯度消失与梯度爆炸,选择初始化,选择激活函数)

    原文:https://www.jishux.com/p/52b468ceb5722ca5 第11章 训练深层神经网络 来源:ApacheCN<Sklearn 与 TensorFlow 机器学习实 ...

  9. 深度学习总结:深层神经网络(tensorflow实战)

    tensorflow实战Google深度学习框架 人工智能.机器学习.深度学习关系图 人工智能:让计算机掌握人类看起来非常直观的常识,如自然语言理解.图像识别.语音识别等等 如何数字化表达现实世界中的 ...

最新文章

  1. SAP MM Purchasing Report中Selection Parameter WE101 WE103
  2. aix解压tgz_AIX 上压缩与解压缩 各种文件格式原理说明
  3. 使用PLP特征训练crnn语音分类
  4. CascadePSP 测试笔记
  5. 008_Spring Data JPA原生SQL
  6. Cannot add or update a child row:
  7. Mysql:增加用户和密码,赋予权限
  8. python3.6安装包报错_win10安装python3.6的常见问题
  9. 160 - 35 cupofcoffe.1
  10. Qt学习笔记 信号和槽
  11. android 自定义paint,Android自定义View中Paint、Rect、Canvas介绍(一)
  12. GAMIT处理GLONASS数据
  13. Hadoop(八)网站流量分析
  14. JS 字符串 常用方法(截取、替换、拼接)
  15. 普通用户sftp 无法使用解决方法
  16. 韩语计算机术语大全,韩语学习:韩语计算机、互联网术语 - 英语家园
  17. 超级玩家联想Z5s来了1398元起 顶配12GB划时代超旗舰联想Z5 Pro GT 855版惊艳亮相
  18. PyQt5界面编程改变字体大小
  19. 青囊如可授 从此访鸿蒙 意思,江南水寺中元夜,金粟栏边见月娥.什么意思
  20. “简直把我们‘往死里日’啊”——自动驾驶公司CEO眼里的量产交付之痛

热门文章

  1. 既然都有了NS,何不再入一个喷喷(Splatoon 2)【下】
  2. 一、mysql数据库基本框架
  3. unityshader 晶格化消散
  4. 学习正则表达式 - 匹配 Unicode 和其他字符
  5. 2020移动apn接入点哪个快_手机资讯:5G 网络和现在 iPhone 使用的 Wi-Fi 有什么区别速度会更快吗...
  6. 2020移动apn接入点哪个快_为什么别人的4g网总比你快? 手机这个设置没开启, 难怪网络...
  7. vue项目前端实现pdf文件下载
  8. 三个蛤蜊三块肉才能称得上“老板”
  9. 第一代程序员王小波 (送书活动)
  10. 斗地主发牌及排序流程