这篇论文就是关于深度中包含的数学。
作者认为主要有三个因素导致了深度学习的实验性的成功:

  • note: 这三个因素背后就有数学背景,也就是说想要研究深度学习的可解释性,作者认为可以从三个角度来做。
  1. architecture
  2. regularization techniques
  3. optimization

1. architecture

2. regularization techniques

3. optimization properties

使用向后传播来训练一个神经网络,其中最经典就是梯度下降法(one of those optimizers)。然后作者就讲述来优化器的演化。GD —> SGD —> entropy-SGD

Paper outline

  • Section II describes the input-output map of a deep network.
  • Section III studies the problem of training deep networks and establishes conditions for global optimality.
  • Se

可解释性系列论文:Mathematics of Deep Learning相关推荐

  1. 加密流量分类-论文1:Deep Learning for Encrypted Traffic Classification: An Overview

    加密流量分类-论文1:Deep Learning for Encrypted Traffic Classification: An Overview 0.摘要 1.介绍 2.网络流量分类流程框架 2. ...

  2. 论文阅读:Deep Learning in Mobile and Wireless Networking:A Survey

    论文阅读:Deep Learning in Mobile and Wireless Networking:A Survey 从背景介绍到未来挑战,一文综述移动和无线网络深度学习研究 近来移动通信和 5 ...

  3. Data Mining 论文翻译:Deep Learning for Spatio-Temporal Data Mining: A Survey

    原文链接:[1906.04928] Deep Learning for Spatio-Temporal Data Mining: A Survey (arxiv.org) IEEE Transacti ...

  4. 交通预测论文翻译:Deep Learning on Traffic Prediction: Methods,Analysis and Future Directions

    原文链接:[2004.08555v3] Deep Learning on Traffic Prediction: Methods, Analysis and Future Directions (ar ...

  5. #论文 《Wide Deep Learning for Recommender System》翻译

    只是为了深化个人理解,翻译了一下梗概.不追求信达雅,只翻译大意. 概要: 使用非线性特征的广义线性模型(GLM)广泛应用在大规模,输入变量稀疏的回归和分类问题中.其中,通过关于交叉特征的wide模型, ...

  6. 【点云系列】综述: Deep Learning for 3D Point Clouds: A Survey

    文章目录 起因 题目 摘要 1 简介 2 背景 2.1 数据集 2.2 衡量指标 3 3D形状分类 3.1基于多视角的方法 3.2基于体素的方法 3.3 基于点的方法 3.3.1逐点MLP网络 3.3 ...

  7. [论文阅读]中文版 - deep learning

    深度学习 - LeCun.Bengio 和 Hinton 的联合综述 论文地址 Deep learning 时间:2019年6月10日10:11:47 - 2019年6月12日10:41:17 难度: ...

  8. 论文阅读:Deep Learning with Differential Privacy

    论文名字 Deep Learning with Differential Privacy 来源 会议 23rd ACM (CCS2016) 年份 2016.10 作者 Martín Abadi, An ...

  9. DL论文第一周-Deep learning

    [1] LeCun, Yann, Yoshua Bengio, and Geoffrey Hinton. "Deep learning." Nature 521.7553 (201 ...

  10. 论文阅读——A Deep Learning Design for improving Topology Coherence in Blood Vessel Segmentation

    A Deep Learning Design for improving Topology Coherence in Blood Vessel Segmentation 改善血管分割中拓扑一致性的深度 ...

最新文章

  1. java severlet教程_javaweb-severlet
  2. 10+小故事揭秘高频「操作系统面试题」
  3. ASP.NET MVC 5 入门指南汇总
  4. QT绘图控件QWT的安装及配置
  5. Python 实现 动态规划 /斐波那契数列
  6. 互联网1分钟 |1123
  7. 京东白条要上征信了!你用还是不用
  8. Facebook押注VS Code
  9. linux运维选择题,初学Linux练习题
  10. 这是波士顿动力机器狗「他爸」?美军80年代机器狗「考古」,身高3米,人机联合操作...
  11. oracle中exists连接两个表,IN、EXISTS、多表连接,哪个速度更快
  12. linux生成固定大小的文件夹的实现
  13. 【Kafka】kafka 0.10.0 isr 不为空 但是不一致 导致获取消费组异常
  14. react+react-router 4.0+redux 构建购物车实战项目
  15. 5分钟了解MySQL5.7的Online DDL雷区
  16. excel计算式自动计算_全套Excel版工程自动计算表格+实用小工具,高效工作不加班...
  17. windows系统镜像修复计算机,Win10系统下修复Windows映像方法
  18. mb860 刷机教程
  19. HTML中的meta标签
  20. 使用python爬取虎牙主播直播封面图片(scrapy)

热门文章

  1. Spring + Spring MVC + mybatis 下的 junit4 注入单元测试
  2. 随想录(lua源码学习)
  3. 递归下降分析法的基本思想。_语法分析 | 递归下降分析算法
  4. python中角度怎么表示_python – 如何知道两点之间的角度?
  5. python格式化输出作业_Python格式化输出
  6. Python中*args和**kwargs的解释
  7. Python随机梯度下降法(一)
  8. 数据结构:队列的了解与示例(CPU处理任务的时间)
  9. linux管道命令sudo,那些超有趣的Linux命令——第一弹
  10. js 经常用到的键盘码