点击上方“AI公园”，关注公众号，选择加“星标“或“置顶”

编译：ronghuaiyang

前戏

好东西就是要拿来分享的，今天给大家介绍一个非常好的免费深度学习的课程，该课程是由idiap研究所和瑞士洛桑联邦理工学院联合推出的，该课程的最大特点是使用PyTorch 1.0进行教学，也是目前为止我所看到的唯一使用PyTorch 1.0进行教学的，刚刚出炉还热乎的哦！该课程还提供了全套的PPT和课程笔记供大家参考，我已经下载整理好了，下载方式请看文末，先看看具体的内容吧！

课程主页地址：https://fleuret.org/ee559/

你可以在这里找到幻灯片，由Francois Fleuret在EPFL教授。本课程涵盖了主要的深度学习工具和理论成果，并附有PyTorch框架中的示例。

去年的资料包括16小时的视频，但课程结构略有不同，是为PyTorch 0.3.1开发的，与PyTorch 1.0.0.有很大区别。

感谢Adam Paszke、Alexandre Nanchen、Xavier Glorot、Andreas Steiner、Matus Telgarsky、Diederik Kingma、Nikolaos Pappas、Soumith Chintala和Shaojie Bai的回答和评论。

幻灯片

幻灯片pdf是我在课堂上使用的。它们很美观的，包括叠加和字体着色，以方便演示。讲义pdf没有这些花哨的效果，而且每页有两张幻灯片是纵向的，以便于离线阅读和做笔记。

您可以获得所有文件的压缩包：ee559-sliall.zip、ee559-handoutall.zip。

最后更新：UTC时间2018年12月15日星期六21:05:08。

1. 介绍。

   1. 神经网络到深度学习。(21张幻灯片)

   2. 目前的应用和成功。( 22张幻灯片)

   3. 到底发生了什么?(13张幻灯片)

   4. 张量基础和线性回归。(12张幻灯片)

   5. 高维度张量。(15张幻灯片)

   6. 张量内部。(5张幻灯片)

2. 机器学习基础。

   1. 损失和风险。(15张幻灯片)

   2. 过拟合和欠拟合。(24张幻灯片)

   3. 偏差和方差的困境。(10张幻灯片)

   4. 适当的评估方法。(6张幻灯片)

   5. 基本的聚类和嵌入。(19张幻灯片)

3. 多层感知机和反向传播。

   1. 感知机。(16张幻灯片)

   2. 从概率论角度看线性分类器。(8张幻灯片)

   3. 线性可分与特征设计。(10张幻灯片)

   4. 多层感知机。(10张幻灯片)

   5. 梯度下降。(13张幻灯片)

   6. 反向传播。(幻灯片)

4. 图运算，自动求导，卷积层。

   1. DAG网络。(11张幻灯片)

   2. 自动求导。(19张幻灯片)

   3. PyTorch模块和批处理。(14张幻灯片)

   4. 卷积。( 23张幻灯片)

   5. 池化。(7张幻灯片)

   6. 编写一个PyTorch模块。(10张幻灯片)

5. 初始化和最优化

   1. 交叉熵的损失。( 9张幻灯片)

   2. 随机梯度下降法。(17张幻灯片)

   3. PyTorch优化。( 8张幻灯片)

   4. L2和L1惩罚。(10张幻灯片)

   5. 参数初始化。(22张幻灯片)

   6. 结构选择和训练协议。( 9张幻灯片)

   7. 写一个自动求导函数。(7张幻灯片)

6. 更加深入。

   1. 深度的好处。(9张幻灯片)

   2. ReLU。( 7张幻灯片)

   3. Dropout。(12张幻灯片)

   4. Batch normalization。(15张幻灯片)

   5. 残差网络。(21张幻灯片)

   6. 使用gpu。(17张幻灯片)

7. 计算机视觉

   1. 计算机视觉的任务。(15张幻灯片)

   2. 用于图像分类的网络。(36张幻灯片)

   3. 用于目标检测的网络。(15张幻灯片)

   4. 用于语义分割的网络。(8张幻灯片)

   5. DataLoader和神经网络外科手术。(13张幻灯片)

8. 隐藏技能

   1. 查看参数。(11张幻灯片)

   2. 查看激活值。(21张幻灯片)

   3. 可视化输入中的处理。(26张幻灯片)

   4. 优化输入。(25张幻灯片)

9. 自动编码器和生成模型

   1. 转置运算。(14张幻灯片)

   2. Autoencoders。( 20张幻灯片)

   3. 去噪和变分自编码器。(24张幻灯片)

   4. Non-volume preserving网络。(24张幻灯片)

10. 生成对抗模型

    1. 生成对抗网络。(30张幻灯片)

    2. Wasserstein GAN。(16张幻灯片)

    3. 条件GAN和图像转换。(27张幻灯片)

    4. 模型保存和checkpoints。(9张幻灯片)

11. RNN模型和NLP

    1. RNN。(23张幻灯片)

    2. LSTM和GRU。(17张幻灯片)

    3. 词的嵌入和转换。(31张幻灯片)

预备知识

• 线性代数(向量和欧几里得空间)，

• 微积分(雅可比矩阵，海森矩阵，链式法则)，

• Python编程,

• 概率和统计基础(离散和连续分布，大数定律，条件概率，贝叶斯，主成分分析)，

• 最优化基础(最小值概念，梯度下降)，

• 算法基础(计算的复杂度)，

• 信号处理基础(傅立叶变换、小波)。

往期精彩回顾

1、最全的AI速查表|神经网络，机器学习，深度学习，大数据

2、资源|10个机器学习和深度学习的必读免费课程

3、论文看吐了没有？做研究的同学瞧一瞧看一看啦，教你读论文：为什么读以及如何读

4、人人都能看得懂的深度学习介绍！全篇没有一个数学符号！

5、想找个数据科学家的工作吗？别再随大流了！

所有的资料包括幻灯片和课程笔记，都已经打包好，获取下载链接步骤如下：

1. 关注“AI公园”公众号

2. 后台回复：idiap

本文可以任意转载，转载时请注明作者及原文地址。

请长按或扫描二维码关注本公众号