《动手学深度学习》(PyTorch版)
《动手学深度学习》PyTorch版
- 前言
- 简介
- 面向人群
- 食用方法
- 方法一
- 方法二
- 方法三
- 目录
- 原书地址
- 引用
- 阅读指南
前言
读书啦!!!
本项目将《动手学深度学习》 原书中MXNet代码实现改为PyTorch实现。原书作者:阿斯顿·张、李沐、扎卡里 C. 立顿、亚历山大 J. 斯莫拉以及其他社区贡献者,GitHub地址:https://github.com/d2l-ai/d2l-zh
此书的中英版本存在一些不同,针对此书英文版的PyTorch重构可参考这个项目。
There are some differences between the Chinese and English versions of this book. For the PyTorch modifying of the English version, you can refer to this repo.
强烈推荐!!!
简介
本仓库主要包含code和docs两个文件夹(外加一些数据存放在data中)。其中code文件夹就是每章相关jupyter notebook代码(基于PyTorch);docs文件夹就是markdown格式的《动手学深度学习》书中的相关内容,然后利用docsify将网页文档部署到GitHub Pages上,由于原书使用的是MXNet框架,所以docs内容可能与原书略有不同,但是整体内容是一样的。欢迎对本项目做出贡献或提出issue。
面向人群
本项目面向对深度学习感兴趣,尤其是想使用PyTorch进行深度学习的童鞋。本项目并不要求你有任何深度学习或者机器学习的背景知识,你只需了解基础的数学和编程,如基础的线性代数、微分和概率,以及基础的Python编程。
食用方法
方法一
本仓库包含一些latex公式,但github的markdown原生是不支持公式显示的,而docs文件夹已经利用docsify被部署到了GitHub Pages上,所以查看文档最简便的方法就是直接访问本项目网页版。当然如果你还想跑一下运行相关代码的话还是得把本项目clone下来,然后运行code文件夹下相关代码。
方法二
你还可以在本地访问文档,先安装docsify-cli
工具:
npm i docsify-cli -g
然后将本项目clone到本地:
git clone https://github.com/ShusenTang/Dive-into-DL-PyTorch.git
cd Dive-into-DL-PyTorch
然后运行一个本地服务器,这样就可以很方便的在http://localhost:3000
实时访问文档网页渲染效果。
docsify serve docs
方法三
如果你不想安装docsify-cli
工具,甚至你的电脑上都没有安装Node.js
,而出于某些原因你又想在本地浏览文档,那么你可以在docker
容器中运行网页服务。
首先将本项目clone到本地:
git clone https://github.com/ShusenTang/Dive-into-DL-PyTorch.git
cd Dive-into-DL-PyTorch
之后使用如下命令创建一个名称为「d2dl」的docker
镜像:
docker build -t d2dl .
镜像创建好后,运行如下命令创建一个新的容器:
docker run -dp 3000:3000 d2dl
最后在浏览器中打开这个地址http://localhost:3000/#/
,就能愉快地访问文档了。适合那些不想在电脑上装太多工具的小伙伴。
目录
简介
阅读指南
1. 深度学习简介
2. 预备知识
- 2.1 环境配置
- 2.2 数据操作
- 2.3 自动求梯度
3. 深度学习基础
- 3.1 线性回归
- 3.2 线性回归的从零开始实现
- 3.3 线性回归的简洁实现
- 3.4 softmax回归
- 3.5 图像分类数据集(Fashion-MNIST)
- 3.6 softmax回归的从零开始实现
- 3.7 softmax回归的简洁实现
- 3.8 多层感知机
- 3.9 多层感知机的从零开始实现
- 3.10 多层感知机的简洁实现
- 3.11 模型选择、欠拟合和过拟合
- 3.12 权重衰减
- 3.13 丢弃法
- 3.14 正向传播、反向传播和计算图
- 3.15 数值稳定性和模型初始化
- 3.16 实战Kaggle比赛:房价预测
4. 深度学习计算
- 4.1 模型构造
- 4.2 模型参数的访问、初始化和共享
- 4.3 模型参数的延后初始化
- 4.4 自定义层
- 4.5 读取和存储
- 4.6 GPU计算
5. 卷积神经网络
- 5.1 二维卷积层
- 5.2 填充和步幅
- 5.3 多输入通道和多输出通道
- 5.4 池化层
- 5.5 卷积神经网络(LeNet)
- 5.6 深度卷积神经网络(AlexNet)
- 5.7 使用重复元素的网络(VGG)
- 5.8 网络中的网络(NiN)
- 5.9 含并行连结的网络(GoogLeNet)
- 5.10 批量归一化
- 5.11 残差网络(ResNet)
- 5.12 稠密连接网络(DenseNet)
6. 循环神经网络
- 6.1 语言模型
- 6.2 循环神经网络
- 6.3 语言模型数据集(周杰伦专辑歌词)
- 6.4 循环神经网络的从零开始实现
- 6.5 循环神经网络的简洁实现
- 6.6 通过时间反向传播
- 6.7 门控循环单元(GRU)
- 6.8 长短期记忆(LSTM)
- 6.9 深度循环神经网络
- 6.10 双向循环神经网络
7. 优化算法
- 7.1 优化与深度学习
- 7.2 梯度下降和随机梯度下降
- 7.3 小批量随机梯度下降
- 7.4 动量法
- 7.5 AdaGrad算法
- 7.6 RMSProp算法
- 7.7 AdaDelta算法
- 7.8 Adam算法
8. 计算性能
- 8.1 命令式和符号式混合编程
- 8.2 异步计算
- 8.3 自动并行计算
- 8.4 多GPU计算
9. 计算机视觉
- 9.1 图像增广
- 9.2 微调
- 9.3 目标检测和边界框
- 9.4 锚框
- 9.5 多尺度目标检测
- 9.6 目标检测数据集(皮卡丘)
- 9.7 单发多框检测(SSD)
- 9.8 区域卷积神经网络(R-CNN)系列
- 9.9 语义分割和数据集
- 9.10 全卷积网络(FCN)
- 9.11 样式迁移
- 9.12 实战Kaggle比赛:图像分类(CIFAR-10)
- 9.13 实战Kaggle比赛:狗的品种识别(ImageNet Dogs)
10. 自然语言处理
- 10.1 词嵌入(word2vec)
- 10.2 近似训练
- 10.3 word2vec的实现
- 10.4 子词嵌入(fastText)
- 10.5 全局向量的词嵌入(GloVe)
- 10.6 求近义词和类比词
- 10.7 文本情感分类:使用循环神经网络
- 10.8 文本情感分类:使用卷积神经网络(textCNN)
- 10.9 编码器—解码器(seq2seq)
- 10.10 束搜索
- 10.11 注意力机制
- 10.12 机器翻译
持续更新中…
原书地址
中文版:动手学深度学习 | Github仓库
English Version: Dive into Deep Learning | Github Repo
引用
如果您在研究中使用了这个项目请引用原书:
@book{zhang2019dive,title={Dive into Deep Learning},author={Aston Zhang and Zachary C. Lipton and Mu Li and Alexander J. Smola},note={\url{http://www.d2l.ai}},year={2020}
}
阅读指南
和原书一样,docs内容大体可以分为3个部分:
- 第一部分(第1章至第3章)涵盖预备工作和基础知识。第1章介绍深度学习的背景。第2章提供动手学深度学习所需要的预备知识。第3章包括深度学习最基础的概念和技术,如多层感知机和模型正则化。如果读者时间有限,并且只想了解深度学习最基础的概念和技术,那么只需阅读第一部分。
- 第二部分(第4章至第6章)关注现代深度学习技术。第4章描述深度学习计算的各个重要组成部分,并为实现后续更复杂的模型打下基础。第5章解释近年来令深度学习在计算机视觉领域大获成功的卷积神经网络。第6章阐述近年来常用于处理序列数据的循环神经网络。阅读第二部分有助于掌握现代深度学习技术。
- 第三部分(第7章至第10章)讨论计算性能和应用。第7章评价各种用来训练深度学习模型的优化算法。第8章检验影响深度学习计算性能的几个重要因素。第9章和第10章分别列举深度学习在计算机视觉和自然语言处理中的重要应用。这部分内容读者可根据兴趣选择阅读。
下图描绘了《动手学深度学习》的结构。
上图中由甲章指向乙章的箭头表明甲章的知识有助于理解乙章的内容。
如果读者想短时间了解深度学习最基础的概念和技术,只需阅读第1章至第3章;
如果读者希望掌握现代深度学习技术,还需阅读第4章至第6章。
第7章至第10章读者可以根据兴趣选择阅读。
加油!
感谢!
努力!
《动手学深度学习》(PyTorch版)相关推荐
- 伯禹公益AI《动手学深度学习PyTorch版》Task 07 学习笔记
伯禹公益AI<动手学深度学习PyTorch版>Task 07 学习笔记 Task 07:优化算法进阶:word2vec:词嵌入进阶 微信昵称:WarmIce 优化算法进阶 emmmm,讲实 ...
- 伯禹公益AI《动手学深度学习PyTorch版》Task 03 学习笔记
伯禹公益AI<动手学深度学习PyTorch版>Task 03 学习笔记 Task 03:过拟合.欠拟合及其解决方案:梯度消失.梯度爆炸:循环神经网络进阶 微信昵称:WarmIce 过拟合. ...
- 伯禹公益AI《动手学深度学习PyTorch版》Task 05 学习笔记
伯禹公益AI<动手学深度学习PyTorch版>Task 05 学习笔记 Task 05:卷积神经网络基础:LeNet:卷积神经网络进阶 微信昵称:WarmIce 昨天打了一天的<大革 ...
- 伯禹公益AI《动手学深度学习PyTorch版》Task 06 学习笔记
伯禹公益AI<动手学深度学习PyTorch版>Task 06 学习笔记 Task 06:批量归一化和残差网络:凸优化:梯度下降 微信昵称:WarmIce 批量归一化和残差网络 BN和Res ...
- 【动手学深度学习PyTorch版】6 权重衰退
上一篇移步[动手学深度学习PyTorch版]5 模型选择 + 过拟合和欠拟合_水w的博客-CSDN博客 目录 一.权重衰退 1.1 权重衰退 weight decay:处理过拟合的最常见方法(L2_p ...
- 【动手学深度学习PyTorch版】12 卷积层
上一篇移步[动手学深度学习PyTorch版]11 使用GPU_水w的博客-CSDN博客 目录 一.卷积层 1.1从全连接到卷积 ◼ 回顾单隐藏层MLP ◼ Waldo在哪里? ◼ 原则1-平移不变性 ...
- 【动手学深度学习PyTorch版】19 网络中的网络 NiN
上一篇请移步[动手学深度学习PyTorch版]18 使用块的网络 VGG_水w的博客-CSDN博客 目录 一.网络中的网络 NiN 1.1 NiN ◼ 全连接层的问题 ◼ 大量的参数会带来很多问题 ◼ ...
- 【动手学深度学习PyTorch版】27 数据增强
上一篇请移步[动手学深度学习PyTorch版]23 深度学习硬件CPU 和 GPU_水w的博客-CSDN博客 目录 一.数据增强 1.1 数据增强(主要是关于图像增强) ◼ CES上的真实的故事 ◼ ...
- 【动手学深度学习PyTorch版】13 卷积层的填充和步幅
上一篇移步[动手学深度学习PyTorch版]12 卷积层_水w的博客-CSDN博客 目录 一.卷积层的填充和步幅 1.1 填充 1.2 步幅 1.3 总结 二.代码实现填充和步幅(使用框架) 一.卷积 ...
- 伯禹公益AI《动手学深度学习PyTorch版》Task 04 学习笔记
伯禹公益AI<动手学深度学习PyTorch版>Task 04 学习笔记 Task 04:机器翻译及相关技术:注意力机制与Seq2seq模型:Transformer 微信昵称:WarmIce ...
最新文章
- vim ctags使用方法
- android fastjson漏洞_亲手带你 Debug Fastjson 的安全漏洞
- 一道有意思的找规律题目 --- CodeForces - 964A
- python 英语翻译 excel_python批量将excel内容进行翻译写入功能
- 实用知识点梳理:网络操作系统、HTTPS、交换机中用户权限、路由器与集线器功能、HTTP2.0特性
- P7990-[USACO21DEC]Closest Cow Wins S【堆,贪心】
- CocoaPods 安装和使用
- tensorflow 模型可视化_基于tensorflow-2.x的yolov3实现
- 傲云浏览器linux,Centos7安装部署zabbix监控软件
- Mybatis的几种传参方式
- linux 邮件附件 中文,linux bash下通过mailx发送中文内容显示为附件的解决
- 手动配置gradle
- PHP 面向对象 精华
- 虚拟声卡实现播放铃声
- DNS服务器设置正确,DNS服务器配置(DNS各属性详细介绍)
- iphone个系列尺寸_iphone12哪个尺寸好 iphone12系列尺寸参数对比
- R语言可视化——画脸谱图
- 转:详尽的变速器调节方法
- No Launcher activity found! The launch will only sync the application package on the device!
- 万字详解数仓分层设计架构 ODS-DWD-DWS-ADS