softmax回归的简洁实现

我们发现(通过深度学习框架的高级API能够使实现) (softmax) 线性(回归变得更加容易)。同样，通过深度学习框架的高级API也能更方便地实现softmax回归模型。本节如在 :numref:sec_softmax_scratch中一样，继续使用Fashion-MNIST数据集，并保持批量大小为256。

import torch
from torch import nn
from d2l import torch as d2l

batch_size = 256
train_iter, test_iter = d2l.load_data_fashion_mnist(batch_size)

初始化模型参数

[softmax回归的输出层是一个全连接层]。因此，为了实现我们的模型，我们只需在Sequential中添加一个带有10个输出的全连接层。同样，在这里Sequential并不是必要的，但它是实现深度模型的基础。我们仍然以均值0和标准差0.01随机初始化权重。

# PyTorch不会隐式地调整输入的形状。因此，
# 我们在线性层前定义了展平层（flatten），来调整网络输入的形状
net = nn.Sequential(nn.Flatten(), nn.Linear(784, 10))def init_weights(m):if type(m) == nn.Linear:nn.init.normal_(m.weight, std=0.01)net.apply(init_weights);

重新审视Softmax的实现

我们计算了模型的输出，然后将此输出送入交叉熵损失。从数学上讲，这是一件完全合理的事情。然而，从计算角度来看，指数可能会造成数值稳定性问题。

回想一下，softmax函数

softmax回归的简洁实现相关推荐

[pytorch、学习] - 3.7 softmax回归的简洁实现
参考 3.7. softmax回归的简洁实现使用pytorch实现softmax import torch from torch import nn from torch.nn import ini ...
softmax回归的简洁实现-09-p5
softmax回归的简洁实现通过深度学习框架的高级API能够使实现 softmax 回归变得更加容易 import torch from torch import nn from d2l impor ...
pytorch学习笔记（九）：softmax回归的简洁实现
文章目录 1. 获取和读取数据 2. 定义和初始化模型 3. softmax和交叉熵损失函数 4. 定义优化算法 5. 训练模型 6. 总代码 7.小结使用Pytorch实现一个softmax回归模 ...
[pytorch、学习] - 3.6 softmax回归的从零开始实现
参考 3.6 softmax回归的从零开始实现 import torch import torchvision import numpy as np import sys sys.path.appen ...
【Pytorch神经网络基础理论篇】 08 Softmax 回归 + 损失函数 + 图片分类数据集
3.4. softmax回归回归可以用于预测多少的问题. 比如预测房屋被售出价格,或者棒球队可能获得的胜场数,又或者患者住院的天数. 事实上,我们也对分类问题感兴趣:不是问"多少" ...
李沐笔记（softmax回归）
回归:估计一个连续值(房价问题) 分类:预测一个离散类别(预测图片中是猫是狗) kaggle上的分类问题:将人类蛋白质显微镜图片分成28类.将恶意软件分成9类.将恶意的Wikipedia评论分成7类. ...
深度学习基础--SOFTMAX回归（单层神经网络）
深度学习基础–SOFTMAX回归(单层神经网络) 最近在阅读一本书籍–Dive-into-DL-Pytorch(动手学深度学习),链接:https://github.com/newmonkey/Div ...
动手学PyTorch | (5) Softmax回归实验
目录 1. 图像分类数据集(Fashion-Mnist) 2. Softmax回归从0开始实现 3. Softmax回归的简洁实现 1. 图像分类数据集(Fashion-Mnist) 在介绍softm ...
深度学习PyTorch笔记（12）：线性神经网络——softmax回归
深度学习PyTorch笔记(12):线性神经网络--softmax回归 6 线性神经网络--softmax回归 6.1 softmax回归 6.1.1 概念 6.1.2 softmax运算 6.2 图 ...

softmax回归的简洁实现

初始化模型参数

重新审视Softmax的实现

softmax回归的简洁实现相关推荐

最新文章

热门文章