PyTorch 深度学习实践 (4)构建线性回归模型
b站视频链接https://www.bilibili.com/video/BV1Y7411d7Ys?p=5
利用pytorch进行深度学习分为以下4个步骤
- 准备数据集(用dataloader和dataset)
- 设计模型(设计 计算图)
- 构建损失函数和优化器(也就是loss函数和optimizer)
- 开始循环训练(前馈算损失,反馈算梯度,更新权重)
广播机制
关于Linear类的介绍
非常好理解
有关python魔法函数的介绍
https://blog.csdn.net/u012609509/article/details/78557650
https://blog.csdn.net/qq_40522828/article/details/89682452
https://zhuanlan.zhihu.com/p/57656253
代码:
import torch
import matplotlib.pyplot as plt# prepare dataset
# x,y是矩阵,3行1列 也就是说总共有3个数据,每个数据只有1个特征
# 行是数据数量,列是数据feature
x_data = torch.Tensor([[1.0], [2.0], [3.0]])
y_data = torch.Tensor([[2.0], [4.0], [6.0]])#画图
epoch_list=[]
loss_list=[]
# design model using class
"""
关于torch.nn.Module的介绍
实现了__call__()函数,call中又有forward函数
our model class should be inherit from nn.Module, which is base class for all neural network modules.
member methods __init__() and forward() have to be implemented
class nn.linear contain two member Tensors: weight and bias
class nn.Linear has implemented the magic method __call__(),which enable the instance of the class can
be called just like a function.Normally the forward() will be called 官网文档
https://pytorch.org/docs/1.7.0/generated/torch.nn.Linear.html#torch.nn.Linear
"""class LinearModel(torch.nn.Module):def __init__(self):super(LinearModel, self).__init__()# (1,1)是指输入x和输出y的特征维度,这里数据集中的x和y的特征都是1维的# 该线性层需要学习的参数是w和b 获取w/b的方式分别是~linear.weight/linear.biasself.linear = torch.nn.Linear(1, 1)# override了Module中的forward方法,必须重写def forward(self, x):# 这里linear因为实现了__call__函数,call函数调用了forward函数,所以我们直接用即可y_pred = self.linear(x) #计算y=wx+breturn y_predmodel = LinearModel()# construct loss and optimizer
# criterion = torch.nn.MSELoss(size_average = False)
criterion = torch.nn.MSELoss(reduction='sum')
optimizer = torch.optim.SGD(model.parameters(), lr=0.01) # model.parameters()自动完成参数的初始化操作
# model.parameters()可以自动找到参数w和b(所有参数),并且计算梯度
# 这里的 SGD是批量梯度下降,因为3个数据是一个batch
# 不要见到SGD就是随机梯度下降
# Adagrad Adam adamax ASGD RMSprop Rprop SGD七种优化器可以代替SGD,效果都不一样
# training cycle forward, backward, update
for epoch in range(100):y_pred = model(x_data) # forward:predict,这句话实现了前向传播loss = criterion(y_pred, y_data) # forward: lossprint(epoch, loss.item())# 画图epoch_list.append(epoch)loss_list.append(loss.item())optimizer.zero_grad() # 必须先清0,再backwards,与之前的代码不一样loss.backward() # backward: autograd,自动计算梯度optimizer.step() # update 参数,即更新w和b的值,也就是w=w-α*gradprint('w = ', model.linear.weight.item())
print('b = ', model.linear.bias.item())x_test = torch.Tensor([[4.0]])
y_test = model(x_test)
print('y_pred = ', y_test.data)# 总结:pytorch实现线性回归分为4个步骤
# 1、prepare dataset
#
# 2、design model using Class # 目的是为了前向传播forward,即计算y hat(预测值)
#
# 3、Construct loss and optimizer (using PyTorch API) 其中,计算loss是为了进行反向传播,optimizer是为了更新梯度。
#
# 4、Training cycle (forward,backward,update)# 画图
plt.plot(epoch_list,loss_list)
plt.xlabel("epoch")
plt.ylabel("loss")
plt.show()
纯净版代码
import torch
import matplotlib.pyplot as pltx_data = torch.Tensor([[1.0], [2.0], [3.0]])
y_data = torch.Tensor([[2.0], [4.0], [6.0]])epoch_list=[]
loss_list=[]class LinearModel(torch.nn.Module):def __init__(self):super(LinearModel, self).__init__()self.linear = torch.nn.Linear(1, 1)def forward(self, x):y_pred = self.linear(x) return y_predmodel = LinearModel()
criterion = torch.nn.MSELoss(reduction='sum')
optimizer = torch.optim.SGD(model.parameters(), lr=0.01) for epoch in range(100):y_pred = model(x_data) loss = criterion(y_pred, y_data) print(epoch, loss.item())epoch_list.append(epoch)loss_list.append(loss.item())optimizer.zero_grad() loss.backward() optimizer.step() print('w = ', model.linear.weight.item())
print('b = ', model.linear.bias.item())x_test = torch.Tensor([[4.0]])
y_test = model(x_test)
print('y_pred = ', y_test.data)
plt.plot(epoch_list,loss_list)
plt.xlabel("epoch")
plt.ylabel("loss")
plt.show()
PyTorch 深度学习实践 (4)构建线性回归模型相关推荐
- 《PyTorch深度学习实践》-P5线性回归
构造神经网络一般步骤: 1prepare dataset 2design model using Class (计算y_hat) 3consturct loss and optimizer (usin ...
- PyTorch深度学习实践
根据学习情况随时更新. 2020.08.14更新完成. 参考课程-刘二大人<PyTorch深度学习实践> 文章目录 (一)课程概述 (二)线性模型 (三)梯度下降算法 (四)反向传播 (五 ...
- 【Pytorch深度学习实践】B站up刘二大人课程笔记——目录与索引(已完结)
从有代码的课程开始讨论 [Pytorch深度学习实践]B站up刘二大人之LinearModel -代码理解与实现(1/9) [Pytorch深度学习实践]B站up刘二大人之 Gradient Desc ...
- 《PyTorch深度学习实践》
[<PyTorch深度学习实践>完结合集] https://www.bilibili.com/video/BV1Y7411d7Ys/?share_source=copy_web&v ...
- 【刘二大人】PyTorch深度学习实践
文章目录 一.overview 1 机器学习 二.Linear_Model(线性模型) 1 例子引入 三.Gradient_Descent(梯度下降法) 1 梯度下降 2 梯度下降与随机梯度下降(SG ...
- 【PyTorch】PyTorch深度学习实践|视频学习笔记|P6-P9
PyTorch深度学习实践 逻辑斯蒂回归及实现 背景与概念 基于分类问题中属性是类别性的,所以不能采取基于序数的线性回归模型,而提出了新的分类模型--逻辑斯蒂回归模型,输出每个样本在各个预测值上的概率 ...
- 《PyTorch深度学习实践》06 逻辑斯蒂回归 代码
视频:06.逻辑斯蒂回归_哔哩哔哩_bilibili 参考文章:pytorch 深度学习实践 第6讲 逻辑斯蒂回归_会游泳的小雁的博客-CSDN博客 网络模型的基本框架 1步骤: 1.Prepare ...
- 笔记|(b站)刘二大人:pytorch深度学习实践(代码详细笔记,适合零基础)
pytorch深度学习实践 笔记中的代码是根据b站刘二大人的课程所做的笔记,代码每一行都有注释方便理解,可以配套刘二大人视频一同使用. 用PyTorch实现线性回归 # 1.算预测值 # 2.算los ...
- PyTorch深度学习实践——对维度的认识
输入输出维度 在本节的博客中将整理对于输入输出维度的相关认识,总结如下: 在之前发布的博客<PyTorch深度学习实践--反向传播>中谈到了自己对于一个模型输入的维度认识:不同的维度类似于 ...
- 《PyTorch 深度学习实践》第10讲 卷积神经网络(基础篇)
文章目录 1 卷积层 1.1 torch.nn.Conv2d相关参数 1.2 填充:padding 1.3 步长:stride 2 最大池化层 3 手写数字识别 该专栏内容为对该视频的学习记录:[&l ...
最新文章
- html ajax put请求,javascript – PUT Ajax请求
- Kafka实现细节(下)
- AngularJS从子控制器访问父作用域
- 转 c#读写xml文件
- java类验证和装载顺序_java中类的加载顺序介绍(ClassLoader)
- 锐动SDK应用于行车记录仪
- 图像分类_02神经网络(NN)简介:定义+ 感知机+历史
- SQL删除语句同时向备份表插入数据
- 【嵌入式】Linux开发工具gdb及远程调试
- 49.Linux/Unix 系统编程手册(下) -- 内存映射
- 怎么将服务器中图片显示出来,服务器显示图片
- 谷歌 android 新系统下载安装,google play服务框架下载安装
- QT实现经纬度转换为图片像素坐标
- 浅谈python-docx的缩进问题——如何缩进两个字符
- 若依管理系统漏洞利用
- react 输入框 回车事件切换
- error: resource drawable/edit_text_bg (aka com.example.track:drawable/edit_text_bg) not found.
- 定义一个复数类Complex,使得代码能够进行下面的工作:
- xp系统无打印机服务器,WinXP局域网共享及网络打印机无任何网络提供程序怎么办?...
- Java解析HL7消息进阶(解析自定义HL7消息)