深度学习day05 用Pytorch实现线性回归
深度学习day05 用Pytorch实现线性回归
- 代码模板
- 四个主要流程
- 代码中的一些重点
- 其他的优化器
代码模板
import torch# 步骤一:Prepare dataset
# x,y是矩阵,3行1列 也就是说总共有3个数据,每个数据只有1个特征
x_data = torch.tensor([[1.0], [2.0], [3.0]])
y_data = torch.tensor([[2.0], [4.0], [6.0]])# 步骤二:Design model using class (inherit from nn.Module)
class LinearModel(torch.nn.Module):def __init__(self):super(LinearModel, self).__init__()# (1,1)是指输入x和输出y的特征维度,这里数据集中的x和y的特征都是1维的# 该线性层需要学习的参数是w和b 获取w/b的方式分别是~linear.weight/linear.biasself.linear = torch.nn.Linear(1, 1) #设置w、b的初始值分别为1、1def forward(self, x):y_pred = self.linear(x)return y_pred
model = LinearModel()# 步骤三:Construct loss and optimizer (using Pytorch API)
# criterion = torch.nn.MSELoss(size_average = False)
criterion = torch.nn.MSELoss(reduction='sum')
optimizer = torch.optim.SGD(model.parameters(), lr=0.01) # model.parameters()自动完成参数的初始化操作# 步骤四:Training cycle (forward, backward, update)
for epoch in range(100):y_pred = model(x_data) # forward:predictloss = criterion(y_pred, y_data) # forward: lossprint(epoch, loss.item())optimizer.zero_grad() # the grad computer by .backward() will be accumulated. so before backward, remember set the grad to zeroloss.backward() # backward: autograd,自动计算梯度optimizer.step() # update 参数,即更新w和b的值# 打印最终训练好的权重和偏置并测试
print('w = ', model.linear.weight.item())
print('b = ', model.linear.bias.item())
x_test = torch.tensor([[4.0]])
y_test = model(x_test)
print('y_pred = ', y_test.data)
跑的结果:
四个主要流程
注意准备数据X、Y的值必须是一个矩阵
Pytorch不用再人工计算导数,而是要关注如何构建计算图
代码中的一些重点
- In PyTorch, the computational graph is in mini-batch fashion, so X and Y are 3 × 1 Tensors.
- 2.Our model class should be inherit from nn.Module, which is Base class for all neural network modules.
- Member methods __ init __() and forward() have to be implemented.
- Class nn.Linear contain two member Tensors: weight and bias.
- Class nn.Linear has implemented the magic method call(), which enable the instance of the class can be called just like a function. Normally the forward() will be called. Pythonic!!!
- torch.nn.MSELoss also inherit from nn.Module.
- NOTICE:The grad computed by .backward()will be accumulated. So before backward, remember set the grad to ZERO!!!
- 由于魔法函数__call__的实现,使用model(x_data)将会自动调model.forward(x_data)函数
其他的优化器
• torch.optim.Adagrad
• torch.optim.Adam
• torch.optim.Adamax
• torch.optim.ASGD
• torch.optim.LBFGS
• torch.optim.RMSprop
• torch.optim.Rprop
• torch.optim.SGD
深度学习day05 用Pytorch实现线性回归相关推荐
- 干货|《深度学习入门之Pytorch》资料下载
深度学习如今已经成为了科技领域中炙手可热的技术,而很多机器学习框架也成为了研究者和业界开发者的新宠,从早期的学术框架Caffe.Theano到如今的Pytorch.TensorFlow,但是当时间线来 ...
- 【深度学习】基于Pytorch多层感知机的高级API实现和注意力机制(三)
[深度学习]基于Pytorch多层感知机的高级API实现和注意力机制(三) 文章目录 [深度学习]基于Pytorch多层感知机的高级API实现和注意力机制(三) 1 权重衰减 1.1 范数 1.2 L ...
- 【深度学习】基于Pytorch的线性模型概念辨析和实现(二)
[深度学习]基于Pytorch的线性模型概念辨析和实现(二) 文章目录 [深度学习]基于Pytorch的线性模型概念辨析和实现(二) 1 线性回归的从零开始实现 2 训练 3 关于with 4 关于w ...
- 【深度学习】基于Pytorch的线性模型概念辨析和实现(一)
[深度学习]基于Pytorch的线性模型概念辨析和实现(一) 文章目录 1 为什么要谈线性回归? 2 建立模型基本形式 3 实现3.1 损失函数3.2 解析解3.3 小批量随机梯度下降3.4 矢量化加 ...
- 深度学习入门之PyTorch学习笔记:卷积神经网络
深度学习入门之PyTorch学习笔记 绪论 1 深度学习介绍 2 深度学习框架 3 多层全连接网络 4 卷积神经网络 4.1 主要任务及起源 4.2 卷积神经网络的原理和结构 4.2.1 卷积层 1. ...
- 深度学习入门之PyTorch学习笔记:多层全连接网络
深度学习入门之PyTorch学习笔记 绪论 1 深度学习介绍 2 深度学习框架 3 多层全连接网络 3.1 PyTorch基础 3.2 线性模型 3.2.1 问题介绍 3.2.2 一维线性回归 3.2 ...
- 深度学习入门之PyTorch学习笔记:深度学习框架
深度学习入门之PyTorch学习笔记 绪论 1 深度学习介绍 2 深度学习框架 2.1 深度学习框架介绍 2.1.1 TensorFlow 2.1.2 Caffe 2.1.3 Theano 2.1.4 ...
- 深度学习入门之PyTorch学习笔记:深度学习介绍
深度学习入门之PyTorch学习笔记:深度学习介绍 绪论 1 深度学习介绍 1.1 人工智能 1.2 数据挖掘.机器学习.深度学习 1.2.1 数据挖掘 1.2.2 机器学习 1.2.3 深度学习 第 ...
- 深度学习入门之PyTorch学习笔记
深度学习入门之PyTorch学习笔记 绪论 1 深度学习介绍 2 深度学习框架 3 多层全连接网络 4 卷积神经网络 5 循环神经网络 6 生成对抗网络 7 深度学习实战 参考资料 绪论 深度学习如今 ...
最新文章
- C语言程序设计 细节总结(第9章 结构体共用体枚举)
- PowerShell批量设置PATH环境变量
- 华为鸿蒙系统多久上市,华为鸿蒙系统手机上市了吗 鸿蒙OS已达到安卓70-80%水平...
- mac用什么写python程序_mac下的应用程序发布 及 打包(Python写的脚本,可打包第三方库)...
- iOS:app直播---采集篇
- 二十一、Python中的Scipy统计库
- java pid 获取句柄_获取进程pid、根据进程pid获取线程pid、获取线程进程句柄
- mysql ERROR 1045 (28000): 错误解决办法
- scala特质_Scala的特质
- jquery兄弟标签_js jquery获取当前元素的兄弟级 上一个 下一个元素
- PHP中各种Hash算法性能比较
- 聚类分析-K均值matlab(一)
- leetcode string 类
- 【Scratch案例实操】scratch大鱼吃小鱼(完整详案) scratch编程案例教学 scratch创意编程 少儿编程教案
- fifa一直连接服务器,FIFA足球世界服务器连接掉线原因及解决方法
- 招聘:赴微软工作SharePoint技术专家(V-,北京)
- 大数据获客,实时截流,真的有效果吗?
- Chrome——截图插件篇
- 学习笔记之MIB相关
- AssertionError: Some objects had attributes which were not restored: