pytorch教程龙曲良06-10

06手写数字识别1

每张图片2828

针对y=wx+b
对于手写数字图片来说可以用灰度0-1表示，所以就是2828值在0-1的矩阵，然后打平变成784的向量

y的维度怎么表示
法1先讨论H1，H2，H3的维度，以下都表示维度，Hi不断作为Hi+1的一个输入，如[1,784]表示一行784列，但这样h1，h2…h9存在大小关系，没有相关性，

07手写数字识别02

法2用one-hot去表示概率，
1=[0,1,0,0,0,0,0,0,0,0]
3=[0,0,0,1,0,0,0,0,0,0]

求loss 欧式距离（pred-Y）**2使得这个10维矩阵差最小

pytorch教程龙曲良06-10相关推荐

pytorch教程龙曲良46-55
46交叉验证2 只能用val set反馈去调整参数,看到test acc 不该做任何事情,如果反馈去调整参数泛化能力会变弱 k-fold cross-validation 如果按照原来的划分是50k ...
pytorch教程龙曲良41-45
41激活函数与GPU加速 sigmoid /Tanh 会出现梯度离散问题,就是梯度为0(导数为0) relu 在x=0处不连续,x小于0时梯度为0,x大于0梯度为1不变,利于串行的传播,这样就不会出现 ...
pytorch教程龙曲良36-40
36函数极小值优化实战四个解都是0所以都是全局最小值 PLOT #最小值0取的值(x,y)是(3,2)x初始化是0 #最小值0取的值(x,y)是(3.584428,-1.8484=126)x初始化是 ...
pytorch教程龙曲良31-35
31激活函数与Loss的梯度3 softmax 概率0-1,且所有所属结点的概率和为1,用softmax适合多分类,且把之间的差距拉大,本来2.0与1.0差两倍,现在0.7与0.2差3.5倍求的是p ...
pytorch教程龙曲良21-25
21合并与分割2 split 按照长度/单元长度拆分 c的shape是[2,32,8]aa,bb=c.split(1,dim=0)#操作单元是在0维度上操作,拆分单元长度是1aa,bb=c.split ...
pytorch教程龙曲良11-15
11创建tensor02 randn一般是均值为0,方差为1的正态分布N(0,1),也可以自定义N(u,std)用torch.normal torch.normal(mean=torch.full([ ...
pytorch教程龙曲良01-05
01深度学习框架与介绍 pytorch优势 1使用gpu加速 # -*- codeing = utf-8 -*- # @Time :2021/5/6 20:51 # @Author:sueong # ...
pytorch教程龙曲良26-30
26什么是梯度1 导数(在给定方向的变化量)和偏微分(在给定的自变量上的变化量)都是标量,只有大小没有方向梯度就是所有偏微分的向量,有方向有大小函数梯度是一个向量,向量方向表示这个函数在当前点的一 ...
pytorch教程龙曲良16-20
17维度变换4 .t 转置,但是只适合2d的矩阵,其他会报错 a.shape#[3,4] a.t() a.shape#[4,3] transpose 加粗样式 a.shape#[4,3,32,32] ...

pytorch教程龙曲良06-10

06手写数字识别1

07手写数字识别02

pytorch教程龙曲良06-10相关推荐

最新文章

热门文章