分类和回归的区别

回归：估计一个连续值
分类：分类预测一个离散类别

无校验比例

在分类时不关心分类的值，关心对正确类别的置信度。就是要使得分类正确类别能够远大于分类出其他类别。使得预测这个分类可信。

校验比例

希望能将置信度都规范到一个区间内，方便后面的操作。就引入了softmax操作，就是将每个置信度都变为指数，保证是非负值。然后再做归一化。那么就可以把一个类别的比例作为概率。那么就可以把预测的概念和真实的概念做一个损失。

交叉熵

一般来采用交叉熵来衡量两个概率之间的区别。

常见损失函数

均方误差 L2 loss

绝对值损失L1 loss

如果在靠近原点的地方不想要那么大的梯度。则可以用L1 loss。缺点是在0地方不可导，在优化后期不稳定。

鲁棒损失

图像分类数据集

MNIST数据集是图像分类中广泛使用的数据集之一，但作为基准数据集过于简单。我们将使用类似但更复杂的Fashion-MNIST数据集。

Fashion_mnist数据集读取视频

softmax从零开始实现
softmax用torch实现

跟李沐学深度学习-softmax回归相关推荐

动手学深度学习——softmax回归之OneHot、softmax与交叉熵
目录一.从回归到多类分类 1. 回归估计一个连续值 2. 分类预测一个离散类别二.独热编码OneHot 三.校验比例--激活函数softmax 四.损失函数--交叉熵五.总结回归可以用于预测多 ...
李沐的深度学习笔记来了！
Datawhale干货来源:机器之心,编辑:张倩 markdown笔记与原课程视频一一对应,Jupyter代码均有详细中文注释,这份学习笔记值得收藏. 去年年初,机器之心知识站上线了亚马逊资深首席科 ...
【深度学习】李沐的深度学习笔记来了！
转载自 | 机器之心去年年初,机器之心知识站上线了亚马逊资深首席科学家李沐博士的「动手学深度学习」中文系列课程.这门课从3月持续到8月,超过28000人参与了直播,课程回放在 B 站的播放量达到了上 ...
【跟李沐学AI学习笔记】数据操作
本文的来源是B站跟李沐学AI的视频. 机器学习用的最多的数据结构是N维数组.最简单的N维数组是一个0-d的标量,比如1.0,它可能表示一个物体的类别.1-d的数组称为向量,比如说[1.0, 2.7, ...
抽奖啦！AI内参、李沐新书深度学习、米家扫地机器人送送送
编辑部发自凹非寺量子位 | 公众号 QbitAI 今年六一时,量子位发起了一次抽奖,向10位读者朋友送出酷酷的量子位厂服T恤.在此先恭喜各位中奖的小伙伴,你们的奖品已经全部寄出啦~ 这次,为了让 ...
【李沐】深度学习笔记
一.深度学习基础知识记录:当时学习李沐深度学习的笔记内容,后续继续补充. 04 数据操作 + 数据预处理大小为1的 tensor 可以直接转成一个标量数据预处理用pd.np来做 05 线性代数 ...
深度学习-softmax回归
softmax regression 1- softmax 基本概念 1-1 极大似然估计 2- Fashion-MNIST图像分类数据集 2-1 下载数据集 2-2 可视化 3- softmax回归 ...
深度学习——Softmax回归+损失函数（笔记）
一.Softmax回归 1.Softmax回归,名字是回归,其实是一个分类问题. 2.回归和分类的区别是什么? ①回归估计的是一个连续值:比如预测二手房卖出的价格 Ⅰ回归是在自然区间R单连续值的输出 ...
李沐--＞深度学习计算
文章目录前言一.层和块 1. 层和块 1.1 自定义块 1.2. 顺序块 1.3. 在前向传播函数中执行代码二.参数管理 1.如何访问参数 1.1.访问某一个具体的参数 1.2.一次性访问所有参 ...

跟李沐学深度学习-softmax回归

softmax回归