ENVI(The Environment for Visualizing Images)


RMSE

Root Mean Square Error, 均方根误差
是观测值与真值偏差的平方和与观测次数 m 比值的平方根。
是用来衡量观测值同真值之间的偏差
MAE

Mean Absolute Error ,平均绝对误差
是绝对误差的平均值
能更好地反映预测值误差的实际情况.
标准差

Standard Deviation ,标准差
是方差的算数平方根
是用来衡量一组数自身的离散程度

RMSE 与标准差对比:标准差是用来衡量一组数自身的离散程度,而均方根误差是用来衡量观测值同真值之间的偏差,它们的研究对象和研究目的不同,但是计算过程类似。

RMSE 与 MAE 对比:RMSE 相当于 L2 范数,MAE 相当于 L1 范数。次数越高,计算结果就越与较大的值有关,而忽略较小的值,所以这就是为什么 RMSE 针对异常值更敏感的原因(即有一个预测值与真实值相差很大,那么 RMSE 就会很大)。

RMSE引用

xloading
偏最小二乘(pls)


Unscrambler软件

MSC

SNV


SGSmoothing

sg平滑引用

Normalize

SACNN
注意力机制


Dropout说的简单一点就是:我们在前向传播的时候,让某个神经元的激活值以一定的概率p停止工作,这样可以使模型泛化性更强,因为它不会太依赖某些局部的特征。

为什么说Dropout可以解决过拟合?
(1)取平均的作用: 先回到标准的模型即没有dropout,我们用相同的训练数据去训练5个不同的神经网络,一般会得到5个不同的结果,此时我们可以采用 “5个结果取均值”或者“多数取胜的投票策略”去决定最终结果。例如3个网络判断结果为数字9,那么很有可能真正的结果就是数字9,其它两个网络给出了错误结果。这种“综合起来取平均”的策略通常可以有效防止过拟合问题。因为不同的网络可能产生不同的过拟合,取平均则有可能让一些“相反的”拟合互相抵消。dropout掉不同的隐藏神经元就类似在训练不同的网络,随机删掉一半隐藏神经元导致网络结构已经不同,整个dropout过程就相当于对很多个不同的神经网络取平均。而不同的网络产生不同的过拟合,一些互为“反向”的拟合相互抵消就可以达到整体上减少过拟合。

(2)减少神经元之间复杂的共适应关系: 因为dropout程序导致两个神经元不一定每次都在一个dropout网络中出现。这样权值的更新不再依赖于有固定关系的隐含节点的共同作用,阻止了某些特征仅仅在其它特定特征下才有效果的情况 。迫使网络去学习更加鲁棒的特征 ,这些特征在其它的神经元的随机子集中也存在。换句话说假如我们的神经网络是在做出某种预测,它不应该对一些特定的线索片段太过敏感,即使丢失特定的线索,它也应该可以从众多其它线索中学习一些共同的特征。从这个角度看dropout就有点像L1,L2正则,减少权重使得网络对丢失特定神经元连接的鲁棒性提高。

(3)Dropout类似于性别在生物进化中的角色:物种为了生存往往会倾向于适应这种环境,环境突变则会导致物种难以做出及时反应,性别的出现可以繁衍出适应新环境的变种,有效的阻止过拟合,即避免环境改变时物种可能面临的灭绝。

梯度消失、爆炸解决方法

  • 预训练加微调
  • 梯度剪切、权重正则(针对梯度爆炸)
  • 使用不同的激活函数
  • 使用batchnorm
  • 使用残差结构
  • 使用LSTM网络

高光谱病虫害SPA x-Loading Weights MSC SNV SGSmoothing Normalize相关推荐

  1. ImportError: `load_weights` requires h5py when loading weights from HDF5.错误

    TensorFlow:ImportError: load_weights requires h5py when loading weights from HDF5. 错误原因是TensorFlow的版 ...

  2. load_weights` requires h5py when loading weights from HDF5

    需要安装指定版本的h5py 安装过程中会出现 h5py error: command 'aarch64-linux-gnu-gcc' failed with exit status 1 的错误 解决办 ...

  3. Darknet框架的权重文件.weights类型转换为keras框架的权重文件类型.h5

    YOLO:Darknet框架的.weights模型转keras框架的.h5模型 前言 所需材料 实现转换的代码 应用举例 .weights转.pt格式 参考信息 前言 由于存在多种框架下的YOLO算法 ...

  4. keras h5—darknet weights模型相互转换

    目录 一.版本介绍 二.保存方式 三.转换过程 四.参考 一.版本介绍 keras 2.1.5 tensorflow 1.13.1 这里以一个yolov3_tiny模型为案例. 二.保存方式 首先准备 ...

  5. 【AI作画】使用stable-diffusion-webui搭建AI作画平台

    一.安装配置Anaconda 进入官网下载安装包https://www.anaconda.com/并安装,然后将Anaconda配置到环境变量中. 打开命令行,依次通过如下命令创建Python运行虚拟 ...

  6. 3D MinkowskiEngine稀疏模式重建

    3D MinkowskiEngine稀疏模式重建 本文看一个简单的演示示例,该示例训练一个3D卷积神经网络,该网络用一个热点向量one-hot vector重构3D稀疏模式.这类似于Octree生成网 ...

  7. GPU端到端目标检测YOLOV3全过程(下)

    GPU端到端目标检测YOLOV3全过程(下) Ubuntu18.04系统下最新版GPU环境配置 · 安装显卡驱动 · 安装Cuda 10.0 · 安装cuDNN 1.安装显卡驱动 (1)这里采用的是P ...

  8. AlexeyAB DarkNet YOLOv3框架解析与应用实践(三)

    AlexeyAB DarkNet YOLOv3框架解析与应用实践(三) ImageNet分类 您可以使用Darknet为1000级ImageNet挑战赛分类图像.如果你还没有安装Darknet,你应该 ...

  9. AlexeyAB DarkNet YOLOv3框架解析与应用实践(二)

    AlexeyAB DarkNet YOLOv3框架解析与应用实践(二) 版本3有什么新功能? YOLOv3使用了一些技巧来改进训练和提高性能,包括:多尺度预测.更好的主干分类器等等.全部细节都在我们的 ...

最新文章

  1. Py之uiautomator2:uiautomator2的简介、安装、使用方法之详细攻略
  2. Scanner的next,nextint和nextLine的使用总结
  3. java 8 string_java8、jdk8日期转化成字符串
  4. exe4j打包成可执行程序
  5. 【转】Android 轻松实现语音识别
  6. 四川大学计算机学院 期末考试安排,四川大学《计算机组成原理》2018期末考试B卷.doc...
  7. linux 64位module内联汇编,@yuanbor: Linux内联汇编总结
  8. easycode 表配置_EasyCode插件使用及模板参考
  9. [转]简析 IOS 程序图标的设计
  10. shell中使用if判断时用到的一些参数
  11. uva 10803(floyd)
  12. spacemacs project设置
  13. php实现倒计时,PHP实现倒计时功能
  14. 电脑重启bootmgr_解决电脑出现bootmgr is missing如何解决
  15. 聚石塔,云鼎,多多云-----有一种坑叫盲打
  16. 攻防世界-Web-练习区12题解
  17. 代码随想录第十天 LeetCode 232、225(栈,队列)
  18. matlab四足仿真,基于MATLAB的四足机器人建模与仿真.docx
  19. js判断字符串字符数(汉字算两个)
  20. 蓝奏云直链解析API接口

热门文章

  1. IDEA 中Java EE没有 Web Application选项
  2. python小乌龟代码_python小乌龟
  3. 放大镜旋转 css,CSS放大镜(增加缩放级别)
  4. x10i升级android4.0,X10i升级官方Android 2.1固件详细教程
  5. PTTLINK SYSTEM|对讲机对接详细方案
  6. k8s安装dashboard组件
  7. 动画 Animation 之 闪烁 左右摇摆 上下晃动等效果
  8. 什么手机用了鸿蒙系统,鸿蒙系统:将给华为带来怎样的巨变?
  9. 中级数据开发工程师养成计
  10. 交互设计专业书籍推荐