参考  重采样技术—Bootstrap - 云+社区 - 腾讯云

交叉检验

核心思想是通过保留一部份训练集数据作为检验集来估计真实检验集的错误率与模型拟合效果。常用的有留一法、K折交叉验证。

偏差方差权衡:使用的训练集数据越多,估计偏差越小,方差越大(相关性越高的方差越大)

· 统计量:样本X1,…,Xn的函数g(X1,…,Xn)是一个统计量。所有对总体的估计都是用统计量作为估计量的。

当我们用一个统计量作为某个参数的估计量时,为考察这个估计量的好坏程度,我们需要求出这个估计量的期望以考察无偏性,方差以考察有效性等。而一个估计量除少数几个外往往形式非常复杂,很难用解析的形式求出其方差及其方差的估计量,这时候一个可用的工具就是Bootstrap,来求解其方差的估计量。(Bootstrap用来来求一个估计量(统计量)的方差的估计量)

而利用Bootstrap来求统计量方差估计大概是利用了大数定理,核心思想是“模拟”。详见1

· Bootstrap(自助法)指在训练集里有放回的重采样等长的数据形成新的数据集并计算相关参数,重复n次得到对参数的估计,计算标准误。

Bootstrap不仅可以用于均值估计,也可以对任意统计量,如偏差、方差等。

结果生成Bootstrap Percentile置信区间。

适用于独立样本,样本间有相关如时间序列数据可采用block法分组屏蔽掉进行bootstrap

- bootstrap分布与样本分布的比较

当我们不知道样本分布的时候,bootstrap方法最有用。bootstrap分布和样本分布的shape相似,因此可以用前者来估计后者。某统计量的bootstrap标准误差等于bootstrpa分布的标准差。

Bootstrap会受到样本量和采样次数的影响

· 参数bootstrap Vs. 非参数的bootstrap

F的先验:参数bootstrap中利用了分布F的先验,表现为一个参数模型,因此多了一个步骤,估计F模型中的参数。当先验模型正确时,参数bootstrap能得到更好的结果。而非参数bootstrap不利用F的先验知识就能得到正确的标准误差(在大多数情况下)。参数bootstrap能得到与Delta方法(计算变量的函数的方差)相当的结果,但更简单。

重采样技术—Bootstrap相关推荐

  1. Python+pandas使用重采样技术按时间段查看员工业绩

    如果DataFrame结构的索引是日期时间数据,或者包含日期时间数据列,可以使用resample()方法进行重采样,实现按时间段查看员工业绩的功能.DataFrame结构的resample()方法语法 ...

  2. 随机森林算法及贝叶斯优化调参Python实践

    1. 随机森林算法 1.1. 集成模型简介 集成学习模型使用一系列弱学习器(也称为基础模型或基模型)进行学习,并将各个弱学习器的结果进行整合,从而获得比单个学习器更好的学习效果. 集成学习模型的常见算 ...

  3. 『迷你教程』机器学习的Bootstrap及Python实现

    文章目录 引导法 引导程序的配置 引导程序 API Bootstrap方法是一种重采样技术,用于通过对数据集进行替换采样来估计总体统计数据. 它可用于估计汇总统计数据,例如均值或标准差.它在应用机器学 ...

  4. 计算机术语bootstrap,Bootstrap及jackknife刀切法中文讲义.pdf

    Bootstrap及jackknife刀切法中文讲义 上节课内容总结  统计推断基本概念  统计模型:参数模型与非参数模型  统计推断/模型估计:点估计.区间估计.假设检验  估计的评价:无偏 ...

  5. 自动驾驶定位技术-粒子滤波实践

    点击上方"3D视觉工坊",选择"星标" 干货第一时间送达 作者:william 链接:https://zhuanlan.zhihu.com/p/12852163 ...

  6. bootstrap 开源框架demo_高大上的开源Springboot企业级用户权限系统

    往期精彩推荐: 略吊!Springboot+vue前后端分离快速开发平台-QuickD springboot炸翔版CMS开源系统 一个高颜值,方便使用的开源redis桌面客户端程序 这是一款国产略吊的 ...

  7. SMOTE-IPF:通过带滤波的重采样方法解决不平衡分类中的噪声和边界样本问题

    SMOTE-IPF:通过带滤波的重采样方法解决不平衡分类中的噪声和边界样本问题 本篇文章主要针对合成技术中噪声的产生,在smote的众多变体中被广泛使用. 作者José A. Sáeza, Juliá ...

  8. 图像重采样/插值原理与其在MRI脑影像分辨率修改中的应用——将尺寸为1mm标准模板修改成体素尺寸为3、6、8mm标准模板(FSL、SPM12、NIfTI_20140122、dpabi、nilearn)

    | 图源   图像重采样这个词,可能许多人都会觉得陌生.但是图像放大,图像缩小,图像旋转,图像错切等这些我们熟悉操作背后,增多.减少和移位的像素点值的确定,其实都是通过重采样(resample)来完成 ...

  9. matlab空间重采样,matlab重采样函数

    然后在 Matlab 软件平台下,利用函数 wavread 对语音信号进行采样,记住采样频率 和采样点数.首先画出语音信号的时域波形;然后对语音号进行快速傅里叶变换 (FFT 变换...... col ...

最新文章

  1. 虚拟机7.1.4序列号
  2. 13.Data Leakage
  3. php人物行走,非常震撼的纯CSS3人物行走动画
  4. [转]STL(容器)与DEBUGNEW运算符冲突的解决
  5. 常见故障处理电脑小问题再也不求人
  6. XMind8 Update9下载安装
  7. 计算机硬盘检测不到,硬盘检测不到怎么解决
  8. Docker与Dragonfly详细多机部署
  9. Namesilo 域名购买及使用教程(附 Namesilo 优惠码)
  10. 校招总结--建议全文背诵
  11. element tabs label 插槽
  12. 国美、腾讯的困惑:廉颇老矣,尚能战否?
  13. 简述冯诺依曼工作原理_冯.诺依曼计算机的基本工作原理是什么??
  14. 上台阶问题:一个人上台阶,一次可以走1、2、3步,问n个台阶有多少种走法?
  15. MySQL数据库多表查询练习题
  16. @用Python的turtle库画一个奥运五环!
  17. 【MySQL 8.0 OCP 1Z0-908认证考试】题库精讲--第三讲mysql8.0安装配置升级(中)
  18. ionic-打包成iOS系统Camera插件获取视频路径之后访问无权限
  19. pytorch手写VGG16网络,两种写法,低阶基础写法
  20. 物联网专业可以报计算机岗位吗,现在物联网工程专业的就业岗位有哪些?小编介绍...

热门文章

  1. 那些年玩过的超级玛丽,竟然还隐藏了强化学习的这些原理
  2. Python机器学习笔记 Grid SearchCV(网格搜索)
  3. 开源要自立?华为如何“复制”Google模式
  4. 国投新股研究所 IPO 报告 :医脉通 02192 HK
  5. 走近月球,自己做一幅月球地图
  6. Q245R(R-HIC)是什么材质Q245R(R-HIC)抗氢钢钢板简介化学成分
  7. 【安全攻防系列】教你如何 ssh暴力破解、捕捉短连接、清理挖矿病毒、盖茨木马和DDOS病毒
  8. 生产制造业ERP管理系统能解决哪些问题?
  9. iptables详解(二)
  10. AToken小课堂----什么是私钥?什么是助记词?