七月算法机器学习2 数理统计与参数估计1

2024-04-12 01:43:38

目录

概率与统计的关注点

概率统计与机器学习的关系

重要统计量

期望

方差

协方差

协方差的意义

协方差应用到机器学习中

Pearson相关系数

协方差矩阵

相关系数矩阵

再谈独立与不相关

矩

统计参数的总结

概率与统计的关注点

概率统计与机器学习的关系

统计估计的是分布，机器学习训练出来的是模型，模型可能包含了很多分布。
训练与预测过程的一个核心评价指标就是模型的误差。
误差本身就可以是概率的形式，与概率紧密相关。
对误差的不同定义方式就演化成了不同损失函数的定义方式。
机器学习是概率与统计的进阶版本。（不严谨的说法）

重要统计量

期望

期望可以理解为平均值或加权平均

方差

样本的离散程度

协方差

评价两个随机变量的关系

独立和不相关

协方差的意义

协方差应用到机器学习中

两个特征是否相关

协方差可以用来降维

Cov(x, y) 只评估特征和标签的关系时如果=0，说明无关，可以直接不要了，降维

Pearson相关系数

越近1越相关，如果样本非常大，则可以通过这个挑选

协方差矩阵

相关系数矩阵

越红越负相关，越蓝越正相关，0则基本不相关

留下为0的，去掉红和蓝的相关一个样本

评价特征相关性的意义是筛选特征

特征1体积，特征2质量

如果两个是正相关，则我们可以只考虑一个特征就可以了

要尽可以用相互独立的特征

再谈独立与不相关

矩

统计参数的总结

七月算法机器学习2 数理统计与参数估计1相关推荐

七月算法机器学习笔记4 凸优化
七月算法(http://www.julyedu.com) 12月份机器学习在线班学习笔记
七月算法机器学习笔记8 聚类算法
七月算法(http://www.julyedu.com) 12月份机器学习在线班学习笔记
七月算法机器学习笔记5 -- 特征工程
这套笔记是跟着七月算法四月机器学习班的学习而记录的,主要记一下我再学习机器学习的时候一些概念比较模糊的地方,具体课程参考七月算法官网:http://www.julyedu.com/ 特征工程特征 = ...
七月算法机器学习笔记9 推荐系统
七月算法(http://www.julyedu.com) 12月份机器学习在线班学习笔记
七月算法机器学习笔记1 微积分与概率论
七月算法(http://www.julyedu.com) 12月份机器学习在线班学习笔记
七月算法机器学习笔记7 最大熵模型
七月算法(http://www.julyedu.com) 12月份机器学习在线班学习笔记
七月算法机器学习笔记3 线性代数与矩阵
七月算法(http://www.julyedu.com) 12月份机器学习在线班学习笔记
七月算法机器学习笔记5 回归模型
七月算法(http://www.julyedu.com) 12月份机器学习在线班学习笔记
七月算法机器学习笔记10 人工神经网络
七月算法(http://www.julyedu.com) 12月份机器学习在线班学习笔记
机器学习之数理统计与参数估计的相关知识总结
文章目录目录: 1.知道期望/方差/偏度/峰度,独立和不相关等概念是什么. 2.契比雪夫不等式 3.大数定理/中心极限定理 4.伯努利定理 5.矩估计 6.最大似然估计 7.协方差和相关系数目录: ...

最新文章

热门文章