AI 高等数学、概率论基础
一、概论
基础引入:
原理一:【两边夹定理】
原理二:【极限】
X为角度x对应的圆弧的点长;
原理三【单调性】:
引入:
二、导数
常见函数的导数:
四、应用:
求解:
泰勒展式和麦克劳林展式:
泰勒展式在x0 = 0处展开得到麦克劳林展式
Taylor公式的应用1:
变种:
Taylor公式应用2:
方向导数:
梯度:
函数的凸凹性:
函数凸凹性判定:
凸函数性质的应用:
、
五、概率论
概率为0例子: 把一枚针投在一个平面上,则概率为0(一个点 之于 一个面)
古典概型:
思路:
古典概型变种问题:
生日悖论:
古典概型总结:
几何概型:
条件概率:
条件概率: 在已知B发送的条件下,A发生的概率
全概率:
全概率公式的意义在于: 当直接计算P(A)比较困难,而P(Bi),P(A|Bi) (i=1,2,...)的计算较为简单时,可以利用全概率公式计算P(A)。思想就是,将事件A分解成几个小事件,通过求小事件的概率,然后相加从而求得事件A的概率,而将事件A进行分割的时候,不是直接对A进行分割,而是先找到样本空间Ω的一个个划分B1,B2,...Bn,这样事件A就被事件AB1,AB2,...ABn分解成了n部分,即A=AB1+AB2+...+ABn, 每一Bi发生都可能导致A发生相应的概率是P(A|Bi),由加法公式得
P(A)=P(AB1)+P(AB2)+....+P(ABn)
=P(A|B1)P(B1)+P(A|B2)P(B2)+...+P(A|Bn)P(PBn)
贝叶斯公式:
与全概率公式解决的问题相反,贝叶斯是建立在条件概率的基础上寻找事件发生的原因(即大事件A已经发生的条件下,分割中的小事件Bi的概率),设B1,B2,...是样本空间Ω的一个划分,则对任一事件A(P(A)>0),有
Bi 常被视为导致试验结果A发生的”原因“,P(Bi)(i=1,2,...)表示各种原因发生的可能性大小,故称先验概率;P(Bi|A)(i=1,2...)则反映当试验产生了结果A之后,再对各种原因概率的新认识,故称后验概率。
贝叶斯公式的应用:
、
两学派的认知:【频率学派 && 贝叶斯学派】
贝叶斯公式扩展:
两点分布:
二项分布:【伯努力分布】
泊松分布【Taylor展式结合】:
泊松分布的应用:
连续分布之均匀分布:
连续分布之指数分布:
指数分布的无记忆性:
连续分布之正态分布【高斯分布】:
总结:
指数族:
二项分布【伯努力分布】,正态分布【高斯分布】属于指数族
logistic函数【sigmod函数】:
Logistic函数的导数:
期望:
期望的性质:
note: P(xy) = P(x) P(y) --> x, y独立
方差:
协方差:
协方差、独立、不相关关系:
协方差的意义:
协方差的上界:
独立一定不相关,不相关不一定独立,不相关只是线性独立,可能是非线性不独立;
相关系数:
其中:Var(x): 标准差;
协方差矩阵:
原点矩 和 中心矩
期望为一阶原点矩, 方差为2阶中心矩
概念总结:
偏度:
偏度为0, 则是正态分布
偏度公式:
峰度:
应用:
引入切比雪夫不等式:
大数定理:
中心极限定理:
标准的中心极限定理的问题:
中心极限定理的意义:
样本的统计量:
样本的矩:
随机变量的矩 和 样本的矩, 有什么关系呢??
矩估计:【非常重要】
正态分布的矩估计:
均匀分布的矩估计:
贝叶斯公式带来的思考:
最大似然估计:
极大似然估计的具体实践:
极大似然估计的应用:
正态分布的极大似然估计:
总结:
极大似然估计与过拟合:
5、 10 为超参数;
AI 高等数学、概率论基础相关推荐
- AI算法连载02:概率论基础
相关文章: AI算法连载01:数学基础之线性代数 导语:不懂算法的工程师做不了AI,不懂算法的产品经理将把AI带入泥潭.概率是AI最重要的预测理论! 在人工智能AI如火如荼的大潮下,越来越多的工程师们 ...
- 021 区间估计(对u的区间估计、对a^2的区间估计)(概率论基础结束)
本概率论视频由汤家凤教授全程讲授,在此致谢汤家凤老师 的辛勤付出!也预祝各位同学考研成功! 至此,(2017.9.18-2017.12.6)已复习汤家凤老师的数学系列课程: 1,106讲 高等数学上册 ...
- 【机器学习算法专题(蓄力计划)】三、机器学习中的概率论基础精讲
这是统计学的基本概念,随便找本概率论基础都可以找到这些概念,看不懂的就看多几遍,重点在记住和知道应用场合,知识点之间的衔接很重要,理解为王. 文章目录 1. 随机变量分类 2. 常见的离散分布 2.1 ...
- 【数理统计】概率论基础回顾
零.概率论基础回顾 1. 求离散型的期望
- AI应用开发基础傻瓜书系列2-神经网络中反向传播与梯度下降的基本概念
AI应用开发基础傻瓜书系列2-神经网络中反向传播与梯度下降的基本概念 Copyright © Microsoft Corporation. All rights reserved. 适用于Licens ...
- AI应用开发基础傻瓜书系列目录
AI应用开发基础傻瓜书系列的目录~ 写在前面,为啥要出这个系列的教程呢? 总的说来,我们现在有了很多非常厉害的深度学习框架,比如tensorflow,pytorch,paddlepaddle,caff ...
- 纪念我逝去的概率论基础
Photo: from book The Unravelers 在数学系的研究生阶段有一门课,名字非常谦逊,叫做<概率论基础>.没错,不是神马高等概率论,也不是神马现代概率论,而是基础,仅 ...
- 概率论基础知识(三) 参数估计
概率论基础知识(三) 参数估计 1.矩 矩是用来描述随机变量的某些特征的数字,即求平均值,用大写字母E表示. 矩是更具有一般意义的数字特征. 设有随机变量X,若 E ( ∣ X ∣ k ) < ...
- 概率论基础知识(二) 随机变量及其分布
概率论基础知识(二) 随机变量及其分布 1.随机变量 定义:设随机试验的样本空间为S={e}, X=X(e)是定义在样本空间S上的实值单值函数.称X=X(e)为随机变量. 这样一来,样本空间可以很好的 ...
- 数学基础(1)~ 概率论基础知识
概率论基础 出处:http://www.cnblogs.com/fanling999/p/6702297.html 参考:盛骤, 谢式千, 潘承毅. 概率论与数理统计, 第四版[M]. 高等教育出版社 ...
最新文章
- 去掉[]中的英文(正则表达式)C#
- 全球安全行业融资收购简报(2016年2月)
- 源代码从 300 行到 172,000 行,它用了 23 年
- PHP + Redis 实现消息队列
- python中导入模块的方式_Python中几种导入模块的方式总结
- jmeter 高并发测试报告_使用 JMeter 进行压力测试
- ubuntu 下的ftp安装及root身份远程配置
- 【C++第一个Demo】---控制台RPG游戏3【登陆菜单树】
- C语言 — 数据类型,基本整型所占字节数
- React 事件处理函数
- nginx 配置upstream实现负载均衡
- Java小白入门200例54之打印水仙花数
- 互联网晚报 | 06月03日 星期五 | 步步高回应“即将倒闭”传闻、爱彼迎启动房东/房源迁移计划;抖音宣布与中超联赛达成合作...
- 【SaltStack官方版】—— EventsReactor系统—BEACONS
- vue3项目中如何使用iconfont图标?体积太大?看这篇文章就够了!
- C/C++中生成随机序列——随机函数的选择和自我实现
- 涉密计算机外送维修,涉密计算机及涉密介质维修
- 为网站配置免费的HTTPS证书 3-4
- 感恩节跟进技巧(附邮件模板)
- CentOS 7 几个版本