笔记 -凸函数 /KL距离
1,凸函数和凸集合,
凸函数,例如 y=X^2, 定义为:
λ*f(x1)+(1-λ)*f(x2)>= f(λx1+(1-λ)x2)
凸集合: 指 在一个集合处,上面任意两点连线都在集合内。
性质:
对于一元函数f(x),我们可以通过其二阶导数f′′(x) 的符号来判断。如果函数的二阶导数总是非负,即f′′(x)≥0 ,则f(x)是凸函数
对于多元函数f(X),我们可以通过其Hessian矩阵(Hessian矩阵是由多元函数的二阶导数组成的方阵)的正定性来判断。如果Hessian矩阵是半正定矩阵,则是f(X)凸函数、
2,KL距离
定义 即 Kullback-Leibler Divergence,可翻译为相对熵,衡量事件空间里的两个概率分布的差异情况,所以可以用来做匹配的评价函数,
D(P∣∣Q)=x∈X∑P(x)logP(x)/Q(x) 即,具有如下性质:
- 当P(x)=Q(x)时,D(P||Q)=0,即其相对熵为零。
- 当P(x)和Q(x)相似度越高时,KL距离越小
- D(P||Q)非负(非负性)
- 不满足对称性,即D(P||Q)≠D(Q||P)
- 不满足三角不等式
笔记 -凸函数 /KL距离相关推荐
- kl距离 java_KL距离,Kullback-Leibler Divergence
http://www.cnblogs.com/ywl925/p/3554502.html http://www.cnblogs.com/hxsyl/p/4910218.html http://blog ...
- KL距离,Kullback-Leibler Divergence 浅谈KL散度
KL距离,是Kullback-Leibler差异(Kullback-Leibler Divergence)的简称,也叫做相对熵(Relative Entropy).它衡量的是相同事件空间里的两个概率分 ...
- kl距离 java_信息量、熵、最大熵、联合熵、条件熵、相对熵、互信息。
一直就对机器学习中各种XX熵的概念比较模糊,现在总结一下自己的学习心得. 信息量 先说一下信息量的概念,其实熵就是信息量的集合. 摘抄个例子: 英文有26个字母,假设每个字母出现的概率是一样的,每个字 ...
- 相对熵(relative entropy或 Kullback-Leibler divergence,KL距离)的java实现(三)
代码下载 http://files.cnblogs.com/finallyliuyu/KL.rar 主函数代码 主函数代码 public static void main(String[] args) ...
- Kullback–Leibler divergence(相对熵,KL距离,KL散度)
1 前言 注意两个名词的区别: 相对熵:Kullback–Leibler divergence 交叉熵:cross entropy KL距离的几个用途: ① 衡量两个概率分布的差异. ② 衡量利用概率 ...
- 关于相对熵(KL距离)的理解
定义:两个概率质量函数为 p(x) 和 q(x) 之间的相对熵或KL距离定义为 D(p||q)=∑x∈χp(x)logp(x)q(x) 理解 如果已知随机变量的真实分布为 p ,可以构造平均描述长度为 ...
- 计算KL距离的几个例子
原理 生成两个分布,并且生成它们的ksdensity, 和histogram, 最后计算ksdensity 和 histogram与真实分布的KL距离 真实分布是用normpdf计算出来的 Kerne ...
- 信息论:信息熵+信息散度(交叉熵\kl距离)
信息散度(交叉熵\kl距离) 思考题:对于只用A,B,C,D四个单词写的信使用0和1进行编码的一个信息的平均编码长度?思考题:对于只用A,B,C,D四个单词写的信\\ 使用0和1进行编码的一个信息的平 ...
- KL距离的计算与含义(转)
KL距离,是Kullback-Leibler差异(Kullback-Leibler Divergence)的简称,也叫做相对熵(Relative Entropy).它衡量的是相同事件空间里的两个概率分 ...
- Matlab 显著性检测模型评价算法之KL距离
KL距离是用来计算两个概率分布函数的差异大小: h是ground thruth map,p是saliency map,当h和p完全相等时,KL值为0 现在一般用对称形式,即h和p换个位置,求个KL,两 ...
最新文章
- 将在2021年改变商业格局的10项技术
- Winforn中怎样在窗体中打开另一个窗体
- VScode编辑器设置中文的教程,超详细的
- 前端学习(905):js执行机制
- WebDriverException: Cannot find firefox binary in PATH.的解决方法
- Toast.makeText(MainActivity.this, R.string.alert, Toast.LENGTH_SHORT).show(); 解释
- L1-041 寻找250-PAT团体程序设计天梯赛GPLT
- Java 系统工具类 —— System、Scanner、Runtime
- matlab中心化样本矩阵,第二讲实验.doc
- 黑马程序员_Java基础(环境搭建、进制转换、运算符)
- MATLAB数值计算——矩阵运算乘法、除法、乘方
- wincc逻辑运算符_wincc中表达式及公式
- http协议与tcp协议区别
- 软件测试工程师需要学习什么内容
- 网站如何统计访问人数?51LA如何安装使用?
- 简约好看的绚丽彩虹同学录V1.4源码
- 【H.264】码流解析 annexb vs avcc
- [记录]Cloudflare之WARP及其他app的DNS测试
- pink老师学习之Echarts
- ASPICE SWE3之——模型生成软件详细设计2 注释格式