证明p-norm是凸函数

回顾一下 p-norm的定义，为：
∣ ∣ x ∣ ∣ p = ( ∑ i = 1 n ∣ x i ∣ p ) 1 / p ||x||_p=(\sum_{i=1}^{n}|x_i|^p)^{1/p} ∣∣x∣∣p=(∑i=1n∣xi∣p)1/p

结论

首先给出结论：当 0 < p < 1 0<p<1 0<p<1时，Minkowski 不等式不成立， ∣ ∣ x ∣ ∣ p ||\mathbf{x}||_p ∣∣x∣∣p未滿足向量范数要求的三角不等式，故不能稱為范数(尽管我們仍可以計算它)。当 1 ≤ p < ∞ 1 \le p< \infty 1≤p<∞时,等式成立，故为凸函数。

性质

当 1 ≤ p < ∞ 1 \le p< \infty 1≤p<∞时，向量 ℓ p − \ell_p- ℓp−范数具有如下三个性质：
1.非负性：对于 x ∈ R n \mathbf{x}\in\mathbb{R}^n x∈Rn， ∥ x ∥ p ≥ 0 \Vert\mathbf{x}\Vert_p\ge 0 ∥x∥p≥0 且 ∥ x ∥ p = 0 \Vert\mathbf{x}\Vert_p=0 ∥x∥p=0 仅当 x = 0 \mathbf{x}=\mathbf{0} x=0。
2.正齐次性：对于任一純量 c 和 x ∈ R n ， ∥ c x ∥ p = ∣ c ∣ ∥ x ∥ p \mathbf{x}\in\mathbb{R}^n，\Vert c\mathbf{x}\Vert_p=\vert c\vert \Vert \mathbf{x}\Vert_p x∈Rn，∥cx∥p=∣c∣∥x∥p。
3.Minkowski 不等式：若 x , y ∈ R n ，則 ∥ x + y ∥ p ≤ ∥ x ∥ p + ∥ y ∥ p \mathbf{x},\mathbf{y}\in\mathbb{R}^n，則 \Vert \mathbf{x}+\mathbf{y}\Vert_p\le\Vert\mathbf{x}\Vert_p+\Vert\mathbf{y}\Vert_p x,y∈Rn，則∥x+y∥p≤∥x∥p+∥y∥p。

证明：

使用定义即可證明 ℓ p − 範數 ∥ x ∥ p ， 1 ≤ p < ∞ \ell_p-範數 \Vert\mathbf{x}\Vert_p，1\le p<\infty ℓp−範數∥x∥p，1≤p<∞，是一個凸函數。對於 x , y ∈ R n 且 0 ≤ λ ≤ 1 \mathbf{x},\mathbf{y}\in\mathbb{R}^n 且 0\le\lambda\le 1 x,y∈Rn且0≤λ≤1，根據正齊次性和 Minkowski 不等式，立得：
∥ λ x + ( 1 − λ ) y ∥ p ≤ ∥ λ x ∥ + ∥ ( 1 − λ ) y ∥ p = λ ∥ x ∥ p + ( 1 − λ ) ∥ y ∥ p . \displaystyle\begin{aligned} \Vert \lambda\mathbf{x}+(1-\lambda)\mathbf{y}\Vert_p&\le\Vert\lambda\mathbf{x}\Vert+\Vert(1-\lambda)\mathbf{y}\Vert_p\\ &=\lambda\Vert\mathbf{x}\Vert_p+(1-\lambda)\Vert\mathbf{y}\Vert_p. \end{aligned} ∥λx+(1−λ)y∥p≤∥λx∥+∥(1−λ)y∥p=λ∥x∥p+(1−λ)∥y∥p.
若 0 < p < 1 0< p<1 0<p<1， ∥ x ∥ p \Vert\mathbf{x}\Vert_p ∥x∥p 不是一個凸函數，因為 Minkowski 不等式不復成立。

更详细的推导请见，参考：
关于p-norm的证明

证明p-norm是凸函数相关推荐

凸函数高维性质证明（Jenson不等式）
目录问题引入背景介绍证明过程关键词:凸函数.Jenson(琴生)不等式问题引入背景介绍凸集 convex set 凸函数 convex function 注:凸集和凸函数定义取自< ...
UA MATH567 高维统计专题2 Low-rank矩阵及其估计2 Rank Minimization与Nuclear Norm
UA MATH567 高维统计专题2 Low-rank矩阵及其估计2 Rank Minimization与Nuclear Norm 上一讲我们已经提到了用rank-minimization对参数矩阵进 ...
椭圆是一个凸集的证明
椭圆是一个凸集的证明常见的凸集椭圆是凸集的证明从定义上证明椭圆是一个凸集合从 norm 的角度去看 ellipsoid Mahalanobis norm 椭圆是一个 norm ball 从仿射 ...
凸优化第三章凸函数 3.1基本性质和例子
3.1基本性质和例子定义扩展值延伸一阶条件二阶条件例子下水平集上境图 Jensen不等式及其扩展不等式定义函数f是凸函数,当f的定义域S是凸集,且严格凸函数: 从几何上来看,如下 ...
关于凸函数中的Hadamard定理引发的思考
先看一个问题,是我的一位同学提出来的.原题只有左边的不等式.为了文章的完整性,我加入了右边的不等式并且另外给出证明. 问题:若f′(x)在[x1,x2]上递增,求证:f(x1+x22)≤1x2−x1∫ ...
凸函数1（斯坦福凸优化笔记5）
1 基本性质和例子 1.1 凸函数函数f:Rn→Rf:R^n \rightarrow R是凸的,如果dom f\mathbf{dom }\ f是凸集,且对于任意x,y∈dom fx,y \in \m ...
牛顿法拟牛顿法DFP BFGS L-BFGS的理解
转载https://www.cnblogs.com/shixiangwan/p/7532830.html 蓝鲸王子常见的几种最优化方法(梯度下降法.牛顿法.拟牛顿法.共轭梯度法等) 我们每个人都会在 ...
机器学习基础知识详解！
↑↑↑关注后"星标"Datawhale 每日干货 & 每月组队学习,不错过 Datawhale干货作者:胡联粤,Datawhale面经小组 Q1 ⽼板给了你⼀个关于癌症检 ...
投稿人就是AI顶会最好的「审稿人」！中国学者提出同行评审新机制
点击上方"视学算法",选择加"星标"或"置顶" 重磅干货,第一时间送达来源丨新智元编辑丨极市平台导读近年来,机器学习顶会论文数目井喷 ...
你就是你自己paper最好的审稿人：宾大苏炜杰提出peer review新机制
[专栏:前沿进展]近年来,机器学习顶会论文数目井喷,审稿压力巨大,其同行评审制度备受质疑.宾大教授针对此挑战提出了由论文作者协助的新型同行评审机制. 你是否已经受够了NeurIPS,ICLR,ICML ...

证明p-norm是凸函数

证明p-norm是凸函数

结论

性质

证明：

证明p-norm是凸函数相关推荐

最新文章

热门文章