凸集（Convex sets）

1 仿射集（affine sets）和凸集（convex sets）
- 1.1 直线（lines）和线段（line segments）
- 1.2 仿射集
- 1.3 仿射维度（affine dimension）和相对内部（relative interior）
- 1.4 凸集
- 1.5 锥（Cones）
2、一些重要的（凸集）例子
- 2.1 超平面（Hyperplanes）和半空间（halfspaces）
- 2.2 欧几里得球（Euclidean balls）和椭球（ellipsoids）

1 仿射集（affine sets）和凸集（convex sets）

1.1 直线（lines）和线段（line segments）

假如x1≠x2x_1\neq x_2x1=x2是Rn{\bf R}^nRn上的两点，点y=θx1+(1−θ)x2y=\theta x_1 +\left( 1-\theta\right)x_2y=θx1+(1−θ)x2（其中θ∈R\theta \in \bf Rθ∈R），组成了穿过x1x_1x1和x2x_2x2的直线。000到111之间的θ\thetaθ值对应的点yyy组成了x1x_1x1和x2x_2x2之间的线段。
yyy的另一种表达形式为：y=x2+θ(x1−x2)y=x_2+\theta \left( x_1-x_2\right)y=x2+θ(x1−x2)很容易理解，x2x_2x2是基准点，θ(x1−x2)\theta \left( x_1-x_2\right)θ(x1−x2)是在(x1−x2)\left( x_1-x_2\right)(x1−x2)方向上的延申，通过二维空间进行理解。

1.2 仿射集

一个集合C∈RnC\in {\bf R}^nC∈Rn，如果经过CCC中任意两点的直线还是位于CCC内，即对于任意的x1,x2∈Cx_1,x_2 \in Cx1,x2∈C和任意θ∈R\theta \in \bf Rθ∈R，有θx1+(1−θ)x2∈C\theta x_1 +\left( 1-\theta\right)x_2 \in Cθx1+(1−θ)x2∈C，那么这个集合CCC就是仿射的。换句话说就是，CCC包括了CCC中任意两点的 系数和为111的 线性组合。
指定点θ1x1+...+θkxk{\theta}_1 x_1+...+{\theta}_k x_kθ1x1+...+θkxk，其中θ1+...+θk=1{\theta}_1+...+{\theta}_k=1θ1+...+θk=1，为点x1,...,xkx_1,...,x_kx1,...,xk的仿射组合。仿射集的定义就是包括其中任意两点的仿射组合的集合，推广到“仿射集包括其中任意多点的每一个仿射组合”，简单证明如下：

可用归纳法严格证明。

线性方程组的解集C={x∣Ax=b}C=\lbrace x \vert Ax=b\rbraceC={x∣Ax=b}是一个仿射集，证明略。
事实上，每个仿射集都可以表示为线性方程组的解集。

某个集合C⊆RnC\subseteq{\bf R}^nC⊆Rn里的点的所有仿射组合的集合被称为CCC的仿射包（affine hull），表示为affC\text {\bf aff}\enspace CaffC：
affC={θ1x1+⋯+θkxk∣x1,…,xk∈C,θ1+⋯+θk=1}.\text {\bf aff}\enspace C=\lbrace {\theta}_1x_1+\cdots+{\theta}_kx_k \: \vert \:x_1, \ldots, x_k \in C,{\theta}_1+ \cdots + {\theta}_k=1 \rbrace.affC={θ1x1+⋯+θkxk∣x1,…,xk∈C,θ1+⋯+θk=1}.仿射包是包含CCC的最小的仿射集，即如果SSS是任意一个仿射集并且C⊆SC\subseteq SC⊆S，有affC⊆S\text {\bf aff}\enspace C \subseteq SaffC⊆S。

1.3 仿射维度（affine dimension）和相对内部（relative interior）

定义一个集合CCC的仿射维度为它的仿射包的维度。仿射维度与其他关于维度的定义不一样，比如，R2{\bf R}^2R2上的单位圆的仿射包是整个R2{\bf R}^2R2，所以它的仿射维度为222，但是大多数对维度的定义都认为R2{\bf R}^2R2上的单位圆是一维的。
定义一个集合CCC的相对内部为relintC\text{\bf relint} \: CrelintC，其中relintC⊆C⊆affC\text{\bf relint} \: C \subseteq C \subseteq \text{\bf aff} \: CrelintC⊆C⊆affC，并且relintC={x∈C∣B(x,r)∩affC⊆C,r>0},\text{\bf relint} \: C = \lbrace x\in C \: \vert \: B\left( x,r\right) \cap \text{\bf aff} \: C \subseteq C, r>0 \rbrace,relintC={x∈C∣B(x,r)∩affC⊆C,r>0},其中B(x,r)={y∣∥y−x∥≤r}B\left( x,r\right)=\lbrace y \: \vert \: \lVert y -x \rVert \leq r\rbraceB(x,r)={y∣∥y−x∥≤r}是圆心为xxx，半径为rrr的范数球。
定义集合CCC的相对边界为clC\relintC={x∣x∈clCandx∉relintC}\text {\bf cl} \: C \: \backslash \: \text {\bf relint} \: C=\lbrace x \: \vert \: x\in \text {\bf cl} \: C \: \text {and} \: x \notin \text{\bf relint} \: C\rbraceclC\relintC={x∣x∈clCandx∈/relintC}，其中clC\text {\bf cl} \: CclC为CCC的闭包。

1.4 凸集

如果集合CCC中任意两点之间的线段都位于CCC内，即对于任意的x1,x2∈Cx_1,x_2\in Cx1,x2∈C和任意θ(0≤θ≤1)\theta \left( 0 \leq \theta \leq 1\right)θ(0≤θ≤1)，有θx1+(1−θ)x2∈C\theta x_1+\left(1-\theta \right)x_2 \in Cθx1+(1−θ)x2∈C则称CCC是凸的。
粗略地讲，如果集合中的任意一点都能被其他所有点沿着一条无障碍的直线路径看到，那么这个集合就是凸的，无障碍意味着路径上的每一点都位于该集合内。

相关定理¹：
若干个凸集的交集还是凸集；
若干个凸集的线性组合还是凸集；
每个仿射集都是凸的，因为它包含任意两个点之间的整条直线，因此也包含线段。

把形式为θ1x1+...+θkxk{\theta}_1 x_1+...+{\theta}_k x_kθ1x1+...+θkxk，其中θ1+...+θk=1andθi≥0,i=1,…,k{\theta}_1+...+{\theta}_k=1 \: \text{and} \:{\theta}_i \geq0,i=1,\dots,kθ1+...+θk=1andθi≥0,i=1,…,k的点叫做点x1,...,xkx_1,...,x_kx1,...,xk的一个凸组合。

与仿射集一样，可以证明一个集合是凸的，当且仅当它包含它的任意点的每一个凸组合。
几个点的凸组合可以理解为它们的加权平均值，θi{\theta}_iθi为xix_ixi在凸组合中的占比。
集合CCC的凸包（convex hull）是包含CCC中的点的所有凸组合的集合，表示为convC\text{\bf conv} \: CconvC：
convC={θ1x1+...+θkxk∣xi∈C,θi≥0,i=1,…,k,θ1+...+θk=1}\text{\bf conv} \: C=\lbrace{\theta}_1 x_1+...+{\theta}_k x_k \: \vert \: x_i \in C,\:{\theta}_i \geq 0,\: i=1,\dots,k,\: {\theta}_1+...+{\theta}_k=1\rbraceconvC={θ1x1+...+θkxk∣xi∈C,θi≥0,i=1,…,k,θ1+...+θk=1}
顾名思义，凸包convC\text{\bf conv} \: CconvC总是凸的，它是包括CCC的最小凸集，即如果BBB是包括CCC的任意一个凸集，则convC⊆B\text{\bf conv} \: C \subseteq BconvC⊆B。

凸组合的概念可以推广到包括无穷和、积分，以及最一般形式的概率分布。

1.5 锥（Cones）

如果对每个x∈Cx \in Cx∈C和θ≥0\theta \geq0θ≥0，有θx∈C\theta x \in Cθx∈C，则称集合CCC是一个锥或者是非负齐次性（nonnegative homogeneous）的。
如果集合CCC既是凸的，又是一个锥，则称CCC是一个凸锥（convex cone），即对于任意x1,x2∈Cx_1,x_2 \in Cx1,x2∈C和θ1,θ2≥0{\theta}_1,{\theta}_2 \geq0θ1,θ2≥0，有θ1x1+θ2x2∈C.{\theta}_1x_1+{\theta}_2x_2 \in C.θ1x1+θ2x2∈C.
一个形如θ1x1+⋯+θkxk{\theta}_1x_1+\cdots+{\theta}_kx_kθ1x1+⋯+θkxk（θ1,…,θk≥0{\theta}_1,\ldots,{\theta}_k \geq0θ1,…,θk≥0）的点叫做点x1,…,xkx_1,\ldots,x_kx1,…,xk的锥组合（或非负线性组合）。
凸锥CCC里面的点的每一个锥组合都在CCC里面。一个集合是凸锥，当且仅当它包含它的元素的所有锥组合。
像凸组合一样，锥组合的想法可以推广到无穷和和积分。
集合CCC的锥包是CCC中点的所有锥组合的集合，即{θ1x1+⋯+θkxk∣xi∈C,θi≥0,i=1,…,k},\lbrace {\theta}_1x_1+\cdots+{\theta}_kx_k \: \vert \: x_i \in C,\: {\theta}_i \geq 0,\:i=1,\ldots,k\rbrace,{θ1x1+⋯+θkxk∣xi∈C,θi≥0,i=1,…,k},也是包括CCC的最小凸锥。

2、一些重要的（凸集）例子

空集ϕ\phiϕ、任意单点集{x0}\lbrace x_0 \rbrace{x0}和整个空间Rn{\bf R}^nRn都是Rn{\bf R}^nRn的仿射（因此是凸的）子集。
任意直线（line）是仿射的。一条穿过零点的直线是一个子空间，因此也是一个凸锥。
一条线段是凸的，但不是仿射的（但特殊的线段：一个点，是仿射的）。
一条射线，形式为{x0+θv∣θ≥0},v≠0\lbrace x_0 +\theta v\: \vert \: \theta \geq 0 \rbrace,\:v\neq0{x0+θv∣θ≥0},v=0，是凸的，但不是仿射的。
任何子空间（subspace）都是仿射的，也是凸锥（因此也是凸的）。

2.1 超平面（Hyperplanes）和半空间（halfspaces）

一个超平面是一个形式为{x∣aTx=b}\lbrace x\:\vert\: a^Tx=b\rbrace{x∣aTx=b}的集合，其中a∈Rn,a≠0,b∈Ra\in{\bf R}^n,a\neq 0,b\in \bf Ra∈Rn,a=0,b∈R。可以理解为法向量为aaa的超平面，即
{x∣aT(x−x0)=0},\lbrace x\:\vert\: a^T\left( x-x_0\right)=0\rbrace,{x∣aT(x−x0)=0},其中x0x_0x0是超平面上任意一点（即满足aTx0=ba^Tx_0=baTx0=b的点）。
也可以表示为：
{x∣aT(x−x0)=0}=x0+a⊥,\lbrace x\:\vert\: a^T\left( x-x_0\right)=0\rbrace=x_0+a^{\bot},{x∣aT(x−x0)=0}=x0+a⊥,其中a⊥a^{\bot}a⊥表示aaa的正交补（orthogonal complement），即与aaa正交的所有向量的集合：
a⊥={v∣aTv=0}.a^{\bot}=\lbrace v\:\vert\: a^Tv=0\rbrace.a⊥={v∣aTv=0}.

一个超平面把空间Rn{\bf R}^nRn分成两个半空间（halfspace）,一个（封闭的）半空间是形式为{x∣aTx≤b},a≠0\lbrace x\:\vert\: a^Tx\leq b\rbrace,a\neq0{x∣aTx≤b},a=0的集合，它是凸的，但不是仿射的。

半空间由x0x_0x0加上和向量aaa夹角为钝（直）角的向量组成：
{x∣aT(x−x0)≤0},\lbrace x\:\vert\: a^T\left( x-x_0\right)\leq0\rbrace,{x∣aT(x−x0)≤0},

开半空间（open halfspace）：{x∣aTx<b},a≠0.\lbrace x\:\vert\: a^Tx<b\rbrace,a\neq0.{x∣aTx<b},a=0.

2.2 欧几里得球（Euclidean balls）和椭球（ellipsoids）

Rn{\bf R}^nRn上的一个欧几里得球（或者说一个球）是形式如下的集合：
B(xc,r)={x∣∥x−xc∥2≤r}={x∣(x−xc)T(x−xc)≤r2},B \left( x_c,r\right)=\lbrace x \: \vert \: \lVert x-x_c \rVert_2 \leq r \rbrace=\lbrace x \: \vert \: {\left( x-x_c\right)}^T\left( x-x_c\right) \leq r^2 \rbrace,B(xc,r)={x∣∥x−xc∥2≤r}={x∣(x−xc)T(x−xc)≤r2},其中r>0r>0r>0，∥⋅∥2\lVert \cdot \rVert_2∥⋅∥2表示欧式范数，∥u∥2=(uTu)1/2\lVert u\rVert_2={\left( u^Tu\right)}^{1/2}∥u∥2=(uTu)1/2。

这里用到了范数的性质²。
椭球体：

有关定理的证明 ↩︎
范数 ↩︎

凸集（Convex sets）相关推荐

【Convex Optimization (by Boyd) 学习笔记】Chapter 2 - Convex sets(1) 仿射集凸集
I. 仿射凸集(Affine and convex sets) 1. 线与线段假设\(R^n\)空间内两点\(x_1,x_2\, (x_1≠x_2)\),那么\(y=\theta x_1+(1-\t ...
Convex Optimization: 2 Convex sets
本篇为凸优化的课程笔记. 文章目录 Affine set 仿射集 Convex set 凸集 Convex combination and convex hull 凸组合与凸包 Convex cone ...
Optimization Week 1: Convex Sets
Week 1: Convex Sets 1 Definition of convex set 2 Operations preserving convexity 2.1 Affine transfor ...
2 Convex sets
CO2 convex sets
凸优化学习：PART1凸集
凸优化学习PART1 一.引言:优化问题简介优化问题的定义凸优化是优化的一种,是优化中比较容易的问题.在讲解优化问题前,首先说明什么是优化/数学规划(Optimization/Mathematic ...
机器学习基石-05-3-Effective Number of Hypotheses
Dichotomies: Mini-hypotheses,dichotomy意思是一分为二,就是将普通的都转换成二分的. 用来代替M的部分就是可行的假设h的个数,包含所有可能存在的情况,比如input ...
机器人中的数值优化|【一】数值优化基础
数值优化基础凸集 Convex Sets 凸集的定义令X是线性空间.如果对于X的子集S中的所有x和y,并且在区间 [0,1]中的所有t,点 ( 1 − t ) x + t y (1-t)x + t ...
Toward a More Complete, Flexible, and Safer Speed Planning for Autonomous Driving via Convex Optimiz
Toward a More Complete, Flexible, and Safer Speed Planning for Autonomous Driving via Convex Optimiz ...
【凸优化笔记一】仿射集+凸集+锥
[凸优化笔记一]仿射集+凸集+锥引言直线&线段直线的定义线段的定义仿射集 Affine Sets 与C相关的子空间线性方程组的解集是仿射集零空间仿射包 Affine Hull ...

凸集（Convex sets）

凸集（Convex sets）

1 仿射集（affine sets）和凸集（convex sets）

1.1 直线（lines）和线段（line segments）

1.2 仿射集

1.3 仿射维度（affine dimension）和相对内部（relative interior）

1.4 凸集

1.5 锥（Cones）

2、一些重要的（凸集）例子

2.1 超平面（Hyperplanes）和半空间（halfspaces）

2.2 欧几里得球（Euclidean balls）和椭球（ellipsoids）

凸集（Convex sets）相关推荐

最新文章

热门文章