超平面与半空间Euclid 球和椭球超平面分离定理和支撑超平面定理

关于仿射集合、凸集、凸锥我们有一些重要的例子，首先介绍一些简单的：

空集∅\varnothing∅、任意一点（单点集）{x0}\{x_0\}{x0}、全空间Rn\mathbf{R}^nRn都是Rn\mathbf{R}^nRn的仿射子集。
任意直线是仿射的，如果直线通过零点，则是子空间，因此也是凸锥。
一条线段是凸的，但不是仿射的。
一条射线是凸的，但不是仿射的，如果射线的基点x0x_0x0是0，则它是凸锥。
任意子空间是仿射的、凸锥。

超平面Hyperplane与半空间halfspace

超平面是具有下面形式的集合
{x∣a⊤x=b}\{x|a^\top x=b\}{x∣a⊤x=b}
其中a∈Rn,a≠0,b∈Ra\in \mathbf{R}^n, a\neq 0, b\in \mathbf{R}a∈Rn,a=0,b∈R，超平面是关于x的非平凡线性方程的解空间（因此是一个仿射集合），几何上，超平面{x∣a⊤x=b}\{x|a^\top x=b\}{x∣a⊤x=b}可以解释与给定向量a的内积为常数的点的集合，也可以看成法线方向为a的超平面，而常数b决定了这个平面从原点的偏移offset。超平面可以表示成下面的形式
{x∣a⊤(x−x0)=0}=x0+a⊥\{x|a^\top(x-x_0)=0\}=x_0+a^\perp{x∣a⊤(x−x0)=0}=x0+a⊥
其中x0x_0x0为超平面上任意一点满足 a⊤x0=ba^\top x_0=ba⊤x0=b ，这里a⊥a^\perpa⊥为a的正交补（the orthogonal complement of a），即与a正交的向量的集合：
a⊥={v∣a⊤v=0}a^\perp=\{v|a^\top v=0\}a⊥={v∣a⊤v=0}
可以看出超平面由偏移x0x_0x0加上所有正交于法向量a的向量构成。

Euclid 球和椭球

Rn\mathbf{R}^nRn中的空间Euclid球具有以下形式：
B(xc,r)={x∣∥x−xc∥2≤r}={x∣(x−xc)⊤(x−xc)≤r2}B(x_c,r)=\{x|\|x-x_c\|_2\leq r\}=\{x|(x-x_c)^\top(x-x_c)\leq r^2\}B(xc,r)={x∣∥x−xc∥2≤r}={x∣(x−xc)⊤(x−xc)≤r2}
其中r>0,∥⋅∥2r>0, \|\cdot\|_2r>0,∥⋅∥2表示Euclid范数，即∥u∥2=(u⊤u)12\|u\|_2=(u^\top u)^{\frac{1}{2}}∥u∥2=(u⊤u)21。B(xc,r)B(x_c,r)B(xc,r)由距离球心xcx_cxc距离不超过r的所有点组成。欧几里得球常见的另外一种表达式为：
B(xc,r)={xc+ru∣∥u∥2≤1}B(x_c,r)=\{x_c+ru| \|u\|_2\leq 1\}B(xc,r)={xc+ru∣∥u∥2≤1}
Euclid 球是凸集。

一类相关的凸集是椭球，它们具有以下的形式：
ε={x∣(x−xc)TP−1(x−xc)≤1}\varepsilon=\{x|(x-x_c)^TP^{-1}(x-x_c)\leq 1\}ε={x∣(x−xc)TP−1(x−xc)≤1}
其中，P=PT≻0P=P^T\succ 0P=PT≻0，即P是对称正定矩阵，决定了椭球从xcx_cxc向各个方向扩展的幅度。 ε\varepsilonε的半轴长度由λi\sqrt{\lambda_i}λi给出，其中λi\lambda_iλi为P的特征值。
椭球的另一种常见的表达式为
ε={xc+Au∣∥u∥2≤1}\varepsilon=\{x_c+Au|\|u\|_2\leq 1\}ε={xc+Au∣∥u∥2≤1}
其中AAA是非奇异的方阵。在此类表示形式中，我们可以不失一般性地假设AAA对称正定，取A=P12A=P^{\frac{1}{2}}A=P21,则此表达式就对应了上述定义的椭球。当矩阵A为对称半正定矩阵，但奇异时，集合ε\varepsilonε称为退化的椭球，其仿射维数等于A的秩，退化的椭球也是凸的。

分离与支撑超平面

超平面分离定理(Separating hyperplane theorem)

用超平面或仿射函数将两个不相交的凸集分离开来，其基本结果就是超平面分离定理

支撑超平面 Supporting hyperplanes

设C⊆RnC\subseteq \mathbf{R}^nC⊆Rn而x0x_0x0是其边界bd C上的一点，如果a≠0a\neq 0a=0，并且对任意x∈Cx\in Cx∈C满足a⊤x≤a⊤x0a^\top x\leq a^\top x_0a⊤x≤a⊤x0，那么称超平面{x∣a⊤x=a⊤x0\{x|a^\top x=a^\top x_0{x∣a⊤x=a⊤x0为集合C在点x0x_0x0处的支撑超平面.

支撑超平面定理，表明对于任意非空的凸集C和任意x0∈bdCx_0\in bd\, Cx0∈bdC, 在x0x_0x0处存在C的支撑超平面。