补充知识

凸集

设 S 为 n 维欧氏空间RnR^nRn中一个集合。 若对 S 中任意两点,联结它们的线既仍属于 S; 换言之,对 S 中任意两点 x(1),x(2)\bf{x}^{(1)},\bf{x}^{(2)}x(1),x(2) 及每个实数
λ∈[0,1]\lambda \in[0, \quad1]λ∈[0,1] 都有:
λx(1)+(1−λ)x(2)∈S\lambda x^{(1)}+(1-\lambda) x^{(2)} \in S λx(1)+(1−λ)x(2)∈S
则称 S 为凸集，λx(1)+(1−λ)x(2)\lambda x^{(1)}+(1-\lambda)x^{(2)}λx(1)+(1−λ)x(2)称为凸组合.

如图(a)是凸集，而图(b)不是.

方向与极方向

设S为RnR^nRn中闭四集，d为非零向量，如果对S中的每一个x都 有 射 线 {x+λd∣λ≥0}∈S\{\mathrm{ x} + \lambda d | ~ \lambda \geq 0 \}\in S{x+λd∣ λ≥0}∈S ， 则 称 d 为 S 的 一 个 方 向 。
设d是S的两个方向，若S不能表示成该集合的两个不同 方向的正线性组合，则称d为S的极方向.

如图(a)中d是一个方向，图©中与边界重合的d是一个极方向，图(b)中d则既不是方向也不是极方向.

表示定理

设S={x∣Ax=b,x≥0}\mathrm{~S = \{ x |A x = b , x \geq 0 \} ~} S={x∣Ax=b,x≥0} 为 非 空 多 面 集 ， 则 有 :
(1)P的极点集K是非空的有限集合,记为{x(1),x(2),x(k)}\{ \left.x^{(1)}, \mathbf{x}^{(2)}, \mathbf{x}^{(k)}\right\}{x(1),x(2),x(k)}
(2)设S的极方向集为J，则指标集J是空集当且仅当S是有界 集合,即多胞形.
(3)x∈Sx \in Sx∈S的充要条件为:
x=∑k∈Kλkxk+∑j∈Jμjdjx=\sum_{k \in K} \lambda_{k} x^{k}+\sum_{j \in J} \mu_{j} d^{j}x=k∈K∑​λk​xk+j∈J∑​μj​dj
其中∑k∈Kλk=1,λk≥0,k∈K,μj≥0,j∈J\sum_{k \in K} \lambda_{k}=1, \lambda_{k} \geq 0, k \in K, \mu_{j} \geq 0, j \in Jk∈K∑​λk​=1,λk​≥0,k∈K,μj​≥0,j∈J

择一定理

• Farkas定理
  设A为m×nm \times nm×n矩阵，c为n维向量，则 Ax≤0,cTx>0A x \leq 0, \quad c^{T} x>0Ax≤0,cTx>0 有解的充要条件是， ATy=c,y≥0A^{T} y=c, y \geq 0ATy=c,y≥0 无解.
• Gordan定理
  设A为m×nm \times nm×n矩阵，那么，Ax<0Ax<0Ax<0有解的充要条件是不存在非零向量y≥0y \geq0y≥0，使A′y=0A'y=0A′y=0.

证明略.

第一章 线性规划的基本性质

问题的提出

例 某工厂在计划期内要安排生产Ⅰ、Ⅱ两种产品，已知生产单位产品所需的设备台时及A、B两种原材料的消耗，如表所示

	产品1	产品2	拥有量
设备	1	2	8台时
原材料A	4	0	16kg
原材料B	0	4	12kg

每生产一件产品1可获利2元，每生产一件产品2可获利3元，问应如何安排计划使该工厂获利最多?

根据题目：

1. 设 x1,x2x_{1}, x_{2}x1​,x2​ 分别表示计划生产I,II产品的数量, 称它们为决策变量；
2. 生产 x1,x2x_{1}, x_{2}x1​,x2​ 的数量多少，受资源押有量的限制 这是约束条件，即x_ +2x2≤8;4x1≤16;4x2≤12+2 x_{2} \leq 8 ; 4 x_{1} \leq 16 ; 4 x_{2} \leq 12+2x2​≤8;4x1​≤16;4x2​≤12；
3. 生产的产品不能是负值,即x_, x2≥0x_{2} \geq 0x2​≥0;
4. 如何安排生产，使利润最大,这是目标.

用数学关系式可以表达为：
目标函数 max⁡z=2x1+3x2\quad \max z=2 x_{1}+3 x_{2}maxz=2x1​+3x2​
约束条件: {x1+2x2≤84x1≤164x2≤12x1,x2≥0\left\{\begin{array}{rr}x_{1}+2 x_{2} \leq 8 \\ 4 x_{1} \quad \quad \leq 16 \\ 4 x_{2} \leq 12 \\ x_{1}, x_{2} \geq 0\end{array}\right.⎩⎪⎪⎨⎪⎪⎧​x1​+2x2​≤84x1​≤164x2​≤12x1​,x2​≥0​
这就是一个最简单的线性规划问题.
我们可以发现：

• 每一个线性规划问题都用一组决策变量(x1,x2,⋯xn)\left(x_{1}, x_{2}, \cdots x_{n}\right)(x1​,x2​,⋯xn​)
  表示某一方案，这组决策变量的值代表一个具体方案。一般这些变量的取值是非负且连续的;
• 都有关于各种资源和资源使用情况的技术数据，创造新 价值的数据：
  aij;cj(i=1,⋯m;j=1,⋯n)a_{i j} ; c_{j}(i=1, \cdots m ; j=1, \cdots n) aij​;cj​(i=1,⋯m;j=1,⋯n)
• 存在可以量化的约束条件，这些约束条件可以用一组线 性等式或线性不等式来表示;
• 都有一个达到某一目标的要求，可用决策变量的线性函 数(称为目标函数) 来表示。按问题的要求不同，要求目标函数实现最大化或最小化。

线性规划模型的一般形式
目标函数
max⁡(min⁡)z=c1x1+c2x2+⋯+cnxn\max (\min ) z=c_{1} x_{1}+c_{2} x_{2}+\cdots+c_{n} x_{n} max(min)z=c1​x1​+c2​x2​+⋯+cn​xn​
约束条件
a11x1+a12x2+⋯⋯+a1nxn≤(=,≥)b1a_{11} x_{1}+a_{12} x_{2}+\cdots \cdots+a_{1 n} x_{n} \leq(=, \geq) b_{1}a11​x1​+a12​x2​+⋯⋯+a1n​xn​≤(=,≥)b1​
a21x1+a22x2+⋯⋯+a2nxn≤(=,≥)b2a_{21} x_{1}+a_{22} x_{2}+\cdots \cdots+a_{2 n} x_{n} \leq(=, \geq) b_{2}a21​x1​+a22​x2​+⋯⋯+a2n​xn​≤(=,≥)b2​
⋅⋅⋅⋅⋅⋅\cdot \cdot \cdot \cdot \cdot \cdot⋅⋅⋅⋅⋅⋅
am1x1+am2x2+⋯⋯+amxn≤(=,≥)bma_{m 1} x_{1}+a_{m 2} x_{2}+\cdots \cdots+a_{m} x_{n} \leq(=, \geq) b_{m}am1​x1​+am2​x2​+⋯⋯+am​xn​≤(=,≥)bm​
x1,x2,⋯⋯,xn≥0x_{1}, x_{2}, \cdots \cdots, x_{n} \geq 0x1​,x2​,⋯⋯,xn​≥0
用表格形式可以表示为：

图解法

同样是以上面的例题为例，
目标函数 max⁡z=2x1+3x2\quad \max z=2 x_{1}+3 x_{2}maxz=2x1​+3x2​
约束条件: {x1+2x2≤84x1≤164x2≤12x1,x2≥0\left\{\begin{array}{rr}x_{1}+2 x_{2} \leq 8 \\ 4 x_{1} \quad \quad \leq 16 \\ 4 x_{2} \leq 12 \\ x_{1}, x_{2} \geq 0\end{array}\right.⎩⎪⎪⎨⎪⎪⎧​x1​+2x2​≤84x1​≤164x2​≤12x1​,x2​≥0​
我们可以画出图形，如下
以斜率−23-\frac{2}{3}−32​作出一簇直线，见虚线，虚线在y轴上的纵截距为目标函数值z的13\frac{1}{3}31​，即z3\frac{z}{3}3z​
不难看出，目标值在（4，2）点，达到最大值14.
通过图解法，可观察到线性规划的解可能出现 的几种情况：

1. 无穷多最优解(多重最优解) 。
   
2. 无界解。
   
3. 无可行解。
   

标准型

线性规划问题的标准型式如下：

目标函数: max⁡z=c1x1+c2x2+⋯+cnxn约束条件: {a11x1+a12x2+⋯+a1nxn=b1a21x1+a22x2+⋯+a2nxn=b2⋯⋯⋯⋯am1x1+am2x2+⋯+amnxn=bnx1,x2,⋯,xn≥0\begin{aligned} &\text { 目标函数: } \max z=c_{1} x_{1}+c_{2} x_{2}+\cdots+c_{n} x_{n}\\ &\text { 约束条件: }\left\{\begin{array}{c} \mathrm{a}_{11} x_{1}+a_{12} x_{2}+\cdots+a_{1 n} x_{n}=b_{1} \\ a_{21} x_{1}+a_{22} x_{2}+\cdots+a_{2 n} x_{n}=b_{2} \\ \cdots \cdots \cdots \cdots \\ a_{m 1} x_{1}+a_{m 2} x_{2}+\cdots+a_{m n} x_{n}=b_{n} \\ x_{1}, x_{2}, \cdots, x_{n} \geq 0 \end{array}\right. \end{aligned} ​ 目标函数: maxz=c1​x1​+c2​x2​+⋯+cn​xn​ 约束条件: ⎩⎪⎪⎪⎪⎨⎪⎪⎪⎪⎧​a11​x1​+a12​x2​+⋯+a1n​xn​=b1​a21​x1​+a22​x2​+⋯+a2n​xn​=b2​⋯⋯⋯⋯am1​x1​+am2​x2​+⋯+amn​xn​=bn​x1​,x2​,⋯,xn​≥0​​
需要注意的地方有

1. 目标函数求最大值；
2. 约束条件中均为等号；
3. 约束条件中b大于等于零；
4. 约束条件中x大于等于零；

那么如何将一般的线性规划问题转化为标准型呢？
(1) 若要求目标函数实现最小化，即min z=CX,z=C X,z=CX, 则只需将目标函数最小 化变换求目标函数最大化，即令z′=−zz'= -zz′=−z，于是得到maxz′=−CXmax z'= - CXmaxz′=−CX.
(2) 约束条件为不等式。分两种情况讨论:
∙\bullet∙若约束条件为“≤\leq≤”型不等式，则可在不等式左端加入非负松他变量， 把原≤\leq≤型不等式变为等式约束;
∙\bullet∙若约束条件为≥\geq≥型不等式，则可在不等式左端减去一个非负剩余 变量(也称松他变量)，把不等式约束条件变为等式约束。
(3) 若存在取值无约束的变量xkx_{k}xk​ 可令
xk=xk′−xk′′xk′,xk′′≥0\begin{array}{l} x_{k}=x_{k}^{\prime}-x_{k}^{\prime \prime} \\ x_{k}^{\prime}, x_{k}^{\prime \prime} \geq 0 \end{array} xk​=xk′​−xk′′​xk′​,xk′′​≥0​
例2：
将下述线性规划问题化为标准形式
min⁡z=−x1+2x2−3x3{x1+x2+x3≤7x1−x2+x3≥3−3x1+x2+x3=5x1,x2≥0;x3为无约束 \begin{array}{c} \min z=-x_{1}+2 x_{2}-3 x_{3} \\ \left\{\begin{array}{c} x_{1}+x_{2}+x_{3} \leq 7 \\ x_{1}-x_{2}+x_{3} \geq 3 \\ -3 x_{1}+x_{2}+x_{3}=5 \\ x_{1}, x_{2} \geq 0 ; x_{3} \text { 为无约束 } \end{array}\right. \end{array} minz=−x1​+2x2​−3x3​⎩⎪⎪⎨⎪⎪⎧​x1​+x2​+x3​≤7x1​−x2​+x3​≥3−3x1​+x2​+x3​=5x1​,x2​≥0;x3​ 为无约束 ​​
步骤：

1. 用 x4−x5x_{4}-x_{5}x4​−x5​ 替换 x3,x_{3},x3​, 其中 x4,x5≥0x_{4}, x_{5} \geq 0x4​,x5​≥0 ;
2. 在第一个约束不等式左端加入松他变量 x6x_{6}x6​ ;
3. 在第二个约束不等式左端減去剩余变量x7x_7x7​ ;
4. 令z’= -z，将求min z 改为求max z’.

得到标准型：
max⁡z′=x1−2x2+3(x4−x5)+0x6+0x7{x1+x2+(x4−x5)+x6=7x1−x2+(x4−x5)−x7=2−3x1+x2+2(x4−x5)=5x1,x2,x4,x5,x6,x7≥0\begin{aligned} &\max z^{\prime}=x_{1}-2 x_{2}+3\left(x_{4}-x_{5}\right)+0 x_{6}+0 x_{7}\\ &\left\{\begin{array}{cc} \quad \quad \quad x_{1}+x_{2}+\quad \left(x_{4}-x_{5}\right)+x_{6}& \quad \quad =7 \\ \quad x_{1}-x_{2}+\quad \left(x_{4}-x_{5}\right) & -x_{7}=2 \\ -3 x_{1}+x_{2}+2\left(x_{4}- x_5\right) & \quad \quad =5 \\ x_{1}, x_{2}, x_{4}, x_{5}, x_{6}, x_{7} \geq 0 \end{array}\right. \end{aligned} ​maxz′=x1​−2x2​+3(x4​−x5​)+0x6​+0x7​⎩⎪⎪⎨⎪⎪⎧​x1​+x2​+(x4​−x5​)+x6​x1​−x2​+(x4​−x5​)−3x1​+x2​+2(x4​−x5​)x1​,x2​,x4​,x5​,x6​,x7​≥0​=7−x7​=2=5​​

线性规划问题的解概念

1. 可行解
   满足所有约束条件的解称为可行解，可行解中使目标函数达到最大值的解为最优解.
2. 基
   BBB 是系数矩阵A(R(A)=mR(A)=mR(A)=m)中的m×mm\times mm×m阶非奇异子矩阵 (B∣≠0)(\mathrm{B} | \neq 0)(B∣​=0) 称B为线性规划问题的基。 B=(a11a12⋯a1ma21a22⋯a2m⋮⋮⋮am1am2⋯amn)=(P1,P2,⋯Pm)B=\left(\begin{array}{cccc}a_{11} & a_{12} & \cdots & a_{1 m} \\ a_{21} & a_{22} & \cdots & a_{2 m} \\ \vdots & \vdots & & \vdots \\ a_{m 1} & a_{m 2} & \cdots & a_{m n}\end{array}\right)=\left(P_{1}, P_{2}, \cdots P_{m}\right)B=⎝⎜⎜⎜⎛​a11​a21​⋮am1​​a12​a22​⋮am2​​⋯⋯⋯​a1m​a2m​⋮amn​​⎠⎟⎟⎟⎞​=(P1​,P2​,⋯Pm​)
   Pj(j=1,2,⋯m)\mathrm{P}_{\mathrm{j}}(j=1,2, \cdots m)Pj​(j=1,2,⋯m) 为基向量
   xj(j=1,2,⋯m)\mathbf{x}_{\mathrm{j}}(j=1,2, \cdots m)xj​(j=1,2,⋯m) 为基变量。
3. 基可行解
   满足非负条件x≥0x\geq0x≥0的基解，称为基可行解. 基可行解的非零分量的数目不大于m，并且都是非负的。
   
   上图中0,Q1,,Q2,Q3,Q40,Q_1,,Q_2,Q_3,Q_40,Q1​,,Q2​,Q3​,Q4​都是基可行解.
4. 可行基
   对应于基可行解的基，称为可行基。 约束方程组Ax=bAx=bAx=b具有的基解的数目最多是 CnmC_{n}^{m}Cnm​ 个，一般 基可行解的数目要小于基解的数目.
   

陈宝林《最优化理论与算法》超详细学习笔记 （二）————补充知识（凸集） 第二章 线性规划的基本性质相关推荐

1. 陈宝林《最优化理论与算法》超详细学习笔记 （七）————第五章 运输问题

   陈宝林<最优化理论与算法>超详细学习笔记 (七)----第五章 运输问题 第1节 运输问题的数学模型 第2节 表上作业法 2.1 确定初始基可行解 2.2 最优解的判别 2.3 改进的方法 ...

2. 陈宝林《最优化理论与算法》超详细学习笔记 （四）————第四章 对偶理论

   陈宝林<最优化理论与算法>超详细学习笔记 (四)----第四章 对偶理论 1. 对偶问题的提出 2. 线性规划的对偶理论 2.1 原问题与对偶问题的关系 2.2 对偶问题的基本性质 3. ...

3. 【台大郭彦甫】Matlab入门教程超详细学习笔记二：基本操作与矩阵运算（附PPT链接）

   Matlab入门教程超详细学习笔记二:基本操作与矩阵运算 前言 一.基本操作 1.把matlab当作计算器使用 2.变量 3.控制格式输出 二.矩阵运算 1.矩阵 2.矩阵索引 3.使用:创建向量 4 ...

4. 陈宝林《最优化理论与算法》超详细学习笔记 （三）————单纯形法

   陈宝林<最优化理论与算法>详细学习笔记 (三)----单纯形法 数学模型 最优性检验与解的判别 最优解的判别定理 无穷多最优解判别定理 无界解判别定理 其他情形 第三章 单纯形法 单纯形表 ...

5. 陈宝林《最优化理论与算法》超详细学习笔记 （八）————最优性条件

   陈宝林<最优化理论与算法>超详细学习笔记 (八)----最优性条件 无约束问题的极值条件 必要条件 二阶充分条件 充要条件 约束极值问题的最优性条件 不等式约束的一阶最优性条件 无约束问题 ...

6. 陈宝林《最优化理论与算法》超详细学习笔记 （一）————第十章 使用导数的最优化方法（最速下降法、牛顿法、阻尼牛顿法）

   陈宝林<最优化理论与算法>超详细学习笔记 (一)----第十章 使用导数的最优化方法(最速下降法.牛顿法.阻尼牛顿法) 写在前面 第十章 使用导数的最优化方法 最速下降法 牛顿法 阻尼牛顿 ...

7. 陈宝林《最优化理论与算法》超详细学习笔记 （五）————最优性条件 之 KKT条件

   陈宝林<最优化理论与算法>超详细学习笔记 (五)----最优性条件 之 KKT条件 Lagrange对偶问题 原问题 Lagrange函数 Lagrange对偶函数 强/弱对偶性 弱对偶性 ...

8. Java数据库部分（MySQL+JDBC）（一、MySQL超详细学习笔记）

   所有示例使用的数据表均为Oracle提供的SQL基础数据表(t_employees.sql dept.sql emp.sql salgrade.sql) 熟练掌握多多练习即可达到完成后端开发所需具备的 ...

9. MITRE ATTCK超详细学习笔记-01（背景，术语，案例）

   文章目录 1. ATT&CK框架简介 1.1 背景 1.2 特点 1.3 与Cyber Kill Chain的关系 2. ATT&CK相关术语 2.1 Matrix 2.2 TTPs ...

最新文章

1. Android 弱网测试(小米手机切换3g和2g)
2. 海蜘蛛如何手工升级到最新版
3. 2016年我国研究的超级计算机,盘点2016：我国科研取得的重大成果
4. 火眼金睛算法，教你海量短文本场景下去重
5. leetCode第五题-求字符串最长回文字符串
6. boost::make_maximal_planar用法的测试程序
7. python打印字节流_Python 调用系统命令的模块 Subprocess
8. 如何写_如何写博士论文？博士生如何写期刊论文？
9. 【原】UCS-2和UTF-8的互相转换
10. el-table表格在表头和数据行添加图标、处理数据
11. Mac OS X上编写 ASP.NET vNext（一）KRE环境搭建
12. 毕业论文参考文献格式GB/T 7714的Endnote设置教程
13. Will----个人资料
14. win7安装micropython串口驱动失败
15. 金蝶显示服务器许可,金蝶K3服务器分配许可数已经全部使用，无法建立新的连接怎么办...
16. 正态分布某一点的概率怎么算_统计基础篇之十三：怎么理解正态分布(二)
17. 在王者荣耀角度下分析面向对象程序设计B中23种设计模式之原型模式
18. 今天的几点感悟_20160711
19. MyBatis-Plus——自动填充功能实现
20. 《C语言及程序设计》实践参考——n=a!+b!+c!

热门文章

1. python subprocess pipe_Python的subprocess模块总结
2. Flex 开发地下城与勇士 设想
3. 360正式回归A股市场；马化腾成全球华人首富；链家遭购房者起诉丨价值早报
4. 个人收集的RSA常用脚本
5. unity里面判断两个image是否重叠
6. 能让你开发效率翻倍的 sublime 插件配置 1
7. 酒鬼私定，只是酒鬼酒一次破圈营销？
8. 利用C语言打印表白动态爱心
9. python pip安装报错_python pip安装扩展报错
10. 传统节日腊八节PPT模板来了，务必收好