组合最优化——线性规划基本定理

要找线性规划的最优解只需在基可行解中选择就可以了,这样将选择的范围控制在有限个。

1、定理1

设x是标准型线性规划(LP)的可行解，x为(LP)的基可行解的充要条件是，x的正分量对应的系数列向量线性无关。

2、定理2:

设x是标准型线性规划(LP)的可行解，x为 (LP)的基可行解的充要条件是，x为可行域D的极点
我们可以证明其必要性与充分性：
必要性：

不妨设x=(x1,x2,···,xm,0,···,0)T是(LP)
的基可行解,且x1,x2,···,xm是基变量,假设有
u,v∈D,
0<α <1,使得 x=α u+(1-α)v 当m+1≤j≤n时,0=xj=α uj
+(1-α)vj ,因此uj =vj =0.
所以p1u1+p2u2+···+pmum=p1v1+p2v2+···+pmvm=b
从而p1(u1-v1)+p2(u2-v2)+···+pm(um-vm)=0
由于x是基可行解,所以p1,p2,···,pm线性无关,
uj =vj(i=1,2,···,m).从而u=v.这说明x为极点.

充分性：

设x=(x1,x2,··· ,xk,0,··· ,0)T是可行域的
极点,其中x1,x2,··· ,xk>0.
假设x不是基可行解,于是p1,p2,··· ,pk线性相关,
即有一组不全为0的数α1,α2,··· ,αk,使得
α1p1+α2p2+··· +αkpk=0 (2.4)
又x∈D,所以 x1p1+x2p2+··· +xkpk=b (2.5)
用ε >0乘(2.4)再与(2.5)相加减得
(x1+εα1)p1+(x2+εα2)p2+··· +(xk+εαk)pk=b (x1–εα1)p1+(x2–εα2)p2+··· +(xk–εαk)pk=b
令u=(x1+εα1,x2+εα2,··· ,xk+εαk,0,··· ,0)T v=(x1–εα1,x2–εα2,··· ,xk–εαk,0,···,0)T
则有Au=b,Av=b,当ε充分小时,可使u≥0,v≥0.
因此,当ε充分小时,u,v都是(LP)的可行解,且 u≠v,x=1/2 u+1/2 v,
这与x是D的极点相矛盾.
因此x是基可行解

推论：线性规划(LP)的可行域D={x|Ax=b,x≥0}最多具有有限个极点，但基可行解与极点并不是一一对应的。
简单地将，我们计算基可行解得到了变量x的解向量，这个响亮如果只是几个相同值得顺序调换，比方说(5,0,0,5,12)与(0,5,0,5,12)，就对应着同一个极点。

3、定理3

若线性规划(LP)存在可行解,则它一定存在基可行解

证明 设x=(x1,x2,···,xn)T是(LP)的可行解.不失
一般性,设其前k个分量为正,其余分量为零.则有
Σxj*pj=b
若p1,p2,···,pk线性无关,则x为基可行解;
若p1,p2,···,pk线性相关,即有一组不全为0的数
α1,α2,··· ,αk,使得α1p1+α2p2+··· +αkpk=0
与定理2的证明类似,作 x1=x+εα,x2=x-εα,其中α=(α1,···,αk,0,···,0)T
当ε充分小时,x1,x2是线性规划(LP)的可行解.
选择适当的ε,使得xj+εαj,xj-εαj(j=1,···,k)中至少
有一个为零,而其余的值大于零.
这样得到一个新的可行解,其中非零分量的个
数比x至少减少一个.
如果新的可行解正分量对应的列向量线性无
关,则问题得证.否则重复上面的过程直到正分
量对应的列向量线性无关为止.

4、定理4

若线性规划(LP)存在最优解，则必存在基可行解是最优解

设x是最优解，若x不是基可行解，做出两个新
的可行解：x+ea，x-ea，对应的目标函数值为cTx+ecTa与cTx-ecTa
由于x是最优解，cTx+ecTa≥cTx；cTx-ecTa≥cTx
因此cTa=0
于是，当e>0充分小的时候，x+ea，x-ea也是可行最优解

组合最优化——线性规划基本定理相关推荐

0050算法笔记——【线性规划】单纯形算法(未完全实现)
题外话:王晓东的<算法设计与分析>看到现在,终于遇到自己琢磨不透的代码了.这里粘出来,求大神指点迷津,将代码补充完整~ 1.线性规划问题及其表示线性规划问题可表示为如下形式: 变量满足约 ...
单纯形法 -- 求解线性规划
目前,运用最广的线性规划方法就是著名的单纯形方法.这种方法是G.B.Dantzig在1947年提出的.几十年的实践证明,单纯形方法的确是一种使用方便.行之有效的重要算法.如今,它已经成为线性规划的中心 ...
**ML : ML中的最优化方法
前言: 在机器学习方法中,若模型理解为决策模型,有些模型可以使用解析方法.不过更一般的对模型的求解使用优化的方法,更多的数据可以得到更多的精度. AI中基于归纳的方法延 ...
单纯形法（二）（线性规划的基本定理）
前言请先阅读多面体的顶点方向以及分解定理以及多胞形凸组合,后面要用到分解定理. 定理设其可行域为PPP,若P!=∅P\ != \emptyP !=∅,则目标函数zzz只有两种情况: z无下界,即不 ...
【优化理论与方法】线性规划的基本定理
一.凸集上式表示: 连接凸集内任意两点的线段在凸集内. D表示: 连接两点的线段上所有的点凸集图片非凸集二.凸组合三.极点四.线性规划的基本定理定理1.1:若标准线性规划问 ...
最优化——线性规划总结1(线性规划标准型，规范型，顶点)
文章目录线性规划的形式标准型规范型线性规划的求解思路前提条件主要思路怎么搞一些概念线性规划标准形式的基本定理线性规划的形式标准型规范型线性规划的求解思路前提条件线性规划: ...
线性规划——规范型，标准型，基阵、基本解、基本可行解、基变量、非基变量.... 概念梳理
文章目录前言最优化-线性规划模型问题线性规划模型的一般形式(min) 线性规划规范形式线性规划标准型模型的转换线性规划中的规律规范形式顶点的数学描述标准形式顶点的数学描述标准形式顶 ...
Python数据分析入门--线性规划和非线性规划学习笔记
文章目录一.线性规划简介二.线性规划常用求解方法三.线性规划实现流程 1. 明确问题和变量 2. 建立数学模型四. Python实现线性规划五. 非线性规划简介六. 非线性规划常用求解方法 ...
运筹说第16期 | 线性规划硬核知识点梳理—单纯形法
经过第13期的学习,想必大家已经对线性规划问题的数学模型和图解法有了详细的了解.本期,小编带大家学习求解线性规划问题的另一基本方法--单纯形法,包括单纯形法原理.单纯形法计算步骤和单纯形法进一步讨论三 ...