§5 约束极值

C1 最优性条件

1）非起作用约束：当前可行解不在约束边界的约束

如g(X0)>tg(X_0)\gt tg(X0)>t满足g(X0)≥tg(X_0)\ge tg(X0)≥t但不在边界上

2）可行方向：∃λ:X0+λD∈R⟺\exist\lambda:X_0+\lambda D\in R\iff∃λ:X0+λD∈R⟺对于所有起作用约束∇g(X0)TD≥0\nabla g(X_0)^TD\ge 0∇g(X0)TD≥0

3）下降方向：若∃δ∀λ∈[0,δ]f(X0+λD)<f(X0)⟺∇f(X0)TD<0\exist \delta \forall \lambda\in[0,\delta]f(X_0+\lambda D)\lt f(X_0)\iff \nabla f(X_0)^TD\lt0∃δ∀λ∈[0,δ]f(X0+λD)<f(X0)⟺∇f(X0)TD<0

4）可行方向法：解min⁡η{∇f(Xk)TD<η∇gi(Xk)TD>η−1⪯D⪯1\min \eta\begin{cases}\nabla f(X_k)^TD\lt \eta\\\nabla g_i(X_k)^TD\gt \eta\\ -1\preceq D\preceq 1\end{cases}minη⎩⎪⎨⎪⎧∇f(Xk)TD<η∇gi(Xk)TD>η−1⪯D⪯1

若η<0\eta\lt 0η<0，则对应最优可行下降方向
若∣η∣<ϵ|\eta|\lt \epsilon∣η∣<ϵ，可停止计算

5）K-T条件：约束极值点满足{∇f(X∗)−∑i=1mγi∇gi(X∗)=0γigi(X∗)=0γi∗≥0\begin{cases}\nabla f(X^*)-\sum\limits_{i=1}^m\gamma_i\nabla g_i(X^*)=0\\\gamma_i g_i(X^*)=0\\\gamma_i^*\ge0\end{cases}⎩⎪⎪⎨⎪⎪⎧∇f(X∗)−i=1∑mγi∇gi(X∗)=0γigi(X∗)=0γi∗≥0

对于凸规划，是充要条件；对于线性规划，是必要条件
γi\gamma_iγi称为广义拉格朗日乘子

C2 二次规划

1）二次规划：目标函数为二次形式，且约束条件线性
min⁡f(X)=∑j=1ncjxj+12∑j=1n∑k=1ncjkxjxk,cjk=ckj{∑j=1naijxj+bi≥0xj≥0\min f(X) =\sum\limits_{j=1}^n c_jx_j + \frac{1}{2}\sum\limits_{j=1}^n\sum\limits_{k=1}^n c_{jk}x_jx_k,c_{jk} = c_{kj}\\ \begin{cases} \sum\limits_{j=1}^n a_{ij} x_j +b_i\ge 0\\ x_j\ge 0 \end{cases} minf(X)=j=1∑ncjxj+21j=1∑nk=1∑ncjkxjxk,cjk=ckj⎩⎨⎧j=1∑naijxj+bi≥0xj≥0
2）K-T解法：问题等价于线性规划问题
min⁡ϕ(Z)=∑j=1nzj{∑i=1maijγn+i+γi−∑k=1ncjkxk+sgn(cj)zj=cj∑j=1naijxj−xn+i+bi=0xj≥0,yj≥0,zj≥0\min \phi(Z) = \sum\limits_{j=1}^n z_j\\ \begin{cases} \sum\limits_{i=1}^m a_{ij} \gamma_{n+i} +\gamma_i -\sum\limits_{k=1}^n c_{jk}x_k+sgn(c_j)z_j=c_j\\ \sum\limits_{j=1}^n a_{ij}x_j - x_{n+i}+b_i=0\\ x_j\ge 0, y_j \ge 0,z_j \ge 0 \end{cases} minϕ(Z)=j=1∑nzj⎩⎪⎪⎪⎪⎨⎪⎪⎪⎪⎧i=1∑maijγn+i+γi−k=1∑ncjkxk+sgn(cj)zj=cjj=1∑naijxj−xn+i+bi=0xj≥0,yj≥0,zj≥0

初始可行解

{zj=sgn(cj)cjxn+i=bixj=yj=0\begin{cases} z_j = sgn(c_j)c_j\\ x_{n+i}=b_i\\ x_j=y_j=0 \end{cases} ⎩⎪⎨⎪⎧zj=sgn(cj)cjxn+i=bixj=yj=0

C3 制约函数法

1）外点法：

令ϕ(gi(X))={0,t≥0t2,t<0\phi(g_i(X))=\begin{cases} 0,t\ge 0\\t^2,t\lt 0\end{cases}ϕ(gi(X))={0,t≥0t2,t<0为惩罚函数。P(X,M)=f(X)+M∑i=1lϕ(gi(x))P(X,M)=f(X)+M\sum\limits_{i=1}^l \phi(g_i(x))P(X,M)=f(X)+Mi=1∑lϕ(gi(x))
求解无约束极值问题min⁡P(X,Mk)\min P(X,M_k)minP(X,Mk)，
若某个gi(X)<−ϵg_i(X)\lt -\epsilongi(X)<−ϵ，则增大M，求解min⁡P(X,Mk+1)\min P(X,M_{k+1})minP(X,Mk+1)。多次迭代直至得到可行解

2）内点法：

令g(X,r)=rk∑j=1l1gj(X)g(X,r)=r_k\sum\limits_{j=1}^l\frac{1}{g_j(X)}g(X,r)=rkj=1∑lgj(X)1或g(X,r)=−rk∑j=1llog⁡(gj(X))g(X,r)=-r_k\sum\limits_{j=1}^l \log(g_j(X))g(X,r)=−rkj=1∑llog(gj(X))为障碍函数。Pˉ(X,r)=f(X)+g(X,r)\bar P(X,r)=f(X)+g(X,r)Pˉ(X,r)=f(X)+g(X,r)
取一可行解X0X_0X0为初始点，求解无约束极值问题min⁡Pˉ(X,rk)\min \bar P(X,r_k)minPˉ(X,rk)
若g(X,rk)≤ϵg(X,r_k)\le \epsilong(X,rk)≤ϵ，则终止。否则减小r，计算min⁡Pˉ(X,rk+1)\min \bar P(X,r_{k+1})minPˉ(X,rk+1)

运筹学 $5约束极值相关推荐

极值跟踪算法 c语言,快速约束极值子空间跟踪算法_魏志强.pdf
快速约束极值子空间跟踪算法_魏志强 34 4 Vol. 34 No. 4 第卷第期华北水利水电学院学报 2013 8 Journal of North China Instit ...
最优化算法python实现篇（4）——无约束多维极值（梯度下降法）
最优化算法python实现篇(4)--无约束多维极值(梯度下降法) 摘要算法简介注意事项算法适用性 python实现实例运行结果算法过程可视化摘要本文介绍了多维无约束极值优化算法中的梯度 ...
等式约束与不等式约束问题
针对特殊约束条件下的优化问题,有着不同类别适应不同条件的求解算法.包括梯度法.求解线性等式约束问题的投影梯度法.适用于含有等式约束规划和含有不等式规划的拉格朗日乘子法.针对不等式约束的KKT条件法.罚 ...
【高等数学基础进阶】多元函数的极值与最值
文章目录无约束极值条件极值与拉格朗日乘数法最大最小值常考题型方法与技巧求极值(无条件) 求最大最小值无约束极值定义:若在点(x0,y0)(x_{0},y_{0})(x0,y0)的某邻 ...
约束规划——拉格朗日乘数法
拉格朗日乘数法拉格朗日乘数法的基本思想拉格朗日乘数法(Lagrange Multiplier Method)是一种优化算法,拉格朗日乘子法主要用于解决约束优化问题,它的基本思想就是通过引入拉格朗日 ...
Gauss-Newton算法学习
Gauss-Newton算法是解决非线性最优问题的常见算法之一,最近研读开源项目代码,又碰到了,索性深入看下.本次讲解内容如下: 基本数学名词识记牛顿法推导.算法步骤.计算实例高斯牛顿法推导(如何 ...
实变函数与泛函分析课本pdf_实变函数与泛函分析
内容概要本书第1章至第6章为实变函数与泛函分析的基本内容,包括集合与测度.可测函数.Ledcsgue积分.线性赋范空间.内积空间.有界线性算子与有界线性泛函等,第7章介绍了Banach空间上算子的微 ...
数学建模1（历年问题与模型）
数学问题数学模型程序情况求解工厂生产总费用最小 LP模型谢金鑫优化建模与LINGO\program\新建文件夹\ch03 分组匹配效率最高问题同上分组匹配效率最高问题同上二次规 ...
2022考研-高等数学教程
文章链接 https://gitee.com/fakerlove/math 文章目录第一章函数,连续,极限 1.1 函数概念和常见的函数性质 1.2 极限数列极限函数极限性质易错问题 ...
拉格朗日乘数法 —— 通俗理解
拉格朗日乘数法(Lagrange Multiplier Method)在数学最优问题中,是一种寻找变量受一个或多个条件所限制的多元函数的极值的方法.记得以前大学高数.数模等课程多次提到过,在求解最有问 ...

运筹学 $5约束极值

§5 约束极值

C1 最优性条件

C2 二次规划

C3 制约函数法

运筹学 $5约束极值相关推荐

最新文章

热门文章