非线性规划的对偶问题

线性规划的对偶问题很容易写出，但非线性规划的对偶问题有点不一样。

考虑非线性规划问题：

min⁡xf(x)s.t.gi(x)≥0,i=1,…,m,hj(x)=0,j=1,…,l,x∈D.\begin{aligned} \min_{\textbf x}\quad & f(\bf x)&\\ \text{s.t.}\quad & g_i(\textbf x)\geq 0, & i= 1, \dots, m,\\ & h_j(\textbf x)=0, & j=1,\dots, l,\\ &\textbf{x}\in D.& \end{aligned} xmins.t.f(x)gi(x)≥0,hj(x)=0,x∈D.i=1,…,m,j=1,…,l,

其对偶问题为：

max⁡w,vinf⁡{f(x)−∑wigi(x)−∑vjhj(x)}s.t.wi≥0,i=1,…,m.\begin{aligned} \max_{\textbf {w,v}}\quad & \inf\left\{f(\textbf x)-\sum w_ig_i(\textbf x)-\sum v_jh_j(\textbf x)\right\}\\ \text{s.t.}\quad & w_i\geq 0, \quad i= 1, \dots, m. \end{aligned} w,vmaxs.t.inf{f(x)−∑wigi(x)−∑vjhj(x)}wi≥0,i=1,…,m.

当原问题为凸规划时，其 KKT 条件的解就是该对偶问题的最优解，也是原问题的最优解，并且原问题与对偶问题的最优值相等。

非线性规划的对偶也广泛应用于机器学习的一些算法中（例如支持向量机）。

常见的线性规划的对偶模型，其实是上面拉格朗日对偶的特殊情况。

非线性规划的对偶问题相关推荐

SVM(二）从拉格朗日对偶问题到SVM
2.1 拉格朗日对偶(Lagrange duality) 先抛开上面的二次规划问题,先来看看存在等式约束的极值问题求法,比如下面的最优化问题: 目标函数是f(w),下面是等式约束.通常解法是引入拉格朗 ...
matlab中用于离散系统求解的命令,MATLAB求解规划问题（线性规划，整数规划，非线性规划）...
文章目录基础知识规划问题的数学模型的三个要素解线性规划Linear Programing 理论示例整数规划理论示例非线性规划理论示例生产实践中,经常会遇到很多资源分配的问题,如 ...
线性规划的对偶问题（The Dual of LP）
目录 1.对偶问题的经济学解释(Economic Interpretation of the Dual Problem) 2.获得线性规划的对偶(Finding the Dual of an LP) ...
SVM支持向量机-拉格朗日乘子与对偶问题（1）
对于支持向量机,我们首先要关注的几个点就是间隔,超平面,支持向量,再深入的话就是对偶问题,拉格朗日对偶问题,凸优化,和 KKT条件,我们先从基本的间隔,超平面,支持向量说起. 1.SVM基础模型给定 ...
如何通俗地讲解对偶问题？尤其是拉格朗日对偶lagrangian duality？
↑↑↑↑↑点击上方蓝色字关注我们! 『视学算法』转载作者:李竞宜覃含章编者按拉格朗日对偶理论对当今社会的发展起到了极大的推动作用.但是书本上对拉格朗日对偶理论的讲解往往比较空洞,本文收录了两位 ...
SVM为什么采用间隔最大化？SVM为什么将原始问题转换为其对偶问题？
SVM为什么采用间隔最大化?SVM为什么将原始问题转换为其对偶问题? SVM为什么采用间隔最大化? SVM的基本思想就是求解能够正确划分训练数据集并且几何间隔最大的分离超平面,这里的间隔最大化又叫做硬 ...
机器学习+优化问题的种类、如何优化、凸优化、非凸优化、对偶问题、KKT条件
机器学习+优化问题的种类.如何优化.凸优化.非凸优化.对偶问题.KKT条件目录
对偶问题（dual problem）
对偶问题(dual problem) 为什么叫dual problem? 凸优化,凹函数对偶问题+原始问题拉格朗日乘子,拉格朗日函数从有约束问题到无约束问题极小极大问题,极大极小问题最优值的 ...
【CF671D】 Roads in Yusland（对偶问题，左偏树）
传送门洛谷翻译 CodeForces Solution emmm,先引入一个对偶问题的概念 \(max(c^Tx|Ax \leq b)=min(b^Ty|A^Ty \ge c)\) 考虑这个式子的现 ...
对偶问题复习要点整理
选用教材参考<运筹学方法与模型> 复旦大学出版社傅家良第二版原问题模型: 一.对偶问题的转化实例: 即为从(P)向(D)的变换在这里我们要弄清楚怎么进行变换,显然 (D)的目标函 ...

非线性规划的对偶问题

非线性规划的对偶问题相关推荐

最新文章

热门文章