「管理数学基础」3.4 凸分析：最优性的充要条件、无约束极小化问题、一般非线性规划问题
最优性的充要条件、无约束极小化问题、一般非线性规划问题
无约束极小化问题
定义：无约束极小化问题
分析：
- 上面规定了无约束极小化问题的一般形式
- 注意，
平稳点（一阶导为零）未必是局部极值点
定理：二阶必要条件
分析：
- 如果是局部极小点，那么必有什么条件
- 在上图证明中，应用了泰勒展开和平稳点性质∇f(x∗)=0\nabla f(x^*)=0∇f(x∗)=0
定理：二阶充分条件
分析：
- 如何证明是严格局部极小值
- 该定理可以用凸函数等价条件轻松证明
一般非线性规划问题
分析：
- 起作用的约束为
积极约束（可想想象凸集中贴着边缘） - hhh与起作用的ggg线性无关，则为
正则点 - 这很好理解，可以想象在空间中，xxx为了取得能取到的最优值，努力贴近约束边缘（起作用的ggg）的样子
KKT一阶必要条件
上述是一个基本的KKT条件，其逆（如果KKT点，则是最小值点）不一定成立。
但是，如果满足以下条件（f凸、h线性、g凹），则成立。
你会发现这和拉格朗日中的约束很像。
证明：KKT条件
思路为（与证明过程顺序是逆过来的）：
- 为了证明f(x∗)f(x^*)f(x∗)必是最优解，即为了得出f(x)≥f(x∗)f(x)\ge f(x^*)f(x)≥f(x∗)
- 考虑使用凸函数不等式f(x)≥f(x∗)+∇f(x∗)T(x−x∗)f(x)\ge f(x^*) + \nabla f(x^*)^T (x-x^*)f(x)≥f(x∗)+∇f(x∗)T(x−x∗)
- 考虑在上式中消去∇f(x∗)T(x−x∗)\nabla f(x^*)^T (x-x^*)∇f(x∗)T(x−x∗)
- 用KKT来构造，分别从与∇f(x∗)T(x−x∗)\nabla f(x^*)^T (x-x^*)∇f(x∗)T(x−x∗)有关的∇hp(x∗)T(x−x∗)\nabla h_p(x^*)^T (x-x^*)∇hp(x∗)T(x−x∗)以及∇gi(x∗)T(x−x∗)\nabla g_i(x^*)^T (x-x^*)∇gi(x∗)T(x−x∗)下手
例题：必考题求KKT点
如上，要注意：
- 不管题目里提没题“证明是凸规划”，一定要先验证一下是不是凸规划
- 求解时，所有变量都是变量，平起平坐，此外，对于乘积为0的等式，分别讨论谁等于0是个不错的选择
- 一旦遇到可行解，则停下，必是最优解
「管理数学基础」3.4 凸分析：最优性的充要条件、无约束极小化问题、一般非线性规划问题相关推荐
- 严格凸函数充分必要条件_「管理数学基础」3.2 凸分析：凸函数
凸函数 定义:凸函数 说 是凸函数,起码想到使用上式.此外, 又凸又凹,是 仿射函数. 几何意义:凸函数 分析: 很直观, 即 与 两点连接的线段上的点 注意凸规划里凸是向下凸的 凸函数的几个定理:逐 ...
- 「管理数学基础」3.3 凸分析：凸函数的极值和凸规划
凸函数的极值和凸规划 文章目录 凸函数的极值和凸规划 凸函数的极值 凸规划 定理:由f.g.h凹凸性得是否为凸规划 证明:凸规划的最优解集必是凸集 线性规划的整体最小点与局部极小点 凸规划局部极小点性 ...
- 「管理数学基础」3.2 凸分析：凸函数
凸函数 文章目录 凸函数 定义:凸函数 几何意义:凸函数 凸函数的几个定理:逐个证明 梯度 定义:梯度 定义:Hesse矩阵 定理:f(x)≥f(y)+∇f(y)T(x−y)f(x)\ge f(y) ...
- 「管理数学基础」4.3 模糊数学：模糊关系与模糊矩阵、模糊关系的运算与合成、模糊等价关系
模糊关系与模糊矩阵.模糊关系的运算与合成.模糊等价关系 文章目录 模糊关系与模糊矩阵.模糊关系的运算与合成.模糊等价关系 模糊关系与模糊矩阵 定义:模糊关系 模糊矩阵的截集 模糊关系的运算与合成 模糊 ...
- 「管理数学基础」4.2 模糊数学：扩张原理、模糊数、可能性分布与模糊概率
扩张原理.模糊数.可能性分布与模糊概率 文章目录 扩张原理.模糊数.可能性分布与模糊概率 扩张原理 例题:扩张原理 多元扩张原理 模糊数 凸模糊集 性质1:凸模糊集任意截集是一个区间 性质2:凸模糊集 ...
- 「管理数学基础」4.1 模糊数学：模糊现象与模糊集、隶属函数、模糊集的运算、水平截集与分解定理
模糊现象与模糊集.隶属函数.模糊集的运算.水平截集与分解定理 文章目录 模糊现象与模糊集.隶属函数.模糊集的运算.水平截集与分解定理 模糊现象与模糊集 模糊集的隶属函数 隶属函数的概念 模糊集的表示 ...
- 「管理数学基础」2.4 泛函分析：有界线性算子与泛函、例题
有界线性算子与泛函.例题 文章目录 有界线性算子与泛函.例题 有界线性算子与算子空间 有界线性算子 定理:有限维赋范空间X上的任一线性算子T都是有界的 算子空间B(X,Y) ||T||满足范数三条:B ...
- 「管理数学基础」1.5 矩阵理论：方阵的行列式因子、不变因子、初等因子
文章目录 方阵的行列式因子.不变因子.初等因子 行列式因子 直接的定义 例题1 解答1 分析1 不变因子 初等因子 初等因子计算方法 例题2 三种因子小结 例题3 例题4 例题5 小结 方阵的行列式因 ...
- 「管理数学基础」1.3 矩阵理论：特征值与特征向量
文章目录 特征值与特征向量 定义 特征向量的性值 特征矩阵.特征多项式.特征方程 例题 解答 分析 定理:特征向量线性无关 使用数学归纳法证明 特征值与特征向量 定义 Ax=λxAx = \lambd ...
最新文章
- Win10电脑开机界面设置个性签名？
- Erlang入门（二）—并发编程
- Linux系统性能监控之6个vmstat和6个iostat命令
- 用filter实现web程序的统一认证
- Nginx中浏览器缓存的执行流程
- 看网络电子围栏如何做好周界安防
- 网易严选Java开发三面面经：mysql索引面试题
- java 接口 白名单,SpringBoot HTTP接口跨域调用及白名单实现
- laravel composer报错You can run './vendor/bin/upgrade-carbon' to get help in updating carbon and other
- 云计算的核心技术全解读
- 黑屏后面藏了什么？--解读微软打击盗版
- 深海迷航坐标传送代码_《深海迷航》秘籍代码怎么用及深海迷航代码大全
- Python的三大神器，你知道是哪三大吗？史上最详细的入门教程！
- Wet-Ra: Monitoring Diapers Wetness with Wireless Signals
- QQ，微信能聊天都靠它（socket）？
- appcan ajax mysql_APPCAN MAS接口之AJAX
- 买天猫网店转让成为电商创业新趋势
- Windows 2000/Xp 錯誤編號詳解
- USDCNY即期均值顺势信号——基于Python的均值回归进阶策略
- 微软原版系统安装Win7篇