最近在搞点云处理的项目，其中对于拉普拉斯图的相关处理中，使用到了内点法进行优化，于是开始着手学习。

部分内容转载自：https://blog.csdn.net/dymodi/article/details/46441783

1. 问题描述：（障碍函数法）

内点法用于求解带有约束的优化命题。

f0为优化目标函数，fi{i=1,...,m}（二阶可导的凸函数）以及Ax=b为约束函数。

存在最优解，此时，有这样一对对偶变量和，满足KKT条件：（这里完全不懂）

不等式使得求解困难，因此障碍函数法（内点法的一种）在原始的目标函数中引入一个障碍函数，或者惩罚函数，来代替约束条件中的不等式约束，这样，命题1就变成了：

函数应该满足的条件，当没有违反约束时，函数值为0，违反约束，函数值为正无穷，如图红色虚线所示：

红色虚线这个函数在某些点上是不可导的，因此并不适用。使用一个对数函数来拟合：

优化问题被转化为：

定义如下对数障碍：

命题变为：

2. Central Path

针对t > 0值，定义x*(t)为相应优化命题的解。那么，central path就是指所有点x*(t), t > 0的集合，其中的点被称为central points。central path上的点满足如下的充分必要条件，首先x*(t)都是严格可行的，即：

我们可以从对偶变量的角度进一步研究上式，给等号两边都乘以1/t, 我们有：

我们发现如果令

（8）

就取得了与2式中的第一个等式基本一致的结果。也就是说，x*(t)能最小化拉格朗日函数

是原命题中的一组可行的对偶变量，其实乐意理解为能使拉格朗日函数到数为0的就是对偶变量

那么此时，对偶命题的目标函数值为：

上述等式为(8)式带入的结果

我们记原命题（1）的目标函数的最小值为p*，那么由优化命题的对偶理论可知

，原命题与对偶命题的差记录为

被称为对偶间隙。

这里给一个算法框架：

Barrier Method:

3. 牛顿法求极值（针对Barrier Method的第一步）

在文章Convex Optimization中，介绍了如何利用牛顿法解Barrier Method的第一步解的问题。

问题描述:

使用二阶泰勒展开，该优化问题转换为：

二阶极小化问题：

定义为x的Newton step.(我的理解是更新步长，论文原文解释见下)，

w为相伴最优对偶变量

给出一个最优条件下的线性逼近：

通过对x的线性拟合替换第二个方程的梯度项，以获得新的方程：

算法：

Interior-point methods(内点法)学习笔记相关推荐

内网学习笔记 | SSH 隧道使用
前言 SSH 全称 Secure Shell,从它的名字来看这个协议就比较安全.SSH 协议是一种应用层协议,支持几乎所有 UNIX.Linux 平台. 得益于 SSH 协议在传输过程中都是加密,所 ...
【内网学习笔记】21、哈希传递与票据传递
1.哈希传递哈希传递(Pass The Hash, PTH)顾名思义,就是利用哈希去登录内网中的其他机器,而不是通过明文密码登录的方式. 通过哈希传递,攻击者不需要花时间破解哈希值得到明文,在Win ...
【内网学习笔记】5、BloodHound 的使用
1.介绍 BloodHound 使用可视化图形显示域环境中的关系,攻击者可以使用 BloodHound 识别高度复杂的攻击路径,防御者可以使用 BloodHound 来识别和防御那些相同的攻击路径.蓝 ...
【内网学习笔记】22、PsExec 和 WMI 的使用
1.PsExec PsExec.exe PsExec 在之前的文章里提到过一次,参见https://teamssix.com/210802-181052.html,今天来着重学习一下. PsExec ...
【内网学习笔记】10、ew 的使用
1.Socks 代理工具介绍 Socks 代理可以理解成升级版的 lcx,关于 lcx 的用法可以看我之前的文章: https://teamssix.com/year/210528-130449.ht ...
【内网学习笔记】20、Hashcat 的使用
1.介绍 Hashcat 是一款用于破解密码的工具,据说是世界上最快最高级的密码破解工具,支持 LM 哈希.MD5.SHA 等系列的密码破解,同时也支持 Linux.Mac.Windows 平台. 工 ...
【内网学习笔记】9、iodine 使用
1.介绍 iodine 这个名字起的很有意思,iodine 翻译过来就是碘,碘的原子序数为 53,53 也就是 DNS 服务对应的端口号. iodine 和 dnscat2 一样,适合于其他请求方式被 ...
【内网学习笔记】24、SPN 的应用
0.前言 SPN Windows 域环境是基于微软的活动目录服务工作的,它在网络系统环境中将物理位置分散.所属部门不同的用户进行分组和集中资源,有效地对资源访问控制权限进行细粒度的分配,提高了网络环境 ...
【内网学习笔记】19、IPC 与计划任务
0.前言在多层代理的环境中,由于网络限制,通常采用命令行的方式连接主机,这里学习下 IPC 建立会话与配置计划任务的相关点. 1.IPC IPC (Internet Process Connecti ...
【内网学习笔记】23、SMBExec 与 DCOM 的使用
1.SMBExec 利用 SMBExec 可以通过文件共享(admin$.c$.ipc$.d$)在远程系统中执行命令,它的工作方式类似于 PsExec C++ 版 C++ 版项目地址:https:// ...

Interior-point methods(内点法)学习笔记

1. 问题描述：（障碍函数法）

2. Central Path

3. 牛顿法求极值（针对Barrier Method的第一步）

Interior-point methods(内点法)学习笔记相关推荐

最新文章

热门文章