机器人中的数值优化之凸函数
本文ppt来自深蓝学院《机器人中的数值优化》
目录
1 凸函数的性质
2 凸函数的性质
1 凸函数的性质
凸函数最重要的性质就是Jensen's inequality,也就是琴生不等式。
若能取到等号则是凸函数，若不能取到等号则是强凸函数，若不等号相反，则是凹函数。
上方图就是函数上方的区域，“凸函数”与“上方图是凸集”是充要条件
凸函数的下水平集也是凸集，一维的比较好理解，二维的可以根据上图理解
拟凸函数的和不一定还是拟凸，凸函数的和仍是凸的，可见凸这种性质比较容易保留
凸函数经过仿射变换仍然是凸函数：因为凸函数的上方图经过仿射变换仍然是凸的
point-wise max：逐点取大运算，即通过将运算分别应用于定义域中每个点的函数值来定义函数的取大运算
2 凸函数的性质
凸函数一定在线性近似函数的上方
若某点梯度为0，则所有其他函数值都大于等于这一点的函数值，可见凸函数的局部最优解就是全局最优解
可见非凸函数在极小值附近总能找到一个凸函数去近似
强凸的函数性质如上，强凸意味着hessian矩阵严格正定。强凸对提高算法收敛速率又很大帮助
条件数：存在hessian矩阵的函数，作奇异值分解，最大的奇异值除最小的奇异值就是条件数，可导但没有二阶信息的函数，通过利普希茨常数与强凸函数的常数的比值得到条件数，对于一般的不可微的函数，构造等高线，长轴与短轴之比为条件数
条件数决定了我们需不需要在优化算法中利用函数的高阶信息
次梯度针对非光滑函数
次梯度的反方向不一定是下降方向，次梯度集合中模长最短的次梯度的反方向是最快下降方向
次梯度左极限与右极限的凸组合就是次梯度集合
次梯度与梯度的单调性
机器人中的数值优化之凸函数相关推荐
- 机器人中的数值优化之最速下降法
本文ppt来自深蓝学院<机器人中的数值优化> 目录 1 迭代方向 2 步长的选择 3 Armijo condition 4 非精确线搜索的优势 1 迭代方向 梯度方向是函数上升最快的方向, ...
- 机器人中的数值优化|【二】最速下降法，可行牛顿法的python实现，以Rosenbrock function为例
机器人中的数值优化|[二]最优化方法:最速下降法,可行牛顿法的python实现,以Rosenbrock function为例 在上一节中提到了我们详细探讨了数值优化/最优化理论中的基本概念和性质,现在 ...
- 机器人中的数值优化之基本概念
本文ppt来自深蓝学院<机器人中的数值优化> 目录 1 推荐书单 2 优化问题的基本范式 3 数值优化在机器人领域的应用 1 推荐书单 对于英语阅读有困难的同学可以看第一本书,对于最优化的 ...
- 机器人中的数值优化（三）—— 无约束最优化方法基础、线搜索准则
本系列文章主要是我在学习<数值优化>过程中的一些笔记和相关思考,主要的学习资料是深蓝学院的课程<机器人中的数值优化>和高立编著的<数值最优化方法>等,本系列文 ...
- 机器人中的数值优化|【一】数值优化基础
数值优化基础 凸集 Convex Sets 凸集的定义 令X是线性空间.如果对于X的子集S中的所有x和y,并且在区间 [0,1]中的所有t,点 ( 1 − t ) x + t y (1-t)x + t ...
- 机器视觉在服务机器人中的应用
本文从服务机器人对视觉技术的需求入手,围绕口罩识别.人体姿态估计.物体识别等机器视觉技术在不同类型服务机器人中的研究与应用实践进行深度讲解,最后就优必选机器视觉技术在机器人中的未来研究方向给出自己的思 ...
- 强化学习在机器人中的应用
强化学习是机器学习中的一个子领域,其中智能体通过与环境的交互,观测交互结果以及获得相应的回报.这种学习的方式是模拟人或动物的学习过程 我们人类,与我们所处的环境有一个直接的感官接触,我们可以通过执行动 ...
- 使用java实现类似nc的功能_在FANUC机器人中使用后台运行逻辑实现PLC功能
后台逻辑概念 PLC是工业自动化领域常用的一种逻辑控制产品,以其性能稳定.兼容性好.可扩展性强.体积小.性价比高而被广泛应用.在机器人产品中,为了降低系统集成的难度,很多机器人产品自身也会在控制系统中 ...
- el-select 多选取值_数值优化|笔记整理（3）——线搜索中的步长选取方法，线性共轭梯度法...
上一节笔记传送门: 学弱猹:数值优化|笔记整理(2)--线搜索:步长选取条件的收敛性zhuanlan.zhihu.com ------------------------------------ 大 ...
最新文章
- mybaits十七:使用foreach标签
- springboot 初始化线程池_springboot项目中线程池的使用
- css border 虚线间距_【前端冷知识】CSS如何实现虚线框动画
- stm32 usmart使用
- MFC学习之路之多媒体 －－(1) DirectShow
- caffe运行不停止_caffe(gpu)安装过程及问题解决
- 1.极限——例子_3
- 为什么最近「骚扰电话」明显越来越多了？
- java.util.concurrent包(6)——CyclicBarrier使用
- 【Todo】【转载】Scala中Array, List, Tuple的区别
- 坑爹的libxml2 for mingw 编译
- 「LibreOJ#516」DP 一般看规律
- gif图片解析与生成（GIF+文字动效）
- 解决 error: Raw kernel process exited code: 3221226505
- ZOJ 2480 Simplest Task in Windows
- 不会聊天的程序员，如何开发聊天机器人
- 生成对抗式网络 (GAN) 及其应用
- 大华摄像头的踩坑之路
- 100.64.0.0/10 运营商级NAT（Carrier-grade NAT）共享地址空间
- inventor如何钣金出弧面_Inventor钣金设计教程