最优化学习笔记（八）——共轭方向法
从这节开始，将学习共轭方向法的相关内容，本篇先做一个简短的开篇。共轭方向法的计算效率不如之前的牛顿法，但是也优于最速下降法。它有以下优势：
- 对于nn维二次型问题，能够在nn步之内得到结果；
- 作为共轭方向的典型代表，共轭梯度法不需要计算hessian矩阵；
- 不需要存储n×nn \times n矩阵，也不需要对其进行求逆运算。
如果Rn\mathbb{R}^n中的两个方向d(1)\boldsymbol{d}^{(1)}和d(2)\boldsymbol{d}^{(2)}满足d(1)TQd(2)=0\boldsymbol{d}^{(1)T}\boldsymbol{Q}\boldsymbol{d}^{(2)}=0，则他们是关于Q\boldsymbol{Q}共轭的。由此给出以下的定义：
定义1 Q\boldsymbol{Q}为n×nn \times n的对称实矩阵，对于方向d(0)，d(1)，…,d(m)\boldsymbol{d}^{(0)}，\boldsymbol{d}^{(1)}， \dots, \boldsymbol{d}^{(m)}，如果对于所有i≠ji \neq j,有d(i)TQd(j)=0\boldsymbol{d}^{(i)T}\boldsymbol{Q}\boldsymbol{d}^{(j)}=0，则称他们是关于Q\boldsymbol{Q}共轭的。
引理1 Q\boldsymbol{Q}为n×nn \times n的对称正定矩阵，如果方向d(0)，d(1)，…,d(k)∈Rn,k≤n−1\boldsymbol{d}^{(0)}，\boldsymbol{d}^{(1)}， \dots, \boldsymbol{d}^{(k)} \in \mathbb{R}^n, k \leq n-1 非零，且是关于Q\boldsymbol{Q}共轭的，那么它们是线性无关的。
最优化学习笔记（八）——共轭方向法相关推荐
- ReactJS学习笔记八：动画
ReactJS学习笔记八:动画 分类: react学习笔记 javascript2015-07-06 20:27 321人阅读 评论(0) 收藏 举报 react动画 目录(?)[+] 这里只讨论Re ...
- 【opencv学习笔记八】创建TrackBar轨迹条
createTrackbar这个函数我们以后会经常用到,它创建一个可以调整数值的轨迹条,并将轨迹条附加到指定的窗口上,使用起来很方便.首先大家要记住,它往往会和一个回调函数配合起来使用.先看下他的函数 ...
- python3.4学习笔记(八) Python第三方库安装与使用，包管理工具解惑
python3.4学习笔记(八) Python第三方库安装与使用,包管理工具解惑 许多人在安装Python第三方库的时候, 经常会为一个问题困扰:到底应该下载什么格式的文件? 当我们点开下载页时, 一 ...
- 最优化学习笔记(五)——牛顿法（多维数据）
在最优化学习系列中,第一次就说的是牛顿法,但是那是在一维搜索上的,它其实就是将函数ff在xx处利用泰勒公式展开,得到它的近似函数,进而求解最小值.本节内容主要说明牛顿法在多维数据上的迭代公式.最优化学 ...
- ROS学习笔记八：创建ROS msg和srv
ROS学习笔记八:创建ROS msg和srv 本节主要讲述了如何创建和建立ROS msg和srv,同时使用命令行工具rosmsg.rossrv和roscp. msg和srv简介 msg:描述ROS m ...
- Halcon 学习笔记八：颜色识别
Halcon 学习笔记八:颜色识别 一.图像处理需要的知识 二.图像处理的预处理和分割过程 二.颜色识别的方法 三.例子一 四.例子二 五.例子三 一.图像处理需要的知识 1.图像处理基础(rgb(h ...
- ZooKeeper学习笔记(八):ZooKeeper集群写数据原理
写数据原理 写流程直接请求发送给Leader节点 这里假设集群中有三个zookeeper服务端 ACK (Acknowledge character)即是确认字符,在数据通信中,接收站发给发送站的一种 ...
- MongoDB 学习笔记八 复制、分片、备份与恢复、监控
MongoDB 学习笔记八 复制.分片.备份与恢复.监控 MongoDB复制(副本集) 什么是复制? MongoDB 复制原理 MongoDB 副本集设置 副本集添加成员 MongoDB 分片 分片 ...
- python3第三方库手册_python3.4学习笔记(八) Python第三方库安装与使用，包管理工具解惑...
python3.4学习笔记(八) Python第三方库安装与使用,包管理工具解惑 许多人在安装Python第三方库的时候, 经常会为一个问题困扰:到底应该下载什么格式的文件? 当我们点开下载页时, 一 ...
- Polyworks脚本开发学习笔记(八)-组合运用命令批量改名
Polyworks脚本开发学习笔记(八)-组合运用命令批量改名 需求解析 以下是使用包边比较点创建的一组包边点(即Gap点)和曲面点-包边点(即Flush点),这种命名方式不太常规,改为Gap和Flu ...
最新文章
- Linux top命令常见使用
- 菜鸟学SSH（十二）——Hibernate与Spring配合生成表结构
- 学长毕业日记 :本科毕业论文写成博士论文的神操作
- location.href、location.assign和location.replace的区别
- js操作节点对象-getElementById
- IOC--IOC+AOP--热插拔的系统架构实现演化
- 【操作系统】虚拟化CPU、Memory，共享文件
- java应用程序多态_java – 多态和n层应用程序
- 【入门5】字符串(今天刷洛谷了嘛)
- 用cloud-zoom做一个仿淘宝的宝贝放大镜查看功能
- SiriKit 描述
- python ftp_Python FTP
- 15. Window clearTimeout() 方法
- 测绘的真正出路在于什么？
- 思科交换机配置trunk模式及vtp
- ToneChip反馈降噪抑制器的UI设计
- [unreal] 切换关卡
- 深度思考 | 比低水平效勤奋重要百倍
- 华为服务器网口ip配置文件,华为服务器、存储IP初始配置方法
- PS进阶篇——如何PS软件给公司单位图片加版权水印（六）