漫步最优化十七——点对点映射

英雄应该配美人，\textbf{英雄应该配美人，}
美人同样适合英雄。\textbf{美人同样适合英雄。}
她像个天仙，\textbf{她像个天仙，}
她太美了，\textbf{她太美了，}
我不会有那种命的，\textbf{我不会有那种命的，}
肯定轮不到我。\textbf{肯定轮不到我。}
时间会越累越少，\textbf{时间会越累越少，}
我也会越来越老，\textbf{我也会越来越老，}
那至少给我留下一个梦吧。\textbf{那至少给我留下一个梦吧。}
畅宝宝的傻逼哥哥\qquad\quad\textbf{畅宝宝的傻逼哥哥}

从简单到高度复杂的算法中，有许多可以用来求出非线性规划问题的解。虽然不同的算法在结构，数学基础以及应用上非常不同，但是它们却有某些相同的性质，这些是比较通用的。非线性规划算法中最基础的两个公共性质为：

它们是迭代算法
它们是下降算法

对于一个算法，如果它的解是从一个初始估计值开始，然后计算出一系列点得到的，那么就称该算法是迭代算法。另一方面，如果算法产生的新值使得目标函数变小，那么称该算法是下降算法。

从数学角度看，我们可以将算法看成点到点的映射，其中点xk\textbf{x}_k位于某个空间，一般为EnE^n向量空间的字空间，它被影射到同一空间的另一个点xk+1\textbf{x}_{k+1}，xk+1\textbf{x}_{k+1}的值由某些对应规则指定。从效果上看，如果点xk\textbf{x}_k用于算法的输入，那么点xk+1\textbf{x}_{k+1}就是输出，那么算法就可以用图1这样的框图来表示。在图中，x0\textbf{x}_0表示解的初始值，反馈线表示算法的迭代性质，xk+1\textbf{x}_{k+1}与xk\textbf{x}_k之间的对应规则可以表示成

xk+1=A(xk)

\textbf{x}_{k+1}=A(\textbf{x}_k)

将迭代应用到连续的点上，算法将产生一系列点{x0,x1,…,xk,…}\{\textbf{x}_0,\textbf{x}_1,\ldots,\textbf{x}_k,\ldots\}，如图2所示。如果序列收敛到极限x̂ \hat{\textbf{x}}，那么x̂ \hat{\textbf{x}}就是所求的解。

对于序列{x0,x1,…,xk,…}\{\textbf{x}_0,\textbf{x}_1,\ldots,\textbf{x}_k,\ldots\}，如果对任意给定的ε>0\varepsilon>0，存在整数KK使得

∥xk−x̂ ∥<εfor all k≥K

\Vert\textbf{x}_k-\hat{\textbf{x}}\Vert

其中∥⋅∥\Vert\cdot\Vert表示欧几里得范数。这样的序列可以表示成符号{xk}∞k=0\{\textbf{x}_k\}_{k=0}^\infty，它的极限为xk→x̂ \textbf{x}_k\to\hat{\textbf{x}}，如果这样的序列收敛，那么它有一个唯一的极限点。

之后的文章中，我们会用到给定序列的字序列，{xk}∞k=0\{\textbf{x}_k\}_{k=0}^\infty的子序列表示成{xk}k∈I\{\textbf{x}_k\}_{k\in I}，其中II是正整数的集合，通过删除{xk}∞k=0\{\textbf{x}_k\}_{k=0}^{\infty}中的某些元素就可得到子序列。例如，如果I={k:k≥10}I=\{k:k\geq 10\}，那么{xk}k∈I={x10,x11,x12,…}\{\textbf{x}_k\}_{k\in I}=\{\textbf{x}_{10},\textbf{x}_{11},\textbf{x}_{12},\ldots\}。在我们的符号S={k:P}S=\{k:P\}中，SS表示满足性质PP的kk组成的集合。

图1

图2

如果由算法A生成的点序列如上面那样收敛到极限x̂ \hat{\textbf{x}}，那么称算法A是连续的。

漫步最优化十七——点对点映射相关推荐

漫步最优化十八——点到集合的映射
疲倦的时候,有个人会陪你:\textbf{疲倦的时候,有个人会陪你:} 孤单的时候,有个人会想你.\textbf{孤单的时候,有个人会想你.} 我的小宝贝啊,\textbf{我的小宝贝啊,} 好想捏捏 ...
漫步最优化三十七——共轭梯度法
我卸不下对你的喜欢,\textbf{我卸不下对你的喜欢,} 因为爱会慢慢增加重量.\textbf{因为爱会慢慢增加重量.} 我醉心于你的发香,\textbf{我醉心于你的发香,} 因为它让回想有了画面 ...
漫步最优化二十七——二次插值法
陪着你,仿佛面朝阳光,\textbf{陪着你,仿佛面朝阳光,} 不管走到哪里都是晴天.\textbf{不管走到哪里都是晴天.} 在蝴蝶飞舞的百花丛中,\textbf{在蝴蝶飞舞的百花丛中,} 一朵一朵 ...
漫步最优化四十二——Partan法
漆黑的冷空中有你,\textbf{漆黑的冷空中有你,} 惺忪的眼睛中有你,\textbf{惺忪的眼睛中有你,} 心底的记忆中有你,\textbf{心底的记忆中有你,} 你留在我的脑海中,\textbf ...
漫步最优化二十一——全局收敛
平时我看起来很坚强,\textbf{平时我看起来很坚强,} 可是遇到你,我会变成另一个模样.\textbf{可是遇到你,我会变成另一个模样.} 我不想考虑太多,\textbf{我不想考虑太多,} 因为 ...
漫步数学分析十七——连续映射上的运算
连续函数的复合应该是连续的,这个结论从直观上不太令人信服.对于函数f:A→Rm,g:B→Rpf:A\to R^m,g:B\to R^p其中f(A)⊂Bf(A)\subset B,我们定义复合g∘f:A ...
CCNP精粹系列之十七--路由映射实战,博主推荐
路由映射实战试验环境: 在R1上配置三个环回口,模拟路由器R1的其他网段,R2为边缘路由器在A上做:(A的环境是eigrp环境)<?xml:namespace prefix = o ...
漫步最优化四十五——矩阵S的生成
想赖着你每一天,\textbf{想赖着你每一天,} 耽误多一秒都不愿意.\textbf{耽误多一秒都不愿意.} 想把你捧在手心,\textbf{想把你捧在手心,} 给你我最奢侈的温柔.\textbf{ ...
漫步最优化四十四——基本拟牛顿法
你走进了我的视觉,\textbf{你走进了我的视觉,} 我开始发现,\textbf{我开始发现,} 心里有个角落,\textbf{心里有个角落,} 一直在等你出现.\textbf{一直在等你出现.} ...

漫步最优化十七——点对点映射

漫步最优化十七——点对点映射相关推荐

最新文章

热门文章