漫步最优化二十—

就算言语无法表达，\textbf{就算言语无法表达，}
我仍能听见你的声音；\textbf{我仍能听见你的声音；}
就算阳光不再耀眼，\textbf{就算阳光不再耀眼，}
我也永远倾心与宝宝。\textbf{我也永远倾心与宝宝。}
你燃亮了我的双眸，\textbf{你燃亮了我的双眸，}
让我懂得如何去爱，\textbf{让我懂得如何去爱，}
你是我的爱，我的情人，我的宝宝。\textbf{你是我的爱，我的情人，我的宝宝。}
——畅宝宝的傻逼哥哥\qquad\qquad\textbf{——畅宝宝的傻逼哥哥}

对于任何的下降算法，利用的函数 D(x)D(\textbf{x})在整个优化过程中连续下降直到收敛，函数 D(x)D(\textbf{x})可能本身就是目标函数，或者是相关函数，称之为下降函数。形式的定义如下所述：

定义1：\textbf{定义1：}令S⊂XS\subset X是包含解的集合，假设AA是X上的算法，X上的连续实值函数D(x)D(\textbf{x})称为S,A的下降函数，如果该函数满足

如果xk≠S\textbf{x}_k\neq S，那么对所有的xk+1∈A(xk),D(xk+1)<D(x)\textbf{x}_{k+1}\in A(\textbf{x}_k),D(\textbf{x}_{k+1})
如果xk≠S\textbf{x}_k\neq S，那么对所有的xk+1∈A(xk),D(xk+1)≤D(x)\textbf{x}_{k+1}\in A(\textbf{x}_k),D(\textbf{x}_{k+1})\leq D(\textbf{x})

的话。

例1：\textbf{例1：}求出算法

xk+1=A(xk)=14xk

x_{k+1}=A(x_k)=\frac{1}{4}x_k

的下降函数。

解：\textbf{解：}对任意点x0x_0，生出序列

{xk}∞k=0={x0,x04,x042,…,0}

\{x_k\}_{k=0}^\infty=\{x_0,\frac{x_0}{4},\frac{x_0}{4^2},\ldots,0\}

因此D(xk)=|xk|D(x_k)=|x_k|满足第一个条件，解为单点x∞=0x_{\infty}=0，故第二个条件也满足。由此可得D(x)=|x|D(x)=|x|是该算法的一个下降函数。

漫步最优化二十——下降函数相关推荐

漫步最优化二十九——D.S.C.算法
你是我的小公主,\textbf{你是我的小公主,} 像宠你宠你宠你.\textbf{像宠你宠你宠你.} 你是我的小公主,\textbf{你是我的小公主,} 我的天空是晴是雨是彩虹,\textbf{我的 ...
漫步最优化二十八——三次插值法
没有你的世界,\textbf{没有你的世界,} 我会灵魂失控.\textbf{我会灵魂失控.} 没有你的世界,\textbf{没有你的世界,} 我被乌云拖着走.\textbf{我被乌云拖着走.} 没有 ...
漫步最优化二十五——斐波那契搜索
白天与黑夜,\textbf{白天与黑夜,} 希望陪你共同走过.\textbf{希望陪你共同走过.} 整夜的美梦,\textbf{整夜的美梦,} 希望抱你一起回味.\textbf{希望抱你一起回味.} ...
漫步最优化二十四——二分搜索
你喜欢有小情绪,\textbf{你喜欢有小情绪,} 像夜晚的月亮,\textbf{像夜晚的月亮,} 但各有各的精彩.\textbf{但各有各的精彩.} 你情感丰富,\textbf{你情感丰富,} 时常 ...
漫步最优化二十二——收敛速率
未来的你已在我的身边,\textbf{未来的你已在我的身边,} 虽然经过了很多个弯:\textbf{虽然经过了很多个弯:} 现在的我已经没了号码牌,\textbf{现在的我已经没了号码牌,} 虽然已经 ...
漫步最优化四十二——Partan法
漆黑的冷空中有你,\textbf{漆黑的冷空中有你,} 惺忪的眼睛中有你,\textbf{惺忪的眼睛中有你,} 心底的记忆中有你,\textbf{心底的记忆中有你,} 你留在我的脑海中,\textbf ...
漫步最优化三十二——最速下降法
爱需要勇气,\textbf{爱需要勇气,} 但是也许是天意,\textbf{但是也许是天意,} 让我爱上你,\textbf{让我爱上你,} 也许轮回里早已注定,\textbf{也许轮回里早已注定,} ...
漫步数理统计二十五——正态分布
正态分布的动机源于中心极限定理(我们后面会介绍这个定理),这个定理说明正态分布为应用于统计推断提供了重要的一族分布,我们首先从标准正态分布开始. 考虑积分 I=∫∞−∞12π‾‾‾√exp(−z22) ...
漫步最优化四十五——矩阵S的生成
想赖着你每一天,\textbf{想赖着你每一天,} 耽误多一秒都不愿意.\textbf{耽误多一秒都不愿意.} 想把你捧在手心,\textbf{想把你捧在手心,} 给你我最奢侈的温柔.\textbf{ ...

漫步最优化二十——下降函数

漫步最优化二十——下降函数相关推荐

最新文章

热门文章