漫步最优化二十七—

陪着你，仿佛面朝阳光，\textbf{陪着你，仿佛面朝阳光，}
不管走到哪里都是晴天。\textbf{不管走到哪里都是晴天。}
在蝴蝶飞舞的百花丛中，\textbf{在蝴蝶飞舞的百花丛中，}
一朵一朵的鲜花因你而香。\textbf{一朵一朵的鲜花因你而香。}
一片云掉在我眼前，\textbf{一片云掉在我眼前，}
我捏成你的形状，\textbf{我捏成你的形状，}
一口一口的吃掉了忧愁。\textbf{一口一口的吃掉了忧愁。}
我们手牵着手，\textbf{我们手牵着手，}
一步两步三步四步，\textbf{一步两步三步四步，}
看着对方深情的眼眸，\textbf{看着对方深情的眼眸，}
心照不宣的许下了誓言。\textbf{心照不宣的许下了誓言。}
——畅宝宝的傻逼哥哥\quad\textbf{——畅宝宝的傻逼哥哥}

在一维优化的近似法中，我们先假定目标函数的近似表达式，通常用低阶多项式。如果我们假定二阶多项式为

p(x)=a0+a1x+a2x2

p(x)=a_0+a_1x+a_2x^2

其中a0,a1,a2a_0,a_1,a_2是常数，那么我们就得到二次插值法。

令

p(xi)=a0+a1xi+a2x2i=f(xi)=fi

p(x_i)=a_0+a_1x_i+a_2x_i^2=f(x_i)=f_i

其中i=1,2,3,[x1,x3]i=1,2,3,[x_1,x_3]包含f(x)f(x)的最小值x∗x^*。假设fif_i的值是已知的，那么通过同时求解三个等式可得a0,a1,a2a_0,a_1,a_2，推到出的多项式p(x)p(x)就是f(x)f(x)的近似。基于这样的场景，假设p(x),f(x)p(x),f(x)的图像如图1所示，显然，p(x)p(x)的最小值x¯\bar{x}很靠近x∗x^*，如果f(x)f(x)可以用二阶多项式表示，那么x¯≈x∗\bar{x}\approx x^*，如果f(x)f(x)就是二次函数，那么p(x)p(x)就是f(x)f(x)的准确表示且x¯=x∗\bar{x}=x^*。

p(x)p(x)对xx的一阶导为

p′(x)=a1+2a2x

p^\prime(x)=a_1+2a_2x

如果

p′(x)=0

p^\prime(x)=0

且a2≠0a_2\neq0，那么p(x)p(x)的最小值为

x¯=−a12a2

\bar{x}=-\frac{a_1}{2a_2}

通过求解上面的等式组可得

a1a2=−(x22−x23)f1+(x23−x21)f2+(x21−x22)f3(x1−x2)(x1−x3)(x2−x3)=(x2−x3)f1+(x3−x1)f2+(x1−x2)f3(x1−x2)(x1−x3)(x2−x3)

\begin{align*} a_1&=-\frac{(x_2^2-x_3^2)f_1+(x_3^2-x_1^2)f_2+(x_1^2-x_2^2)f_3}{(x_1-x_2)(x_1-x_3)(x_2-x_3)}\\ a_2&=\frac{(x_2-x_3)f_1+(x_3-x_1)f_2+(x_1-x_2)f_3}{(x_1-x_2)(x_1-x_3)(x_2-x_3)} \end{align*}

所以

x¯=(x22−x23)f1+(x23−x21)f2+(x21−x22)f32[(x2−x3)f1+(x3−x1)f2+(x1−x2)f3]

\bar{x}=\frac{(x_2^2-x_3^2)f_1+(x_3^2-x_1^2)f_2+(x_1^2-x_2^2)f_3}{2[(x_2-x_3)f_1+(x_3-x_1)f_2+(x_1-x_2)f_3]}

图1

上面的过程是二次插值法的一次迭代。如果f(x)f(x)不能用二阶多项式表示，那么需要多执行几次这样的迭代。比较合适的策略是每次迭代的时候缩小不确定区间，可以舍弃x1x_1或x3x_3来实现该目的，然后用保留下来的两点以及x¯\bar{x}进行新的迭代。

几次迭代后，三个点将会在x∗x^*的邻域内，因此p(x)p(x)的二阶多项式将会是f(x)f(x)的精确表示，且可以确定任意精度范围内的x∗x^*。

漫步最优化二十七——二次插值法相关推荐

漫步最优化三十七——共轭梯度法
我卸不下对你的喜欢,\textbf{我卸不下对你的喜欢,} 因为爱会慢慢增加重量.\textbf{因为爱会慢慢增加重量.} 我醉心于你的发香,\textbf{我醉心于你的发香,} 因为它让回想有了画面 ...
漫步最优化二十八——三次插值法
没有你的世界,\textbf{没有你的世界,} 我会灵魂失控.\textbf{我会灵魂失控.} 没有你的世界,\textbf{没有你的世界,} 我被乌云拖着走.\textbf{我被乌云拖着走.} 没有 ...
漫步最优化二十三——一维优化
你的每一句话,回荡在耳边:\textbf{你的每一句话,回荡在耳边:} 你闪动的双眼,徘徊在脑海.\textbf{你闪动的双眼,徘徊在脑海.} 好像告诉你,\textbf{好像告诉你,} 天天在想你. ...
漫步最优化二十九——D.S.C.算法
你是我的小公主,\textbf{你是我的小公主,} 像宠你宠你宠你.\textbf{像宠你宠你宠你.} 你是我的小公主,\textbf{你是我的小公主,} 我的天空是晴是雨是彩虹,\textbf{我的 ...
漫步最优化二十五——斐波那契搜索
白天与黑夜,\textbf{白天与黑夜,} 希望陪你共同走过.\textbf{希望陪你共同走过.} 整夜的美梦,\textbf{整夜的美梦,} 希望抱你一起回味.\textbf{希望抱你一起回味.} ...
漫步最优化二十四——二分搜索
你喜欢有小情绪,\textbf{你喜欢有小情绪,} 像夜晚的月亮,\textbf{像夜晚的月亮,} 但各有各的精彩.\textbf{但各有各的精彩.} 你情感丰富,\textbf{你情感丰富,} 时常 ...
漫步最优化二十二——收敛速率
未来的你已在我的身边,\textbf{未来的你已在我的身边,} 虽然经过了很多个弯:\textbf{虽然经过了很多个弯:} 现在的我已经没了号码牌,\textbf{现在的我已经没了号码牌,} 虽然已经 ...
漫步最优化二十一——全局收敛
平时我看起来很坚强,\textbf{平时我看起来很坚强,} 可是遇到你,我会变成另一个模样.\textbf{可是遇到你,我会变成另一个模样.} 我不想考虑太多,\textbf{我不想考虑太多,} 因为 ...
漫步最优化二十——下降函数
就算言语无法表达,\textbf{就算言语无法表达,} 我仍能听见你的声音:\textbf{我仍能听见你的声音:} 就算阳光不再耀眼,\textbf{就算阳光不再耀眼,} 我也永远倾心与宝宝.\tex ...

漫步最优化二十七——二次插值法

漫步最优化二十七——二次插值法相关推荐

最新文章

热门文章