讲清楚什么是线搜索line search

翻译自[1]

翻译如下：
优化理论中包含两种策略：
1.line search
2.trust region

牛顿法(求函数的解集)和二阶牛顿法(求函数最小值)都是用来寻找线搜索中的梯度方向的，换言之，两种牛顿法是line search的子集。‘
下面的Example use就是线搜索的流程。
第3-5 step其实就是牛顿法以及反向传播的流程，只不过在line search上进行修改。

总结:line search其实就是指代某个算法，资料中提到这个的时候，也就是起到一个略装逼的作用。

Reference:
[1]https://en.wikipedia.org/wiki/Line_search

讲清楚什么是线搜索line search相关推荐

线搜索(line search)方法
转自http://www.cnblogs.com/kemaswill/p/3416231.html 在机器学习中, 通常需要求某个函数的最值(比如最大似然中需要求的似然的最大值). 线搜索(line ...
线搜索中的Armijo-Goldstein准则及Wolfe-Powell准则
转载请注明出处:http://www.codelast.com/ line search(一维搜索,或线搜索)是最优化(Optimization)算法中的一个基础步骤/算法.它可以分为精确的一维搜索以 ...
matlab wolfe准则,[原创]用“人话”解释不精确线搜索中的Armijo-Goldstein准则及Wolfe-Powell准则...
line search(一维搜索,或线搜索)是最优化(Optimization)算法中的一个基础步骤/算法.它可以分为精确的一维搜索以及不精确的一维搜索两大类. 在本文中,我想用"人话&qu ...
用“人话”解释不精确线搜索中的Armijo-Goldstein准则及Wolfe-Powell准则
转载请注明出处:http://www.codelast.com/ line search(一维搜索,或线搜索)是最优化(Optimization)算法中的一个基础步骤/算法.它可以分为精确的一维搜索以 ...
The Armijo Goldstein line search scheme
最近在slep包的基础上改写lasso算法,其优化问题代码块中,提到了The Armijo Goldstein line search scheme.就我目前所查到的资料,做一个分享. line se ...
禁忌搜索(Tabu Search)算法及python实现
禁忌搜索(Tabu Search)算法及python实现版权声明:本文为博主原创文章,博客地址:https://blog.csdn.net/adkjb,未经博主允许不得转载. 禁忌搜索(Tabu S ...
R语言ggplot2可视化：将条形图(bar plot)和线图(line plot)组合在一起并使用双Y轴（double y axis）进行可视化、其中一个Y轴显示为百分比
R语言ggplot2可视化:将条形图(bar plot)和线图(line plot)组合在一起并使用双Y轴(double y axis)进行可视化.其中一个Y轴显示为百分比目录
OpenCV线特征Line Features
OpenCV线特征Line Features 线特征Line Features 简介行提取和描述符计算描述符之间的匹配查询内部数据库线特征Line Features 简介在本教程中,将显示如 ...
C语言实现跳转搜索jump search算法(附完整源码)
跳转搜索jump search算法跳转搜索jump search算法的完整源码(定义,实现,main函数测试) 跳转搜索jump search算法的完整源码(定义,实现,main函数测试) #inc ...

讲清楚什么是线搜索line search

讲清楚什么是线搜索line search相关推荐

最新文章

热门文章