论文解读｜算子分裂算法中的安德森加速法

作者：陈宇文，赵田田，胡明杰，史铭伟

编者按

本文考虑用I型安德森加速算法 (type-I Anderson acceleration) 来求解一般的非光滑不动点问题。对于非扩张的不动点映射(non-expansive mapping)，作者提出了一个全局收敛的安德森算法版本。与经典的版本相比，它具有以下三个特点：采用保险迭代 (safe-guarding) 以保证算法收敛性、使用Powell正则化 (Powell-type regularization) 生成可逆的Jacobian阵 $B_{k}$ 、通过重启检查策略 (restart checking) 确保 $B_{k}$ 不是病态的。数值实验表明，它对许多一阶算法实现了提速，并在大型凸锥问题的数值优化 (如SCS, splitting conic solver) 中取得了良好的加速效果.

1.

2.

3.

4.

参考文献

[1] Globally Convergent Type-I Anderson Acceleration for Nonsmooth Fixed-Point Iterations, Junzi Zhang, Brendan O'Donoghue, and Stephen Boyd, SIAM Journal on Optimization, 2020, vol.30, no.4, 3170-3197.

[2] A Fast Iterative Shrinkage-Thresholding Algorithm for Linear Inverse Problems, Amir Beck and

Marc Teboulle, SIAM Journal on Imaging Sciences, 2009, vol.2, no.1, 183-202.

[3] An O(√nL)-Iteration Homogeneous and Self-Dual Linear Programming Algorithm, Yinyu Ye, Michael J. Todd, and Shinji Mizuno, Mathematics of Operations Research, 1994, vol.19, no.1, 53-67.

论文解读｜算子分裂算法中的安德森加速法相关推荐

人脸检测：经典的VJ人脸检测器（类Harr特征，积分图加速法，级联的Adaboost强分类器）
著名的VJ人脸检测算法就是一种基于Adaboost分类器的方法.该检测器由Paul Viola和Michael Jones在2001年的 Robust Real-Time Face Detection ...
2020AI顶会的腾讯论文解读 | 多模态学习、视频内容理解、对抗攻击与对抗防御等「AI核心算法」
关注:决策智能与机器学习,深耕AI脱水干货报道 | 腾讯AI实验室计算机视觉领域三大顶会之一的 ECCV(欧洲计算机视觉会议)今年于 8 月 23-28 日举办.受新冠肺炎疫情影响,今年的 EC ...
从单一图像中提取文档图像：ICCV2019论文解读
从单一图像中提取文档图像:ICCV2019论文解读 DewarpNet: Single-Image Document Unwarping With Stacked 3D and 2D Regressi ...
CVPR2020行人重识别算法论文解读
CVPR2020行人重识别算法论文解读 Cross-modalityPersonre-identiﬁcationwithShared-SpeciﬁcFeatureTransfer 具有特定共享特征变换 ...
Paper：论文解读《Adaptive Gradient Methods With Dynamic Bound Of Learning Rate》中国本科生提出AdaBound的神经网络优化算法
Paper:论文解读-<Adaptive Gradient Methods With Dynamic Bound Of Learning Rate>中国本科生(学霸)提出AdaBound的 ...
IJCAI 2019 论文解读 | 基于超图网络模型的图网络进化算法
作者丨张云喆单位丨暗物智能科技研究方向丨NLP推理.数学符号推理研究背景现实生活中很多的数据可以用图(graph)来建模,比如社交网络数据,paper 引用数据等.对于 AI 而言,一个常见的 ...
ACL 2018论文解读 | 基于排序思想的弱监督关系抽取选种与降噪算法
在碎片化阅读充斥眼球的时代,越来越少的人会去关注每篇论文背后的探索和思考. 在这个栏目里,你会快速 get 每篇精选论文的亮点和痛点,时刻紧跟 AI 前沿成果. 点击本文底部的「阅读原文」即刻加入社区 ...
顶会VLDB‘22论文解读：CAE-ENSEMBLE算法
摘要:针对时间序列离群点检测问题,提出了基于CNN-AutoEncoder和集成学习的CAE-ENSEMBLE深度神经网络算法,并通过大量的实验证明CAE-ENSEMBLE算法能有效提高时间序列离群点 ...
【《Real-Time Rendering 3rd》提炼总结】(十一) 第十四章 : 游戏开发中的渲染加速算法总结
本文由@浅墨_毛星云出品,转载请注明出处. 文章链接: http://blog.csdn.net/poem_qianmo/article/details/78884513 导读这是一篇1万3千 ...

论文解读｜算子分裂算法中的安德森加速法

1.

2.

3.

4.

论文解读｜算子分裂算法中的安德森加速法相关推荐

最新文章

热门文章