优化问题中什么形式有闭式解

闭式解也被称为解析解，与数值解对应。

解析解(analytical solution)就是一些严格的公式,给出任意的自变量就可以求出其因变量,也就是问题的解, 他人可以利用这些公式计算各自的问题.所谓的解析解是一种包含分式、三角函数、指数、对数甚至无限级数等基本函数的解的形式。用来求得解析解的方法称为解析法〈analytic techniques、analytic methods〉，解析法即是常见的微积分技巧，例如分离变量法等。解析解为一封闭形式〈closed-form〉的函数，因此对任一独立变量，我们皆可将其带入解析函数求得正确的相依变量。因此，解析解也被称为闭式解。

1. “什么形式的函数有闭式解以及闭式解的形式是什么样？”
这完全看问题形式，常见的比如二次的凸的优化目标，以及个别凹的二次优化目标（比如PCA的优化目标）有闭式解。对于一般的可导的凸问题 $\min_x f(x)$ ，一般只要你能够设法把 $\triangledown f(x) = 0$ 中的 $x$ 单独移到等式一边，就有闭式解，或者巧妙得构造一个解，证明其它解的函数值一定大于你构造的解也可以。然而，有闭式解并不意味着能够绕开优化算法降低计算的复杂度（比如PCA的优化目标）。

作者：li Eta
链接：http://www.zhihu.com/question/40023013/answer/84312533
来源：知乎
著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。

转载于:https://www.cnblogs.com/shishupeng/p/5390003.html

优化问题中什么形式有闭式解相关推荐

训练线性回归模型 --- “闭式”解方法、梯度下降（GD）
目录 1.训练前你需要了解简单说,线性模型就是对输入特征加权求和,再加上一个我们称为偏置项(也称为截距项)的常数向量化的形式: 训练模型就是设置模型参数直到模型最拟合训练集的过程. 常见的性能指标 ...
解析解【闭式解（closed-form solution）】和数值解
数值解(numerical solution)是在特定条件下通过近似计算得出来的一个数值,是采用某种计算方法,如有限元的方法, 数值逼近,插值的方法, 得到的解.别人只能利用数值计算的结果解析解(a ...
诞生272年后，这个看似简单的数学问题终求得闭式解
德国数学家 Ingo Ullisch 破解诞生 270 多年的「山羊问题」,求出闭式解. 我们先来看一个「简单」的问题:假如圆形篱笆围出一英亩草地,将一只山羊拴在篱笆内,你需要用多长的绳子才能让羊吃到 ...
闭式解（解析解）与开式解（数值解）
在解组件特性相关的方程式时,大多数的时候都要去解偏微分或积分式,才能求得其正确的解.依照求解方法的不同,可以分成以下两类:解析解和数值解. 解析解(analytical solution)就是一些严格 ...
【机器学习】相关概念：闭式解，解析解，数值解
在看<机器学习>时突然看到了闭式解这个概念,然后百度了一下闭式解. 看到了三个相关的名词:解析解,闭式解,数值解接下来谈一下自己看完后的理解解析解:因变量由自变量所表示的函数解析式,它 ...
【机器学习】用QR分解求最小二乘法的最优闭式解
[机器学习]用QR分解求最小二乘法的最优闭式解写在前面 QR分解定义 QR的求解线性回归模型用QR分解求解最优闭式解矩阵的条件数实验运行结果写在前面今天刷知乎,看到张皓在面试官如何判 ...
解析解（闭式解）、数值解
https://blog.csdn.net/zealfory/article/details/53707608 在解组件特性相关的方程式时,大多数的时候都要去解偏微分或积分式,才能求得其正确的解.依照 ...
什么叫Closed-form闭式解
转自百度知道与数值解对应的是解析解闭式解closed form solution)也叫解析解(analytical solution),就是一些严格的公式,给出任意的自变量就可以求出其因变量,也就 ...
机器学习——最小二乘法，闭式解矩阵推导
Step1:最小二乘法的初始形式 Step2:目标--最小化欧几里德空间的2-范数的平方 Step3:将式子用矩阵展开 Step4:矩阵的各种形式求导(下一步使用) 第一种: 第二种: , 如 ...

优化问题中什么形式有闭式解

优化问题中什么形式有闭式解相关推荐

最新文章

热门文章