什么是最优化问题(Optimization Problem)？

最优化问题是人们在科学研究和生产实践中经常遇到的问题[1]。人类所从事的一切生产或者社会活动均是有目的的。其行为总是在特点的价值观念或者审美取向的支配下进行的，因此经常面临一个可行的甚至是最优化的方案的决策问题。这就是最优化问题(Optimization Problem)。

很常见的例子，楼下小超市的商品定价，如何做到利润的最大化？分期一台14999的MacBook Pro如何选择最省钱？送外卖如何规划路线最近(TSP问题)？等等

描述最优化问题我们需要借助数学逻辑表达，其求解模型公式如下：

min f(X) or max f(X)，X ∈ D

1、D是问题解空间。

2、X是D的一个合法解，一般可将X表示为 X={x1，x2, ... xn},表示一组决策变量。

3、最优化问题就是在解空间D中，去寻找一个合法的解X(一组最佳的决策变量),使得X对应的函数映射值f(X)最大或者最小。

优化问题分为：连续优化(函数)问题和组合(离散)优化(Combinatorial Optimization)‍问题。根据决策变量xn取值类型，可以将最优化问题分为函数优化问题和组合优化问题。

决策变量xn为连续变量，此时的最优化问题为函数(连续)优化问题。
决策变量xn是离散的，此时最优化问题为组合优化问题。

当然很多应用问题的数学模型既有函数优化问题和组合优化问题的混合型。

图1.1 优化问题分类

函数优化问题在设计神经网络过程中，需要确定神经元节点间的网络链接权重，要使得网络性能达到最优，而在此类问题中，需要优化的取值是某个连续空间的值。因此通过函数优化方法对问题进行求解。

组合优化问题与函数优化不同的是，其决策变量是离散的，很多离散组合问题都是从运筹学(Operations Research，OR)演化而来的。研究组合优化问题涉及信息技术、经济管理、工程工业、交通运输等众多领域。组合优化问题在科学研究和生产实践中有着举足轻重的作用。

参考文献：

[1]施光燕，董加礼. 最优化方法. 北京: 高等教育出版社，2002

[2]孙文瑜, 徐成贤, 朱德通.最优化方法(第二版)[M]. 北京:高等教育出版社, 2010

什么是最优化问题(Optimization Problem)？相关推荐

什么是优化问题 Optimization Problem
Optimization problem: Maximizing or minimizing some function relative to some set, often representin ...
优化问题的封闭式解决方案（Closed form solution for optimization problem）
1)F范式的平方可以被写为迹的操作矩阵和它的逆矩阵相乘得到的矩阵的迹 2)F范式平方的导数和的导数等于导数的和令等式等于0,得到参考链接: Closed form solution for o ...
中石油训练赛 - Fermat‘s Optimization Problem(Java高精度运算+二分)
题目大意:给出误差函数 ,现在给出 z 和 n,要求求出 x 和 y ,使得函数 F 的取值最小题目分析:首先数据范围是幂次级别的,1e5 的 10 次方,也就是 1e50 次方,需要用到大数,我用 ...
SLAM中状态估计优化退化问题(degraded optimization problem)浅析和源码实现
参考论文 On degeneracy of optimization-based state estimation problems发表在2016 ICRA上原理非常直观,用线性代数的基础知识.用G ...
mysql动态规划_动态规划《开篇》
动态规划(dynamic programing)和分治法类似,都是通过组合子问题的解来求解原问题的解.(在经典排序算法中的二路归并排序和快速排序都用到了分而治之的思想-分治法). 分治法是将原问题划分 ...
梯度下降最小二乘法 matlab,最小二乘法和梯度下降法的理解
最小二乘法在线性回归中,听的最多的应该算是最小二乘法了.最小二乘法在具体实现过程中保留核心思想的同时,会在算法上进行不同程度的改进,因此,最小二乘法有很多演变体,例如:递推最小二乘法,加权最小二乘法 ...
动态规划 dynamic programming
动态规划dynamic programming June,7, 2015 作者:swanGooseMan 出处:http://www.cnblogs.com/swanGooseMan/p/455658 ...
【动态规划的方法论】
Dynamic Program 动态规划(dynamic programming)与分治法相似,都是通过子问题的解来求解原问题. 但是分治是将原问题划分为不同的子问题,再将他们组合,从而求出原问题的解 ...
专题7：动态规划记忆化搜索
1. 什么是动态规划 ? 这是算法导论对动态规划的定义: 动态规划( dynamic programming,常简称为 dp ) 与分治方法相似,都是通过组合子问题的解来求解原问题( 在这里,&quo ...

什么是最优化问题(Optimization Problem)？

什么是最优化问题(Optimization Problem)？相关推荐

最新文章

热门文章