1、凸函数

凸函数: 和高数上不一样，不是看形状，而是看定义
f[(x1+x2)/2]<=[f(x1)+f(x2)]/2f[(x_1+x_2) /2] <=[f(x_1)+f(x_2)]/2f[(x1+x2)/2]<=[f(x1)+f(x2)]/2

f(x)=x直线也是凸函数，但不严格

严格凸函数：f[(x1+x2)/2]<[f(x1)+f(x2)]/2f[(x_1+x_2) /2] < [f(x_1)+f(x_2)]/2f[(x1+x2)/2]<[f(x1)+f(x2)]/2 ，如 f(x)=x2f(x)=x^2f(x)=x2

2、仿射函数

仿射函数：最高次数为1的多项式函数。f(X)=w1x1+w2x2+..+wnxn+bf(X)=w_1x_1+w_2x_2+..+w_nx_n+bf(X)=w1x1+w2x2+..+wnxn+b。
仿射函数也是凸函数，只是不是严格凸函数。
常数项为零的仿射函数称为线性函数，线性函数是过原点的仿射函数。

3、凸优化问题

若f(X)f(X)f(X)为目标函数、g(X)g(X)g(X)为不等式约束、h(X)h(X)h(X)为等式约束。三者在定义域内是连续可微的，且目标函数f和不等式约束函数g是凸函数，等式约束h是仿射函数，则这种约束最优化问题称为凸优化问题。

4、凸二次规划问题

凸二次规划问题是凸优化问题的一个特殊形式，当目标函数是二次型函数且不等式约束函数 g 是仿射函数时，就变成一个凸二次规划问题。凸二次规划问题存在解。

凸二次规划问题的特征：
目标函数f是二次型函数函数。如svm: f(w)=w12+..+wn2f(\textbf{w})=w_1^{2}+..+w_n^{2}f(w)=w12+..+wn2
等式约束h是仿射函数
不等式约g是仿射函数

常用的二次规划问题求解方法有：
椭球法
内点法
增广拉格朗日法
梯度投影法

凸二次规划(convex quadratic programming)问题相关推荐

优化问题-LP，QP和QCQP（线性规划，Linear Programming；二次规划，Quadratic Programming；二次约束二次规划）
文章目录线性规划(LP) LP的一些例子: Chebyshev中心 ℓ∞\ell_{\infty}ℓ∞-norm 近似问题: ℓ1\ell_{1}ℓ1-norm 近似问题: 二次规划(QP) Q ...
复习支持向量机(SVM)没空看书时，掌握下面的知识就够了
支持向量机(support vector machines, SVM)是一种二类分类模型.它的基本模型是定义在特征空间上的间隔最大的线性分类器:支持向量机还包括核技巧,这使它成为实质上的非线性分类器. ...
统计学习方法李航---第7章支持向量机
第7章支持向量机支持向量机(support vector machines, SVM)是一种二类分类模型.它的基本模型是定义在特征空间上的间隔最大的线性分类器:支持向量机还包括核技巧,这使它成为实 ...
机器学习算法学习笔记：支持向量机
文章目录一.理论篇 1.概述 2.间隔与支持向量 3.优化问题 3.1 拉格朗日乘子法 3.2 原始和对偶问题 4.硬间隔SVM 5.软间隔SVM 6.核函数 7.序列最小优化(SMO)算法 8.模 ...
机器学习二：支持向量机
支持向量机 1. 介绍 2. 对偶问题 3. 非线性数据 3.1 核函数与核技巧 3.1.1 数学解释 3.1.2 几种常用的核函数 4. SVM 响应离群点 4.1 软间隔 4.2 正则化 4.3 ...
监督学习 | SVM 之线性支持向量机原理
文章目录支持向量机 1. 线性可分支持向量机 1.1 间隔计算公式推导 1.2 硬间隔最大化 1.2.1 原始问题 1.2.2 对偶算法 1.3 支持向量 2. 线性支持向量机 2.1 软间隔最大化 ...
如何理解SVM | 支持向量机之我见
囫囵吞枣看完SVM,个人感觉如果不好好理解一些概念,或说如果知其然而不知其所以然的话,不如不看.因此我想随便写一写,把整个思路简单地整理一遍.:) SVM与神经网络支持向量机并不是神经网络,这两个完 ...
百面机器学习 #3 经典算法：01-2 不完全线性可分（软间隔）支撑向量机SVM
文章目录 ①从原问题到对偶问题 ②对偶问题的解的形式化简 ③从对偶问题的解到原问题的解 ④从原问题的解到分离超平面.决策函数.支撑向量假设训练数据集不是线性可分的.通常情况是,训练数据中有一些特异点 ...
【机器学习－西瓜书】六、支持向量机（SVM）：最大间隔；对偶问题；KKT条件
推荐阅读:对偶问题,KKT条件关键词:最大间隔:支持向量:对偶问题:KKT条件:SMO算法 6.1 间隔与支持向量关键词:最大间隔:支持向量. 支持向量机(Support Vector Machi ...
AI人工智能 / ML机器学习专业词汇集
部分转自AI人工智能专业词汇集目录 Letter A Letter B Letter C Letter D Letter E Letter F Letter G Letter H Letter I ...

凸二次规划(convex quadratic programming)问题

文章目录

1、凸函数

2、仿射函数

3、凸优化问题

4、凸二次规划问题

凸二次规划(convex quadratic programming)问题相关推荐

最新文章

热门文章