Pre Link

a pratical guide to robust optimization(1)

Choosing the uncertainty set

本节主要分析不同的不确定集合以及它们的优势和劣势.

Often one wants to make a trade-off between robustness against each physical realization of the uncertain parameter and the size of the uncertainty set.

盒状约束(box constraint)包含了对向量ζ\pmb{\zeta}ζζζ所有成分的约束，是最为鲁棒的选择，但是所有不确定参数都处于最坏情况这种概率是很低的.

A box uncertainty set that contains the full range of realizations for each component of ζ\pmb{\zeta}ζζζ is the most robust choice and guarantees that the constraint is never violated, but on the other hand there is only a small chance that all uncertain parameters take their worst case values. This has led to the development of smaller uncertainty sets that still guarantee that the constraint is 'almost never' violated.

所以，发展出了机会约束(chance constraint)理论，即约束在一定概率下成立，但是一般情况下约束成立的概率分布是未知的，需要使用分布式鲁棒优化(distributionally robust solution)算法求解.

One application of RO is to provide a tractable safe approximation of the chance constraint in such cases.

即如果x\mathbf{x}x满足
a(ζ)Tx≤d∀ζ∈Uε\mathbf{a}(\pmb{\zeta})^T\mathbf{x}\leq d\quad \forall \pmb{\zeta}\in\mathcal{U}_\varepsilon a(ζζζ)Tx≤d∀ζζζ∈Uε
那么等价的
P(a(ζ)Tx≤d)≥1−ε(9)\mathbb{P}(\mathbf{a}(\pmb{\zeta})^T\mathbf{x}\leq d)\geq 1-\varepsilon\tag{9} P(a(ζζζ)Tx≤d)≥1−ε(9)
当ε=0\varepsilon=0ε=0时，机会约束就转为了一般鲁棒性约束.

假设关于ζ\pmb{\zeta}ζζζ的信息仅有∥ζ∥∞≤1\lVert\pmb{\zeta}\rVert_\infty\leq 1∥ζζζ∥∞≤1. 盒装约束就是机会约束ε=0\varepsilon=0ε=0的情况，当可以提供更多的信息时，如均值，方差以及概率分布为对称性或者单峰的，这样约束范围可以减小.

We mention the uncertainty sets that are used in practice in partice when box uncertainty is found to be too pessimistic.

考虑椭球约束(ellipsoid)和盒装约束重叠的情况
Uε={ζ:∥ζ∥2≤Ω,∥ζ∥∞≤1}(10)\mathcal{U}_\varepsilon=\{\pmb{\zeta}: \lVert\pmb{\zeta}\rVert_2\leq \Omega, \lVert\pmb{\zeta}\rVert_\infty\leq 1\}\tag{10} Uε={ζζζ:∥ζζζ∥2≤Ω,∥ζζζ∥∞≤1}(10)
其中ε=exp⁡(−Ω2/2)\varepsilon=\exp(-\Omega^2/2)ε=exp(−Ω2/2).
第二种是多面体(polyhedral)集合，也被成为预算约束¹(budget uncertainty set)
Uε={ζ:∥ζ∥1≤Γ,∥ζ∥∞≤1}(11)\mathcal{U}_\varepsilon=\{\pmb{\zeta}:\lVert\pmb{\zeta}\rVert_1\leq \Gamma, \lVert\pmb{\zeta}\rVert_\infty\leq 1\}\tag{11} Uε={ζζζ:∥ζζζ∥1≤Γ,∥ζζζ∥∞≤1}(11)
其中ζ∈RL\pmb{\zeta}\in\mathbb{R}^Lζζζ∈RL并且ε=exp⁡(−Γ2/(2L))\varepsilon=\exp(-\Gamma^2/(2L))ε=exp(−Γ2/(2L)).

This set has the interpretation that (integer) Γ\GammaΓ controls the number of elements of ζ\pmb{\zeta}ζζζ that may deviation from their nominal values. Eq (10)(10)(10) leads to better objective values for a fixed ε\varepsilonε compared to (10)(10)(10), but gives rise to a CQP for an uncertain LP while (11)(11)(11) results in an LP and is therefore more tractable from a computational point of view.(方程(10)(10)(10)的目标值优于(11)(11)(11)，但是从计算复杂度的角度来讲，方程(10)(10)(10)需要求解一个CQP问题，而(11)(11)(11)求解的是LP问题)

Bandi和Bertsimas²提出了基于中央极限定理（central limit theorem）的不确定集合，当ζ∈RL\pmb{\zeta}\in\mathbb{R}^Lζζζ∈RL中的分量为独立同分布并且均值为μ\muμ方差为σ2\sigma^2σ2.
Uε={ζ:∣∑i=1Lζi−Lμ∣≤ρnσ}\mathcal{U}_\varepsilon=\bigg\{\pmb{\zeta}:\bigg|\sum_{i=1}^L\zeta_i-L\mu\bigg|\leq \rho\sqrt{n}\sigma\bigg\} Uε={ζζζ:∣∣∣∣i=1∑Lζi−Lμ∣∣∣∣≤ρnσ}
其中ρ\rhoρ控制约束冲突(constraint violation)的概率为1−ε1-\varepsilon1−ε. Bandi和Bertsimas也给出了Uε\mathcal{U}_\varepsilonUε加入相关性(correlations)，厚尾(heavy tails)或者其他分布信息时的变形.

In order to avoid infeasibility, it is necessary to define separate uncertainty sets for each constraint, where the summation runs only over the elements of ζ\pmb{\zeta}ζζζ that appear in that constraint. Alternatively, it may help to take the intersection of Uε\mathcal{U}_\varepsilonUε with a box.

Bertsimas等说明了如何基于历史数据和统计检测构建不确定集合³，和前文提到的方法相比，该方法需要较少的假设，如对ζ\zetaζ的分量独立性假设是不需要的.

Bertsimas和Brown说明了基于历史不确定数据和一致性风险度量构建不确定集合并刻画决策者的偏好的方法⁴.

For a specific class of risk measures, this gives rise to polyhedral uncertainty sets.

考虑不确定概率向量，如
U⊂ΔL−1={p∈RL:p≥0,∑i=1Lpi=1}\mathcal{U}\subset\Delta^{L-1}=\{\mathbf{p}\in\mathbb{R}^L:\mathbf{p}\geq \mathbf{0}, \sum_{i=1}^L p_i=1\} U⊂ΔL−1={p∈RL:p≥0,i=1∑Lpi=1}
Ben-Tal等价于ϕ−\phi-ϕ−divergence构建了不确定集合，其中对于向量p\mathbf{p}p和向量q\mathbf{q}q的ϕ−\phi-ϕ−divergence的定义为
Iϕ(p,q)=∑i=1Lqiϕ(piqi)I_\phi(\mathbf{p}, \mathbf{q})=\sum_{i=1}^L q_i\phi(\frac{p_i}{q_i}) Iϕ(p,q)=i=1∑Lqiϕ(qipi)
其中ϕ\phiϕ是凸函数.

let p\mathbf{p}p denote a probability vector and let q\mathbf{q}q be the vector with observed frequencies when NNN items are sampled according to p\mathbf{p}p. Under certain regularity conditions

2Nϕ′′(1)Iϕ(p,q)⟶dχL−12asN→∞\frac{2N}{\phi^{''}(1)}I_\phi(\mathbf{p}, \mathbf{q})\stackrel{d}{\longrightarrow}\chi^2_{L-1} \quad as N\to\infty ϕ′′(1)2NIϕ(p,q)⟶dχL−12asN→∞
可以使用如下不确定集合
Uε={p:p≥0,eTp=1,2Nϕ′′(1)Iϕ(p,p^)≤χL−1;1−ε2}\mathcal{U}_\varepsilon=\bigg\{ \mathbf{p}: \mathbf{p}\geq \mathbf{0}, \mathbf{e}^T\mathbf{p}=1, \frac{2N}{\phi^{''}(1)}I_\phi(\mathbf{p}, \mathbf{\hat{p}})\leq\chi^2_{L-1;1-\varepsilon} \bigg\} Uε={p:p≥0,eTp=1,ϕ′′(1)2NIϕ(p,p^)≤χL−1;1−ε2}
其中，p^\hat{\mathbf{p}}p^是对p\mathbf{p}p的估计.

对于多阶段问题，Goh和Sim⁵说明了如何基于方差-协方差矩阵或者期望值的界构建不确定集合.

关于Uε\mathcal{U}_\varepsilonUε的构建说明如下

Linearly adjustable robust counterpart: linear in what?

AARC作为一种计算方法由Ben-Tal提出，该方法可以处理adjustable variables. 在如下约束中
(a+Pζ)Tx+bTy≤d∀ζ∈Z(\mathbf{a}+\mathbf{P}\pmb{\zeta})^T\mathbf{x}+\mathbf{b}^T\mathbf{y}\leq d\quad \forall \pmb{\zeta}\in\mathcal{Z} (a+Pζζζ)Tx+bTy≤d∀ζζζ∈Z
其中，y\mathbf{y}y是可调变量，b\mathbf{b}b为不依赖ζ\pmb{\zeta}ζζζ的固定量，有两种不同的AARCs

the price of robustness ↩︎
tractable stochastic analysis in high dimensions via robust optimization ↩︎
Data-driven robust optimization ↩︎
Constructing uncertain sets for robust linear optimization ↩︎
distributionally robust optimization and its tractable approximations ↩︎

【AP】a pratical guide to robust optimization（2）相关推荐

【信息检索】Java简易搜索引擎原理及实现（三）B+树索引和轮排索引结构
上一篇文章 :[信息检索]Java简易搜索引擎原理及实现(二)新增停用词表 + 查询处理,我们在建立好的倒排索引的结构中剔除了停用词,同时引入了AND.OR.ANDNOT操作符,支持三种查询方式. 这 ...
【评分】团队作业-随堂小测（同学录）
[评分]团队作业-随堂小测(同学录) 总结按时交 - 有分晚交 - 0分迟交一周以上 - 倒扣本次作业分数抄袭 - 倒扣本次作业分数本次作业日不落战队涉及的训练环境较其他组多(在博客中体 ...
CJOJ 1087 【NOIP2010】乌龟棋 / Luogu 1541 乌龟棋（动态规划）
CJOJ 1087 [NOIP2010]乌龟棋 / Luogu 1541 乌龟棋(动态规划) Description 小明过生日的时候,爸爸送给他一副乌龟棋当作礼物. 乌龟棋的棋盘是一行N个格子,每个 ...
【原创】如何写一个框架：步骤（下）
[原创]如何写一个框架:步骤(上) 说明:写本文的时候作者完全是把脑子里的东西写了出来,没有参考任何的资料,所以对于每一项内容可能都是不完整的,不能作为一个完整的参考.有一些方法学的东西每个人都有自己 ...
【WPF】右下角弹出自定义通知样式（Notification）——简单教程
[WPF]右下角弹出自定义通知样式(Notification)--简单教程原文:[WPF]右下角弹出自定义通知样式(Notification)--简单教程 1.先看效果 2.实现 1.主界面是Mai ...
【原创】通俗易懂地解决中文乱码问题（1） --- 跨平台乱码
[原创]通俗易懂地解决中文乱码问题(1) --- 跨平台乱码参考文章: (1)[原创]通俗易懂地解决中文乱码问题(1) --- 跨平台乱码 (2)https://www.cnblogs.com/xi ...
【转】第8章前摄器（Proactor）：用于为异步事件多路分离和分派处理器的对象行为模式...
目录: Reactor(反应堆)和Proactor(前摄器) <I/O模型之三:两种高性能 I/O 设计模式 Reactor 和 Proactor> <[转]第8章前摄器(Proa ...
【数据清洗】异常点的理解与处理方法（1）
[数据清洗]异常点的理解与处理方法(1) 参考文章: (1)[数据清洗]异常点的理解与处理方法(1) (2)https://www.cnblogs.com/SevnChen/p/5024644.htm ...
【Excel】数据透视表—数据透视表布局（显示）
[Excel]数据透视表-标签合并居中 [Excel]数据透视表-新增一列(字段) [Excel]数据透视表-按年.季度.月份汇总报表 [Excel]数据透视表-简单数据分析实例我们刚刚生成的一个数 ...

【AP】a pratical guide to robust optimization（2）

Navigator

Pre Link

Choosing the uncertainty set

Linearly adjustable robust counterpart: linear in what?

【AP】a pratical guide to robust optimization（2）相关推荐

最新文章

热门文章