由于原链接公式看不到,所以转了下,如有侵权,联系删除

2016

公元2016年2月11日上午,加州理工学院,麻省理工学院以及“激光干涉引力波天文台(LIGO)”的研究人员在华盛顿宣布人类首次听到了宇宙的涟漪-引力波,从而从实验角度再度证实了爱因斯坦广义相对论。当时,老顾正在飞往加州的飞机上,获知消息后异常激动。从历史上看,爱因斯坦广义相对论的理论自洽性的证明是“正质量猜测”,由丘成桐先生和其学生Schoen于1979年共同完成。后来丘成桐先生所证明的卡拉比-丘流形成为现代超弦理论的基石,丘成桐先生所用的手法是复蒙日-安培方程。老顾此行的目的就是向国际学界同行介绍我们在蒙日-安培方程计算方面的理论进展。

从暴雪肆虐的纽约来到阳光明媚的洛杉矶,老顾顿觉自然的慷慨和人生的美好。洛杉矶的天空一如既往,蓝得令人发晕。UCLA校园内的学子早已夏装打扮,不知是因为奥巴马的来访还是何故,许多女生都手持一柄长径玫瑰,青春靓丽,笑容灿烂。

会议名称是'Shape Analysis and Learning by Geometry and Machine'【1】,在纯粹和应用数学学院(IPAM)召开。与会者是世界知名专家学者,有水平集方法(Level Set Method)之父UCLA的Stanley Osher教授,计算几何之父Stanford的Leo Guibas教授,历史上首位 International Mathematical Union (IMU)女主席,Duke的Ingrid Daubechies教授,机器学习的先驱Ohio State的Mikhail Belkin教授等等。同时有许多来自以色列,法国的知名科学家。与许多合作伙伴和老朋友再度相逢,切磋思想,重温友情。

在法国巴黎有一个地铁车站-蒙日广场,在里昂旧城有一条老街-安培大街。最优传输理论由法国学者开创,传统悠久,硕果累累。法国现代的数学家Yann brenier,  Cédric Villani都为最优传输理论做出了杰出贡献。出于民族自豪感,法国科学家对于最优传输理论极其重视。在计算机科学领域,中国学派和法国学派的竞争由来已久。去年老顾在法国巴黎已经和法国Inria的科学家深入交流过,向对方讲解了理论证明的要点,提供了手稿,彼此达成共识。但是,在这次学术交流的演讲中,法国学者对我们的工作只字未提。

在老顾的学术生涯中,诸如此类经历过很多。我们团队做出的学术成果被别的国家的学者故意忽视,刻意贬低,甚至改头换面,重新包装的事情发生过多次,并且很多高明的模仿者获得了很高的学术声誉和经济利益。对于尚未建立学术地位的年轻学者而言,这种遭遇往往是灭顶之灾,意志薄弱者往往由此消沉下去,而离开学术界。

第二天,在老顾的演讲中,老顾仔细分析了历史发展过程,比较了各个学派所发展的理论的异同,比较了目前各个学派方法的计算结果。根据以前我们的讨论(海天讲座(1,2,3)最优传输理论),最优传输映射等价于求解蒙日-安培方程,等价于凸几何中的亚历山大定理。同样的定理在不同的领域,被不同方向的专家学者多次证明:

  1. 在凸几何领域,Alexandrov 在1950年首次证明了Alexandrov 定理【2】。他关于唯一性的证明方法用到了Brunn-Minkowski不等式,他关于存在性的证明方法是基于代数拓扑的方法,其拓扑证明方法无法指导算法的设计。长期以来,寻求构造性的证明一直是凸几何中的一个重要问题。

  2. 在计算几何领域,Aurenhammer, Hoffmann 和Aronov 在90年代用Power Voronoi Diagram的语言给出了Alexdrov定理的构造性证明 【3,4】。Levy在2014年给出类似证明【5】。他们从传输代价出发,构造了凸能量。他们说因为能量是凸的,因此全局只有一个最小值,这个最小值处的梯度为0。由梯度为0的条件,推出最小值就是Alexandrov 问题的解。因此给出了存在性和唯一性。并且,他们给出了凸能量的梯度表达式。由此,凸能量可以由梯度下降方法优化,并进一步可以用拟牛顿法来优化。

  3. 在凸几何领域,我们在2013年给出了Alexandrov定理的构造性证明【6】。我们从凸多面体的体积出发,构造凸能量,同时证明凸能量的定义域是凸的,由此证明了解的唯一性。然后,我们证明凸能量的最小值点必为定义域的内点,因此凸能量在最小值点处梯度为0,从而给出了存在性。同时,我们给出能量的几何意义,也给出二阶导数的几何意义。

比较2和3的证明,我们看出如下的不同之处:

a. 我们证明了定义域的凸性 和能量的极值点必为内点;Aurenhammer和Levy的方法忽略了这一点,因而严密性欠缺。如果极值点取到边界,则梯度为0的条件不再保持,极值点不再是Alexandrov问题的解,解的存在性无法保证。

b. 我们给出了直到二阶导数的几何解释,从而可以用牛顿法优化;Aurenhammer和Levy的方法只给出了一阶梯度,只能用梯度下降法,或拟牛顿法。

c. 我们给出凸能量的几何解释,某个凸多面体的体积; Aurenhammer和Levy的方法对能量没有几何解释。

图2. 用我们的最优传输映射方法得到的保持体积元的映射。

图3. 我们的方法(左)和法国学派的方法(右)对比。

从工程角度而言,我们目前的算法可以得到三维空间中不同域之间微分同胚,微分同胚可以拓展到边界上;Aurenhammer和Levy的方法只能保证内部为同胚,边界发生皱褶,如图3所示。

演讲之后,Guibas教授主动走上前来对我们的工作大加赞赏。Daubechies教授也对其严格深刻性表示肯定,并给丘成桐先生发去email表示对我们工作的赞赏,并希望能够建立合作。Ron Kimmel教授对于我们用最优传输理论判断智商的工作赞叹不已,并提议应该用这种方法比较人类和海豚的智商,因为海豚的大脑皮层的几何程度远远超过人类。Levy教授也表示希望在此领域展开合作。


图2. Alexandrov 定理。

Alexandrov 问题  闵科夫斯基的学生亚历山大(Alexandorff)推广了他的定理,提出了Alexandorff 问题。Minkowski考虑了紧致的闭凸多面体,Alexandorff 考虑无限的开放凸多面体 P。每个面的法向量固定,或者等价地, 对应的平面方程

的梯度给定,截距未知。给定平面上的凸区域 ,每个面的投影和的交集的面积给定为 。Alexandorff 证明了如下定理:

Alexandorff定理:如果指定的面积满足,并且

则凸多面体P存在,并且这样的凸多面体彼此相差一个垂直平移。

假设空间中的一个向量,我们得到k个平面

这些平面构成的上包络是分片线性凸函数的图(Graph):

上包络是一个凸多面体(convex polytope),有k个面

对应的面积为

1. 我们首先证明可容许高度空间空间中的非空凸集。

首先,我们将离散点集经过旋转平移和放缩,使得它们被包含在中,然后做Voronoi Diagram,则每一个Voronoi cell都是非空,这时所对应的高度向量是

这意味着空间非空。假设,对于任意的,我们直接有,

根据Brunn-Minkowski不等式,

因此我们得到。因此可容许高度集合是凸集。

图3. 凸多面体的体积。

2. 过的边缘

我们做一圆柱,和上包络相交,上包络之下,平面之上,圆柱内部空间的体积记为。我们证明是一个凸函数。首先,我们计算的梯度 ,然后,我们计算二阶导数,我们有如下几何意义明晰的公式:

我们对这一公式详细解释如下。给定分片线性凸函数,其Legendre变换为,

两个函数的图也满足庞加莱对偶关系。平面族上包络的每个面对偶成点,  三个面的交点对偶成三角形。的图在平面上的投影,构成了平面的Power Voronoi Diagram;的图在平面上的投影,构成了平面的 Power Delaunay Triangulation。Power Voronoi Diagram中两个相邻面的交线为:,

在Power Delaunay Triangulation中,其对偶的边为

,连接着

图4. 勒让德变换。

由此可见,Hessian矩阵非对角线上的元素是非正的。同时由于,我们有,

由此,Hessian矩阵在空间上为严格正定矩阵,所以体积函数为严格凸函数。

3. 解的唯一性证明

二阶光滑凸函数是定义在凸集上的,则梯度映射

为整体微分同胚。梯度映射的雅克比矩阵为原函数的Hessian矩阵,因此为严格正定矩阵,梯度映射为局部微分同胚。下面,我们来证明梯度映射也是全局微分同胚。假设存在,但是。我们构造直线段,由的凸性,。考察函数,求其二阶导数,

因此,

矛盾。因此,假设错误,梯度映射为整体微分同胚。这就证明了解的唯一性。

4. 解的存在性证明

我们构造一个凸能量的Hessian矩阵等于的Hessian矩阵,因此在也是严格凸的,因此有唯一的全局最小点,设为。那么在点,能量的梯度为0,我们得到:,

由此可得,全局最小点就是我们希望得到的解。

且慢,这一证明有严重的漏洞。如果全局最小点是定义域的内点,那么梯度为0的条件成立。如果全局最小点落在定义域的边缘,那么梯度为零的条件未必成立。我们需要严格证明,能量的全局最小点一定落在定义域的内部。

我们考察定义域的边界点,,那么在点,某一个面缩为0,不妨设其为, 并且。那么,我们构造一个向量,向平面投影,平面的法向量为

投影后得到平面上的分量

和能量的梯度的内积为

考察第一个面的体积变化,

因此,我们选取足够小,使得

同时由,我们得到,

这意味着,并
所以,在边界点处,梯度的负向指向内点,因此全局最小点必为的内点。

由此,我们得到了Alexandrov定理的完整证明。

Alexandrov 定理的计算 

【1】http://www.ipam.ucla.edu/programs/workshops/shape-analysis-and-learning-by-geometry-and-machine/?tab=schedule

【2】 A. D. Alexandrov. Convex polyhedra Translated from the 1950 Russian edition by N. S. Dairbekov, S. S. Kutateladze and A. B. Sossinsky. Springer Monographs in Mathematics. Springer-Verlag, Berlin, 2005.

【3】F. Aurenhammer, F. Hoffmann and B. Aronov, Minkowski-type theorems and least squares partitioning, in Symposium on Computational Geometry, 1992, pp.350-357.
【4】 F. Aurenhammer, F. Hoffmann and B. Aronov, Minkowski-type Theorems and Least-Squares Clustering, vol 20, 61-76, Algorithmica, 1998.
【5】 Bruno L´evy, “A numerical algorithm for L2 semi-discrete optimal transport in 3D”, arXiv:1409.1279, Year 2014.

【6】 X. Gu, F. Luo, J. Sun and S.-T. Yau, Variational Principles for Minkowski Type Problems, Discrete Optimal Transport, and Discrete Monge-Ampere Equations, arXiv:1302.5472, Year 2013.

海天讲座(四)最优传输理论相关推荐

  1. 海天讲座(三)最优传输理论

    由于原链接公式看不到,所以转了下,如有侵权,联系删除 2016 农历小年附近,老顾从北京回到纽约.与北京火爆热烈的节日气氛相比,纽约的氛围孤独寂寥,冷漠凄清.与几位访问学者和学生漫步在长岛石溪海滩,气 ...

  2. 海天讲座(二)最优传输理论

    由于原链接公式看不到,所以转了下,如有侵权,联系删除 2016 这篇文章里说了应用最优传输理论解保面积参数化问题,之前有看过将保面积参数化转化为线性问题的文献,效果也不错. 图1. 最优传输理论在计算 ...

  3. 【转】最优传输理论---(微信公总号:老顾谈几何)顾险峰

    海天讲座(一):最优传输理论 海天讲座(二):最优传输理论 海天讲座(三):最优传输理论 海天讲座(四):最优传输理论 菲尔兹奖青睐的领域:最优传输和蒙日-安培方程

  4. An Intuitive Guide to Optimal Transport|最优传输理论

    An Intuitive Guide to Optimal Transport|最优传输理论 最优传输:最优传输问题最早是由法国数学家蒙日于1780年代提出:其解的存在性被俄国数学家Kantorovi ...

  5. 最优传输理论和生成模型的几何观点

    ©PaperWeekly 原创 · 作者|尹娟 学校|北京理工大学博士生 研究方向|随机过程.复杂网络 论文标题:A Geometric View of Optimal Transportation ...

  6. TPAMI 2022|基于最优传输理论的无监督图像重建学习

    作者丨王炜 来源丨上海交通大学类脑智能应用与技术中心 编辑丨极市平台 论文地址:https://ieeexplore.ieee.org/document/9763342 开源地址代码:https:// ...

  7. 中国人工智能学会通讯——最优传输理论在机器学习中的应用 1.1 最优传输理论与 WGAN 模型...

    最优传输理论是连接几何和概率的桥梁, 它用几何的方法为概率分布的建模和衡量概 率分布之间的距离提供了强有力的工具.最 近,最优传输理论的概念和方法日益渗透进 机器学习领域,为机器学习原理的解释提供 了 ...

  8. 光影变幻:自动化所基于最优传输理论的影视换脸技术

    本文转载自中国科学院自动化研究所. (影视剧换脸结果 素材来源自网络) 科技改变影视生态 赋予机器类人创造力,使之能够自动理解和编辑影像是人工智能领域的前沿方向. 中科院自动化所智能感知与计算研究中心 ...

  9. 统计深度学习与最优传输理论,传统方法vs深度学习,符号主义与联结主义

    统计深度学习与最优传输理论,传统方法vs深度学习,符号主义与联结主义 统计深度学习与最优传输理论 传统计算机视觉方法与基于统计的深度学习方法 符号主义与联结主义    本文多处摘引自当深度学习遇到3D ...

最新文章

  1. python写文件读文件-Python 读写文件和file对象的方法(推荐)
  2. 运用深度学习教机器人理解自然语言
  3. node.js入门系列(一)--Node.js简介
  4. BZOJ 2957: 楼房重建
  5. 【Qt】Qt Creator中布局器详解
  6. 机器学习物语(1):世界观设定
  7. 【Java学习笔记六】常用数据对象之String
  8. 12 操作系统第三章 内存管理 非连续分配管理方式 基本分页存储管理 基本分段存储管理 段页式存储管理
  9. html css 魔方,css3实现立体魔方效果
  10. 引入媒体播放器media player 并调试它的选择模式 0130
  11. 路由器有一个android设备连接不上,Android http连接 – 多个设备无法连接同一台服务器...
  12. 一条mysql语句判断是添加还是修改
  13. Python并发编程Asyncio
  14. python的shutil模块
  15. python3编写方程计算器_python算法——方程计算器小工具
  16. 装备制造业包括哪些行业(装备制造业行业分类目录)
  17. iOS YYText的使用笔记二(YYLabel聊天表情+文字并排)
  18. Springboot系列之RestApi中获取枚举类属性的几种方式
  19. VoIP技术(2)--语音编码算法-1
  20. 在麒麟桌面操作系统编译安装postgresql的经历

热门文章

  1. oracle分区表的优势
  2. 安泰科普:低频功率放大器工作原理
  3. Ansoft Maxwell学习
  4. HDU 2112 HDU Today(最短路)
  5. 思科模拟器交换机生成树命令解析
  6. 设计模式------策略模式
  7. 常见的网站托管主机有哪些?
  8. 记一次没遇到过的UPX脱壳
  9. Ubuntu安装和使用飞书 feishu 5.2.0
  10. win2008服务器终端多用户同时连接,Win2008下如何实现远程多用户共享