之前在阅读YY硕写的机器人工程师学习计划时,里面就推荐了这篇文章,看完之后感触良多,所以转载过来。一方面做个备份,防止以后找不到了;另一方面也推荐给大家,如果你是理工科的学生且以后打算从事本专业的工作,那么数学对你来说应该是极其必要的,十分建议好好读一读这篇文章,可能会提高你对数学的兴趣~

数学体系

  • 作者个人信息
    • 简介
    • 主要成就
  • 1.为什么要深入数学的世界
  • 2.集合论:现代数学的共同基础
  • 3.分析:在极限基础上建立的宏伟大厦
    • 3.1微积分:分析的古典时代——从牛顿到柯西
    • 3.2实分析:在实数理论和测度理论上建立起现代分析
      • 3.2.1现代概率论:在现代分析基础上再生
    • 3.3拓扑学:分析从实数轴推广到一般空间——现代分析的抽象基础
    • 3.4微分几何:流形上的分析——在拓扑空间上引入微分结构
  • 4.代数:一个抽象的世界
    • 4.1关于抽象代数
    • 4.2线性代数:“线性”的基础地位
      • 4.2.1泛函分析:从有限维向无限维迈进
      • 4.2.2继续往前:巴拿赫代数,调和分析,和李代数
  • 5.分析与代数结合

作者个人信息

简介

  林达华是MIT计算机科学博士,读研时以贝叶斯非参建模斩获顶会NIPS2010年最佳学生论文奖、ICCV2009和2011杰出评审员奖,现任香港中文大学教授。本文介绍其科学学习经验,约写于2011年10月,转发科学网等被大量传播至今。

主要成就

  林达华在机器学习及计算机视觉领域的顶级国际会议与期刊发表近50篇学术论文。在贝叶斯非参建模方面的开创性工作于2010年获得机器学习领域权威国际会议NIPS最佳学生论文奖。分别在2009年与2011年获得计算机视觉最高学术会议ICCV杰出评审员奖。

  2016年,他指导香港中文大学多媒体实验室的团队参加ActivityNet2016比赛获得冠军。同年,他参与指导多媒体实验室参加ImageNet2016比赛,也取得优异成绩。

1.为什么要深入数学的世界

  作为计算机的学生,我没有任何企图要成为一个数学家。我学习数学的目的,是要想爬上巨人的肩膀,希望站在更高的高度,能把我自己研究的东西看得更深广一些。说起来,我在刚来这个学校的时候,并没有预料到我将会有一个深入数学的旅程。我的导师最初希望我去做的题目,是对appearance和motion建立一个unified的model。这个题目在当今Computer Vision中百花齐放的世界中并没有任何特别的地方。事实上,使用各种Graphical Model把各种东西联合在一起framework,在近年的论文中并不少见。

  我不否认现在广泛流行的Graphical Model是对复杂现象建模的有力工具,但是,我认为它不是panacea,并不能取代对于所研究的问题的深入的钻研。如果统计学习包治百病,那么很多“下游”的学科也就没有存在的必要了。事实上,开始的时候,我也是和Vision中很多人一样,想着去做一个Graphical Model——我的导师指出,这样的做法只是重复一些标准的流程,并没有很大的价值。经过很长时间的反复,另外一个路径慢慢被确立下来——我们相信,一个图像是通过大量“原子”的某种空间分布构成的,原子群的运动形成了动态的可视过程。微观意义下的单个原子运动,和宏观意义下的整体分布的变换存在着深刻的联系——这需要我们去发掘。

  在深入探索这个题目的过程中,遇到了很多很多的问题,如何描述一个一般的运动过程,如何建立一个稳定并且广泛适用的原子表达,如何刻画微观运动和宏观分布变换的联系,还有很多。在这个过程中,我发现了两个事情:

  我原有的数学基础已经远远不能适应我对这些问题的深入研究。

  在数学中,有很多思想和工具,是非常适合解决这些问题的,只是没有被很多的应用科学的研究者重视。

  于是,我决心开始深入数学这个浩瀚大海,希望在我再次走出来的时候,我已经有了更强大的武器去面对这些问题的挑战。我的游历并没有结束,我的视野相比于这个博大精深的世界的依旧显得非常狭窄。在这里,我只是说说,在我的眼中,数学如何一步步从初级向高级发展,更高级别的数学对于具体应用究竟有何好处。

2.集合论:现代数学的共同基础

  现代数学有数不清的分支,但是,它们都有一个共同的基础——集合论——因为它,数学这个庞大的家族有个共同的语言。集合论中有一些最基本的概念:集合(set),关系(relation),函数(function),等价 (equivalence),是在其它数学分支的语言中几乎必然存在的。对于这些简单概念的理解,是进一步学些别的数学的基础。我相信,理工科大学生对于这些都不会陌生。

  不过,有一个很重要的东西就不见得那么家喻户晓了——那就是“选择公理” (Axiom of Choice)。这个公理的意思是“任意的一群非空集合,一定可以从每个集合中各拿出一个元素。”——似乎是显然得不能再显然的命题。不过,这个貌似平常的公理却能演绎出一些比较奇怪的结论,比如巴拿赫-塔斯基分球定理——“一个球,能分成五个部分,对它们进行一系列刚性变换(平移旋转)后,能组合成两个一样大小的球”。

  正因为这些完全有悖常识的结论,导致数学界曾经在相当长时间里对于是否接受它有着激烈争论。现在,主流数学家对于它应该是基本接受的,因为很多数学分支的重要定理都依赖于它。在我们后面要回说到的学科里面,下面的定理依赖于选择公理:

  拓扑学:Baire Category Theorem

  实分析(测度理论):Lebesgue 不可测集的存在性

  泛函分析四个主要定理:Hahn-Banach Extension Theorem, Banach-Steinhaus Theorem (Uniform boundedness principle), Open Mapping Theorem, Closed Graph Theorem

  在集合论的基础上,现代数学有两大家族:分析(Analysis)和代数(Algebra)。至于其它的,比如几何和概率论,在古典数学时代,它们是和代数并列的,但是它们的现代版本则基本是建立在分析或者代数的基础上,因此从现代意义说,它们和分析与代数并不是平行的关系。

3.分析:在极限基础上建立的宏伟大厦

3.1微积分:分析的古典时代——从牛顿到柯西

  先说说分析(Analysis)吧,它是从微积分(Caculus)发展起来的——这也是有些微积分教材名字叫“数学分析”的原因。不过,分析的范畴远不只是这些,我们在大学一年级学习的微积分只能算是对古典分析的入门。分析研究的对象很多,包括导数(derivatives),积分(integral),微分方程(differential equation),还有级数(infinite series)——这些基本的概念,在初等的微积分里面都有介绍。如果说有一个思想贯穿其中,那就是极限——这是整个分析(不仅仅是微积分)的灵魂。

  一个很多人都听说过的故事,就是牛顿(Newton)和莱布尼茨 (Leibniz)关于微积分发明权的争论。事实上,在他们的时代,很多微积分的工具开始运用在科学和工程之中,但是,微积分的基础并没有真正建立。

  那个长时间一直解释不清楚的“无穷小量”的幽灵,困扰了数学界一百多年的时间——这就是“第二次数学危机”。直到柯西用极限的观点重新建立了微积分的基本概念,这门学科才开始有了一个比较坚实的基础。直到今天,整个分析的大厦还是建立在极限的基石之上。

  柯西(Cauchy)为分析的发展提供了一种严密的语言,但是他并没有解决微积分的全部问题。在19世纪的时候,分析的世界仍然有着一些挥之不去的乌云。而其中最重要的一个没有解决的是“函数是否可积的问题”。

  我们在现在的微积分课本中学到的那种通过“无限分割区间,取矩阵面积和的极限”的积分,是大约在1850年由黎曼(Riemann)提出的,叫做黎曼积分。但是,什么函数存在黎曼积分呢(黎曼可积)?数学家们很早就证明了,定义在闭区间内的连续函数是黎曼可积的。可是,这样的结果并不令人满意,工程师们需要对分段连续函数的函数积分。

3.2实分析:在实数理论和测度理论上建立起现代分析

  在19世纪中后期,不连续函数的可积性问题一直是分析的重要课题。对于定义在闭区间上的黎曼积分的研究发现,可积性的关键在于“不连续的点足够少”。只有有限处不连续的函数是可积的,可是数学家们构造出了很多在无限处不连续的可积函数。显然,在衡量点集大小的时候,有限和无限并不是一种合适的标准。

  在探讨“点集大小”这个问题的过程中,数学家发现实数轴——这个他们曾经以为已经充分理解的东西——有着许多他们没有想到的特性。在极限思想的支持下,实数理论在这个时候被建立起来,它的标志是对实数完备性进行刻画的几条等价的定理(确界定理,区间套定理,柯西收敛定理,Bolzano-Weierstrass Theorem和Heine-Borel Theorem等等)——这些定理明确表达出实数和有理数的根本区别:完备性(很不严格的说,就是对极限运算封闭)。

  随着对实数认识的深入,如何测量“点集大小”的问题也取得了突破,勒贝格创造性地把关于集合的代数,和Outer content(就是“外测度”的一个雏形)的概念结合起来,建立了测度理论(Measure Theory),并且进一步建立了以测度为基础的积分——勒贝格积分(Lebesgue Integral)。在这个新的积分概念的支持下,可积性问题变得一目了然。

  上面说到的实数理论,测度理论和勒贝格积分,构成了我们现在称为实分析 (Real Analysis)的数学分支,有些书也叫实变函数论。对于应用科学来说,实分析似乎没有古典微积分那么“实用”——很难直接基于它得到什么算法。而且, 它要解决的某些“难题”——比如处处不连续的函数,或者处处连续而处处不可微的函数——在工程师的眼中,并不现实。

  但是,我认为,它并不是一种纯数学概念游戏,它的现实意义在于为许多现代的应用数学分支提供坚实的基础。下面,我仅仅列举几条它的用处:

  黎曼可积的函数空间不是完备的,但是勒贝格可积的函数空间是完备的。简单的说,一个黎曼可积的函数列收敛到的那个函数不一定是黎曼可积的,但是勒贝格可积的函数列必定收敛到一个勒贝格可积的函数。在泛函分析,还有逼近理论中,经常需要讨论“函数的极限”,或者“函数的级数”,如果用黎曼积分的概念,这种讨论几乎不可想像。我们有时看一些paper中提到L^p函数空间,就是基于勒贝格积分。

  勒贝格积分是傅立叶变换(这东西在工程中到处都是)的基础。很多关于信号处理的初等教材,可能绕过了勒贝格积分,直接讲点面对实用的东西而不谈它的数学基础,但是,对于深层次的研究问题——特别是希望在理论中能做一些工作——这并不是总能绕过去。

  在下面,我们还会看到,测度理论是现代概率论的基础。

3.2.1现代概率论:在现代分析基础上再生

  自从Kolmogorov在上世纪30年代把测度引入概率论以来,测度理论就成为现代概率论的基础。在这里,概率定义为测度,随机变量定义为可测函数,条件随机变量定义为可测函数在某个函数空间的投影,均值则是可测函数对于概率测度的积分。值得注意的是,很多的现代观点,开始以泛函分析的思路看待概率论的基础概念,随机变量构成了一个向量空间,而带符号概率测度则构成了它的对偶空间,其中一方施加于对方就形成均值。角度虽然不一样,不过这两种方式殊途同归,形成的基础是等价的。

  在现代概率论的基础上,许多传统的分支得到了极大丰富,最有代表性的包括鞅论 (Martingale)——由研究赌博引发的理论,现在主要用于金融(这里可以看出赌博和金融的理论联系,

【转】MIT博士林达华解说数学体系相关推荐

  1. 香港中文大学教授、麻省理工牛人林达华解说现代数学体系

    林达华,深度学习与计算机专家,香港中文大学教授.2004年于中国科学技术大学获得学士学位,2006年于香港中文大学获得信息工程硕士学位,2012年于美国麻省理工学院获得计算机科学博士学位. 为什么要深 ...

  2. MIT林达华对数学的思考

    在过去的一年中,我一直在数学的海洋中游荡,research进展不多,对于数学世界的阅历算是有了一些长进.   为什么要深入数学的世界  作为计算机的学生,我没有任何企图要成为一个数学家.我学习数学的目 ...

  3. 麻省理工MIT大神解说数学体系;2012年计算机博士港中大林达华简历(公号回复“MIT林达华”下载彩标PDF论文)

    麻省理工MIT大神解说数学体系:2012年计算机博士港中大林达华简历(公号回复"MIT林达华"下载彩标PDF论文) 原创: 林达华 数据简化DataSimp 今天 数据简化Data ...

  4. 概率图模型(PGM)综述-by MIT 林达华博士

    声明:本文转载自http://www.sigvc.org/bbs/thread-728-1-1.html,个人感觉是很好的PGM理论综述,高屋建瓴的总结了PGM的主要分支和发展趋势,特收藏于此. &q ...

  5. MIT牛人解说数学体系与数学家石根华的41年传奇(转)

    MIT牛人解说数学体系与数学家石根华的41年传奇(转) (2011-08-13 22:00:02) 标签: 校园 分类: 工作篇 为什么要深入数学的世界 作为计算机的学生,我没有任何企图要成为一个数学 ...

  6. MIT牛人解说数学体系与数学家石根华的41年传奇

    MIT牛人解说数学体系与数学家石根华的41年传奇(转) 分类: 软件英雄 2011-11-12 21:39 166人阅读 评论(0) 收藏 举报 MIT牛人解说数学体系与数学家石根华的41年传奇(转) ...

  7. “概率模型与计算机视觉”-林达华

    "概率模型与计算机视觉" 林达华 美国麻省理工学院(MIT)博士 上世纪60年代, Marvin Minsky 在MIT让他的本科学生 Gerald Jay Sussman用一个暑 ...

  8. MIT研究生解说数学体系

    一直想对数学有个宏观把握,恰好看到这篇文章,甚是高兴.网上说,本文出自林达华,我是从这里转载的.在此基础上,将概率论小节移到实分析下,并加粗了一些语句,还补充两张图(来源于百度文库<MIT牛人解 ...

  9. 【林达华】How To Get A Solution

    How to get a solution? 我们所做的topic,一般有几个阶段: Analysis: 分析问题,找到问题的关键 Modeling / Formulation: 对问题进行数学抽象, ...

  10. GitHub 标星 20000+,国产 AI 开源从算法开始突破 | 专访商汤联合创始人林达华

    作者 | 阿司匹林 责编 | 李雪敬 封图 | CSDN 下载自视觉中国 作为已经有4000多名员工的AI独角兽,商汤的一举一动备受关注. 从2018年开始,奔着"开源.统一.可复现&quo ...

最新文章

  1. 后序遍历的非递归算法python_刷题系列 - Python用非递归实现二叉树后续遍历
  2. 机器学习中的7种数据偏见
  3. 0x55. 动态规划 - 环形与后效性处理(例题详解 × 6)
  4. Nat. Commun. | 识别药物靶点的贝叶斯机器学习方法
  5. 用指针式万用表欧姆档检测发光二极管
  6. 网络配置之ifconfig及Ip命令详解
  7. 并联系统的失效率公式推导_供暖系统水力平衡率对室温的影响
  8. IOS ----UIButton用法详解
  9. php点链接直接现在文件吗,PHP实现点击a标签的href做链接时,直接保存文件(任何类型),而...
  10. sysadmin默认密码_Sysadmin工具,Kconfig / kbuild的秘密,11个KDE应用程序,tcpdump,Laverna,Python等
  11. 方法不对,啥都学不会!90%的Python工程师都输在这点上!
  12. SchemaCrawler 9.4 发布,数据库结构输出
  13. 「管理数学基础」1.4 矩阵理论:相似矩阵
  14. python换证件照底色
  15. python移动文件但不覆盖_怎么做到Python file重复写入之前的内容不被后写入的覆盖...
  16. OpenCV图像识别技术+Mediapipe与Unity引擎的结合
  17. 一天 第二章 纤腰舞困因谁,知谁系斑骓?
  18. 竞秀纷享“共享电商、共享商圈”模式
  19. Python爬虫:爬取某鱼颜值主播图片并保存到本地升级版!
  20. 领英精灵安全吗?附LinkedIn领英开发客户的关键点

热门文章

  1. [BZOJ3993] [SDOI2015]星际战争(最大流+二分)
  2. RuntimeError: Cannot re-initialize CUDA in forked subprocess.
  3. 文字超出部分用省略号表示
  4. 网页设计理论知识(色彩搭配)
  5. Linux裸机开发详解
  6. NUC8 i5beh 黑苹果macOS Monterey 12.3.1安装教程
  7. 天津大学仁爱学院计算机科学与技术学费,天津大学仁爱学院计算机科学与技术专业2016年在天津理科高考录取最低分数线...
  8. 咸阳强生告诉你吃什么食物养胃效果好
  9. 工行u盾显示316_工行U盾无法被电脑识别(方法全集)
  10. 英语中最常用的252个词根