人工智能中的运筹学与最优化就该这样学之知识体系
关于运筹学很难给出一个完整且统一的定义。根据《中国大百科全书》给出的定义为:运筹学是用数学方法研究经济、民政和国防等部门在内外环境的约束条件下合理分配人力、物力、财力等资源,使实际系统有效运行的技术科学,它可以用来预测发展趋势,制定行动规划或优选可行方案。古代的经典故事“田忌赛马”可视作一个经典的运筹学案例。该故事描述的是齐王与田忌进行赛马,规定双方各出上、中、下三个等级的马各一匹进行比赛,如果按照同等级的马进行比赛,齐王可获全胜,但是田忌改变了三个等级的马的出场顺序,以上等马对齐王的中等马,以中等马对齐王的下等马,以下等马对齐王的上等马。这个故事中田忌通过调整马的出场顺序,获得了一个最优的比赛方案,所以田忌赛马可视为一个运筹学的问题。现实生活中使用运筹学的理论解决具体问题的例子非常常见,例如数字地图导航中的最短路线规划问题、高铁站点的选址问题等等。可以毫不夸张地说,只要是关于一个寻找最优方案的问题基本上可视为一个运筹学问题。运筹学主要研究的内容包括:线性规划、非线性规划、整数规划、目标规划、动态规划、图论与网络分析、存储论、排队论、对策论、决策论等[55][56][57][58]。研究运筹学的目的是为了通过数学方法获得一个最优的方案,从而利用该方案对人力、物力、财力等资源进行最优的配置,从而使系统达到最优或者说获得最大的收益。应该说,运筹学是一门无处不在、处处有用的科学,非常值得去学习。
最优化理论是一个重要的数学分支,它所研究的问题是讨论在众多的方案中什么样的方案是最优的以及怎么样才能找出这个最优方案[59]。最优化理论主要内容包括:(1)如何将现实生活中要解决的问题转化为一个最优化模型,具体来说就是要确定优化问题的目标函数和约束条件;(2)当模型建立之后要能够求解该数学模型。简而言之,构建最优化问题的数学模型并求解该模型是最优化理论的研究内容。最优化与运筹学的大部分研究内容相互重合,因此很难区分彼此。运筹学偏重解决实际问题,而最优化则偏重于理论研究;一个运筹学问题往往会归结为一个求最优值的最优化问题,因此最优化理论是求解运筹学问题的重要理论支撑。一般认为运筹学是一个学科名称,而最优化理论则是运筹学学科的一个分支。那么AI中究竟用到了哪些运筹学与最优化的理论知识,该如何学习运筹学与最优化呢?接下来展开重点论述。
图 3-11 学习AI必须知道的运筹学与最优化知识
运筹学与最优化的知识体系比较庞杂,将学习AI时必须掌握的相关知识列于图 3-11中,可以对照进行逐一学习。必须强调的是,运筹学是数学的一个分支,有很多研究人员在进行研究,不必过多地陷入运筹学与最优化的理论学习中不可自拔,重点还是要用相关理论来为AI服务。学习运筹学与最优化的理论是为了达到下面的目标,学习完这部分的理论可以对照下面的目标看看自己究竟有没有达标:
(1)了解运筹学、最优化的基本概念与研究内容,理解运筹学与最优化之间的关系
首先要了解运筹学、最优化的基本概念及其研究内容,同时还要搞清楚运筹学与最优化理论之间的关系。
(2)理解凸优化问题的基本概念
理解凸优化问题与非凸优化问题的基本概念,明白将非凸优化问题转化为凸优化问题的常用方法。
(3)理解线性优化与非线性优化的基本概念及其适用对象
最优化理论主要包含线性优化与非线性优化两个方面,了解线性优化与非线性优化的基本概念;针对一个实际问题,知道该用线性优化模型还是非线性优化模型来描述;给定一个优化问题能够判定其是线性优化问题还是非线性优化问题,并且知道用那些方法可以求解该优化问题。
(4)理解最优化问题的基本概念、作用、分类、可解性
理解最优化问题的基本概念和作用;掌握最优化问题的基本分类;会判断最优化问题是否可解。
(5)掌握最优化问题的数学描述
明白一个最优化问题的数学模型由哪几部分组成;理解目标函数、约束条件的基本概念。
(6)掌握最优化问题的原问题与对偶问题的基本概念、对应关系、及相互之间的推导
理解最优化问题的原问题与对偶问题的基本概念;明白对偶问题的作用;会将一个原问题转化为其对偶问题,理解原问题与对偶问题之间的对应关系。
(7)精通最优化问题的建模方法
掌握将一个实际问题描述成一个最优化问题的基本方法。
(8)精通最优化问题的求解方法
对于常见的最优化问题,掌握对其进行求解的方法,会手动对常见的最优化问题进行求解。
(9)精通常见的最优化软件使用方法
会用MATLAB、Python、R、Julia等软件的最优化工具包求解最优化问题。
关于人工智能中运筹学与最优化的更多介绍,可以购买《人工智能怎么学》进一步阅读。
图书购买方式
京东:https://item.jd.com/13395339.html
当当:http://product.dangdang.com/29469230.html
天猫:https://detail.tmall.com/item_o.htm?id=687374654836
为了让图书惠及更多的读者,为更多想学习人工智能的人提供帮助,经过向出版社申请,对图书《人工智能怎么学》的部分内容进行改编和连载。图书《人工智能怎么学》的全部内容包含了初级入门、中阶提高以及高级进阶三个级别的内容。连载的内容主要是初级入门级别,适合想对人工智能进行快速和高效入门的读者,对于已有一定的人工智能学习基础,希望进一步进阶或提高的读者,则需要购买图书《人工智能怎么学》,学习中阶提高以及高级进阶的内容。此外,对于学习人工智能感兴趣的读者,也可以加入知识星球《人工智能怎么学》,知识星球是一个构建学习社群的平台,通过加入《人工智能怎么学》的社群,你将获得更多的学习资料和课程信息。
与作者互动和了解更多信息
想跟作者一起学习人工智能和互动,你可以加入如下社群:
知识星球:https://t.zsxq.com/0aLkVg0os
QQ群:600587177
想了解更多关于人工智能学习及实践的内容,请关注如下媒体:
官方网站:https://bigdatamininglab.github.io
官方微信公众号:人工智能怎么学(可扫描下方二维码或者微信搜索“人工智能怎么学”添加关注)
CSDN:https://blog.csdn.net/audyxiao001
参考文献
张文俊. 数学欣赏[M]. 北京: 科学出版社, 2011.
李文林. 数学史概论 第4版[M]. 北京: 高等教育出版社, 2021.
方开泰. 漫漫修远攻算路:方开泰自述[M]. 长沙: 湖南教育出版社, 2016.
徐品方. 数学王子——高斯[M]. 哈尔滨: 哈尔滨工业大学出版社, 2018.
同济大学数学系. 高等数学(第7版)[M]. 北京: 高等教育出版社, 2014.
李忠,周建莹. 高等数学(第2版)[M]. 北京: 北京大学出版社, 2009.
Joel Hass et al.Thomas’ Calculus: Early Transcendentals (Fourteenth Edition)[M]. Pearson, 2018.
Ron Larson, and Bruce Edwards. Calculus (Eleventh Edition)[M]. Cengage Learning, 2018.
华东师范大学数学科学学院. 数学分析(第5版)[M]. 北京: 高等教育出版社, 2019.
常庚哲, 史济怀. 数学分析教程(第3版)[M]. 合肥: 中国科学技术大学出版社, 2012.
Walter Rudin. Principles of Mathematical Analysis (ThirdEdition) [M]. McGraw-Hill Education, 1976.
Vladimir A. Zoric. Mathematical Analysis (Second Edition)[M]. Springer, 2016.
Elias M. Stein, and RamiShakarchi. Real Analysis: Measure Theory, Integration, and Hilbert Spaces [M]. Princeton University Press,2004.
Elias M. Stein, and Rami Shakarchi. Complex Analysis [M]. Princeton University Press,2005.
Elias M. Stein, and Rami Shakarchi. Fourier Analysis: AnIntroduction [M]. PrincetonUniversity Press,2003.
Elias M. Stein, and Rami Shakarchi. Functional Analysis:Introduction to Further Topics in Analysis[M]. Princeton University Press, 2011.
丘维声. 简明线性代数[M]. 北京: 北京大学出版社, 2002.
居于马. 线性代数(第2版)[M]. 北京: 清华大学出版社, 2002.
李尚志. 线性代数[M]. 北京: 高等教育出版社, 2002.
李炯生. 线性代数(第2版)[M]. 合肥: 中国科学技术大学出版社, 2010.
龚昇. 线性代数(第2版)[M]. 合肥: 中国科学技术大学出版社, 2005.
任广千, 谢聪, 胡翠芳. 线性代数的几何意义[M]. 西安: 西安电子科技大学出版社, 2015.
Kuldeep Singh. Linear Algebra: Step by Step [M]. OxfordUniversity Press,2014.
Gilbert Strang. Introduction to Linear Algebra (FifthEdition) [M]. Wellesley-Cambridge Press, 2016.
David C. Lay et al. Linear Algebra and Its Application (FifthEdition) [M]. Pearson,, 2016.
Sheldon Axler. Linear Algebra Done Right (Third Edition) [M].Springer, 2015.
Gerald Farin, and Dianne Hansford. Practical Linear Algebra:A Geometry Toobox (Third Edition) [M]. CRC Press, 2013.
Gilbert Strang. Linear Algebra and Learning from Data [M].Wellesley-Cambridge Press, 2019.
徐仲. 矩阵论简明教程(第3版)[M]. 北京: 科学出版社, 2014.
张贤达. 矩阵分析与应用(第2版)[M]. 北京: 清华大学出版社, 2013.
Gene H. Golub, and Charles F. Van Loan. Matrix Computation(Fourth Edition) [M]. The Johns Hopkins University Press, 2013.
Roger A. Horn, and Charles R. Johnson. Matrix Analysis(Second Edition) [M]. Cambridge University Press, 2013.
盛骤, 谢式千, 潘承毅. 概率论与数理统计(第4版)[M]. 北京: 高等教育出版社, 2008.
陈希孺. 概率论与数理统计[M]. 合肥: 中国科学技术大学出版社, 2017.
Jay L. Devore. Probability and Statistics for Engineering andthe Sciences (Ninth Edition) [M]. Cengage Learning, 2016.
Morris H. DeGroot, and Mark J. Schervish . Probabilityand Statistics (Forth Edition) [M]. Pearson, 2012.
高惠璇. 应用多元统计分析[M]. 北京大学出版社, 2004.
王静龙. 多元统计分析[M]. 科学出版社, 2008.
T. W. Anderson. An Introduction to Multivariate StatisticalAnalysis (Third Edition) [M]. John Wiley & Sons, 2003.
Richard A. Johnson, and Dean W. Wichern . Applied Multivariate Statistical Analysis (SixthEdition) [M]. Pearson, 2007.
程士宏. 测度论与概率论基础[M]. 北京: 北京大学出版社, 2004.
严加安. 测度论讲义(第2版)[M]. 北京: 科学出版社, 2004.
Krishna B. Athreya, and Soumendra N. Lahiri. Measure Theoryand Probability Theory (Third Edition) [M]. Springer, 2006.
Paul R. Halmos. Measure Theory [M]. Springer Science+Business Media, 1974.
胡迪鹤. 高等概率论及其应用[M]. 北京: 高等教育出版社, 2008.
郑忠国. 高等统计学[M]. 北京: 北京大学出版社, 2012.
Craig A. Mertler, and Rachel Vannatta Reinhart. Advanced and MultivariateStatistical Methods: Practical Application and Interpretation (Sixth Edition)[M]. Routledge, 2017.
Eugene Demidenko. Advanced Statistics with Applications in R[M]. John Wiley & Sons, 2020.
何书元. 随机过程[M]. 北京: 北京大学出版社, 2008.
张波, 张景肖. 应用随机过程[M]. 北京: 清华大学出版社, 2004.
Sheldon M. Ross. Introduction to Probability Models (TwelfthEdition) [M]. Academic Press, 2019.
Robert G. Gallager. Stochastic Processes: Theory forApplications [M]. John Wiley & Sons, 2013.
David Forsyth. Probability and Statistics for ComputerScience (Twelfth Edition) [M]. Springer, 2018.
Luc Devroye et al. A Probabilistic Theory of PatternRecognition [M]. Springer, 1997.
《运筹学》教材编写组. 运筹学(第4版)[M]. 北京: 清华大学出版社, 2013.
胡运权, 郭耀煌. 运筹学教程(第5版)[M]. 北京: 清华大学出版社, 2018.
Frederick S. Hillier, and Gerald J. Lieberman. Introductionto Operation Research (Tenth Edition) [M]. McGraw-Hill Education, 2015.
Hamdy A. Taha. Operation Research:An Introduction(Tenth Edition) [M]. Pearson, 2017.
陈宝林. 最优化理论与算法(第2版)[M]. 北京: 清华大学出版社, 2018.
高立. 数值最优化方法[M]. 北京: 北京大学出版社, 2014.
Edwin K. P. Chong, and Stanislaw H. Zak. An Introduction toOptimization (Fourth Edition) [M]. John Wiley & Sons, 2013.
Jorge Nocedal, and Stephen J. Wright. Numerical Optimization(Second Edition) [M]. Springer, 2006.
Stephen Boyd, and Lieven Vandenberghe. Convex Optimization[M]. Cambridge University Press, 2004.
Yuni Nesterov. Lectures on Convex Optimization (SecondEdition) [M]. Springer, 2018.
李航. 统计学习方法(第2版)[M]. 北京: 清华大学出版社, 2019.
周志华. 机器学习[M]. 北京: 清华大学出版社, 2016.
Yuni Nesterov. The Elements of Statistical Learning: DataMining, Inference, and Prediction (Second Edition) [M]. Springer, 2009.
Tom M. Mitchell. Machine Learning [M]. McGraw-Hill Education,1997.
Christopher Bishop. Pattern Recognition and Machine Learning[M]. Springer, 2006.
Mehryar Mohri et al. Foundation of Machine Learning (SecondEdition) [M]. The MIT Press, 2018.
Kevin P. Murphy. Probabilistic Machine Learning: AnIntroduction [M]. The MIT Press, 2022.
Shai Shalev-Shwartz, and Shai Ben-David. UnderstandingMachine Learning: From Theory to Algorithms [M]. Cambridge University Press,2014.
Ian Goodfellow etal. Deep Learning [M]. The MIT Press, 2016.
杨强, 张宇, 戴文渊, 潘嘉林 . 迁移学习[M]. 北京: 机械工业出版社, 2020.
杨强, 刘洋,程勇 等. 联邦学习[M]. 北京: 中国工信出版集团, 电子工业出版社, 2020.
周志华. 集成学习:基础与算法(第2版)[M]. 李楠, 译. 北京: 清华大学出版社, 2019.
Richard S. Sutton, and Andrew G. Barto. ReinforcementLearning: An Introduction [M]. The MIT Press, 2018.
Amparo Albalate, and Wolfgang Minker. Semi-Supervised andUnsupervised Machine Learning [M]. ISTE, and John Wiley & Sons, 2011.
Christoph Molnar. Interpretable Machine Learning: A Guide forMaking Black Box Models Expainable [M]. lulu.com, 2020.
Judea Pearl. Causality: Models, Reasoning, and Inference(Second Edition) [M]. Cambridge University Press, 2009.
注:本文版权归作者个人所有,如需转载请联系作者,未经授权不得转载。
人工智能中的运筹学与最优化就该这样学之知识体系相关推荐
- 人工智能中的运筹学与最优化就该这样学之著名教材
本文为读者朋友们推荐一些运筹学与最优化方面的常用教材,方便读者选择相应的教材进行学习,提高学习效率.由于教材非常多,本文只列出了部分,读者也可以自己进行搜索,选择适合自己的教材. 首先来看运筹学方面的 ...
- 人工智能中的运筹学与最优化就该这样学之精品课程
为了方便读者朋友们通过观看视频的方式自学运筹学与最优化的相关内容,本文列出了一些可供参考的在线课程.在线课程非常多,本文仅仅列出了其中的一部分,读者朋友们也可以在网上自行搜索,然后根据自己的喜好进行选 ...
- 人工智能中的运筹学与最优化就该这样学之学习路线
运筹学与最优化是对AI具体问题进行建模和求解的核心理论之一,学习难度较大,必须按照合理的学习路线逐步进阶学习.具体的学习路线见图 3-12.首先,可以先通过运筹学教材的学习了解运筹学的研究内容和基本理 ...
- 《如何高效学习》:将所学的知识运用到实际中去
本书主要讲的就是整体性学习的好处,就好比是战略 vs 战术的战略,道 vs 术的道.作者斯科特•扬(Scott Young). 偶然观察到的一个学习现象的细致阐述,那就是学得好的同学总在试图找寻知识间 ...
- 人工智能中的分析学快速入门之知识体系
关于人工智能中的分析学快速入门的介绍安排如下:(1)在知识体系构成部分,将详细介绍AI所需的分析学核心知识,即微积分知识:其它内容(诸如数学分析.实分析.复分析.傅里叶分析.泛函分析等)不做展开和深入 ...
- 人工智能中的核心数学知识体系
下面讨论重要的问题:AI用到了数学体系中的哪些核心知识? 当你成为一个AI领域的熟手之后,每当遇到难以解决的问题时,其实最常见的问题多半是找不到解决当前问题的思路,即没有好的算法解决当前遇到的问题.有 ...
- 人工智能中的分析学快速入门之著名教材
分析学方面,特别是微积分方面的教材特别多,这里推荐几本国内外非常著名的教材,以供大家参考,国外的教材写的比较生动详尽,将理论的来龙去脉交代得非常清楚:国内的教材则写的比较简洁,框架比较清晰.两者各有优 ...
- 人工智能中的线性代数与矩阵论学习秘诀之精品课程
读者朋友们如果希望通过观看视频的方式自学线性代数与矩阵论的相关内容,下面列出的一些课程可供参考.在线课程非常多,本文仅仅列出了其中的一部分,读者朋友们也可以在网上自行搜索,然后根据自己的喜好进行选择. ...
- 人工智能中的概率论与统计学修炼秘籍之著名教材
概率论与统计学的学习者众多,为了迎合不同学习者的需求,各种教材种类繁多.眼花缭乱.为此,非常有必要推荐一些常用的教材给人工智能学习人员,提升学习的效率,提高学习的效果.根据学习逐渐深入的顺序,本文将按 ...
最新文章
- 4.3.5 子网划分和子网掩码
- WPF---Xaml中改变ViewModel的值
- 12.Linux之输入子系统分析(详解)
- 分类器是如何做检测的?——CascadeClassifier中的detectMultiScale函数解读
- 1033. 旧键盘打字(20)
- Windows mysql-64位 数据库安装
- oracle互换2条记录,ORACLE中确定表里哪些行是彼此互换的
- C# dll加载,抽象方法的使用
- 【poj1995】Raising Modulo Numbers
- Download SQL Server Management Studio (SSMS)下载地址
- 传智播客 朴素贝叶斯 算法评估 交叉验证与网格搜索 学习
- Java中 Cloneable 、Serializable 接口详解
- oracle安装教程以及使用注意事项
- Spring5 系统架构
- 幼儿抽象逻辑思维举例_语言训练幼儿逻辑思维——抽象篇
- windows7到底是多用户多任务操作系统还是单用户多任务操作系统
- thinkadmin模板渲染与赋值
- re的剩余模块和subprocess模块
- 定额人工费调整差额的几个解决方案
- 机器学习——回归——一元线性回归
热门文章
- 大V 对 2022 年及以后的 DeFi 预测
- DSP/BIOS设计指导书
- 【PyQt5】教你一招,分分钟撸一个网易云音乐的UI界面
- 刘铁岩:博弈机器学习是什么?
- mac上安装旧版火狐与firebug和firepath插件
- 华中科技大学计算机课程设计,华中科技大学计算机学院操作系统课程设计报告[1] (精选可编辑)...
- 计算机vba函数,vba 常用函数详解.doc
- Unity中内嵌网页插件 UniWebView,缩放网页
- H5 canvas画布 字体图片模糊变清晰
- MySQL安装与Navicat 图形化客户端工具