读书笔记DAY 1 - 复杂网络上的博弈及其演化动力学


我是一个时间戳
2021/4/30 14:55:46
这是我开始的日子嘻嘻

Hello,朋友们又见面啦,自从这个月13号接到导师的任务,我也不知道怎么解释前面的大半个月自己在干嘛,自欺欺人的说是在做前期准备吧,现在决定正式开始努力啦,在啃书啃论文的同时也会加入自己的理解,偶尔努力但是经常碎碎念,大家一起加油哇(手动可爱:D


复杂网络

  • 复杂网络由节点以及节点之间的连线构成,节点-系统的基本组成单元,连线-系统中个单元之间的交互关系

演化博弈

  • 演化博弈是刻画群体决策形成和演化的一种基本范式,结合了传统博弈论与生物进化论。以参与群体为研究对象,通过分析群体策略选择突变作用下的演化过程,从而解释预测个体在交互决策情境中的博弈行为。(从系统动态的角度考察个体决策到群体决策的形成机制)

复杂网络上的演化博弈

  • 复杂网络上的演化博弈是一种自下而上的科学范式,从个体的行为规则、个体之间的交互方式和结构进行建模,来探讨群体行为的形成和演化机制。
  • NOTE:将系统行为作为一个整体的研究方式不受传统还原论方法的限制,从而能够预言复杂系统丰富的整体行为。

研究方向

  1. 从个体到群体:即通过对个体之间的交互关系网络和决策动力学进行建模和分析,定量研究并预测网络群体的博弈动力学行为。
  2. 从群体到个体:即根据对群体策略的要求,设计个体之间的交互机制或对个体的决策动力学进行干预,使得网络群体的整体行为能够达到预期设定的要求。

此书可以分为三大部分

  • 第一部分

    • 1-2章 博弈论和演化博弈论的基本概念以及相关的动力模型
  • 第二部分
    • 3-6章 复杂网络上的博弈及演化动力学模型

      • 1.网络博弈模型的概念
      • 2.复杂网络上的随机漂移过程
      • 3.复杂网络上的常数选择过程
      • 4.复杂网络上的演化博弈过程
  • 第三部分
    • 7-10章 复杂网络上的演化博弈热门主题
    1. 复杂网络上的合作涌现机制
    2. 符号网络上的演化博弈
    3. 行为网络上的演化博弈
    4. 博弈学习动力学在分布式协同控制的应用

第一章 博弈论简介

  • 博弈论是研究多个自主体在利益相关情形下的决策行为的理论。
  • 多个个体具有独立决策的自主性,它们的利益却相互关联或冲突,博弈论通过建立适当的数学模型和工具,来分析、预测和干预自主个体在利益相关情形下的决策行为。

1.1 什么是博弈

  • 博弈的三要素:决策个体集合V(player set) 每个决策者所能采用的策略集合S(strategry set) 每个决策者的收益函数U(payoff function)

  • 两人博弈:n=2

  • 多人博弈:n>2

  • 有限策略博弈:每个个体策略集具有有限个元素

  • 两策略博弈:

    Q:为什么要加绝对值?
    G:策略集合还可能为负?或者是说策略集合理元素的方向完全相反表示负?

  • 连续策略博弈:某个个体的策略集为连续集合

  • 对称博弈:个体收益与个体本身无关,仅却决于与它交互的其它策略。

1.囚徒困境博弈(prisoner’s dilemma game) -合作困境

两个囚徒,每个人都有合作和背叛两种选择,都选择合作,每人收益R;都选择背叛,每人收益P;一个选择合作一个选择背叛,合作者收益S,背叛者收益T,收益矩阵如下:

NOTE:收益函数满足T>R>P>S

PS:合作困境:每个个体都倾向于采取有利于自身的策略,最终会导致一个不利于任何个体的结果。

2.公共物品博弈(public goods game) -合作困境

典型多人两策略博弈,,每个个体需要决定是否往公共资金里投入一定的资金c>0(合作策略)或者不如此(背叛策略)。这笔公共资金乘以r>1后,另A和B分别表示合作策略和背叛策略,可以有:

PS:合作困境:不管其它个体采取什么策略,背叛策略总能带给个体更多的收益,当所有个体都采取背叛策略时收益为0,小于所有个体都采取合作策略时的收益(r-1)c

3.志愿者困境博弈(volunteer’s dilemma game)

另一类典型多人两策略博弈,有一个问题需要解决,如果团体中有任何一个人付出一定代价c>0(合作行为),问题就可以被解决,其他成员不用付出任何代价;但如果所有人都等待其他人付出(背叛行为),则问题会一直持续到有人解决,问题的持续会给每个人造成a>c>0的代价。

合作困境:每个个体都存在等待他人来解决问题的倾向。

上述收益矩阵和收益表格通常用来刻画有限策略博弈,对于连续策略博弈通过收益函数来刻画。

4.多个体一致性博弈(volunteer’s dilemma game)

一个有多个可在二维平面内移动的机器人组成的多个体系统,系统的目的是使多个机器人达到同一位置,可以通过多个体一致连续性质博弈来刻画。(欧氏距离定义)

续:每个个体按照梯度动力学更新自己的策略,就可以得到最终所有的个体的策略收敛于一致性状态,即纳什均衡点。(典型一致性协议)

NOTE:当所有个体采取相同的策略(即相同的位置)时,每个个体才能获得最大的收益。

纯策略和混合策略

  1. 纯策略 pure strategy:个体只能从其策略集合重选择一种特定策略的方式。
  2. 混合策略 mixed strategy:个体给其策略集合中的每个策略赋予一定的概率,同时按照概率分布随机选择一种策略。(如果个体的策略集合是连续的,混合策略可以通过一个连续概率分布来表示)

博弈的混合扩展->派生

1.2博弈解的概念

理性 (rational)是博弈论中对决策者的一个经典假设,理性假设要求个体具备完备的计算和推理能力,能够计算每种策略给自己所带来的收益,并且以实现收益最大化为目标。通常假设“每个决策者都是理性的”是公共知识(common knowledge),公共知识要求:每个个体都是理性的,每个个体都知道其他所有个体是理性的…

1. 占优策略均衡

在一些博弈中,不论其他个体采取什么策略,某一策略总是比另一策略给个体带来更多的收益,带来更多收益的策略为占优策略(dominant strategy),另一个策略为劣势策略(dominanted strategy)

占优策略:(严格)占优策略(strictly dominant strategy)带给个体更多的收益,理性个体优先选择。

占优策略均衡:(严格)占优策略均衡点,每个个体的策略都是一个(严格)占优策略。
如果一个博弈存在(严格)占优策略均衡,则可以预测每个理性个体都将采取占优策略均衡所对应的策略。

劣势策略:(严格)劣势策略(strictly dominanted strategy)是理性个体应该避免的策略。

2. 纳什均衡 Nash equilibrium

占优策略均衡来预测和分析参与个体在博弈中的决策行为存在很大的局限性,因此有了纳什均衡。

NOTE:

  • 占优策略均衡:一个策略(针对一个个体)
  • 纳什均衡:一个策略组合(针对多个个体)
  1. 纯策略纳什均衡

当所有个体采用策略组合时,没有任何一个个体可以通过单方面改变自身的策略来获取更高的收益。因此,纳什均衡可以看作一个稳定的策略组合。

对于由一个博弈延伸出的混合扩展博弈,可以定义混合策略纳什均衡。

  1. 混合策略纳什均衡

严格混合策略纳什均衡,纳什均衡可以通过最优响应策略(best-response strategy)的形式定义,一个个体的最优响应策略是指使这个个体收益最大化的策略集合。

  1. 最优响应策略

每个个体的最优响应策略是一个集值映射,在纳什均衡中,每个个体的策略是关于其他个体策略组合的最优响应策略,则纳什均衡是最优响应函数的不动点

定理一:纳什均衡的存在性证明。
定理二:任何有限策略博弈都具有至少一个混合策略纳什均衡点。(针对混合策略,纯策略纳什均衡不一定存在)。
定理三:对于一个博弈,如果每个个体的策略集合是欧氏空间中的一个非空闭凸集,且每个个体的收益函数是关于每个个体策略集合的连续拟凹函数,那么这个博弈具有一个纯策略纳什均衡点

  1. 势博弈

势博弈(potential game),一定存在至少一个纯策略纳什均衡点,且其纳什均衡点对应势博弈函数的最大值点。
(定理四:关于势博弈上的一个纯纳什均衡点)

1.3 博弈学习动力学简介

博弈学习:参与个体如何根据所获得的关于博弈以及其他个体策略和收益等信息,不断地调整自己的策略,最终达到纳什均衡点。

  1. 博弈学习框架
    在博弈学习框架中,同一个博弈被假定重复多次,称为重复博弈。

博弈学习框架示意图:

收益信息可以间接地由个体策略和收益函数得到,每个个体的学习规则Hi可以是确定性函数或随机函数,利用上述所有信息来确定下一步的策略。

每个个体的更新策略的时序,可以将博弈学习分为同步学习、异步学习、顺序学习和随时时序学习:

  1. 同步学习(synchronous learning):在每个时刻t所有个体依据对应的学习规则,同时更新自身的策略。

  2. 异步学习(asynchronous learning):在每个时刻t只有一部分个体更新自己的策略,其他个体保持其原来的策略不变。

  3. 顺序学习(sequential learning):个体依照指定的次序依次更新自己的策略,每个时刻t,只有一个个体更新自身的策略,其他个体保持原来的策略不变。

  4. 随机时序学习(random-timing learning):每个时刻t,按照一定的概率选择一个个体更新自己的策略。

  5. 最优响应动力学 best-response dynamics

个体在假定其他个体策略保持不变的情况下,从其最优响应策略中任意选择一个策略,作为下一步的策略。

局限性:

  1. 个体需要获取其他所有个体的策略信息,以及其自身收益函数的解析形式,限制了最优响应动力学的实际应用。

  2. 最优响应动力学需要求解最优响应策略这一优化问题,可能需要很大的计算量甚至不可能实现。

  3. 按照最优响应动力学,个体每一步的策略可能发生很大的改变,但是在实际中,可能策略只能在一个很小的范围内渐变。

  4. 择优响应动力学 better-response dynamics
    即每个个体选择使自己收益有所提升的策略,计算量更小。

在每个时间步,个体在假定其他个体策略保持不变的情况下,从其择优响应策略中任意选择一个策略,作为下一步时间步的策略。(最常见的梯度动力学

第一章到此就结束啦

总结

第一章主要学习了标准形式的博弈模型、博弈的解以及博弈学习动力学,即为应用博弈理论解决实际问题的三个步骤:

  1. 博弈模型:用于对利益相关情形下的各类实际系统进行建模
  2. 博弈的解(主要是纳什均衡):对应实际系统的设计目标
  3. 博弈学习动力学:用于设计实际系统的协同控制算法,以实现设计目标
 我是一个时间戳2021/5/15 0:10:07 啊 第一章终于结束啦

复杂网络上的博弈及其演化动力学读书笔记相关推荐

  1. 第三章 规则网络上的博弈

    一.规则网络上的博弈概述 规则网络上的囚徒困境博弈 基于方格网上的研究发现, 与确定性的模仿最优规则相比, 允许非理性的概率模仿更优规则使得方格网对合作行为的促进效果减弱. 具有重叠三角形结构的 Ka ...

  2. 网络知识 | 《图解TCP/IP》读书笔记(上)

    [网络知识]| 作者 / Edison Zhou 这是EdisonTalk的第290篇原创内容 作为一个专业的IT技术人,一个Web应用开发者,不了解网络基础和协议,怎么能行?本文是我2016年阅读& ...

  3. 网络知识 | 《图解TCP/IP》读书笔记(下)

    [网络知识]| 作者 / Edison Zhou 这是EdisonTalk的第291篇原创内容 作为一个专业的IT技术人,一个Web应用开发者,不了解网络基础和协议,怎么能行?本文是我2016年阅读& ...

  4. 好语言,就该善用它——《C++语言的设计与演化》读书笔记

    C++真是让人又爱又恨的语言之一.很多人都说C++功能强大,其实很多时候他们都是足够幸运的,没有遇到太多需要用代码杂技解决的需求,或者没有亲身维护太多充满"高技巧"的代码的项目.我 ...

  5. 【阅读】《点石成金:访客至上的网页设计秘籍》读书笔记

    写在开头 我发现,我对每个项目所作的最有价值的贡献往往来自于牢记一些关键的可用性原则.我认为,让大部分人理解这些原则,比列出一份可以做/不可以做的清单会更有用. 不需要思考→让页面不言而喻 当我看到一 ...

  6. UNIX网络编程第三版(卷1)读书笔记以及习题-章节1

    1. 几个关键点: client使用read读取socket返回的数据的时候,总是使用一个循环包裹,最主要的原因就是tcp/ip协议传输的时候,数据会根据实际情况进行分节,因此只有循环才能保证读出全部 ...

  7. 世界上最简单的会计书—读书笔记

    世界上最简单的会计书 美 Darrell Mullis, Judith Orloff 前言 本书以一个柠檬汁摊的前世今生,讲述了经营一个企业的过程中会遇到的各种各样与会计相关的知识.正如本书页面文字那 ...

  8. 《史上最伟大的交易》读书笔记

    序章 做空房地产的难度 1.方法 2.时机 第一章 寂寂无闻的保尔森 对冲的作用,不仅仅是降低杠杆,减小波动 更是把期望的基础改变,从涨跌方向改成相对速度 没有万能的投资模式 对冲基金也会亏得不要不要 ...

  9. 《大数据大创新:阿里巴巴云上数据中台之道》-读书笔记

    目录 0. 前言 1. 大数据的发展历程和价值探索 1.1 大数据发展的关键事件 1.2 大数据的内涵和外延 2.阿里的大数据主张 2.1 云上数据中台赋能业务运行图 2.2 阿里数据中台赋能业务全景 ...

最新文章

  1. 重磅!公开课|四旋翼飞行器:算法与实战
  2. python 画图 内存-10种检测Python程序运行时间、CPU和内存占用的方法
  3. 使用ASP生成HTML文件
  4. html页面刷新回到顶部_HTMl页面中返回顶部的几种实现小结
  5. java 打印心形图案_简单漂亮的心形礼品盒折纸手工教程
  6. 数据结构:线性数据结构(2)-队列(栈,队列,deques, 列表)
  7. MongoDB与python交互
  8. POJ3753 根据关键字进行字符串拷贝【文本处理】
  9. Unity3D基础32:屏幕类、时间类与数学类
  10. 163邮箱链接服务器失败是怎么回事,outlook邮箱添加163邮箱账户失败该怎么办?...
  11. 【安全测试工程师】超实用的Web渗透测试学习路线~
  12. 数据之美----雪球网股票组合分析
  13. python爬虫:lxml爬取链家网二手房信息
  14. Pytest测试用例之setup与teardown方法(一)
  15. 尚上优选社区团购业务流程及微服务技术实现
  16. 完整登录、注册页面(无功能)
  17. ASCII码表及键盘码表。
  18. 友盟推送的接入和遇到问题
  19. 昆明理工大学计算机毕业论文,论文的文本格式和装订顺序-昆明理工大学教务处.doc...
  20. 安卓机器人做图软件_绘画机器人andy app下载-美图秀秀绘画机器人v7.0安卓版_5577安卓网...

热门文章

  1. Go 每日一库之 ants
  2. c语言微信抢红包的随机算法,微信红包随机算法是什么?
  3. Macdown接口文档模板
  4. MacDown使用方法
  5. 对数几率回归原理和代码实现--机器学习
  6. 如何提高团队编程水平
  7. PAT乙级(Basic Level)真题-1014 科学计数法 (20)
  8. 丁达尔效应产生的原因_丁达尔现象
  9. [c语言]c语言中a++ ++a在加法运算中和printf函数中的运算顺序(初学者版)
  10. 计算机无线连接不能启动,windows无法配置此无线连接问题解决方案