读书笔记15：VAIN:Attentional Multi-agent Predictive Modeling

https://arxiv.org/pdf/1706.06122.pdf

摘要：首先介绍背景，multi-agent predictive modeling是理解很多系统的关键；然后一句话介绍现有情况，最近IN模型被提出，用来解决multi-agent physical system，然后指出这个系统的不足是计算量随着interaction的指数变化；之后提出本文提出一个随着agent数量线性变化的模型；最后指出本文提出的模型在实验中获得了良好的表现。整个abstract的结构是：背景——现状——现状的不足——我们的方法——实验情况。

introduction，第一段指出multi-agent interaction的模拟是理解世界的关键，由此提出multi-agent interaction的推断是机器智能的重要一步。第二段指出multi-agent的问题和现今深度模型的擅长领域出入很大，并具体指出了是哪些方面使得现在的深度模型不能直接用来解决这个问题，也算是背景介绍，然后引出下一段当下的此方向研究状况，指出他们的不足，就开始引入自己的模型了，模型简介之后还是很常规的介绍了实验结果，最后一段概述了下文内容。

intro后面的一部分先是介绍并对比了三个模型，第一个是interaction network（IN），第二个是commnet，第三个是本文模型，IN是用一个神经网络来模拟计算每一个interaction，每次更新一个agent的信息的时候，都会计算所有与之相连的agent和这个agent之间的interaction，因此这个模型复杂度太高O(N^2)，第二个是commnet，这个不计算两两之间的interaction，而是只为每一个agent计算一个interaction vector，之后不论计算哪个agent的更新值，就只要用这个事先计算的interaction vector就行，这样的算法复杂度为O(N)，但是不计算interaction导致的模型能力下降也是一个硬伤。最后本文的模型大致是对于每一个agent先计算communication vector和attention vector，之后计算某一个agent更新值的时候，，其中中的xi就是agent i的特征向量，也就相当于处理了一下的agent i的信息，而这里的应该是少了一个上标c，因为前面都没有出现过这个。我们可以看出，其实本文的模型是将IN计算interaction的神经网络计算简化了，因此既保留了对interaction的考量，又不至于使计算量过大。此外，当物理系统的相互作用不是加性的，不能直接求和，模型会将求和项改为softmax求和。

具体来介绍本文的模型，模型的结构图如下

可以清晰地看出模型的工作过程，首先，对每一个agent都进行两个embedding

这个embedding是单纯为这个agent生成的feature

这个embedding分为两项，第一项是一个communication vector，第二个是一个attention，communication vector顾名思义，是agent之间进行communicate用的。文章中没有提到是什么函数，只是提到了是一个全连接网络。

计算完embedding之后，为每一个agent计算pooled feature

式子还避免了self connection，作者介绍说这种操作的动机是只计算那些相关度比较高的agent，用加权的方式把重要的赋予高权重，不重要的反之。作者还强调，虽然这种操作的数量也是与agent的数量的平方成正比的，但是还是比IN中那种计算interaction的方式要节省资源的多。

计算了pooled feature之后，Pi和原featureFi连接起来作为一个intermediate feature ，最终每个agent的输出也是由全连接网络进行计算的，如果是分类问题的话，结果会被输入到一个softmax层生成agent probability，即

总结一下，这个文章其实也就是描述了一个类似于卷积网络的东西，本文的模型也好，提到的IN网络也好，和其他卷积模型的一个主要区别在于对interaction的关注较多，所以其实本文的模型可以概述为用一些精细的手段计算了agent之间的interaction，然后利用这些interaction来进行agent值的更新，相当于一层卷积网络，更新值（也就是pooled feature）和原feature合在一起（像一个residual），输入到一个decoder D中进行全连接操作，最后接一个softmax，如果是对graph整体分类，加一层整合所有节点feature的全连接层即可。

读书笔记15：VAIN:Attentional Multi-agent Predictive Modeling相关推荐

大数据之路读书笔记-15数据质量
大数据之路读书笔记-15数据质量随着 IT向DT 时代的转变,数据的重要性不言而喻,数据的应用也日趋繁茂,数据正扮演着一个极其重要的角色.而对于被日益重视的数据,如何保障其质量也是间里巴巴乃至业界都 ...
DAMA数据管理知识体系指南-读书笔记15
第15章数据管理成熟度评估一.引言成熟度模型通过描述各阶段能力特点来定义成熟度的级别.当一个组织满足某阶段能力特征时,就可以评估其成熟度等级,并制定一个提高能力的计划.它还可以帮助组织在等级评估 ...
APUE读书笔记-15进程内部通信-05FIFOs
转载于:https://blog.51cto.com/quietheart/843463
.Net之美读书笔记15
.Net反射 .Net 反射为:程序运行时,获取类型的元数据(对类型信息的描述).这里对反射的应用小节一下. 反射的入口(Type) Type为处理反射元数据的类.获取Type的途径. Type ty ...
统计学习导论_统计学习导论 | 读书笔记15 | 广义可加模型
ISLR 7.7 广义可加模型要点: 0.广义可加模型介绍 1.用于回归问题的GAM -- 多元线性回归的推广 2.用于分类问题的GAM -- 逻辑回归的推广 3.GAM的优点与不足 0. Gene ...
《数据科学家访谈录》读书笔记1-5
数据科学家访谈录第1章重要问题的取舍 RelateIQ产品部副总裁DJ Patil DJ Patil"数据科学家"术语创造者,哈佛商业周刊文章<数据科学家:21世纪最诱人 ...
易经读书笔记15地山谦
谦恭合礼,谦谦君子象曰地中有山,谦:君子以裒[póu]多益寡,称物平施. 巍巍乎的高山,藏到地下去了,把空间礼让出来,故曰谦.但山还是山,还有一阳,不然就是坤了.谦的整体感觉就是坎卦,寓意人生会有 ...
[UnityShader入门精要读书笔记]15.渐变纹理
尽管一开始,我们在渲染中使用纹理是为了定义一个物体的颜色,但后来人们发现,纹理其实可以用于存储任何表面属性.一种常见的用法就是使用渐变纹理来控制漫反射的光照的结果.在之前计算漫反射光照时,我们都是使用 ...
读书笔记15 《好好学习》成甲
认知差异术从简,道从心如果你只是孤立地记住一些事物,试图把它们硬凑起来,那你无法真正理解任何事情--你必须依靠模型组成的框架来安排你生活的经验学习无非三个目标:解释问题.解决问题.预测问题数据 ...

读书笔记15：VAIN:Attentional Multi-agent Predictive Modeling

读书笔记15：VAIN:Attentional Multi-agent Predictive Modeling相关推荐

最新文章

热门文章