点击蓝字

关注我们

AI TIME欢迎每一位AI爱好者的加入！

01

预告一：NeurIPS 2021专场二

2月23日下午2点，本期AI TIME NeurIPS邀请了来自多伦多大学、北京大学、斯坦福大学、新加坡南洋理工大学、清华大学、苏黎世联邦理工学院 (ETH Zurich) 和德国马克思普朗克研究所智能系统所、德国慕尼黑工业大学、南加州大学以及阿卜杜拉国王科技大学的博士们开启NeurIPS专场二！

哔哩哔哩直播通道

扫码关注AITIME哔哩哔哩官方账号预约直播

★ 嘉宾简介 ★

凌欢：

多伦多大学博士生，英伟达Toronto-AI Lab研究科学家，加拿大向量学院(Vector Institute) 研究员， 导师为Sanja Fidler, 主要研究方向是2D 计算机视觉和生成模型的应用。已在CVPR、Neruips 等国际会议发表数十篇论文。

分享内容：EditGAN: 高精度图片语义编辑

生成对抗网络 (GAN) 最近在图像编辑领域应用很广。然而，大多数基于 GAN 的图像编辑方法通常需要带有语义分割注释的大规模数据集进行训练，仅提供整体的控制，或者仅在不同图像之间进行插值。在这里，我们提出了 EditGAN，这是一种用于高质量、高精度语义图像编辑的新方法，允许用户通过修改其高度详细的部分分割数据来编辑图像。

罗胜杰

北京大学在读博士生，导师为王立威教授，本科毕业于北京航空航天大学高等理工学院。他的研究方向为机器学习，主要关注机器学习算法设计，包括图机器学习，自然语言处理，AI for Science等。他在NeurIPS，ICML等顶级会议上发表了多篇论文并担任审稿人。

分享内容：稳定、快速且准确的基于相对位置编码的核化注意力机制

Transformer结构近年来逐渐成为了人工智能各领域的通用神经网络结构，在包括自然语言处理、计算机视觉、图机器学习、强化学习等领域大放异彩。注意力机制则是Transformer结构的重要组成部分，但由于其计算和存储复杂度与序列长度成平方关系，注意力机制也成为了Transformer不能高效处理长序列的关键瓶颈。已有的工作提出了不同的技术（稀疏化，低秩化，核化等）将注意力机制的复杂度由平方降到次平方或者线性。然而，这些技术存在以下缺陷：一是性能，已有的工作虽然对注意力机制起到了加速效果，但同时一定程度上损失了模型的性能，包括训练不稳定，泛化能力差等；二是普适性，已有的工作通常只考虑了经典的注意力机制，并不能简单将提出的技术迁移到基于相对位置编码的注意力机制，而后者在包括BERT预训练等诸多场景下显示了其相比前者的显著优越性。针对上述问题，我们通过观察到相对位置编码组成Toeplitz矩阵，提出了使用快速傅里叶变换(FFT)进行加速的基于相对位置编码的核化注意力机制，取得了次平方的复杂度，并同时发现了我们的方法能够进一步改善之前方法的训练不稳定的缺陷。我们通过一系列基准实验，包括BERT预训练，语言建模，机器翻译，图像分类等，验证了新算法的稳定性，泛化性和加速效果。

吴雨晨：

斯坦福大学在读博士生，导师为Andrea Montanari 教授。本科毕业于清华大学数学科学系。她的研究方向包括高维统计，MCMC抽样，社区发现，迁移学习。相关研究成果发表在Neurips, COLT 国际会议。

分享内容：动态图上的置信度传播算法

社区发现问题的目的是将网络中的节点划分为连接紧密的社区。最近，有许多工作针对随机块模型中的社区发现问题展开研究。然而，在实际应用中，网络数据通常不是静态的：随着时间推移，节点可能不断的加入网络。比如，在社交网络中不断的有新用户加入；在蛋白质交互网络中，不断有新的蛋白质被发现。为了解决这个问题，我们引入了基于随机块模型的流动随机块模型来模拟这类问题。在算法方面，我们设计了流动置信度传播算法。我们从理论方面证明了流动置信度传播算法的最优性。该算法在多个数据集上均取得了优秀的表现。

王谭：

新加坡南洋理工大学博士生，MReaL实验室成员。主要研究方向为视觉问题中的因果推断、无监督表征学习等。主要研究已发表在CVPR, ICCV, NeurIPS, TNNLS等会议和期刊。

分享内容：基于群的自监督解耦特征学习

因果关系追求的是亘古不变的道理。而想要从繁复的自然观察中获取不变性，至少要先能拆分（disentangle）出来“变”与“不变”。如果不能拆分，因果推理就只是空中楼阁。传统金融乃至社会学领域中，变量（人口、年龄、性别等）本身就是互相解耦（disentangle）的，因此并不存在这一问题；但是在深度学习领域，常用的特征（representation）中各个语义信息却是混杂在一起的，使得因果理论并不能得到完全的应用。此次报告将介绍我们最新的基于群论的自监督特征解耦框架IP-IRM。其利用抽象代数的群论来建模数据之间的变化，结合数据分组、对比学习以及不变性约束来达到解耦特定语义的目标。另一方面，我们将举例介绍该解耦框架如何与现有的因果推理方法相结合，在下游泛化性任务中取得鲁棒的效果。

潘玲：

清华大学交叉信息研究院五年级直博生，导师为黄隆波副教授。她的研究方向主要为深度强化学习、多智能体系统和可持续计算。她关注于设计鲁棒、高效、实际的深度强化学习和多智能体强化学习算法。相关工作发表于机器学习和多智能体系统领域重要的国际会议，包括NeurIPS, AAAI, IJCAI, AAMAS等，并担任（高级）程序委员。她曾访问斯坦福大学、牛津大学，分别师从Prof. Tengyu Ma和Prof. Shimon Whiteson，曾在微软亚洲研究院机器学习组实习，合作导师为陈薇老师。她曾获2020年微软学者奖学金、多次国家奖学金、交叉信息研究院一等奖学金等。主页https://ling-pan.github.io/。

内容分享：基于正则化及Softmax算子的深度多智能体强化学习算法

如何解决 Q-learning 中的过估计是一个重要的问题，并已在单智能体强化学习中进行了广泛的研究。然而，过估计问题在多智能体场景下中受到的关注相对较少。我们发现一种经典的基于Q-learning的多智能体强化学习算法QMIX遭受严重的过估计问题，并且现有方法无法解决该问题。我们提出了一种新颖的基于正则化的更新方法——惩罚偏离基线较远的较大的联合动作值函数以有效稳定其学习过程。我们进一步提出使用在多智能体场景下高效近似的softmax算子来避免潜在的过估计误差。我们提出的Regularized Softmax (RES) Deep Multi-Agent Q-Learning算法具有通用性，可以适用于不同的基于 Q 学习的 多智能体强化学习 算法。我们的实验表明RES算法能够避免严重的过估计问题并显着提升性能。RES算法在一系列合作的多智能体任务中达到了state-of-the-art的结果，并能够拓展到具有挑战性的星际争霸 II 微观管理任务中。

彭崧猷：

博士在读于苏黎世联邦理工学院 (ETH Zurich) 和德国马克思普朗克研究所智能系统所 (Max Planck Institute for Intelligent Systems)，由 Marc Pollefeys和Andreas Geiger共同指导。他的研究兴趣主要在三维视觉和深度学习的交叉，尤其感兴趣于研究三维场景的隐式和展示神经表达，以及它们在三维重建和神经渲染上的应用。个人主页: https://pengsongyou.github.io/

内容分享：以点为形: 可微分的泊松求解器

在过去的几年中，神经隐式表达因为其出色的表达能力以及灵活性而大受欢迎，但是它也受限于较慢的预测时间。在我们这篇文章里，我们重访了经典但强大的显式点云表达，并提出了一个可微分的泊松求解器，它可以高效的将有向的点云通过一个隐式的指示函数转化成稠密网格。这样的点和网格之间的联系使得我们可以用简单，轻量并可解释的点云作为形状表达，这也使得预测时间相较于神经隐式表达加速了一个量级。同时相较于其他显示表达，我们又可以对各种不同拓扑的形状建模。最后，我们在基于纯优化以及基于深度学习的三维表面重建的任务上都表现出有效性。

张扬：

德国慕尼黑工业大学Robotics, Cognition, Intelligence专业研究生。目前在Nassir Navab教授名下从事可解释性机器学习研究，以第一作者身份发表相关论文于NeurIPS，MICCAI等会议。

内容分享：解释神经网络：使用信息瓶颈识别输入特征

解释黑盒神经网络的一种主要方法是特征归因（feature attribution），即识别输入特征对网络预测的重要性。最近有方法提出使用信息瓶颈模型来识别特征的信息并以此衡量特征的重要性。之前的方法通常通过在神经网络内部使用信息瓶颈来识别对模型预测有意义的特征。我们提出了一种在输入空间中使用信息瓶颈并识别输入特征的方法。该方法可生成比以往更加细化的模型解释，并且可以应用在任意模型架构上。

王语霖：

清华大学自动化系2019级直博生，导师为吴澄院士和黄高助理教授，此前于北京航空航天大学自动化学院获工学学士学位。研究兴趣为深度学习模型的动态训练和推理算法。曾在T-PAMI、NeurIPS、ICLR、ICCV、CVPR等国际一流期刊、会议上发表多篇学术论文，曾获评百度奖学金、CCF-CV学术新锐奖、CVPR-2021杰出审稿人、清华大学国家奖学金等。

内容分享：图像未必值16x16词：可变序列长度的动态视觉Transformer来了

以ViT为代表的视觉Transformer通常将所有输入图像表征为固定数目的tokens（例如16x16和14x14）。这项工作发现采用定长的token序列表征数据集中所有的图像是一种低效且次优的做法，并提出一种可针对每个样本自适应地使用最合适的token数目进行表征的动态ViT模型。该方法在ImageNet上将T2T-ViT的平均推理速度（GPU实测）加快了1.4-1.7倍。其主要思想在于利用级联的ViT模型自动区分“简单”与“困难”样本，实现自适应的样本推理。为了减少级联模型中的冗余计算，文章还提出了特征重用与关系重用的模型设计思路。

张一舟：

南加州大学维特比工程学院计算机系博士生，导师为Yan Liu教授。他的研究兴趣包括图数据与时序数据上的机器学习及其应用，如社交网络分析，曾在NeurIPS, KDD, TheWebConf, IJCAI, ICDM等学术会议和期刊上发表论文。他于2019年获得北京大学计算机科学与技术学士学位。

内容分享：结合领域知识与数据驱动模型进行虚假账号检测

近年来的研究指出，一些公司或组织使用虚假协作账号（如social bot）来影响社交媒体上的信息传播和公共观点。此类账号的活跃使得社交媒体上的信息可信度大打折扣。因此，亟需一种可以自动化检测此类账号的机器学习模型。本次报告介绍了一种结合了领域知识和神经点过程（一种数据驱动的建模时序点过程的模型）的虚假协作账号检测框架：VigDet。该框架将虚假账号检测建模为最大化一个条件随机场（CRF）上的势函数的过程。其中，领域知识负责构建CRF中的概率图，而神经点过程模型则负责通过最大化数据似然值的证据下界来学习CRF中的一元势函数和账户的表示向量。实验结果表明，VigDet的检测准确率超越了只使用数据驱动模型或者领域知识的基线模型。

许蒙蒙：

目前是阿卜杜拉国王科技大学（KAUST）的图像和视频理解实验室（IVUL）博士生，在Bernard Ghanem教授的监督下。他的研究兴趣是计算机视觉和视频理解。许蒙蒙于2017年获得中国浙江大学光学与光学科学学士学位，并在KAUST获得硕士学位。博士期间，他曾在三星、亚马逊等公司实习。目前，许蒙蒙专注于图像和视频理解中的问题。特别的，他对通过具有新颖模型架构的自我监督学习来表示长篇未修剪的视频感兴趣。他还对视频时序定位任务感兴趣，例如时态动作定位和语言定位。

内容分享：视频中的时序定位 –– 面向实时、灵活、精确的解决方案

得利于数码相机的便利和社交网络的发展，每秒钟都有大量视频都在生成和传播。因此，视频分析和理解成为计算机视觉界最重要的研究课题之一。最近，视频分析的重点逐渐的从片段视频的动作分类转向未修剪视频的时序定位。这是因为在许多现实世界的应用程序中，通常会呈现长的、未修剪的视频，而不是短的视频剪辑。未修剪的原始视频通常具有单调的背景场景和包含特定动作的前景片段，因此我们需要一个视频模型来执行时间定位任务从原始视频中定位前景运动。比如说，根据不同的场景，我们期望自动定位特定的动作，或者预测与给定句子匹配的一小段剪辑。总体来说，我们需要一个面向实时、灵活、精确的解决方案。

钱国成：

阿卜杜拉国王科技大学(KAUST) 计算机科学专业的在读博士生。他的博士生导师是Bernard Ghanem。钱国成于 2018 年获得西安交通大学的学士学位。研究方向：点云理解，高效神经网络设计。

内容分享：让PointNet++更快更强

这篇报告主要介绍NeurIPS 2021 Spotlight论文ASSANet, 也会涉及一些基于ASSANet的新突破。在ASSANet中，我们重新审视并深入研究了 PointNet++，并开发出更快、更准确的模型变体。我们首先提出了一种新颖的可分离集抽象 (Separable Set Abstraction) 模块，它将 PointNet++ 中使用的普通 SA 模块分解为两个独立的学习阶段：(1) 学习通道相关性和 (2) 学习空间相关性。Separable SA 模块以比普通版本快得多的速度，达到了相当的精度。然后，我们在我们的可分离 SA 模块中引入了一个新的各向异性操作，并提出了一个各向异性可分离 SA (ASSA) 模块，该模块大大提高了网络的精度。我们稍后将 PointNet++ 中的 vanilla SA 模块替换为 ASSA 模块，并将修改后的网络命名为 ASSANet。对点云分类、语义分割和部分分割的大量实验表明，ASSANet 优于 PointNet++ 和其他方法，实现了更高的精度和更快的速度。特别是，ASSANet 在 S3DIS Area 5 上的性能比 PointNet++ 高 7.4 mIoU，同时在单个 NVIDIA 2080Ti GPU 上保持 1.6 倍的推理速度。加深后的 ASSANet 达到 66.8 mIoU，性能优于 KPConv，同时速度提高了 54 倍以上。

直播结束后大家可以在群内进行提问，请添加“AI TIME小助手（微信号：AITIME_HY）”，回复“NeurIPS，将拉您进“AI TIME NeurIPS 交流群”！

02

预告二：青年科学家系列专场19

2月23日晚 7:30-8:30

AI TIME 特别邀请中国人民大学副教授，博士生导师刘勇老师为大家带来分享。

哔哩哔哩直播通道

★ 嘉宾简介 ★

刘勇：

中国人民大学副教授，博士生导师。长期从事大规模机器学习统计学习理论研究，共发表论文40余篇，其中以第一作者/通讯作者发表顶级期刊和会议论文30余篇，涵盖机器学习领域顶级期刊TPAMI和会议ICML、NeurIPS、ICLR、IJCAI、AAAI。获中国人民大学“杰出学者”、中国科学院“青年创新促进会”成员、中国科学院信息工程研究所“引进优青”人才称号。主持国家自然科学基金（面上和青年各1项），北京市自然科学基金面上项目。

分享内容：

无监督泛化误差分析初探

报告简介：

近年来，无监督学习在学术和工业界受到了广泛关注。在算法方面，新的无监督算法层出不穷，并取得了不错的性能，然而在理论方面，研究还主要集中在收敛性分析层面，在泛化误差分析层面的研究还处于刚起步的阶段。本报告将介绍无监督泛化误差分析方面的最新研究进展。具体地，基于改进的聚类Rademacher复杂度分析，首次给出了核Kmeans最优泛化误差界。在此基础上，将无监督学习转化为点对学习，给出更一般的无监督学习框架，并对其泛化误差进行界定。相关成果有可能对无监督理论分析和算法设计带来新的思路。

直播结束后大家可以在群内进行提问，请添加“AI TIME小助手（微信号：AITIME_HY）”，回复“PhD-4”，将拉您进“AI TIME PhD 交流群-4”！

AI TIME微信小助手

主       办：AI TIME

合作媒体：AI 数据派

合作伙伴：中国工程院知领直播、学堂在线、智谱·AI、智源研究院、蔻享学术、AMiner、 Ever链动、biendata

往期精彩文章推荐

记得关注我们呀！每天都有新知识！

关于AI TIME

2019年，清华大学人工智能研究院院长张钹院士、唐杰教授和李涓子教授等人联合发起“AI TIME science debate”，希望用辩论的形式，探讨人工智能和人类未来之间的矛盾，探索人工智能领域的未来。

AI TIME是清华大学计算机系一群关注人工智能发展，并有思想情怀的青年学者创办的圈子。AI TIME旨在发扬科学思辨精神，邀请各界人士对人工智能理论、算法、场景、应用的本质问题进行探索，加强思想碰撞，链接全球AI学者、行业专家与爱好者，打造成为全球AI交流与知识分享的聚集地。

我知道你

在看

哦

~

点击 阅读原文 预约直播！