点击蓝字

关注我们

AI TIME欢迎每一位AI爱好者的加入！

5月25日14:00，本期我们邀请到AAAI的八位学者给大家带来精彩的分享！

5月25日 14:00-14:30

刘方鑫：

上海交通大学计算机系2019级博士研究生，师从蒋力老师。主要研究方向包括存内计算，神经模态计算，以及神经网络软硬件协同设计。作为第一作者在TCAD, DAC, ICCAD, ICCV, AAAI, SIGIR等人工智能、芯片架构与设计自动化领域顶级期刊及会议上发表论文10余篇。个人主页：

https://mxhx7199.github.io/

分享内容：

低延迟、高能效、精度媲美传统神经网络：

ANN-SNN 转换框架SpikeConverter

报告简介：

当前精度最高的脉冲神经网络（SNN）往往是从ANN转化而来。SNN的优势主要体现在用加法取代乘法，用bit数据取代整数/浮点数的高能效计算方式。然而，在当前的同步计算机制下，SNN完成一次前向推理通常需要几百至几千时间步长的模拟，导致了极大的额外延迟和能耗，与SNN的设计初衷相悖。如何能在保持高精度的前提下充分发挥SNN的能效和延迟优势成为一大挑战。

文章旨在优化DNN转化而来的SNN的长时间模拟问题，通过系统建模分析了当前SNN中神经元的执行机制，设计了全新的ANN转SNN框架，极大减少模拟时间步长。在当前同步计算机制下，最大程度地利用了层间并行，仅需要16个时间步长即可完成一次SNN的前向推理，实现了数量级上的性能和能效提升。

5月25日 14:30-15:00

魏志鹏：

复旦大学计算机科学技术学院2021级博士研究生，导师为陈静静教授。他致力于多媒体模型对抗攻防安全相关的研究。至今，在AAAI、CVPR、ICMR等重要国际会议上发表论文8篇，其中第一作者论文6篇。个人主页为：https://zhipeng-wei.github.io/。

分享内容：

针对视频动作识别模型与vision transformer的迁移攻击方法

报告简介：

以深度学习为代表的新一代人工智能的快速发展，为人们的生产生活提供了便利。然而，恶意生成的对抗扰动可以欺骗人工智能以进行错误的决策。目前针对图像数据、卷积神经网络的安全性研究较为广泛，然而针对视频数据或者ViT新框架的安全性研究仍较少。因此，我们从视频数据以及ViT两个角度出发，分别提出了基于时序平移的视频迁移攻击方法，以及基于无注意力、PatchOut的ViT迁移攻击框架。实验证明了这两个方法的高效迁移攻击性能。

5月25日 15:00-15:30

李笛扬：

NUIST计算机学院三年级本科生。主要研究兴趣为机器学习和数据挖掘算法，以及他们在实际应用场景下的优化。本篇为李笛扬的第一篇工作，在MBZUAI机器学习系助理教授Bin Gu的指导下完成。

分享内容：

基于常微分方程进行Group Lasso的组块动态更新

报告简介：

Group Lasso是机器学习中一个重要的稀疏回归方法，其L2,1-norm的使用鼓励以分组方式选择关键解释因素。在真实世界的机器学习应用中，由于新增的或过时的历史数据存在，需要添加一些数据块或从旧序列中删除错误数据，通常称为动态或终身学习场景。然而，现有算法仅限于离线训练或者不精确地处理在线样本。为了解决这一具有挑战性的问题，本文提出了一种通过利用常微分方程（ODEs）技术实现精确的动态更新算法，其可以在没有重新训练模型的情况下，增添或删除来自原始训练集的样本块。我们为此引入了一种新的学习框架，基于该表达我们提出了关于调整参数路径的解法。我们在数学上证明了算法可以通过ODEs技术来追踪整个分段光滑的解路径，同时与在新数据上重新训练的模型具有理论等价性。大量的实验结果不仅验证了块增量和减量学习算法的正确性，还在运行效率上远超现有的离线和在线训练算法。

5月25日 15:30-16:00

方尹：

浙江大学计算机科学与技术学院在读博士生，导师为陈华钧教授。目前的研究领域主要包括知识图谱和分子图表示学习。

分享内容：

融入知识图谱的分子对比学习

报告简介：

本文创新性地提出了一种知识增强的分子图对比学习框架Knowledge-enhanced Contrastive Learning (KCL)。KCL利用化学元素知识图谱指导原始分子图的增强过程：(1)为了建立元素之间的微观联系及各元素的基本领域知识，基于化学元素周期表，构建了化学元素知识图谱；(2)通过该知识图谱指导原始分子图的图增强过程，有助于在不相邻但具有相同性质的原子之间建立联系。同时，KCL针对分子增强图设计了知识感知的消息传递网络KMPNN，通过最大化正样本对之间的一致性和难负样本对之间的差异性构建对比损失以优化模型。实验结果证明了KCL在涵盖不同分子属性的8个数据集上的优秀性能，且具有可解释性。

5月25日 16:00-16:30

张雯斌：

卡耐基梅隆大学博士后，研究机器学习的理论基础特别关注其对社会的影响和福利，其他研究兴趣包括深度生成模型和健康信息学。相关工作发表于计算机和跨学科领域，比如AAAI和Radiotherapy and Oncology.

分享内容：

纵向的具有删失的公平性

报告简介：

最近在人工智能公平性方面的工作试图通过提出约束优化程序来减轻歧视，以实现某些公平性统计的评价。大多数工作假设类别标签的存在性，这在许多现实世界的应用中是不切实际的，例如精准医学、精算分析和累犯预测。在这里，我们考虑纵向右删失环境中的公平性，其中事件发生的时间可能未知，导致对类别标签的审查和现有公平性研究的不适用。我们设计了适用的公平性估量，提出了一种去偏算法来连接有和没有删失的公平，并为这些重要的和社会敏感的任务提供必要的理论结构。基于四个删失数据集的实验证实了我们方法的实用性。

学生招募信息：

Michigan tech全奖博士招生，月薪2200美金同时包学费和保险，有兴趣的请联系wenbinzhang@cmu.edu

5月25日 16:30-17:00

张梦玫：

北京邮电大学在读博士生，导师为石川教授。目前的研究领域主要为图神经网络的对抗鲁棒性，其他研究兴趣包括可信图机器学习和联邦学习。

分享内容：

对抗鲁棒的异质图神经网络

报告简介：

我们首次系统地研究了异质图神经网络的鲁棒性，发现异质图神经网络相比传统的同质图神经网络，对于对抗拓扑攻击十分脆弱。经分析，我们发现这种脆弱性是由异质图神经网络的扰动放大效应和软注意机制造成的。为此，我们提出了一种新的鲁棒异质图神经网络框架，通过配置一个注意力净化器，可以同时基于拓扑和特征对恶意邻居进行剪枝。在不同基准数据集和多个异质图神经网络上的实验可以证明我们防御框架的有效性和泛化能力。

5月25日 17:00-17:30

江展洪：

江森自控 Senior AI Scientist。研究兴趣为分布优化和学习。获得过Rudolf E. Kalman 最佳论文奖。

分享内容：

一种基于方差缩减的多智能体强化学习方法

报告简介：

本文提出了一种新的多智能体强化学习策略梯度方法，该方法利用了方差缩减以及偏差矫正技术，并且不需要在迭代过程中进行大量处理。具体地说，提出了一种基于动量的分散策略梯度跟踪（MDPGT），其中使用一种新的基于动量的方差缩减技术来近似具有重要抽样的局部策略梯度代理，并采用一个中间参数来跟踪两个连续的策略梯度代理。此外，MDPGT可证明达到了O（N）的最佳可用样本复杂度−1ε−3） 收敛到N个局部性能函数（可能是非一致的）全局平均值的ε-平稳点。这比分散无模型强化学习中的最新样本复杂度要好，当使用单个轨迹初始化时，样本复杂度与现有分散策略梯度方法获得的样本复杂度匹配。文章进一步验证了高斯策略函数的理论主张。当所需的误差容限ε足够小时，MDPGT会导致线性加速，这在以前的分散随机优化中已经建立过，但在强化学习中没有。最后，文章提供了一个多智能体强化学习基准环境的实证结果，以支持理论发现。

5月25日 17:30-18:00

檀昊儒：

SmartMore算法研究员。研究兴趣为组合优化，计算机视觉等。

分享内容：

Pale Transformer - 一种通用视觉骨干模型

报告简介：

最近，Transformer在各种视觉任务中展示出了良好的性能。为了降低全局注意力机制所带来的平方级别的计算复杂度，各种方法使用局部注意力机制来提高效率。然而，常用的局部注意力机制在单个层中的感受域不够大，导致上下文视觉信息建模不足。为了解决这个问题，我们提出了一个栅形的自注意机制 (PS-Attention)，与全局机制相比，PS-Attention算法可以显著减少计算量和内存消耗。同时，在计算复杂度与其他局部自注意机制相似的情况下，可以捕获更丰富的上下文信息。在PS-Attention的基础上，我们开发了一种通用的Vision Transformer骨干，名为Pale Transformer。在图像分类任务是，Pale Transformer分别以为22M、48M和85M的模型尺寸实现了83.4%, 84.3%, and 84.9% Top-1 精度，超越了之前的Vision Transformer骨干。对于下游任务，我们的Pale Transformer在ADE20K语义分割和COCO对象检测与实例分割方面的表现显著好于当前最先进的视觉模型。

直播结束后大家可以在群内进行提问，请添加“AI TIME小助手（微信号：AITIME_HY）”，回复“AAAI”，将拉您进“AAAI交流群”！

AI TIME微信小助手

主       办：AI TIME

合作媒体：AI 数据派

合作伙伴：智谱·AI、中国工程院知领直播、学堂在线、蔻享学术、AMiner、 Ever链动、科研云

往期精彩文章推荐

记得关注我们呀！每天都有新知识！

关于AI TIME

AI TIME源起于2019年，旨在发扬科学思辨精神，邀请各界人士对人工智能理论、算法和场景应用的本质问题进行探索，加强思想碰撞，链接全球AI学者、行业专家和爱好者，希望以辩论的形式，探讨人工智能和人类未来之间的矛盾，探索人工智能领域的未来。

迄今为止，AI TIME已经邀请了600多位海内外讲者，举办了逾300场活动，超170万人次观看。

我知道你

在看

哦

~

点击 阅读原文 预约直播！