2020年9月18日下午14:00-17:30，ChinaMM2020举办了鲁棒人工智能与多媒体计算讲习班，本次讲习班主要围绕人工智能系统的鲁棒性和多媒体计算，进行了精彩的报告和激烈的讨论。主讲嘉宾有东南大学耿新教授、西安交通大学沈超教授，南京理工大学魏秀参教授、电子科技大学徐行副教授、以及清华大学朱军教授。本次活动由清华大学孙立峰教授、电子科技大学杨阳教授担任主持人。

报告1：动态开放环境下的细粒度图像分析

魏秀参教授以动态开放环境下的细粒度图像分析为例，介绍计算机视觉研究相关的AI鲁棒性问题。首先，魏秀参教授介绍了细粒度分类问题的众多应用场景和挑战，提出随着智能感知往多维度发展，静态封闭环境的假定就不存在，而且静态标记很难获取，细粒度监督级别的信息收集更为艰难。之后，魏教授介绍了在动态环境下的细粒度图像分类，包括（1）小样本的细粒度图像识别；（2）存在长尾分布问题的细粒度图像识别；（3）无监督的细粒度物体定位；（4）通过强化学习的方式与环境进行交互，以及更多数据类别增强及细粒度的领域自适应问题。最后，魏教授对细粒度图像分析领域的研究问题和方法进行了总结。

报告2：标记增强——释放标记空间的威力

耿新教授报告的主题是标记增强，即将机器学习中最常用的0/1标签扩展到更为丰富的类别监督形式。耿教授首先提到，标记增强是对类别标记质量的增加，而非对标签数量的增加。因为在实际情况下类别的定义是有模糊性、不确定性和有歧义性的，所以需要更为精细的标签来表示数据的类别。随后，耿教授从模糊标签、概率性标签、标签蒸馏等研究方向介绍了现有的标记增强的方法及应用。最后，耿教授总结了标记增强的概念、理论及应用，为标记空间中的许多操作提供了可能性。

报告3：数据与机理融合的机器学习系统安全

沈超教授从安全研究人员的角度探讨了机器学习与安全之间的关系，并分析了机器学习系统所面临的安全威胁。沈超教授首先介绍当前人工智能系统面临许多安全隐患，随后，沈教授从输入、数据预处理、机器学习的网络模型、应用等层面分析了人工智能系统面临的安全和隐私风险。最后，沈教授提出未来希望能够在数据和机理融合的情况下，在对抗环境下进行数据感知增强，从而得到更加智能、更加鲁棒的AI系统。

报告4：面向序列识别模型的基于优化的对抗攻击方法

徐行副教授主要介绍了基于DNN结构的序列识别模型的鲁棒性研究。徐教授首先介绍了对抗样本、白盒攻击、黑盒攻击、非指向型攻击和指向型攻击的基本概念。随后，基于场景文本识别和图像描述任务，徐教授介绍了其针对序列模型设计的白盒攻击的方法，该方法能同时适用于指向型攻击和非指向型攻击，实验结果表示，攻击成功率接近100%。最后，徐教授表明未来将会在黑盒攻击和物理攻击方面对序列识别问题进行更多的探索。

报告5：对抗机器学习的一些进展

朱军教授介绍了深度学习对抗攻击与防守方面的最新研究进展，包括对抗攻防的全面评测、赢得竞赛的解决方案以及一些近期的工作。首先，朱教授表明现实世界中有很多不确定性能够被攻击，对抗攻击和防御是深度学习中的一个关键问题。随后，朱教授介绍了其在对抗攻击方面的研究工作《Improving Black-box Adversarial Attacks with a Transfer-based Prior》和其在防御方面的研究工作《Rethinking Softmax Cross-Entropy Loss for Adversarial Robustness》。在报告最后，朱教授提到其团队最新研究开发的开放的攻防平台RealSafe benchmarking，能够从更全面的角度评测不同攻击强度和不同模型下算法的综合性能。

Panel环节

在panel环节，各位嘉宾就AI鲁棒性的评价标准、是否有通用的攻击方法、对抗样本的设计以及多媒体系统中AI鲁棒性等问题发表了自己的见解。