鲁棒人工智能与多媒体计算讲习班

时间：2020年9月18日下午14:00至17:30

地点：会场3（二楼26号厅）

主持人：孙立峰、杨阳

主讲嘉宾：耿新 东南大学

报告题目：标记增强——释放标记空间的威力

摘要：目前多数的机器学习范式中，示例的标记均采用0/1标记，即0表示不相关，1表示相关。在这种0/1标记形成的标记空间中，所有样本只能分布在单位超立方体的顶点上，这极大地限制了标记空间中可进行的分析。通过学习训练集中示例之间的相关性、以及标记之间的相关性，我们可将原始0/1标记扩展为更丰富的类别监督形式，从而使标记空间中更复杂的分析操作成为可能，这一过程称为“标记增强”。通过标记增强，标记空间的威力可望被释放出来。

个人简介

耿新，东南大学教授，计算机科学与工程学院、软件学院院长，人工智能学院执行院长。国际工程与技术学会（IETI）杰出会士、国家基金委优青、江苏省杰青。主要从事模式识别、机器学习、计算机视觉等方面的研究，在这些领域的重要国际学术期刊和会议发表论文80余篇。曾获国家级教学成果奖一等奖、教育部自然科学奖一等奖等多项教学、科研奖励。现任教育部高校计算机类专业教指委人工智能专家委员会委员、CCF学术工委、青年工委执委，CSIG视觉大数据专委会副主任，IEEE计算机学会南京分会副主席，亚太国际人工智能会议（PRICAI）指导委员会委员，江苏省计算机学会副理事长，CCF人工智能与模式识别专委会常委、计算机视觉专委会常委，中国人工智能学会模式识别专委会常委、机器学习专委会委员，《IEEE T-MM》、《Electronics》《Mathematical Foundations of Computing》等期刊编委，《Frontiers of Computer Science》青年编委。曾任知名国际会议PRICAI’18程序委员会主席，CVPR、ACMMM、ICPR等重要国际会议领域主席。

主讲嘉宾：沈超 西安交通大学

报告题目：数据与机理融合的机器学习系统安全

摘要：机器学习技术引领的人工智能浪潮正在为人类生产和生活带来深刻的技术变革，基于“深度学习+大数据+高性能计算”的端到端解决方案为许多复杂任务（例如计算机视觉、无人驾驶等）提供了有效解决途径，在某些特定领域其能力已经接近甚至超越人类。但是在美好蓝图之下，机器学习系统及应用在数据安全、模型安全和代码安全等方面的安全问题也逐渐暴露出来，智能安全已经成为一个不容忽视的问题。本次报告将从安全研究人员角度探讨机器学习与安全之间的关系，分析机器学习系统所面临的安全威胁。

个人简介：

沈超，西安交通大学自动化系教授/博士生导师，网络空间安全学院副院长，国家优秀青年科学基金获得者、阿里巴巴达摩院青橙奖获得者、教育部霍英东青年教师奖一等奖获得者。目前主要从事数据驱动的网络与系统安全、可信人工智能、信息物理融合系统综合安全、安全大数据分析的研究工作。近年来主持了国家自然科学基金、重点研发计划课题、预研重点基金等部委与企业项目30余项。研究成果发表论文70余篇，包括USENIX Security, ACM CCS, ASE, Automatica, IEEE TFS, IEEE TYCB, IEEE TDSC, IEEE TIFS等期刊和会议；获得教育部自然科学二等奖1项，7次国内外学术会议最佳/优秀论文的奖励；主持和参与研制了多个重要系统并应用于国家大型企事业单位。担任IEEE Transactions on Dependable Secure Computing等多个国际期刊的副编辑或编委，以及数十个国内外学术会议的组织委员会成员或程序委员会成员。

主讲嘉宾：魏秀参 南京理工大学

报告题目：动态开放环境下的细粒度图像分析

摘要：在传统计算机视觉研究中，图像分析的目标对象隶属类别通常是诸如“狗”、“车”和“鸟”等传统意义上的类别分类、检索等。而在许多实际应用中，图像对象往往来自某一传统类别下较细粒度级别的不同子类类别，如不同种类的“狗”：“哈士奇”、“阿拉斯加”、“比熊”；或不同种类的“车”：“奥迪”、“宝马”、“奔驰” 等。细粒度级别图像分析是针对此类问题的一个计算机视觉领域研究方向，且是计算机视觉领域的热门研究课题，其目标是对上述细粒度级别图像中的物体子类进行定位、识别及检索等视觉分析任务的研究，具有真实场景下广泛的应用价值。然而因细粒度级别子类别间较小的类间差异和较大的类内差异，使其区别于传统图像分析问题成为更具挑战的研究课题。本次报告将以动态开放环境下的细粒度图像分析为例，介绍计算机视觉研究相关的AI鲁棒性问题。

个人简介：

魏秀参，博士，南京理工大学计算机科学与工程学院教授，南京大学学生创业导师，澳大利亚阿德莱德大学访问学者，曾任旷视南京研究院创始院长。主要研究领域为计算机视觉和机器学习，在相关领域国际顶级期刊如IEEE TPAMI、IEEE TIP、IEEE TNNLS、IEEE TKDE、IEEE TMM、Machine Learning Journal等，及国际顶级会议如CVPR、ICCV、ECCV、IJCAI、ICDM、ACCV等发表论文三十余篇，Google Scholar Citations 1200余次，并带队获得iNaturalist 在内的计算机视觉领域国际权威赛事共4项世界冠军。分别在国际重要会议PRICAI 2018和ICME 2019组织题为“Fine-Grained Image Analysis”的短课程。著有《解析深度学习–卷积神经网络原理与视觉实践》一书。曾获南京经开区中青年优秀人才、南京理工大学青年拔尖人才、CVPR最佳审稿人、南京大学博士生校长特别奖学金等荣誉，担任WebFG 2020 Workshop程序委员会主席，及ICCV、CVPR、ECCV、NeurIPS、IJCAI、AAAI等国际顶级会议程序委员会委员。更多信息：http://www.weixiushen.com/

主讲嘉宾：徐行 电子科技大学

报告题目：面向序列识别模型的基于优化的对抗攻击方法

摘要：近年来大量关于对抗攻击的研究已经证实，为非序列识别任务（如图像分类、检测和分割）而设计的深度神经网络模型（DNN）很容易被对抗样本所欺骗。然而，只有少数研究关注对序列识别模型的鲁棒性问题。这些方法通常将针对非序列识别提出的攻击方法应用于序列识别模型，而忽略序列间的依赖关系。本次报告将介绍基于DNN结构的序列识别模型的鲁棒性研究。我们将以场景文本识别和图像描述任务为例，介绍一种通用的基于优化的对抗样本生成方法，通过引入序列相关性，从每个字符(或单词)的梯度中依次学习对抗性扰动。大量实验分析表明，本报告中提出的对抗攻击方法能够以更高的成功率和时间效率生成对抗样本，并实现对主流场景文字识别和图像描述的DNN模型的攻击。

个人简介：

徐行，本科、硕士毕业于华中科技大学，博士毕业于日本九州大学。2016年加入电子科技大学计算机科学与工程学院，现任副教授。研究方向包括跨媒体智能、多模态学习和计算机视觉。近五年已在多媒体、计算机视觉及人工智能相关领域的国内外学术期刊和会议累计发表论文70余篇，其中中国计算机学会（CCF）推荐A类会议论文以及中科院JCR二区以上期刊论文30余篇（含ESI高被引论文4篇，ESI热点论文1篇）。获得包含2017年国际多媒体大会ACM MM (CCF-A)最佳论文奖，2017年国际多媒体展览会ICME（CCF-B）的最佳会议论文铂金奖，2020年TMM最佳论文奖等国际会议奖项5项。获得2019年度IEEE计算机协会大数据技术委员会颁发的“杰出青年研究员”荣誉。主持国家自然科学基金2项，省科技厅重大专项1项，并参与多项国家及省部级科研项目。

主讲嘉宾：朱军 清华大学

报告题目：对抗机器学习的一些进展

摘要：在开放动态的应用环境中，人工智能技术面临着对抗噪声的干扰。大量工作显示，性能良好的深度学习模型（或一般的机器学习方法）通常容易被对抗噪声攻击，这给实际应用带来了很多风险。如何有效进行攻击以及如何进行防守受到了学术界和工业界的广泛关注。谷歌在NIPS 2017会议上举办了首届对抗攻击与防御的国际竞赛，促进了相关研究。在这个报告中，将介绍深度学习对抗攻击与防守方面的一些最新进展，包括对抗攻防的全面评测、赢得竞赛的解决方案以及一些近期的工作。

个人简介：

朱军，清华大学计算机系教授、人工智能研究院基础研究中心主任。2001到2009年获清华大学计算机学士和博士学位，之后在CMU做博士后，2011年回清华任教，2015到2018年任卡内基梅隆大学兼职教授。主要从事机器学习基础理论、高效算法及应用研究，在国际重要期刊与会议发表论文百余篇。担任IEEE TPAMI的副主编、AI编委，担任机器学习国际大会ICML2014地区联合主席，ICML、NIPS、IJCAI、AAAI等国际著名会议的领域主席20余次。获CCF自然科学一等奖、北京市教学成果一等奖、ICME最佳论文奖、CCF青年科学家奖、JP Morgan教师研究奖等，入选科技部中青年创新领军人才、MIT TR35中国先锋者以及IEEE Intelligent Systems评选的“AI’s 10 to Watch”。带领团队研制“珠算”深度概率编程库、“天授”强化学习库和RealSafe对抗攻防平台，获得首届“对抗样本攻防竞赛”国际竞赛所有三个任务的冠军、ViZDoom对抗决策国际竞赛2018年冠军等7项、部分算法成为主流开源软件FoolBox、CleverHans的标准算法。