讨论主旨:
以机器学习为代表的人工智能技术近年来迅猛发展,在多个领域带来驱动性变革,并给人类生产生活乃至 社会发展带来持续且深远的影响。然而,与传统软件系统开发中从需求到实现的“推导式”流程不同,机器学习 模块的实现高度依赖于数据样本的训练和学习,相关技术背后的“不确定性”乃至“不可解释性”给其质量保障带 来了巨大的挑战,也对相关技术的发展与应用带来了不容忽视的影响与制约。
论坛讨论内容与问题:
论坛将围绕人工智能系统质量保障这一议题邀请领域知名学者展开讨论,从需求、测试、分析、验证、度量、 容错等方向探讨相关方向的前沿技术与发展方向。
个人简介:任北京大学高可信软件技术教育部重点实验室常务副主任,国务院学位委员会学科评议组成员(软件 工程),中国计算机学会会士与常务理事,中国计算机学会系统软件专业委员会主任,任 IEEE TSE/ TR 编委,Empirical Software Engineering 编委,《软件学报》执行主编,《计算机学报》副主编。主 要研究领域包括:软件需求工程、知识工程、和基于知识的软件工程等,出版英文专著 3 部,中文编 著 1 部,发表论文 150 余篇。2006 年获得国家杰出青年科学基金资助。
演讲摘要:
个人简介:长期从事面向开放环境的软件技术研究,近期尤其关注软件自适应、智能化软件系统的质量保障等方 向。作为负责人承担了国家 973、863 项目课题、自然科学基金重大项目课题等多项重要科研项目,在 包括 IEEE TSE、TC、《中国科学》和 ICSE、FSE、ASE 等在内的重要学术期刊和会议发表论文百余篇, 曾两次获得国家科技进步二等奖(分别为第 2、第 4 完成人),入选教育部新世纪优秀人才支持计划、 获中创软件人才奖等荣誉。
演讲摘要:复杂软件和系统越来越多地引入基于机器学习的学习赋能构件。这是人们认识和驾驭系统 复杂性的途径,也是应对环境不确定性、动态性和开放性的必然。同时机器学习固有的不确定性也颠 覆着当前软件工程和系统设计方法与技术,智能软件的可靠安全成为了系统的新瓶颈。本报告将从深 度神经网络、深度学习算法、学习赋能构件与系统集成三个层面,探讨基于形式化方法抽象和推理深 度神经网络的可能途径,期望有助于形成可验证的机器学习理论和技术、学习赋能构件的合约设计和 系统集成方法,支撑智能软件系统的可靠、安全设计与保证。
个人简介:国家杰出青年基金获得者,教育部长江学者特聘教授。中国计算机学会杰出会员、理事, 中国计算机学会形式化方法专业委员会主任。主要从事可信软件、智能软件、新型软件技术和系统的 研究。
演讲摘要:随随着大数据、深度学习的快速发展,AI 已大量应用于各种产品,同时也带来了很多风险, 包括安全、可靠、公平性、伦理等挑战,如何开发出可信的 AI,是当前学术界和工业界面临的挑战。 另外从开发人员视角来看,AI 软件开发和传统软件有很大不同,也导致开发过程、质量保证方法与技 术都有很大的差别。本报告将从产业界的视角阐述 AI 软件系统的质量保证挑战,并对 SE4AI 研究需求 给出初步思考。
个人简介:21 年大型软件平台及软件系统领域工作经验的技术开发、架构设计与技术管理经验,先后 担任平台架构师、平台产品经理、开发管理部部长、海外研究所所长、技术战略规划等职位,有丰富 的大规模团队的研发管理、软件工程能力建设经验,在 AI、媒体、物联网、可信技术等领域的规划和 大型产品应用方面有深入理解。
演讲摘要:Autonomous driving attracts lots of attention in recent years. Both startups and OEMs are rushed to commercialize autonomous driving techniques. The current consensus of the community is to realize "eyes off" for consumer vehicles, i.e., Level 3. One big issue for commercializing autonomous driving is safety. In this talk, safety issue will be discussed from technical perspectives with a few well-known accidences.
个人简介:1999 年复旦大学本科,2005 年荷兰莱顿大学硕士,2010 年瑞士苏黎世理工大学博士。2011- 2012 年,在德国 fortiss 研究所担任研究组长,2012-2015 年在德国慕尼黑工业大学担任高级研究员。研 究方向为嵌入式 /CPS 系统及类脑计算的基础理论及其工业应用。工业领域涉及无人驾驶,医疗器械, 仿生机器人。他曾于 2014 年入选青年海外高层次人才引进计划 , 2010 年国家优秀自费留生,及多项 最佳论文 / 提名。作为项目负责人承担广东省重点研发,广州市深圳市重点研发,自然科学基金等项 目。他任 Elsevier 期刊 Circuits, Systems, and Computers 编辑,IET Cyber-Systems and Robotics 副编辑, 《Engineering》青年编辑,CCF“智能机器人”副秘书长,CCF“嵌入式系统”专业委员会委员,自动化学会“机 器人智能”,“车辆控制与智能化”专业委员会委员。曾指导学生获第四届互联网 + 大学生创新创业大赛 国家铜奖,第十一届“挑战杯”大学生创业计划竞赛国家银奖。
演讲摘要:现有神经网络缺陷检测技术主要关注训练好的神经网络模型。与之相比,检测神经网络体系 结构(如 TensorFlow 程序)中的缺陷可以提供很多额外好处:1. 体系结构发行商需要提供质量保障;2. 避免缺陷在多个模型中反复出现和重复检测;3. 避免训练中出现的缺陷;4. 体系结构上的缺陷不涉及训 练数据,更容易定位和修复。在本报告中,我汇报我们基于抽象解释建立的首个神经网络体系结构静态 分析方法,用于检测神经网络上的一类常见缺陷——数值计算缺陷。
个人简介:于 2009 年从日本东京大学获得博士学位,2009-2011 年在加拿大滑铁卢大学工作,2012 年 加入北京大学,现任新体制长聘副教授。熊英飞的研究兴趣是程序设计语言和软件工程,特别是程序 分析、综合和修复。他提出了理论和方法降低程序编写和缺陷修复的代价。比如,基于差别的双向变 换框架是最广泛使用的双向变换框架之一,ACS 将程序修复技术在公共数据集上的正确率从此前不到 40% 提升到 70% 以上。他的工作也被工业界采用,比如新一代 Linux 内核配置项目、燕云 DaaS 系统、 华为公司等。他是 SATE18 的程序委员会联合主席,也在 ICSE、FSE、ASE、ISSTA 等会议担任 PC。
演讲摘要:近年来出现的人工智能技术对攻防对抗产生了重要影响。一方面它可辅助传统攻防手段, 使其智能化与高效化;另一方面,其自身的安全问题,如对抗样本、神经网络后门等,也时刻威胁着 自动驾驶、面部识别支付等多种应用。这次报告将就这两方面展开,包括自然语言理解与深度学习等 人工智能技术在传统攻防中的应用,也将会对自动驾驶目标识别系统以及语音识别系统等进行智能化 对抗
个人简介:信息安全国家重点实验室副主任,《信息安全学报》编辑部主任。中国计算机学会系统软 件专委会常委。主要研究领域包括软件与系统安全、人工智能安全。在 S&P、USENIX Security、CCS 等高水平会议期刊发表论文 100 余篇;曾主持国家自然科学基金重点项目等 40 余项。入选国家“万人计划” 青年拔尖人才、北京市“杰青”、北京市智源青年科学家等。
演讲摘要:软件是计算机系统的灵魂,软件的质量是计算机系统安全可靠运行的保障。随着智能化不 断深入,实现人工智能的软件系统不断增加,如何能够保证智能化软件系统正确、可靠的运行,已成 为软件研究者和软件开发人员所面临的巨大挑战。 机器学习是人工智能领域的重要研究领域,是实现智能化的重要途径。本报告将探讨如何基于机器学 习技术来学习智能化软件的缺陷模式,从而有效识别智能化软件系统的潜在缺陷。
个人简介:主要从事软件挖掘、机器学习方面的研究工作。在《IEEE Trans KDE》等国内外重要学 术刊物和 IJCAI、ICML 等重要国际会议发表论文三十余篇,被国际同行他引两千余次。曾作为主要 成员获国家自然科学二等奖、教育部自然科学一等奖等。应邀担任《Frontiers of Computer Science》 Associate Editor、《自动化学报》编委、国际软件挖掘系列研讨会 Software Mining、PAKDD 首届博士 研讨会 DSDM'11 主席、国际会议 IEEE ICDM 的领域主席、IJCAI、AAAI 的资深程序委员以及 KDD、 NIPS 等多种一流国际会议程序委员;现任 ACM 数据挖掘中国分会执委、中国计算机学会人工智能与 模式识别专委会委员、中国人工智能学会机器学习专委会常务委员等。