简介
人工智能算法在推动信息通讯技术与计算机科学技术融合创新、积极促进经济社会发展的同时,也对数据安全、个人隐私、社会公平性等方面提出了新的挑战。近年来,我国的法律法规给算法治理提供了法律依据,同时由于算法兼具技术属性和社会属性,还需要借助技术来实施算法规制。在张钹院士等人提出的第三代人工智能路径中,把“安全可靠”作为下一代人工智能的核心发展目标,数据与算法安全也成为学界和业界人士重点关注的研究主题之一。本次论坛以“安全可靠人工智能算法”为主题,围绕算法安全、数据安全、算法稳定性、算法公平性等方面进行研究报告和问题研讨,引导国内人工智能领域相关学者聚力突破。
执行主席

董彬,CCF YOCSEF AC委员,北京大学,北京国际数学研究中心长聘副教授
个人简介:董彬,北京大学,北京国际数学研究中心长聘副教授、国际机器学习研究中心副主任、大数据分析与应用国家工程实验室研究员、国家生物医学成像科学中心研究员,CCF YOCSEF学术委员会委员。主要研究领域为科学计算、机器学习及其在计算成像和数据分析中的应用。2014年获得求是杰出青年学者奖,2022年受邀在世界数学家大会(ICM)做45分钟报告。
共同执行主席

于静,CCF YOCSEF AC委员,中科院信工所副研究员
个人简介:于静,中国科学院信息工程研究所副研究员,CCF YOCSEF学术委员会委员,CCF多媒体技术专业委员会委员,。于静致力于计算机视觉-自然语言处理相结合的跨模态智能、信息内容安全等研究领域。在TIP、TMM、PR等国际期刊和ICML、CVPR、AAAI, ACM MM、IJCAI等国际会议发表学术论文40余篇,亦担任TMM、PR、CVPR、ICCV、ECCV、AAAI、IJCAI等学术期刊和会议审稿人。主持和参与国家自然科学基金、国家重点研发计划项目、中科院战略性先导科技专项项目等各类国家级/省部级科研课题10余项。
嘉宾

陈恺,CCF高级会员,中科院信工所研究员
演讲题目:开放环境下的人工智能安全
演讲摘要:报告将介绍开放环境下的人工智能安全问题,包括真实物理世界中的对抗样本、模型的精细化修复等问题。具体将介绍移动平台下的真实神经网络模型,目前学术界常用的模型和数据集多为MNIST、CIFAR-10等,在真实世界中的模型是否会有区别?报告中将详细介绍。针对这类问题,与传统修复方法不同,我们提出了“神经网络手术刀”,可定位出引发错误的神经元进行修复,将传统模型修复的“大手术”转变为“微创手术”。
个人简介:陈恺,中国科学院信息工程研究所研究员,中国科学院大学教授/博士生导师,信息安全国家重点实验室副主任,《信息安全学报》编辑部主任。主要研究领域包括系统安全、人工智能安全。在IEEE S&P、USENIX Security、ACM CCS等发表论文100余篇;曾主持国家自然科学基金(重点项目)等国家、部委课题40余项。担任S&P、USENIX Security、CCS等A类会议程序委员会成员。获得国家“万人计划”领军人才、中国科学院青年科学家奖、CCF-IEEE CS青年科学家奖、北京市“杰出青年”基金、北京市智源青年科学家、CCF杰出演讲者、中国科学院青年创新促进会(优秀会员)等。
嘉宾

崔鹏,CCF杰出会员,CCF YOCSEF AC委员,清华大学长聘副教授
演讲题目:因果启发的稳定学习
演讲摘要:近年来人工智能技术的发展,在诸多垂直领域取得了性能突破。但当我们将这些技术应用于医疗、司法、工业生产等风险敏感领域时,发现当前人工智能在稳定性、可解释性、公平性、可回溯性等“四性”方面存在严重缺陷。究其深层次原因,当前统计机器学习的基础——关联统计自身不稳定、不可解释、不公平、不可回溯可能是问题的根源。相对于关联统计,因果统计在保证“四性”方面具有更好的理论基础。但如何将因果统计融入机器学习框架,是一个开放并有挑战的基础性问题。本报告中,讲者将重点介绍将因果推理引入预测性问题所提出的稳定学习理论和方法,及其在解决OOD泛化问题方面的机会和挑战。
个人简介:崔鹏,清华大学计算机系长聘副教授,博士生导师。研究兴趣聚焦于大数据驱动的因果推理和稳定预测、大规模网络表征学习等。在数据挖掘及人工智能领域顶级国际会议发表论文100余篇,先后5次获得顶级国际会议或期刊论文奖,并先后两次入选数据挖掘领域顶级国际会议KDD最佳论文专刊。担任IEEE TKDE、ACM TOMM、ACM TIST、IEEE TBD等国际顶级期刊编委。曾获得国家自然科学二等奖、教育部自然科学一等奖、CCF-IEEE CS青年科学家奖、ACM杰出科学家。
嘉宾

何向南,CCF高级会员,CCF YOCSEF合肥AC主席,中国科学技术大学教授
演讲题目:推荐算法公平性研究现状与展望
演讲摘要:本报告从推荐系统“不公平“的实际案例出发,介绍推荐算法公平性的重要性和意义。然后概述当前推荐学术领域对公平性问题的定义、主要解决方案和面临挑战。最后展望推荐算法公平性研究的未来发展方向。
个人简介:何向南,中国科学技术大学教授、博导、大数据学院副院长,YOCSEF合肥2021-2022主席。长期致力于信息检索与推荐、数据挖掘等方向的研究,在CCF A类国际顶级会议和期刊发表论文100余篇,包括SIGIR、KDD、WWW等,谷歌学术引用1万7千余次。曾获SIGIR 2021、WWW 2018、SIGIR 2016最佳论文提名奖、达摩院青橙奖等,在2022年AI 2000人工智能最具影响力学者“信息检索与推荐”领域排名第一,2021年Elsevier中国高被引学者。担任多个期刊的副主编,如ACM Transactions on Information Systems (TOIS), IEEE Transactions on Big Data (TBD)等。主持多项国家级课题,如国家基金委重点项目、面上项目,科技部重点研发计划课题等。
嘉宾

陈薇,中科院计算所研究员
演讲题目:人工智能算法安全挑战与探索
演讲摘要:在大数据和大算力的支持下,人工智能算法帮助多个领域取得了性能突破,同时正在向更多领域交叉应用。然而,伴随而来的还有智能算法在数据隐私保护、鲁棒性/可靠性、和公平性等多方面的安全挑战,如何提高智能算法的安全可信程度成为人工智能亟待解决的问题。在这个报告中,将介绍算法安全的一些探索,包括保护隐私的学习、因果学习、和对抗学习等。
个人简介:陈薇,中科院计算所研究员、博士生导师,曾任微软亚洲研究院计算学习理论组负责人。长期从事机器学习方面的科研工作,研究兴趣包括机器学习基础理论和算法、可信机器学习、分布式机器学习等,2012年荣获微软亚洲研究院科技突破奖,2021年入选福布斯中国科技女性榜。在机器学习和人工智能顶级国际会议/期刊发表学术论文50余篇,出版学术著作 1 本,担任ICML、NeurIPS等机器学习国际会议的领域主席或者高级程序委员。
嘉宾

胡志远,Vivo安全研究总监、教授级高工
演讲题目:基于层次分析模型的智能手机可信评估
演讲摘要:移动互联网高度发展的今天,各类电信诈骗新套路层出不穷,做好个人信息安全和隐私保护是防范被骗的关键。为尽量避免用户个人隐私数据的泄露,保障vivo数亿级设备的安全可信,vivo推出行业内首个全方位、实时的可信评估解决方案——千镜可信引擎。
vivo千镜可信引擎的实现,主要是基于手机芯片、内核、框架和应用各层级的安全能力及实时安全状态,根据层次分析模型,对手机进行多维度、全方位的安全评估,并与其他防护功能联动,从而确保设备、数据和用户都安全可信。相较于应用提供商为了降低业务安全风险,需要从手机端收集相关的数据并在服务器侧进行设备安全评估而言,vivo千镜可信引擎的整个可信评估过程,都遵循数据端侧处理的原则,因此,能提供更好的用户隐私保护。
vivo将千镜可信引擎的能力开放出来,与业界伙伴密切合作,确保只有符合移动业务可信级别要求的手机,才能开展相关的服务,从而降低业务安全风险,减少电信诈骗的发生率。目前,vivo率先与支付宝达成技术合作,将千镜可信引擎的可信安全判断能力与支付宝可信终端扩展方案(AntDTX )对电诈应用的刻画能力等相结合,升级手机本地风险感知能力,减少数据流动,共同提升交易的安全性。
个人简介:胡志远,博士,教授级高工、国务院政府特殊津贴专家,目前担任vivo安全研究总监。她一直从事终端安全、信息安全、网络安全等研究工作,以第一牵头人完成了5项国际标准、以第一发明人申请了50多项专利,以第二作者撰写了书籍《第三代移动通信系统安全》,发表了20多篇学术论文,她先后担任过科技部“网络空间安全”重点专项评审专家、国家科学技术奖励评审专家、国际电信联盟ITU-T SG17 WP2(5G&IoT&ITS)副主席及Q2(安全架构组)组长、移动开放联盟(OMA)安全组组长、中国通信标准化协会(CCSA)无线通信安全组副组长、"第九届上海市工程系列工业生产类正高级工程师资格评审"专家等。