微信里点“发现”，扫一下
二维码便可将本文分享至朋友圈
演讲摘要：近些年，以 GPT 为代表的大模型技术开启了 AI 研究的新纪元，然而在美好的大模型蓝图下，攻击者也可能利用大模型的脆弱性对个人安全、社会安全，乃至国家安全带来严重的威胁。本报告将从大模型的保密性、完整性、隐私性三个角度出发，分析 AI 模型安全与隐私在大模型时代的各种挑战，探讨大模型的隐私泄漏、模型窃取、对抗攻击、后门威胁、输出安全以及公平性与偏见等热门研究问题。本报告旨在发现并分析大模型安全和隐私风险，推动大模型安全应用与可持续发展。
讲者简介：沈超，CCF 杰出会员，西安交通大学人才办副处长、二级教授，教育部长江学者特聘教授，国家优秀青年科学基金获得者，教育部创新团队负责人，重点研发计划首席科学家，国防基础加强计划首席科学家，重点研发计划“先进计算与新兴软件”重点专项指南专家组成员。主要从事智能系统可信、安全、控制与测试的研究工作，发表学术刊物 180 余篇，获最佳论文奖 9 次。牵头获 2 项省部级科学技术一等奖、达摩院青橙奖、霍英东青年教师一等奖、MIT TR35 China、IEEE SMC Early Career Award 等，制定国内外标准 5 项，多份建言被中央办公厅等采纳。
CCF第39届中国计算机应用大会
大模型的安全风险与应对
京公网安备11010802032778号