CCF第39届中国计算机应用大会
  • 登录
  • 注册
  • 欢迎您:hlladmin 退出
报名 团报
分享

微信扫一扫:分享

微信里点“发现”,扫一下

二维码便可将本文分享至朋友圈

注册参会 论文集1卷 论文集2卷
  • 首页
  • 注册参会
  • 特邀讲者及嘉宾
    大会演讲嘉宾智识校长论坛大模型前沿技术与实践应用大模型的安全风险与应对智能互联时代下智能制造的融合方法及前沿技术数据要素流通与安全治理 - 大规模数据要素交互安全探索新质生产力视角下的智慧交通新应用农林数字化发展论坛智慧海洋助力新质生产力多模态医学人工智能
  • 大会动态
  • 组织机构
  • 程序委员会委员
  • 资料下载
  • 往届大会
    2023202220212020
  • 参会指南
  • 应用技术大赛
    全国智能无人车大赛(区域赛)进行中``````全国算法精英大赛(第一场)已结束``````全国算法精英大赛(第二场)进行中``````全国测试开发大赛(省赛)进行中``````
  • 携手尔滨 合作共赢
  • 首页
  • 注册参会
  • 特邀讲者及嘉宾
    大会演讲嘉宾智识校长论坛大模型前沿技术与实践应用大模型的安全风险与应对智能互联时代下智能制造的融合方法及前沿技术数据要素流通与安全治理 - 大规模数据要素交互安全探索新质生产力视角下的智慧交通新应用农林数字化发展论坛智慧海洋助力新质生产力多模态医学人工智能
  • 大会动态
  • 组织机构
  • 程序委员会委员
  • 资料下载
  • 往届大会
    2023202220212020
  • 参会指南
  • 应用技术大赛
    全国智能无人车大赛(区域赛)进行中``````全国算法精英大赛(第一场)已结束``````全国算法精英大赛(第二场)进行中``````全国测试开发大赛(省赛)进行中``````
  • 携手尔滨 合作共赢
  • 欢迎您:hlladmin
  • 退出
  • 登录
我要报名
大模型的安全风险与应对
张宏莉 哈尔滨工业大学 教授

报告题目: 中文对抗攻击下的 ChatGPT 鲁棒性评估

演讲摘要:深度学习模型在受到对抗样本攻击时往往展现出脆弱性,以中文对抗攻击下的 ChatGPT 为例,引入偏移平均差概念,提出了一种基于 OAD 的可量化的 LLM 鲁棒性评价指标。在黑盒攻击场景下,选取多种基于词语重要性的主流中文对抗攻击方法来生成对抗文本,利用这些对抗文本攻击 ChatGPT 后,可以得到每种方法的攻击成功率。大语言模型因其强大的自然语言理解和生成能力,在各领域中得到广泛应用,设计了适用于输出为软标签的目标模型的打分方法,相较于传统方法大幅降低了评估成本。

讲者简介:张宏莉,哈尔滨工业大学计算学部网络空间安全学院院长,教授,博导。入选国家高层次人才计划、龙江学者特聘教授,承担国家重点研发计划、国家自然科学基金等项目或课题 20 余项,突破了大流量网络环境下信息获取与监测、在线社交网络分析、数据隐私保护等方面的技术难题,取得了多项有价值的科研成果,相关系统在全国多家网络运营商部署应用,在国家信息安全保障、净化网络信息内容等工作中发挥了重要作用。近年来,发表文章 150 余篇,其中在 JSAC、INFOCOM、WCMC 等国际顶级和重要会议发表文章 48 篇。获得省部级科技进步一、二等奖 5 项,省教学成果奖 2 项,出版专著 3 部。

版权所有:中国计算机学会技术支持邮箱:conf_support@ccf.org.cn

京ICP备13000930号-4 京公网安备11010802032778号