主题：面向深度学习中数据被遗忘权保护的数据审计和遗忘验证研究
报告人：高向珊，浙江大学，博士
报告时间：2024年5月31日（周五）, 14:00-15:30
报告地点：南京无线谷A6202会议室; 无锡校区两江院B座306会议室
主办单位：东南大学网络空间安全学院
承办单位：江苏省网络空间安全学会
报告摘要：
伴随公众隐私保护意识的提高，以及各项法案中被遗忘权的正式确立，如何有效保护用户级数据被遗忘权，特别是从用户角度出发，审计深度学习模型是否未经授权使用用户数据进行模型训练，以及当用户提出数据遗忘请求时，验证深度学习模型是否切实遗忘用户记忆，成为了亟待解决的问题。本次报告将介绍一个两阶段的用户级数据被遗忘权保护技术：第一阶段，构建透明的数据使用审计机制，从用户侧审计模型开发者是否使用了用户数据进行模型训练；第二阶段，在用户提出遗忘请求时，设计有效的遗忘验证方法，从用户侧验证模型开发者是否切实遗忘了用户的相关记忆。通过在用户侧部署可靠的标记方法，提供可追踪的数据审计和可辨别的遗忘验证依据。
个人简介：
高向珊于2018年在西安电子科技大学计算机学院获得工学学士学位，2018年至2024年在浙江大学控制科学与工程学院网络空间安全专业攻读博士学位，师从中国工程院孙优贤院士，长江学者陈积明教授和程鹏教授，并于2022年10月至2023年4月，接受国家留学基金委资助前往澳大利亚迪肯大学进行为期6个月的学术交流。博士就读期间，发表TDSC，Euro S&P，TOIT等多篇，授权发明专利多个，参与重点研发项目若干。研究兴趣包括：可信机器学习，数据隐私保护和信息物理系统安全等。
