首页 > 学术讲座 > 正文
Neural Network Inversion in Adversarial Setting via Background Knowledge
编辑:bb电子娱乐官网,连环夺宝赢现金手机版 发布时间:2019-12-26    


讲座主题

Neural Network Inversion in Adversarial Setting via Background Knowledge

主讲人姓名及介绍

梁振凯,新加坡国立大学计算机学院副教授。他的主要研究方向是系统和软件安全、web安全、移动安全和程序分析。他也是新加坡国家网络安全研发实验室的联合负责人。他曾担任多个系统安全会议的技术项目委员会成员,包括计算机和通信安全ACM会议、USENIX安全研讨会和网络与分布式系统安全研讨会(NDSS),以及NDSS指导小组成员。作为合著者,他获得了七项最佳/杰出论文奖,包括USENIX安全研讨会、FSE和ACSAC。

报告摘要

随着深度学习技术的广泛应用,对训练数据和测试数据的安全性提出了新的要求。本文研究的是对抗环境下的模型反演问题,对手的目的是从模型的预测值中推断出目标模型的训练数据和测试数据。我们提出了一种方法来训练第二个神经网络作为目标模型的逆来执行逆。反演模型可以通过黑箱访问目标模型进行训练。我们提出了两种主要的技巧来训练对手环境下的反演模型。首先,我们利用对手的背景知识组成一个辅助集来训练反演模型,它不需要访问原始训练数据。第二,我们设计了一种基于截断的技术来校准反演模型,以便能够有效地从敌方对受害者用户数据的部分预测中反演目标模型。

学术讲座
XML 地图 | Sitemap 地图