期刊导航
期刊开放获取
重庆大学
退出
期刊文献
+
任意字段
题名或关键词
题名
关键词
文摘
作者
第一作者
机构
刊名
分类号
参考文献
作者简介
基金资助
栏目信息
任意字段
题名或关键词
题名
关键词
文摘
作者
第一作者
机构
刊名
分类号
参考文献
作者简介
基金资助
栏目信息
检索
高级检索
期刊导航
共找到
2
篇文章
<
1
>
每页显示
20
50
100
已选择
0
条
导出题录
引用分析
参考文献
引证文献
统计分析
检索结果
已选文献
显示方式：
文摘
详细
列表
相关度排序
被引量排序
时效性排序
MC-infer:DLaaS中的零知识和无真实数据模型推理攻击
1
作者
吴峰
杨家勋
《网络空间安全科学学报》
2023年第2期46-58,共13页
深度学习即服务(DLaaS)的服务模式容易受到模型推理攻击影响。现有的推理攻击要求攻击者拥有足够的辅助信息来进行推理,这并不能完全展示出推理攻击的潜在威胁,因此,提出了MC-infer,一种零知识、无真实数据的黑盒模型推理攻击。MC-infe...
深度学习即服务(DLaaS)的服务模式容易受到模型推理攻击影响。现有的推理攻击要求攻击者拥有足够的辅助信息来进行推理,这并不能完全展示出推理攻击的潜在威胁,因此,提出了MC-infer,一种零知识、无真实数据的黑盒模型推理攻击。MC-infer将从不同随机分布获得的随机噪声输入给目标模型,并根据其输出估计相应的目标分布进行模型推理。使用了蒙特卡洛对MC-infer进行了理论分析,证明了其在理论层面的可行性。实验表明MCinfer可以有效地推断目标模型。此外,研究了MC-infer的局限性和复杂性,最后讨论了几种防止攻击的策略。
展开更多
关键词
蒙特卡洛
模型推理攻击
深度学习即服务
模型
隐私保护
分布拟合
下载PDF
职称材料
基于置信度分析的差分隐私保护参数配置方法研究
被引量：
2
2
作者
李森有
季新生
游伟
《网络与信息安全学报》
2019年第4期29-39,共11页
为了解决数据发布和分析过程中用户真实数据信息被披露的问题,降低攻击者通过差分攻击和概率推理攻击获取真实结果的概率,提出了一种基于置信度分析的差分隐私保护参数配置方法。在攻击者概率推理攻击模型下对攻击者置信度进行分析,使...
为了解决数据发布和分析过程中用户真实数据信息被披露的问题,降低攻击者通过差分攻击和概率推理攻击获取真实结果的概率,提出了一种基于置信度分析的差分隐私保护参数配置方法。在攻击者概率推理攻击模型下对攻击者置信度进行分析,使之不高于根据数据隐私属性所设置的隐私概率阈值。所提出的方法能够针对不同查询用户查询权限的差异配置更加合理的隐私保护参数,避免了隐私披露的风险。实验分析表明,所提出的方法根据查询权限、噪声分布特性以及数据隐私属性分析攻击者置信度与隐私保护参数的对应关系,并据此推导出隐私保护参数的配置公式,从而在不违背隐私保护概率阈值的情况下配置合适的ε参数。
展开更多
关键词
差分隐私
置信度分析
概率
推理
攻击
模型
隐私保护
下载PDF
职称材料
题名
MC-infer:DLaaS中的零知识和无真实数据模型推理攻击
1
作者
吴峰
杨家勋
机构
云南大学跨境网络空间安全教育部工程研究中心
云南大学信息学院
出处
《网络空间安全科学学报》
2023年第2期46-58,共13页
基金
国家自然科学基金(61863036)
云南省“放管服”基础研究计划(202001BB050076)
+1 种基金
云南省重点领域科技计划(202202AD080002)
中央高校基本科研业务费专项资金(2042022kf0021)。
文摘
深度学习即服务(DLaaS)的服务模式容易受到模型推理攻击影响。现有的推理攻击要求攻击者拥有足够的辅助信息来进行推理,这并不能完全展示出推理攻击的潜在威胁,因此,提出了MC-infer,一种零知识、无真实数据的黑盒模型推理攻击。MC-infer将从不同随机分布获得的随机噪声输入给目标模型,并根据其输出估计相应的目标分布进行模型推理。使用了蒙特卡洛对MC-infer进行了理论分析,证明了其在理论层面的可行性。实验表明MCinfer可以有效地推断目标模型。此外,研究了MC-infer的局限性和复杂性,最后讨论了几种防止攻击的策略。
关键词
蒙特卡洛
模型推理攻击
深度学习即服务
模型
隐私保护
分布拟合
Keywords
Monte Carlo
model inference attacks
deep learning as a service(DLaaS)
model privacy protec-tion
distribution fitting
分类号
TP309 [自动化与计算机技术—计算机系统结构]
下载PDF
职称材料
题名
基于置信度分析的差分隐私保护参数配置方法研究
被引量：
2
2
作者
李森有
季新生
游伟
机构
国家数字交换系统工程技术研究中心
出处
《网络与信息安全学报》
2019年第4期29-39,共11页
基金
国家自然科学基金创新研究群体资助项目（No.61521003,No.61801515）
国家重点研发计划基金资助项目(No.2016YFB0801605)~~
文摘
为了解决数据发布和分析过程中用户真实数据信息被披露的问题,降低攻击者通过差分攻击和概率推理攻击获取真实结果的概率,提出了一种基于置信度分析的差分隐私保护参数配置方法。在攻击者概率推理攻击模型下对攻击者置信度进行分析,使之不高于根据数据隐私属性所设置的隐私概率阈值。所提出的方法能够针对不同查询用户查询权限的差异配置更加合理的隐私保护参数,避免了隐私披露的风险。实验分析表明,所提出的方法根据查询权限、噪声分布特性以及数据隐私属性分析攻击者置信度与隐私保护参数的对应关系,并据此推导出隐私保护参数的配置公式,从而在不违背隐私保护概率阈值的情况下配置合适的ε参数。
关键词
差分隐私
置信度分析
概率
推理
攻击
模型
隐私保护
Keywords
differential privacy
confidence level
probability inference attack model
privacy protection
分类号
TP309.2 [自动化与计算机技术—计算机系统结构]
下载PDF
职称材料
题名
作者
出处
发文年
被引量
操作
1
MC-infer:DLaaS中的零知识和无真实数据模型推理攻击
吴峰
杨家勋
《网络空间安全科学学报》
2023
0
下载PDF
职称材料
2
基于置信度分析的差分隐私保护参数配置方法研究
李森有
季新生
游伟
《网络与信息安全学报》
2019
2
下载PDF
职称材料
已选择
0
条
导出题录
引用分析
参考文献
引证文献
统计分析
检索结果
已选文献
上一页
1
下一页
到第
页
确定
用户登录
登录
IP登录
使用帮助
返回顶部
