期刊导航
期刊开放获取
重庆大学
退出
期刊文献
+
任意字段
题名或关键词
题名
关键词
文摘
作者
第一作者
机构
刊名
分类号
参考文献
作者简介
基金资助
栏目信息
任意字段
题名或关键词
题名
关键词
文摘
作者
第一作者
机构
刊名
分类号
参考文献
作者简介
基金资助
栏目信息
检索
高级检索
期刊导航
共找到
2
篇文章
<
1
>
每页显示
20
50
100
已选择
0
条
导出题录
引用分析
参考文献
引证文献
统计分析
检索结果
已选文献
显示方式:
文摘
详细
列表
相关度排序
被引量排序
时效性排序
双标签监督的几何约束对抗训练
1
作者
曹刘娟
匡华峰
+5 位作者
刘弘
王言
张宝昌
黄飞跃
吴永坚
纪荣嵘
《软件学报》
EI
CSCD
北大核心
2022年第4期1218-1230,共13页
近年来的研究表明,对抗训练是一种有效的防御对抗样本攻击的方法.然而,现有的对抗训练策略在提升模型鲁棒性的同时会造成模型的泛化能力下降.现阶段主流的对抗训练方法通常都是独立地处理每个训练样本,而忽略了样本之间的关系,这使得模...
近年来的研究表明,对抗训练是一种有效的防御对抗样本攻击的方法.然而,现有的对抗训练策略在提升模型鲁棒性的同时会造成模型的泛化能力下降.现阶段主流的对抗训练方法通常都是独立地处理每个训练样本,而忽略了样本之间的关系,这使得模型无法充分挖掘样本间的几何关系来学习更鲁棒的模型,以便更好地防御对抗攻击.因此,重点研究如何在对抗训练过程中保持样本间的几何结构稳定性,达到提升模型鲁棒性的目的.具体而言,在对抗训练中,设计了一种新的几何结构约束方法,其目的是保持自然样本与对抗样本的特征空间分布一致性.此外,提出了一种基于双标签的监督学习方法,该方法同时采用自然样本和对抗样本的标签对模型进行联合监督训练.最后,分析了双标签监督学习方法的特性,试图从理论上解释对抗样本的工作机理.多个基准数据集上的实验结果表明:相比于已有方法,该方法有效地提升了模型的鲁棒性且保持了较好的泛化精度.相关代码已经开源:https://github.com/SkyKuang/DGCAT.
展开更多
关键词
深度学习
模型鲁棒性
对抗训练
几何约束
双标签监督
下载PDF
职称材料
深度神经网络结构搜索综述
被引量:
10
2
作者
唐浪
李慧霞
+2 位作者
颜晨倩
郑侠武
纪荣嵘
《中国图象图形学报》
CSCD
北大核心
2021年第2期245-264,共20页
深度神经网络在图像识别、语言识别和机器翻译等人工智能任务中取得了巨大进展,很大程度上归功于优秀的神经网络结构设计。神经网络大都由手工设计,需要专业的机器学习知识以及大量的试错。为此,自动化的神经网络结构搜索成为研究热点...
深度神经网络在图像识别、语言识别和机器翻译等人工智能任务中取得了巨大进展,很大程度上归功于优秀的神经网络结构设计。神经网络大都由手工设计,需要专业的机器学习知识以及大量的试错。为此,自动化的神经网络结构搜索成为研究热点。神经网络结构搜索(neural architecture search,NAS)主要由搜索空间、搜索策略与性能评估方法3部分组成。在搜索空间设计上,出于计算量的考虑,通常不会搜索整个网络结构,而是先将网络分成几块,然后搜索块中的结构。根据实际情况的不同,可以共享不同块中的结构,也可以对每个块单独搜索不同的结构。在搜索策略上,主流的优化方法包含强化学习、进化算法、贝叶斯优化和基于梯度的优化等。在性能评估上,为了节省计算时间,通常不会将每一个网络都充分训练到收敛,而是通过权值共享、早停等方法尽可能减小单个网络的训练时间。与手工设计的网络相比,神经网络结构搜索得到的深度神经网络具有更好的性能。在Image Net分类任务上,与手工设计的MobileNetV2相比,通过神经网络结构搜索得到的MobileNetV3减少了近30%的计算量,并且top-1分类精度提升了3.2%;在Cityscapes语义分割任务上,与手工设计的Deep Labv3+相比,通过神经网络结构搜索得到的Auto-DeepLab-L可以在没有Image Net预训练的情况下,达到比Deep Labv3+更高的平均交并比(mean intersection over union,mIOU),同时减小一半以上的计算量。神经网络结构搜索得到的深度神经网络通常比手工设计的神经网络有着更好的表现,是未来神经网络设计的发展趋势。
展开更多
关键词
人工智能
计算机视觉
深度神经网络
强化学习
进化算法
神经网络结构搜索(NAS)
原文传递
题名
双标签监督的几何约束对抗训练
1
作者
曹刘娟
匡华峰
刘弘
王言
张宝昌
黄飞跃
吴永坚
纪荣嵘
机构
厦门大学信息学院人工智能系媒体分析与计算实验室
National Institute of Informatics
Pinterest
北京航空航天
大学
人工智能
研究院
腾讯优图
实验室
出处
《软件学报》
EI
CSCD
北大核心
2022年第4期1218-1230,共13页
基金
国家杰出青年科学基金(62025603)
国家自然科学基金(U1705262,62072386,62072387,62072389,62002305,61772443,6180232461702136)
+1 种基金
广东省基础与应用基础研究基金(2019B1515120049)
中央高校基本科研业务费(20720200077,20720200090,20720200091)。
文摘
近年来的研究表明,对抗训练是一种有效的防御对抗样本攻击的方法.然而,现有的对抗训练策略在提升模型鲁棒性的同时会造成模型的泛化能力下降.现阶段主流的对抗训练方法通常都是独立地处理每个训练样本,而忽略了样本之间的关系,这使得模型无法充分挖掘样本间的几何关系来学习更鲁棒的模型,以便更好地防御对抗攻击.因此,重点研究如何在对抗训练过程中保持样本间的几何结构稳定性,达到提升模型鲁棒性的目的.具体而言,在对抗训练中,设计了一种新的几何结构约束方法,其目的是保持自然样本与对抗样本的特征空间分布一致性.此外,提出了一种基于双标签的监督学习方法,该方法同时采用自然样本和对抗样本的标签对模型进行联合监督训练.最后,分析了双标签监督学习方法的特性,试图从理论上解释对抗样本的工作机理.多个基准数据集上的实验结果表明:相比于已有方法,该方法有效地提升了模型的鲁棒性且保持了较好的泛化精度.相关代码已经开源:https://github.com/SkyKuang/DGCAT.
关键词
深度学习
模型鲁棒性
对抗训练
几何约束
双标签监督
Keywords
deep learning
model robustness
adversarial training
geometry constraint
dual label supervised
分类号
TP181 [自动化与计算机技术—控制理论与控制工程]
下载PDF
职称材料
题名
深度神经网络结构搜索综述
被引量:
10
2
作者
唐浪
李慧霞
颜晨倩
郑侠武
纪荣嵘
机构
厦门大学信息学院人工智能系媒体分析与计算实验室
出处
《中国图象图形学报》
CSCD
北大核心
2021年第2期245-264,共20页
基金
国家自然科学基金项目(U1705262,61772443,61572410,61802324,61702136)
国家重点研发计划项目(2017YFC0113000,2016YFB1001503)
+1 种基金
江西省重点研发计划项目(20171ACH80022)
广东省联合基金重点项目(2019B1515120049)。
文摘
深度神经网络在图像识别、语言识别和机器翻译等人工智能任务中取得了巨大进展,很大程度上归功于优秀的神经网络结构设计。神经网络大都由手工设计,需要专业的机器学习知识以及大量的试错。为此,自动化的神经网络结构搜索成为研究热点。神经网络结构搜索(neural architecture search,NAS)主要由搜索空间、搜索策略与性能评估方法3部分组成。在搜索空间设计上,出于计算量的考虑,通常不会搜索整个网络结构,而是先将网络分成几块,然后搜索块中的结构。根据实际情况的不同,可以共享不同块中的结构,也可以对每个块单独搜索不同的结构。在搜索策略上,主流的优化方法包含强化学习、进化算法、贝叶斯优化和基于梯度的优化等。在性能评估上,为了节省计算时间,通常不会将每一个网络都充分训练到收敛,而是通过权值共享、早停等方法尽可能减小单个网络的训练时间。与手工设计的网络相比,神经网络结构搜索得到的深度神经网络具有更好的性能。在Image Net分类任务上,与手工设计的MobileNetV2相比,通过神经网络结构搜索得到的MobileNetV3减少了近30%的计算量,并且top-1分类精度提升了3.2%;在Cityscapes语义分割任务上,与手工设计的Deep Labv3+相比,通过神经网络结构搜索得到的Auto-DeepLab-L可以在没有Image Net预训练的情况下,达到比Deep Labv3+更高的平均交并比(mean intersection over union,mIOU),同时减小一半以上的计算量。神经网络结构搜索得到的深度神经网络通常比手工设计的神经网络有着更好的表现,是未来神经网络设计的发展趋势。
关键词
人工智能
计算机视觉
深度神经网络
强化学习
进化算法
神经网络结构搜索(NAS)
Keywords
artificial intelligence
computer vision
deep neural networks(DNNs)
reinforcement learning
evolution algorithm
neural architecture search(NAS)
分类号
TP37 [自动化与计算机技术—计算机系统结构]
原文传递
题名
作者
出处
发文年
被引量
操作
1
双标签监督的几何约束对抗训练
曹刘娟
匡华峰
刘弘
王言
张宝昌
黄飞跃
吴永坚
纪荣嵘
《软件学报》
EI
CSCD
北大核心
2022
0
下载PDF
职称材料
2
深度神经网络结构搜索综述
唐浪
李慧霞
颜晨倩
郑侠武
纪荣嵘
《中国图象图形学报》
CSCD
北大核心
2021
10
原文传递
已选择
0
条
导出题录
引用分析
参考文献
引证文献
统计分析
检索结果
已选文献
上一页
1
下一页
到第
页
确定
用户登录
登录
IP登录
使用帮助
返回顶部