期刊文献+
共找到112篇文章
< 1 2 6 >
每页显示 20 50 100
基于强关联平滑约束的目标检测模型剪枝方法
1
作者 康彬 李卓 +3 位作者 邱坤 窦海娥 王磊 郑宝玉 《南京邮电大学学报(自然科学版)》 北大核心 2024年第3期72-79,共8页
目标检测模型的轻量化研究虽已产生诸多代表性成果,但现有方法在模型高比例剪枝时会出现检测精度断崖式衰减。在探索主流目标检测网络剪枝性能衰减的根源时发现剪枝后梯度的波动是影响模型性能的关键。为此构建了基于强关联平滑约束的... 目标检测模型的轻量化研究虽已产生诸多代表性成果,但现有方法在模型高比例剪枝时会出现检测精度断崖式衰减。在探索主流目标检测网络剪枝性能衰减的根源时发现剪枝后梯度的波动是影响模型性能的关键。为此构建了基于强关联平滑约束的剪枝框架(Pruning Framework based on Strong Correlation Smoothing Constraint,SCSC)。首先将历史梯度及当前梯度定义为自蒸馏理论中的教师及学生,通过学生模仿教师的方式使学生梯度最大程度接近教师梯度,实现梯度平滑;其次依据梯度平滑结果提出基于强关联约束的剪枝方案,将历史梯度与当前梯度组成强关联组,通过强化历史梯度对当前梯度更新的贡献增强模型权重参数稀疏度。在PASCAL VOC2007数据集进行测试,SCSC对比主流剪枝方法取得了2个百分点的平均精度提升;在KITTI数据集中,SCSC剪枝率为80%时,相较于原网络识别精度衰减仅为3个百分点。 展开更多
关键词 卷积神经网络 知识蒸馏 模型剪枝
下载PDF
基于联邦强化学习的分布式模型剪枝
2
作者 聂宇铭 臧文科 +4 位作者 马学豪 刘宇儒 包致成 张镇 彭亿 《计算机系统应用》 2024年第5期154-161,共8页
联邦学习系统中,在资源受限的边缘端进行本地模型训练存在一定的挑战.计算、存储、能耗等方面的限制时刻影响着模型规模及效果.传统的联邦剪枝方法在联邦训练过程中对模型进行剪裁,但仍存在无法根据模型所处环境自适应修剪以及移除一些... 联邦学习系统中,在资源受限的边缘端进行本地模型训练存在一定的挑战.计算、存储、能耗等方面的限制时刻影响着模型规模及效果.传统的联邦剪枝方法在联邦训练过程中对模型进行剪裁,但仍存在无法根据模型所处环境自适应修剪以及移除一些重要参数导致模型性能下降的情况.本文提出基于联邦强化学习的分布式模型剪枝方法以解决此问题.首先,将模型剪枝过程抽象化,建立马尔可夫决策过程,使用DQN算法构建通用强化剪枝模型,动态调整剪枝率,提高模型的泛化性能.其次设计针对稀疏模型的聚合方法,辅助强化泛化剪枝方法,更好地优化模型结构,降低模型的复杂度.最后,在多个公开数据集上将本方法与不同基线方法进行比较.实验结果表明,本文所提出的方法在保持模型效果的同时减少模型复杂度. 展开更多
关键词 联邦学习 模型剪枝 强化学习 联邦剪枝 深度学习
下载PDF
基于模型剪枝的深度神经网络分级授权方法的实现
3
作者 宋允飞 《现代信息科技》 2024年第8期128-132,137,共6页
基于现有深度神经网络模型无法根据使用权限进行分级授权的问题,设计提出了一种新型的DNN模型分级授权方法,其可以根据模型权限不同分发不同模型精度。该方法依据模型剪枝技术实现了模型性能的分级,利用特定的剪枝速率或剪枝阈值对模型... 基于现有深度神经网络模型无法根据使用权限进行分级授权的问题,设计提出了一种新型的DNN模型分级授权方法,其可以根据模型权限不同分发不同模型精度。该方法依据模型剪枝技术实现了模型性能的分级,利用特定的剪枝速率或剪枝阈值对模型进行剪枝和微调,通过在剪枝和微调阶段对模型进行调整从而使模型输出不同等级的准确率,最后将不同的用户权限与对应等级的准确率相匹配。在多个数据集和DNN模型上进行了实验,并利用CIFAR-10和CIFAR-100数据集进行验证。实验结果表明,该方法能够有效地将模型的性能分级,在多个DNN模型上都有良好的效果。 展开更多
关键词 深度神经网络 分级授权 版权保护 模型剪枝
下载PDF
基于知识蒸馏和模型剪枝的轻量化模型植物病害识别 被引量:2
4
作者 刘媛媛 王定坤 +2 位作者 邬雷 黄德昌 朱路 《浙江农业学报》 CSCD 北大核心 2023年第9期2250-2264,共15页
深度学习为植物病害识别提供了新方法,但是目前大多数深度学习模型的参数众多,难以在存储和计算资源受限的智能手机或嵌入式传感器节点等边缘设备上使用。为此,以植物叶片为研究对象,基于知识蒸馏和模型剪枝方法开展基于轻量化模型的植... 深度学习为植物病害识别提供了新方法,但是目前大多数深度学习模型的参数众多,难以在存储和计算资源受限的智能手机或嵌入式传感器节点等边缘设备上使用。为此,以植物叶片为研究对象,基于知识蒸馏和模型剪枝方法开展基于轻量化模型的植物病害识别研究。首先,改进ResNet模型,在知识蒸馏中引入一个或多个助教网络训练模型;然后,经过稀疏化训练后,利用模型剪枝获得轻量化的学生网络模型;接着,使用助教网络和学习率倒带重训练该学生网络模型,在减小模型规模的同时保证模型的性能。结果表明:在包含14种植物共38个类别的数据集上,将模型剪枝90%后,模型准确率为97.78%,比原模型提高1.49百分点;在包含5个类别苹果叶的数据集上,将模型剪枝70%后,模型准确率为91.94%,比原模型提高4.85百分点。提出的轻量化模型能够移植在Android平台上并有效运行,可为嵌入式终端精准识别植物病害提供新方案。 展开更多
关键词 病害识别 模型剪枝 知识蒸馏 学习率倒带 残差网络
下载PDF
基于模型剪枝动态调整压缩率的CSI反馈方法
5
作者 邵凯 杜自群 王光宇 《系统工程与电子技术》 EI CSCD 北大核心 2023年第8期2615-2622,共8页
针对现有基于深度学习(deep learning,DL)的信道状态信息(channel state information,CSI)反馈方案只能以固定压缩率(compression rate,CR)进行压缩反馈的问题,提出了一种基于模型结构化剪枝动态调整CR的CSI反馈方案。首先设计了残差信... 针对现有基于深度学习(deep learning,DL)的信道状态信息(channel state information,CSI)反馈方案只能以固定压缩率(compression rate,CR)进行压缩反馈的问题,提出了一种基于模型结构化剪枝动态调整CR的CSI反馈方案。首先设计了残差信道特性注意(residual channel characteristic attention,RCCA)机制,并搭建了CSI反馈网络RCCA-Net,充分利用复信道矩阵实部虚部间的幅度相位依赖关系,进一步提高CSI反馈-重建质量。其次设计了RCCA-Prune方案,并以2范数评估各神经元对最终结果的贡献度,通过模型结构化剪枝技术删除贡献度较小的神经元以实现CR的动态调整。仿真结果表明,所提的动态调整CR方案在不同CR下均有较佳的反馈性能,且在不同的测试环境中具有良好的泛化性。 展开更多
关键词 信道状态信息 深度学习 模型剪枝 通道注意力
下载PDF
图像识别中的深度学习模型剪枝技术 被引量:3
6
作者 张玉 武海 +2 位作者 林凡超 黄福玉 刘毅志 《南京理工大学学报》 CAS CSCD 北大核心 2023年第5期699-707,共9页
为了探索用少量的图像数据指导模型剪枝,同时缩短确定裁剪哪些卷积核的时间,该文提出了一种基于卷积核输出特征图的和值的期望进行模型剪枝的策略。将少量的图像输入剪枝前的深度学习模型中,将同一层卷积核输出的特征图根据和值的期望... 为了探索用少量的图像数据指导模型剪枝,同时缩短确定裁剪哪些卷积核的时间,该文提出了一种基于卷积核输出特征图的和值的期望进行模型剪枝的策略。将少量的图像输入剪枝前的深度学习模型中,将同一层卷积核输出的特征图根据和值的期望进行排序,按照一定的剪枝率剪去较小期望值对应的卷积核。根据该文提出的模型剪枝策略,在3个通用的公开数据集CIFAR-10、CIFAR-100、ILSVRC-2012上进行了测试,并与目前主流的一些模型剪枝算法进行了对比。实验证明,该文提出的模型剪枝策略在VGG-16-BN上参数量压缩87.3%,每秒浮点运算次数(FLOPs)压缩78.6%,该模型在CIFAR-10上仍能达到93.19%的分类识别精度。在CIFAR-100数据集上,模型剪枝策略在ResNet-56上FLOPs压缩67%,仍能达到67.96%的分类识别精度。 展开更多
关键词 深度学习 图像识别 模型剪枝 特征图的和值期望
下载PDF
基于模型剪枝的有色金属破碎料机器视觉分选方法优化
7
作者 董寰宇 秦训鹏 丁吉祥 《机械设计》 CSCD 北大核心 2023年第11期8-14,共7页
对破碎料图像进行准确、快速识别是实现有色金属破碎料实时分选的基础,文中基于YOLOv3模型,以BN层缩放因子为衡量指标对模型进行剪枝,剪切对运算结果没有影响的冗余通道,减少了卷积神经网络的参数量及计算量,实现了模型压缩。试验在生... 对破碎料图像进行准确、快速识别是实现有色金属破碎料实时分选的基础,文中基于YOLOv3模型,以BN层缩放因子为衡量指标对模型进行剪枝,剪切对运算结果没有影响的冗余通道,减少了卷积神经网络的参数量及计算量,实现了模型压缩。试验在生产现场采集的金属破碎料图像上进行,采用F1-Score、平均精度均值、浮点运算数、网络参数量和FPS作为评价指标,定量研究了模型压缩率对模型性能的影响。最终优化后,模型平均精度均值上升至97.1%,F1-Score为96.8%,参数量实现了70.4%的压缩率,浮点运算数降为原模型的44.5%,FPS上升40.4%,减少了模型运行计算量消耗和内存占用,加快了计算速度,能更好地满足工业生产中有色金属破碎料分选的需求。 展开更多
关键词 深度学习 模型剪枝 有色金属 图像处理
原文传递
基于多目标优化的车道线检测模型剪枝算法
8
作者 翁佳昊 秦永法 +2 位作者 唐晓峰 张浩文 关栋 《传感器与微系统》 CSCD 北大核心 2023年第7期125-127,131,共4页
以车道线检测算法为例,对网络模型进行剪枝优化。首先,对模型进行正则化,初步提高模型参数的稀疏度。之后,建立以准确率变化量和模型参数变化量为目标的多目标优化函数,通过调节准确率变化权重系数和压缩权重系数得到不同目标下的最优... 以车道线检测算法为例,对网络模型进行剪枝优化。首先,对模型进行正则化,初步提高模型参数的稀疏度。之后,建立以准确率变化量和模型参数变化量为目标的多目标优化函数,通过调节准确率变化权重系数和压缩权重系数得到不同目标下的最优模型。在剪枝过程中,按卷积层深度对各层设置不同的阈值系数,最后对优化后的模型进行重新训练得到最终模型。实验结果表明:准确率优先的优化模型在车道线检测数据集的准确率为92.47%,模型压缩比为42.8%;响应速度优先的优化模型在车道线检测数据集的准确率为90.75%,模型压缩比例为67.3%。根据不同的场景需求,算法能够有效地得到不同效果的剪枝优化模型。 展开更多
关键词 深度学习 车道线检测 模型剪枝 多目标优化
下载PDF
基于模型剪枝的轻量化人像抠图研究
9
作者 陈宏斌 朱周 +2 位作者 高骏 李文锋 路梅 《信息与电脑》 2023年第5期84-87,共4页
近年来,人像抠图在计算机视觉领域取得了许多进展。作为底层视觉任务,人像抠图具有较高计算量,导致模型难以部署在计算资源有限的设备上。针对该问题,文章提出自适应和固定比例相结合的剪枝方法,对人像抠图网络MODNet进行压缩。实验表明... 近年来,人像抠图在计算机视觉领域取得了许多进展。作为底层视觉任务,人像抠图具有较高计算量,导致模型难以部署在计算资源有限的设备上。针对该问题,文章提出自适应和固定比例相结合的剪枝方法,对人像抠图网络MODNet进行压缩。实验表明,该方法可以基本保持模型精度,将MODNet参数量和计算量分别降低了79.22%和76.09%,在中央处理器(Central Processing Unit,CPU)和NSC2上的推理速度分别提高了93%和65%。 展开更多
关键词 人像抠图 模型剪枝 过滤器 计算量
下载PDF
基于翻译日志的统计机器翻译模型剪枝
10
作者 刘凯 吕雅娟 +1 位作者 姜文斌 刘群 《北京大学学报(自然科学版)》 EI CAS CSCD 北大核心 2014年第1期167-172,共6页
提出一种基于翻译日志的统计机器翻译模型的剪枝方法。该方法利用翻译规则在翻译日志中的命中频数对机器翻译规则进行过滤,保留当前机器翻译模型所需的最小规则表。实验表明,该方法能够在仅保留原有模型1%~3%翻译规则的前提下达到... 提出一种基于翻译日志的统计机器翻译模型的剪枝方法。该方法利用翻译规则在翻译日志中的命中频数对机器翻译规则进行过滤,保留当前机器翻译模型所需的最小规则表。实验表明,该方法能够在仅保留原有模型1%~3%翻译规则的前提下达到原有模型的翻译效果。 展开更多
关键词 统计机器翻译 模型剪枝 翻译日志
下载PDF
基于YOLOv4模型剪枝的番茄缺陷在线检测 被引量:15
11
作者 梁晓婷 庞琦 +5 位作者 杨一 文朝武 李友丽 黄文倩 张驰 赵春江 《农业工程学报》 EI CAS CSCD 北大核心 2022年第6期283-292,共10页
为解决番茄缺陷检测过程中的精确性和实时性问题,该研究提出一种基于模型剪枝的番茄表面缺陷实时检测方法。采用模型剪枝的方法在YOLOv4网络模型基础上进行模型优化,首先将3个连续检测工位采集的RGB图像拼接生成YOLOv4网络的输入图像,... 为解决番茄缺陷检测过程中的精确性和实时性问题,该研究提出一种基于模型剪枝的番茄表面缺陷实时检测方法。采用模型剪枝的方法在YOLOv4网络模型基础上进行模型优化,首先将3个连续检测工位采集的RGB图像拼接生成YOLOv4网络的输入图像,然后采用通道剪枝和层剪枝的方法压缩YOLOv4网络模型,从而减少模型参数,提高检测速度,最后提出一种基于L1范数的非极大值抑制方法,用于在模型微调后去除冗余预测框,从而精准定位图像中的缺陷位置,并将模型部署到分级系统上进行实时检测试验。结果表明,该研究提出的YOLOv4P网络与原YOLOv4网络相比,网络模型尺寸和推理时间分别减少了232.40 MB和10.11 ms,平均精度均值(Mean Average Precision,mAP)从92.45%提高到94.56%,能满足实际生产中针对缺陷番茄进行精准、实时检测的要求,为番茄分级系统提供了高效的实时检测方法。 展开更多
关键词 机器视觉 模型 番茄缺陷 YOLOv4 模型剪枝
下载PDF
基于稀疏正则化的卷积神经网络模型剪枝方法 被引量:14
12
作者 韦越 陈世超 +1 位作者 朱凤华 熊刚 《计算机工程》 CAS CSCD 北大核心 2021年第10期61-66,共6页
现有卷积神经网络模型剪枝方法仅依靠自身参数信息难以准确评估参数重要性,容易造成参数误剪且影响网络模型整体性能。提出一种改进的卷积神经网络模型剪枝方法,通过对卷积神经网络模型进行稀疏正则化训练,得到参数较稀疏的深度卷积神... 现有卷积神经网络模型剪枝方法仅依靠自身参数信息难以准确评估参数重要性,容易造成参数误剪且影响网络模型整体性能。提出一种改进的卷积神经网络模型剪枝方法,通过对卷积神经网络模型进行稀疏正则化训练,得到参数较稀疏的深度卷积神经网络模型,并结合卷积层和BN层的稀疏性进行结构化剪枝去除冗余滤波器。在CIFAR-10、CIFAR-100和SVHN数据集上的实验结果表明,该方法能有效压缩网络模型规模并降低计算复杂度,尤其在SVHN数据集上,压缩后的VGG-16网络模型在参数量和浮点运算量分别减少97.3%和91.2%的情况下,图像分类准确率仅损失了0.57个百分点。 展开更多
关键词 深度学习 模型剪枝 卷积神经网络 稀疏约束 模型压缩
下载PDF
基于全局信息的卷积神经网络模型剪枝微调优化方法 被引量:5
13
作者 孙文宇 曹健 +1 位作者 李普 刘瑞 《北京大学学报(自然科学版)》 EI CAS CSCD 北大核心 2021年第4期790-794,共5页
为解决因卷积神经网络模型规模大,模型剪枝方法引起的精度下降问题,提出一种模型剪枝微调优化方法。该方法引入原卷积神经网络模型权重全局信息至剪枝后模型,使原模型信息体现在剪枝后模型的权重上,提升剪枝后模型的精度。在图像分类任... 为解决因卷积神经网络模型规模大,模型剪枝方法引起的精度下降问题,提出一种模型剪枝微调优化方法。该方法引入原卷积神经网络模型权重全局信息至剪枝后模型,使原模型信息体现在剪枝后模型的权重上,提升剪枝后模型的精度。在图像分类任务和目标检测任务中的实验结果表明,所提出的微调优化方法可获得更大的压缩率和更小的模型精度损失。 展开更多
关键词 卷积神经网络 模型剪枝微调 全局信息 图像分类 目标检测
下载PDF
一种神经网络模型剪枝后泛化能力的验证方法 被引量:5
14
作者 刘崇阳 刘勤让 《计算机工程》 CAS CSCD 北大核心 2019年第10期234-238,共5页
针对神经网络模型在剪枝操作中Dropout率下调造成的过拟合问题,提出一种剪枝模型泛化能力的验证方法。研究人为遮挡数据集模拟图像范围的变化情况,分析不同Dropout值和剪枝比例对模型准确率的影响,进而得到剪枝操作后模型泛化能力变化... 针对神经网络模型在剪枝操作中Dropout率下调造成的过拟合问题,提出一种剪枝模型泛化能力的验证方法。研究人为遮挡数据集模拟图像范围的变化情况,分析不同Dropout值和剪枝比例对模型准确率的影响,进而得到剪枝操作后模型泛化能力变化的原因。在卷积神经网络模型lenet-5上进行实验,结果表明,剪枝模型泛化能力减弱是因为Dropout率下调和剪枝操作时参数量的变化。 展开更多
关键词 深度神经网络 模型剪枝 深度学习 泛化能力 遮挡数据集
下载PDF
基于模型剪枝和半精度加速改进YOLOv3-tiny算法的实时司机违章行为检测 被引量:8
15
作者 姚巍巍 张洁 《计算机系统应用》 2020年第4期41-47,共7页
为解决在嵌入式设备上实时、高精度检测司机安全驾驶监督的问题,本文基于目标检测中经典的深度学习神经网络YOLOv3-tiny,运用通道剪枝技术成功在目标检测任务中实现了模型压缩,在精度不变的情况下减少了改进后神经网络的计算总量和参数... 为解决在嵌入式设备上实时、高精度检测司机安全驾驶监督的问题,本文基于目标检测中经典的深度学习神经网络YOLOv3-tiny,运用通道剪枝技术成功在目标检测任务中实现了模型压缩,在精度不变的情况下减少了改进后神经网络的计算总量和参数总数.并基于NVIDIA的推理框架TensorRT进行了模型层级融合和半精度加速,部署加速后的模型.实验结果表明,加速模型的推理速度约为原模型的2倍,参数体积缩小一半,精度无损失,实现了高精度下实时检测的目的. 展开更多
关键词 深度学习 目标检测 司机行为识别 模型剪枝 半精度加速
下载PDF
基于权重关联性的卷积神经网络模型剪枝方法 被引量:3
16
作者 严阳春 郭荣佐 杨锦霞 《小型微型计算机系统》 CSCD 北大核心 2021年第7期1500-1504,共5页
模型剪枝是深度学习领域对模型进行压缩加速的一种有效方法.目前结构化的剪枝方法仅对整个过滤器的权重进行评估,但当一个过滤器被移除后,依赖过滤器而存在的关联权重也会被移除,现有的方法并没有考虑这部分权重的重要性,忽略了权重关联... 模型剪枝是深度学习领域对模型进行压缩加速的一种有效方法.目前结构化的剪枝方法仅对整个过滤器的权重进行评估,但当一个过滤器被移除后,依赖过滤器而存在的关联权重也会被移除,现有的方法并没有考虑这部分权重的重要性,忽略了权重关联性.同时,通过试错的方式来得到每层的剪枝比例,工作量较大.针对上述问题,本文提出一种基于权重关联性的卷积神经网络剪枝算法.首先,在经过预先训练的模型上,该算法对整个过滤器权重与其相应输出通道在下一层的关联权重进行联合评估.其次对评估值进行全局标准化,实现评估值的全局可比较,移除整个模型中重要性较小的过滤器权重从而实现剪枝.最后对剪枝后的模型进行微调,恢复模型的准确率.在CIFAR10/100数据集上,本文对VGGNet、Res Net和DenseNet模型进行实验.实验结果表明,提出的方法可以有效地压缩和加速模型,且模型仍能保持良好的精度. 展开更多
关键词 深度学习 卷积神经网络 模型压缩 模型剪枝 权重的关联性
下载PDF
模型剪枝算法综述 被引量:6
17
作者 李屹 魏建国 刘贯伟 《计算机与现代化》 2022年第9期51-59,共9页
模型剪枝算法利用不同的标准或方式对深度神经网络中冗余神经元进行裁剪,在不损失模型精度的情况下对模型进行最大程度的压缩,从而可以减少存储并提升速度。首先,对模型剪枝算法的研究现状与主要研究方向进行总结并归类。主要研究方向... 模型剪枝算法利用不同的标准或方式对深度神经网络中冗余神经元进行裁剪,在不损失模型精度的情况下对模型进行最大程度的压缩,从而可以减少存储并提升速度。首先,对模型剪枝算法的研究现状与主要研究方向进行总结并归类。主要研究方向包括剪枝的尺度、剪枝元素重要性评估的方法、剪枝的稀疏度、剪枝的理论基础及对于不同任务的剪枝等方面。然后对近年来具有代表性的剪枝算法进行详细描述。最后对此领域的研究提出未来展望。 展开更多
关键词 模型剪枝 深度学习 通道 阈值 压缩
下载PDF
融合弱层惩罚的卷积神经网络模型剪枝方法 被引量:1
18
作者 房志远 石守东 +1 位作者 郑佳罄 胡加钿 《计算机工程》 CAS CSCD 北大核心 2022年第5期67-73,共7页
深度卷积神经网络的存储和计算需求巨大,难以在一些资源受限的嵌入式设备上进行部署。为尽可能减少深度卷积神经网络模型在推理过程中的资源消耗,引入基于几何中值的卷积核重要性判断标准,提出一种融合弱层惩罚的结构化非均匀卷积神经... 深度卷积神经网络的存储和计算需求巨大,难以在一些资源受限的嵌入式设备上进行部署。为尽可能减少深度卷积神经网络模型在推理过程中的资源消耗,引入基于几何中值的卷积核重要性判断标准,提出一种融合弱层惩罚的结构化非均匀卷积神经网络模型剪枝方法。使用欧式距离计算各层卷积核间的信息距离,利用各卷积层信息距离的数据分布特征识别弱层,通过基于贡献度的归一化函数进行弱层惩罚,消除各层间的差异性。在全局层面评估卷积核重要性,利用全局掩码技术对所有卷积核实现动态剪枝。在CIFAR-10、CIFAR-100和SVHN数据集上的实验结果表明,与SFP、PFEC、FPGM和MIL剪枝方法相比,该方法剪枝得到的VGG16单分支、Resnet多分支、Mobilenet-v1轻量化网络模型在保证精度损失较小的情况下,有效地减少了模型参数量和浮点操作数。 展开更多
关键词 模型剪枝 弱层惩罚 全局掩码 欧式距离 核重要性评估
下载PDF
基于量化和模型剪枝的卷积神经网络压缩方法 被引量:7
19
作者 吴卫贤 赵鸣 黄晓丹 《软件导刊》 2021年第10期78-83,共6页
为了使得用于目标识别的神经网络模型适应普通移动端或者嵌入式设备,需要将模型中对结果无影响的部分卷积通道剪枝,并简化权值数据。鉴于此,提出一种基于卷积神经网络的剪枝和权值量化方法:首先,对卷积神经网络中常见的卷积层和全连接... 为了使得用于目标识别的神经网络模型适应普通移动端或者嵌入式设备,需要将模型中对结果无影响的部分卷积通道剪枝,并简化权值数据。鉴于此,提出一种基于卷积神经网络的剪枝和权值量化方法:首先,对卷积神经网络中常见的卷积层和全连接层中的权值在训练后进行大小判别;其次,通过对权值及相应通道的剪枝达到降低卷积神经网络模型体积的目的;最后,对剩余权值进行量化处理,降低卷积神经网络计算成本,并对量化后的模型进行一定微调,以恢复精度。实验显示,网络模型大小降为原来的1/4,推理时间为原来的1/2,使得模型计算成本低于原模型并且计算效率高于原模型。实验结果表明,该方法能显著提升卷积神经网络模型计算速度,并压缩模型大小。 展开更多
关键词 神经网络 模型剪枝 目标检测 权值量化
下载PDF
基于CNN的视频火焰识别及模型剪枝
20
作者 杨植凯 卜乐平 +2 位作者 王腾 欧阳继能 袁鹏 《海军工程大学学报》 CAS 北大核心 2020年第3期102-107,共6页
针对目前火焰识别仅用单帧图像判断是否起火准确率低的缺点,引入视频识别的方法,通过提取火焰的运动信息提升卷积神经网络(CNN)识别微小火焰的准确率。首先,在CNN Resnet18的最后一层添加3D卷积层,突出火焰的运动特性,抑制其他形式的运... 针对目前火焰识别仅用单帧图像判断是否起火准确率低的缺点,引入视频识别的方法,通过提取火焰的运动信息提升卷积神经网络(CNN)识别微小火焰的准确率。首先,在CNN Resnet18的最后一层添加3D卷积层,突出火焰的运动特性,抑制其他形式的运动;然后,对该模型进行剪枝处理,压缩网络参数。实验结果表明:在剪去90%卷积核的情况下,该模型准确率仍然保持在86.4%的较高水平,最小可以识别大小为20×30像素的火焰。 展开更多
关键词 火焰识别 卷积神经网络 3D卷积 模型剪枝
下载PDF
上一页 1 2 6 下一页 到第
使用帮助 返回顶部