期刊文献+
共找到79篇文章
< 1 2 4 >
每页显示 20 50 100
ReLU激活函数深度网络的构造与逼近 被引量:1
1
作者 刘爱丽 陈志祥 《绍兴文理学院学报》 2024年第2期58-68,共11页
研究ReLU激活函数深度网络的构造与逼近问题.以一个在[-1,1]上对x^(2)具有指数逼近阶的深度ReLU网络作为子网络,构造逼近任意n次多项式的深度网络,并给出其逼近误差的上界估计.借助一元正交切比雪夫多项式、张量积理论和函数逼近的方法... 研究ReLU激活函数深度网络的构造与逼近问题.以一个在[-1,1]上对x^(2)具有指数逼近阶的深度ReLU网络作为子网络,构造逼近任意n次多项式的深度网络,并给出其逼近误差的上界估计.借助一元正交切比雪夫多项式、张量积理论和函数逼近的方法,构造二元正交多项式和两个输入的深度网络,同时得到了对二元连续函数的逼近估计. 展开更多
关键词 relu激活函数 逼近 切比雪夫多项式 深度网络
下载PDF
基于改进动态ReLU和注意力机制模型的中药材粉末显微图像识别研究 被引量:5
2
作者 王一丁 姚毅 +2 位作者 李耀利 蔡少青 袁媛 《计算机应用研究》 CSCD 北大核心 2021年第9期2861-2865,2870,共6页
中药材粉末显微特征图像数据量少、样本类别分布不均衡、类间差异小,传统的图像识别方法分类效果不佳。针对以上问题提出一种基于动态ReLU和注意力机制模型的深度卷积神经网络改进方法。首先,采用对小样本数据分类效果明显的Xception作... 中药材粉末显微特征图像数据量少、样本类别分布不均衡、类间差异小,传统的图像识别方法分类效果不佳。针对以上问题提出一种基于动态ReLU和注意力机制模型的深度卷积神经网络改进方法。首先,采用对小样本数据分类效果明显的Xception作为基础网络;其次,将网络中的静态ReLU激活函数替换为改进的动态ReLU函数,让每个样本具有自己独特的ReLU参数;最后,在网络中嵌入改进的SE模块,使网络能够更好地自动学习到每个特征通道的重要程度。以上方法可以使网络更加注重于图像中的细节信息,能很好地解决样本类别分布不均衡、类间差异小的问题。实验结果表明,对56种中药材粉末导管图像进行分类识别,其准确率提升了约1.5%,达到93.8%,证明了所提研究方法相比于其他图像分类方法具有一定的优越性。 展开更多
关键词 卷积神经网络 中药材粉末显微特征图像识别 深度学习 动态relu函数 SE模块
下载PDF
基于改进的YOLOv5网络的舌象检测算法
3
作者 张杨 辛国江 +1 位作者 王鑫 朱磊 《计算机技术与发展》 2024年第2期156-162,共7页
针对目前舌象检测模型在自然状态下对舌象检测存在的误检和漏检的问题,以收集的舌象为研究对象,提出了一种基于YOLOv5的自然状态下的舌象检测算法。首先,将原有的SiLU激活函数替换为ReLu激活函数,减少指数运算,加速舌象检测网络收敛;然... 针对目前舌象检测模型在自然状态下对舌象检测存在的误检和漏检的问题,以收集的舌象为研究对象,提出了一种基于YOLOv5的自然状态下的舌象检测算法。首先,将原有的SiLU激活函数替换为ReLu激活函数,减少指数运算,加速舌象检测网络收敛;然后,利用Ghost轻量化模块技术,大幅降低舌象检测网络的参数量;最后,将SimAm注意力机制融入特征提取网络获取舌象特征,从多维度融合舌象特征,降低自然环境对舌象特征提取的影响。得到一个轻量化的舌象检测模型,在自制的数据集上分析可知:轻量化检测模型参数量达到7.8 MB,检测的精度达到96.6%,同时每秒处理帧数高达86帧,更适合自然状态下舌象的采集工作。实验结果表明,改进的舌象检测网络在自制舌象数据集上,相比于其它常用检测算法,性能指标上均有不同程度提升,对舌象的检测效果更好。 展开更多
关键词 舌象检测 YOLOv5 relu激活函数 轻量化 SimAm注意力机制
下载PDF
基于多感受野特征增强的改进EfficientDet遥感目标检测算法
4
作者 张润梅 贾振楠 +3 位作者 李佳祥 吴路路 徐信芯 袁彬 《电光与控制》 CSCD 北大核心 2024年第7期53-60,96,共9页
针对遥感图像目标检测中小目标检测精度低、目标密集和尺度形态多样等问题,在轻量化网络EfficientDet-D0目标检测算法的基础上,在加权双向特征金字塔网络(BiFPN)进行特征融合时加入小尺度以及高一级尺度的中间信息,对BiFPN网络进行重构... 针对遥感图像目标检测中小目标检测精度低、目标密集和尺度形态多样等问题,在轻量化网络EfficientDet-D0目标检测算法的基础上,在加权双向特征金字塔网络(BiFPN)进行特征融合时加入小尺度以及高一级尺度的中间信息,对BiFPN网络进行重构,充分利用不同尺度信息,提高多尺度目标检测精度;同时在BiFPN中加入融合空洞卷积和快速归一化融合方法的特征增强模块,补强因特征图缩放所丢失的特征信息,进一步提高检测精度;另外,采用参数动态的Dynamic ReLU激活函数对原始网络中的参数静态的Swish激活函数进行改进。改进EfficientDet算法在不影响轻量化特点的前提下,对公开数据集Pascal VOC的目标检测平均精度均值(mAP)相较于原始算法提升11.9个百分点,亦优于其他目标检测算法。针对遥感图像数据集RSOD,通过Imgaug数据增强库对已有的936幅遥感图像数据集进行数据增广,利用改进模型进行迁移学习,未进行数据增广和增广后的目标检测结果分别为88.38%和96.78%,证明所提算法可以满足实际应用中对遥感图像目标的检测要求。 展开更多
关键词 深度学习 遥感图像 目标检测 EfficientDet 多尺度特征融合 特征增强模块 Dynamic relu
下载PDF
基于改进VGG16图像分类方法研究
5
作者 伊卫国 杨金玮 《大连交通大学学报》 CAS 2024年第4期108-112,120,共6页
针对神经网络模型在训练过程中遇到的收敛速度慢和测试样本不平衡导致的准确率降低问题,提出了一种基于改进VGG16图像分类模型的LBF-VGG16(Leaky-Bactch-Focal-VGG16)。该模型将原Relu激活函数替换为Leaky Relu,并在卷积层与激活函数之... 针对神经网络模型在训练过程中遇到的收敛速度慢和测试样本不平衡导致的准确率降低问题,提出了一种基于改进VGG16图像分类模型的LBF-VGG16(Leaky-Bactch-Focal-VGG16)。该模型将原Relu激活函数替换为Leaky Relu,并在卷积层与激活函数之间引入BN层,以优化收敛效果。在训练过程中,采用SGD优化器,并融入Focal Loss损失函数。试验结果表明,LBF-VGG16模型在分类效果和收敛速度方面较改进前均有显著提升。 展开更多
关键词 图像分类 计算机视觉 VGG16 Leaky relu Focal Loss
下载PDF
基于改进卷积神经网络的辣椒病虫害检测
6
作者 史明健 袁缘 刘铭 《长春工业大学学报》 CAS 2024年第3期216-222,共7页
针对使用卷积神经网络对辣椒病虫害进行检测有参数多、计算量大和推理时间过长等问题,提出一种基于MobileNet-V2改进的轻量化神经网络,将MobileNet-V2的BN层中的激活函数全部替换为Leaky ReLU,保留特征图中更多的有效正负信息,以提高性... 针对使用卷积神经网络对辣椒病虫害进行检测有参数多、计算量大和推理时间过长等问题,提出一种基于MobileNet-V2改进的轻量化神经网络,将MobileNet-V2的BN层中的激活函数全部替换为Leaky ReLU,保留特征图中更多的有效正负信息,以提高性能和减少计算复杂度,增强模型的鲁棒性。在公开的辣椒病虫害数据集上使用VGG16、ResNet34和MobileNet-V2等模型对比后,改进的MobileNet-V2表现出更高的准确性和更少的参数量。相对于原来的MobileNet-V2准确率提升4%,相对VGG16、ResNet34两种模型参数分别下降97%和87%。能够移动端设备实现实时病虫害检测,提供高效便捷解决方案。 展开更多
关键词 辣椒病虫害 VGG16 MobileNet-V2 ResNet34 Leaky relu
下载PDF
GNMR:基于图神经网络的三维神经元几何形态检索
7
作者 成普 《计算机与数字工程》 2024年第4期1131-1136,共6页
神经元形态结构是分析神经元活动和发展功能的重要任务。如何有效识别不同形态的神经元是一个挑战。论文提出了一种基于图形卷积神经网络的三维神经元形态检索新方法(简称GNMR)。首先,采用子-父节点方案对三维神经元进行预处理,根据三... 神经元形态结构是分析神经元活动和发展功能的重要任务。如何有效识别不同形态的神经元是一个挑战。论文提出了一种基于图形卷积神经网络的三维神经元形态检索新方法(简称GNMR)。首先,采用子-父节点方案对三维神经元进行预处理,根据三维形态的空间几何结构,将一个三维神经元分别映射到X-Y、X-Z和Y-Z三个平面;其次,论文设计了一个GNMR来检索神经元形态,为了避免梯度爆炸和梯度消失的问题,在连接层增加了三层ReLU函数。最后,在NEU-1500数据集上对该方法进行了仿真,实验结果表明该方法能够有效识别三维神经元的形态,具有较高的检索准确率、精准率和召回率。 展开更多
关键词 神经元几何形态 图神经网络 神经元识别 relu函数
下载PDF
一种使用log函数的新型修正激活单元LogReLU 被引量:6
8
作者 王多民 刘淑芬 《吉林大学学报(理学版)》 CAS CSCD 北大核心 2017年第3期617-622,共6页
提出一种新型校正激活函数的改进,该新型校正激活函数带有一个可变参数,使用对数函数对正区域的梯度进行矫正,解决了预测准确率较低的问题.改进的激活函数使用两个不同参数分别控制正区域和负区域的梯度.通过对两个不同数据集进行仿真... 提出一种新型校正激活函数的改进,该新型校正激活函数带有一个可变参数,使用对数函数对正区域的梯度进行矫正,解决了预测准确率较低的问题.改进的激活函数使用两个不同参数分别控制正区域和负区域的梯度.通过对两个不同数据集进行仿真实验的结果表明,新提出的两种方法效果均好于原始的修正线性单元,带有两个参数的改进使验证错误率分别降低了0.14%和5.33%. 展开更多
关键词 人工智能 卷积神经网络 激活函数 relu
下载PDF
基于ReLU函数的卷积神经网络的花卉识别算法 被引量:21
9
作者 郭子琰 舒心 +1 位作者 刘常燕 李雷 《计算机技术与发展》 2018年第5期154-157,163,共5页
目前对于花卉识别的工作较少,且在已有实验结果中,识别准确率和识别计算速度偏低,需要改进算法、改善实验结果。卷积神经网络由于其可以将图像直接作为输入对象从而避免人工提取特征过程的误差,且在各种外物因素下(光照、旋转、遮挡等)... 目前对于花卉识别的工作较少,且在已有实验结果中,识别准确率和识别计算速度偏低,需要改进算法、改善实验结果。卷积神经网络由于其可以将图像直接作为输入对象从而避免人工提取特征过程的误差,且在各种外物因素下(光照、旋转、遮挡等)具有良好的鲁棒性,所以在图像识别方面具有巨大的优势。因此选取卷积神经网络对花卉进行识别。在传统卷积神经网络中,一般选用Sigmoid函数作为激活函数,但是使用这种函数需要进行预训练,否则将会出现梯度消失无法收敛的问题。而采用近似生物神经激活函数ReLU则可以避免这一问题,提高机器学习的效果和速度。最终达到了92.5%的识别正确率。 展开更多
关键词 relu函数 卷积神经网络 花卉识别 近似生物神经激活函数
下载PDF
具有ReLU函数的动力神经场方程稳定解的存在性 被引量:3
10
作者 秦子雁 陈芃合 金德泉 《广西大学学报(自然科学版)》 CAS 北大核心 2021年第1期231-235,共5页
为进一步探索动力神经场的相关性质,将单调递增但是无界的ReLU函数作为阈值函数运用在一维的Amari动力神经场中,这与将单调有界的阶跃函数或Sigmoid型函数作为阈值函数的传统动力神经场研究不同。在不考虑输入,且相互作用核为高斯函数... 为进一步探索动力神经场的相关性质,将单调递增但是无界的ReLU函数作为阈值函数运用在一维的Amari动力神经场中,这与将单调有界的阶跃函数或Sigmoid型函数作为阈值函数的传统动力神经场研究不同。在不考虑输入,且相互作用核为高斯函数的情况下,对3种不同的稳定解进行研究,得出Amari动力神经场稳定解的存在条件和相关性质。 展开更多
关键词 Amari动力神经场 稳定解 relu函数 高斯函数
下载PDF
卷积神经网络中SPReLU激活函数的优化研究 被引量:9
11
作者 吴婷婷 许晓东 吴云龙 《计算机与数字工程》 2021年第8期1637-1641,共5页
由于激活函数本身的特性,使得卷积神经网络出现了梯度消失、神经元死亡、均值偏移、稀疏表达能力差等问题,针对这些问题,将“S”型激活函数和ReLU系激活函数进行了对比,分别讨论其优点和不足,并结合ReLU、PReLU和Softplus三种激活函数优... 由于激活函数本身的特性,使得卷积神经网络出现了梯度消失、神经元死亡、均值偏移、稀疏表达能力差等问题,针对这些问题,将“S”型激活函数和ReLU系激活函数进行了对比,分别讨论其优点和不足,并结合ReLU、PReLU和Softplus三种激活函数优点,提出了一种新型激活函数SPReLU。实验结果表明,SPReLU函数在性能上优于其他激活函数,收敛速度快,能有效降低训练误差,缓解梯度消失和神经元死亡等问题,能够有效地提高文本分类模型的准确性。 展开更多
关键词 卷积神经网络 激活函数 梯度消失 神经元死亡 relu
下载PDF
卷积神经网络中ReLU激活函数优化设计 被引量:33
12
作者 王双印 滕国文 《信息通信》 2018年第1期42-43,共2页
卷积神经网络中的激活函数的作用是激活神经元的特征然后保留并映射出来,这是神经网络能模拟人脑机制,解决非线性问题的关键。ReLU函数更是其中的佼佼者,但同时其自身也存在不足之处。文章从两个方面对ReLU函数进行了优化设计。对使用... 卷积神经网络中的激活函数的作用是激活神经元的特征然后保留并映射出来,这是神经网络能模拟人脑机制,解决非线性问题的关键。ReLU函数更是其中的佼佼者,但同时其自身也存在不足之处。文章从两个方面对ReLU函数进行了优化设计。对使用梯度下降法的激活函数的学习率进行讨论研究并提出可行的学习率改进方法。提出一种新型校正激活函数,称其为e-ln函数,经过Mnist数据集仿真实验证明某些情况下其性能要优于ReLU。 展开更多
关键词 卷积神经网络 激活函数 relu 优化设计
下载PDF
Palaeoskapha sichuanensis gen. et sp. nov. (Menispermaceae) from the Eocene Relu Formation in western Sichuan, West China 被引量:5
13
作者 Frederic M. B. JACQUES GUO Shuang-Xing 《植物分类学报》 CSCD 北大核心 2007年第4期576-582,共7页
Palaeoskapha sichuanensis gen. et sp. nov. of Menispermaceae is described here for the first time based on a well preserved fossil fruit. The specimen was found in the Relu Formation of western Sichuan, West China. Th... Palaeoskapha sichuanensis gen. et sp. nov. of Menispermaceae is described here for the first time based on a well preserved fossil fruit. The specimen was found in the Relu Formation of western Sichuan, West China. The specimen, straight, boat-shaped endocarp with large ventral condyle, clearly belongs to the tribe Tinosporeae. The wide aperture of the double condyle, combined with a whole shape not deeply invaginated, indicates a genus different from what was already known to science for this tribe. This fossil widens the distribution of the tribe during Eocene from North America and Europe to Asia, where it was formerly unknown. 展开更多
关键词 防已科 始新世 四川 群系 新种 植物 化石 果实
下载PDF
基于图像增强和注意力机制的作物杂草识别 被引量:5
14
作者 曲福恒 李婉婷 +2 位作者 杨勇 刘红玉 郝忠林 《计算机工程与设计》 北大核心 2023年第3期815-821,共7页
为提高复杂环境下无人机获取的作物杂草图像识别的准确率,提出一种基于图像增强与注意力机制的作物杂草识别方法。在多尺度Retinex算法中加入颜色恢复函数调节3个通道颜色的占比以恢复其颜色特征,使图像更清晰;将残差网络模型中的激活... 为提高复杂环境下无人机获取的作物杂草图像识别的准确率,提出一种基于图像增强与注意力机制的作物杂草识别方法。在多尺度Retinex算法中加入颜色恢复函数调节3个通道颜色的占比以恢复其颜色特征,使图像更清晰;将残差网络模型中的激活函数换为Leaky ReLU,加入CBAM注意力机制模块,获取更多有用信息,抑制其它无用信息。实验结果表明,该方法可以提高复杂环境下无人机获取的作物杂草图像的识别准确率,其准确率达到95.3%,高于AlexNet、ResNet18、ResNet50及其它主流算法的识别结果。 展开更多
关键词 无人机 作物杂草识别 多尺度RETINEX算法 颜色恢复函数 残差网络 Leaky relu激活函数 注意力机制
下载PDF
基于Softplus函数的神经网络的Reluplex算法验证研究
15
作者 陆明远 侯春燕 王劲松 《信息安全研究》 2022年第9期917-924,共8页
形式化验证是计算机科学中运用数理逻辑的方式验证某个系统是否可行的方法,而把形式化验证方法充分应用于神经网络领域,则能更好地研究神经网络的特性与应用.Reluplex是一种对深度神经网络进行验证的单纯形算法,它使用Relu作为激活函数,... 形式化验证是计算机科学中运用数理逻辑的方式验证某个系统是否可行的方法,而把形式化验证方法充分应用于神经网络领域,则能更好地研究神经网络的特性与应用.Reluplex是一种对深度神经网络进行验证的单纯形算法,它使用Relu作为激活函数,而Relu的神经元在训练过程中较脆弱并可能垂死.Softplus是与Relu近似但比Relu更平滑的激活函数,改进了Reluplex算法使之能检验采用Softplus激活函数的深度神经网络,随后获取了在Softplus激活函数下测试鲁棒对抗性得到的实验数据结果,通过与Relu测试结果进行对比,证明了Softplus的测试效率明显高于Relu,它比Relu更平衡,从而让神经网络的学习更快.该研究扩展了神经网络验证算法的功能并展开了相应的对比分析,有利于以后更好地验证和改进深度神经网络,以确保其安全性. 展开更多
关键词 神经网络 形式化验证 激活函数 relu函数 Softplus函数
下载PDF
基于改进时间信息融合模型的液压管路故障诊断研究 被引量:1
16
作者 高鹏 李开泰 +2 位作者 王雷雷 窦航 江俊松 《机电工程》 CAS 北大核心 2023年第12期1923-1930,共8页
航空发动机液压管路故障信号中存在强大的噪声干扰,导致其诊断模型的故障识别率较低和诊断模型的泛化性不强。针对这一问题,提出了一种基于改进的时间信息融合模型的航空液压管路故障诊断方法。首先,基于循环神经网络原理,设计了正向和... 航空发动机液压管路故障信号中存在强大的噪声干扰,导致其诊断模型的故障识别率较低和诊断模型的泛化性不强。针对这一问题,提出了一种基于改进的时间信息融合模型的航空液压管路故障诊断方法。首先,基于循环神经网络原理,设计了正向和反向的时间信息融合的变形结构,构建出了航空液压管路时间信息融合模型,并通过引入LeakyReLU函数,对模型进行了改进;然后,将实测的一维航空管路时序数据集输入到改进的时间信息融合模型双向循环神经网络(Bi-RNN)中,进行了权重参数的更新;最后,基于同一实测的数据集,分别将其输入到改进的时间信息融合模型、长短期记忆神经网络(LSTM)、循环神经网络(RNN)、支持向量机(SVM)和反向传播神经网络(BPNN)5种故障诊断方法中,进行了训练和对比分析,对相关方法的优越性进行了验证。研究结果表明:利用改进的时间信息融合模型可以对液压管路健康状态和裂纹、凹坑等故障状态进行精准识别,并且准确率可以达到99.2%,总体的准确率和综合指标F 1-sore均可以提高5.1%;在综合性能、准确精度等指标上,改进时间信息融合模型明显优于其他故障诊断模型,可为航空发动机液压管路故障诊断提供一条新的思路,具有一定的工程应用价值。 展开更多
关键词 液压传动回路 时间信息融合模型 航空管路 循环神经网络 Leakyrelu函数 权重参数更新
下载PDF
基于RoBERTa与句法信息的中文影评情感分析 被引量:3
17
作者 陈钰佳 郑更生 肖伟 《科学技术与工程》 北大核心 2023年第18期7844-7851,共8页
细粒度情感分析是自然语言处理的关键任务之一,针对现有的解决中文影评情感分析的主流方案一般使用Word2Vector等预训练模型生成静态词向量,不能很好地解决一词多义问题,并且采用CNN池化的方式提取文本特征可能造成文本信息损失造成学... 细粒度情感分析是自然语言处理的关键任务之一,针对现有的解决中文影评情感分析的主流方案一般使用Word2Vector等预训练模型生成静态词向量,不能很好地解决一词多义问题,并且采用CNN池化的方式提取文本特征可能造成文本信息损失造成学习不充分,同时未能利用文本中包含的长距离依赖信息和句子中的句法信息。因此,提出了一种新的情感分析模型RoBERTa-PWCN-GTRU。模型使用RoBERTa预训练模型生成动态文本词向量,解决一词多义问题。为充分提取利用文本信息,采用改进的网络DenseDPCNN捕获文本长距离依赖信息,并与Bi-LSTM获取到的全局语义信息以双通道的方式进行特征融合,再融入邻近加权卷积网络(proximity-weighted convolutional network,PWCN)获取到的句子句法信息,并引入门控Tanh-Relu单元(gated Tanh-Relu unit,GTRU)进行进一步的特征筛选。在构建的中文影评数据集上的实验结果表明,提出的情感分析模型较主流模型在性能上有明显提升,其在中文影评数据集上的准确率达89.67%,F 1达82.51%,通过消融实验进一步验证了模型性能的有效性。模型能够为制片方未来的电影制作和消费者的购票决策提供有用信息,具有一定的实用价值。 展开更多
关键词 中文影评 情感分析 RoBERTa预训练模型 邻近加权卷积 门控Tanh-relu单元
下载PDF
基于改进CNN的苹果缺陷检测方法研究 被引量:2
18
作者 杜国真 卢明星 +1 位作者 季泽旭 刘继超 《食品与机械》 CSCD 北大核心 2023年第6期155-160,共6页
目的:解决现有苹果缺陷检测方法存在的精度低、效率差等问题。方法:基于水果图像采集系统,提出一种改进的卷积神经网络用于苹果表面缺陷检测;引入深度可分离卷积代换原网络标准卷积,提高特征提取速度;引入Leaky ReLU激活函数代替ReLU激... 目的:解决现有苹果缺陷检测方法存在的精度低、效率差等问题。方法:基于水果图像采集系统,提出一种改进的卷积神经网络用于苹果表面缺陷检测;引入深度可分离卷积代换原网络标准卷积,提高特征提取速度;引入Leaky ReLU激活函数代替ReLU激活函数,提高计算效率和精度;引入全局平均池化替换全连接层,降低网络模型的计算量;并在每层卷积后加入批量归一化层,通过试验与常规方法进行对比分析,验证其优越性。结果:与常规方法相比,所提方法在苹果缺陷检测中具有较高的检测准确率和速度,且模型参数量少,准确率达99.60%,检测速度(每秒帧数)达526,模型参数量为389 072。结论:该苹果缺陷检测方法能有效降低模型参数和检测时间,具有较高的准确率和速度。 展开更多
关键词 缺陷检测 苹果 卷积神经网络 深度可分离卷积 Leaky relu激活函数 全局平均池化
下载PDF
基于有效通道注意力EfficientNet的肝硬化识别 被引量:1
19
作者 马粤盼 赵希梅 张宁 《青岛大学学报(自然科学版)》 CAS 2023年第1期15-21,共7页
针对传统卷积神经网络模型复杂度高、参数量大,网络分类的精度和效率不佳等问题,提出一种应用于医学超声图像中肝硬化识别的深度学习方法(E-EfficientNet)。在EfficientNet网络模型中,将模块MBConv中的注意力机制SENet模块替换为一种不... 针对传统卷积神经网络模型复杂度高、参数量大,网络分类的精度和效率不佳等问题,提出一种应用于医学超声图像中肝硬化识别的深度学习方法(E-EfficientNet)。在EfficientNet网络模型中,将模块MBConv中的注意力机制SENet模块替换为一种不降维的ECANet模块,避免降维操作导致的特征信息缺失,增强通道学习能力并降低模型复杂度;将可变形卷积融入EfficientNet网络,利用可变形卷积核能够依据目标形态自适应调整变化的特点,充分学习图像细节,提升算法的泛化能力和特征提取能力;对有限样本进行数据增强,避免训练过程中出现过拟合,并使用Leaky ReLU作为激活函数保留图像负值特征信息,提高对肝硬化的识别效果。实验结果表明,该模型复杂度低,在肝硬化识别中准确率为98.9%。 展开更多
关键词 EfficientNet MBConv 注意力机制 可变形卷积 Leaky relu
下载PDF
深度ReLU神经网络的万有一致性 被引量:2
20
作者 刘霞 王迪 《中国科学:信息科学》 CSCD 北大核心 2024年第3期638-652,共15页
随着数据量爆炸式增长、计算资源愈加丰富,浅层神经网络并不总能满足时代需求,从而导致深度神经网络的出现.深度神经网络的迅猛发展主要体现在应用领域,其理论研究相对匮乏.基于此,本文聚焦研究深度ReLU神经网络的万有一致性,具体内容包... 随着数据量爆炸式增长、计算资源愈加丰富,浅层神经网络并不总能满足时代需求,从而导致深度神经网络的出现.深度神经网络的迅猛发展主要体现在应用领域,其理论研究相对匮乏.基于此,本文聚焦研究深度ReLU神经网络的万有一致性,具体内容包括:首先,是否存在一个具有统一结构的深度神经网络(即深度、宽度、激活函数等均已确定)使得该深度神经网络可以学习更多特征,并具有万有逼近性;其次,针对已确定的深度神经网络模型,证明其是强万有一致的;最后,从实验的角度验证理论结果的合理性. 展开更多
关键词 深度神经网络 万有一致性 深度学习 relu 函数 逼近性
原文传递
上一页 1 2 4 下一页 到第
使用帮助 返回顶部