期刊文献+
共找到27篇文章
< 1 2 >
每页显示 20 50 100
面向样本不平衡的网络入侵检测方法
1
作者 王肖 李大鹏 《无线通信技术》 2025年第1期6-12,共7页
针对当前网络入侵检测方法特征信息提取不足、网络异常流量样本数量不平衡导致入侵检测准确率低的问题,提出一种结合卷积神经网络(Convolutional Neural Network,CNN)、双向门控循环单元(Bidirectional Gated Recurrent Unit,BiGRU)与... 针对当前网络入侵检测方法特征信息提取不足、网络异常流量样本数量不平衡导致入侵检测准确率低的问题,提出一种结合卷积神经网络(Convolutional Neural Network,CNN)、双向门控循环单元(Bidirectional Gated Recurrent Unit,BiGRU)与注意力机制的网络入侵检测方法。首先,对网络流量数据进行数据预处理;然后,通过一维卷积神经网络提取其局部特征,双向门控循环单元提取其长距离序列特征;最后,融合注意力机制使关键信息得到更好的表达。此外,引入Equalization Loss v2(EQL v2)作为损失函数对少数类样本进行加权,以解决网络流量样本不平衡的问题。在CICIDS2017数据集上的结果表明,所提方法能够有效改善原始数据集中的样本不平衡问题,提高对网络入侵的检测准确率和异常流量样本的检测能力。 展开更多
关键词 网络入侵检测 样本不平衡 卷积神经网络 双向循环控制单元 注意力机制
原文传递
基于多任务学习的注意力机制双向GRU用于在线手写签名认证 被引量:2
2
作者 沈奇 栾方军 袁帅 《计算机科学与应用》 2022年第2期473-485,共13页
深度学习的进步极大地提高了在线签名认证(online signature verification, OSV)系统的性能,但是如何从有限的签名样本中学习具有判别性的签名特征仍然是该领域所面临的挑战。为了缓解这个问题,本研究提出了一种基于多任务学习的注意力... 深度学习的进步极大地提高了在线签名认证(online signature verification, OSV)系统的性能,但是如何从有限的签名样本中学习具有判别性的签名特征仍然是该领域所面临的挑战。为了缓解这个问题,本研究提出了一种基于多任务学习的注意力机制双向门循环单元(MT-A-BiGRU)模型来实现在线签名的认证。首先,通过基于注意力机制的双向门循环单元(A-BiGRU)模型来实现序列特征的有监督表征学习,并引入深度度量学习任务来充分挖掘序列特征的潜在表示。在此基础上,将稀疏自动编码器压缩后的全局特征与A-BiGRU模型所提取的特征进行融合,以实现特征信息的互补。最后,本文提出一种基于多任务学习的训练方法,进一步提高了OSV系统的准确率。所提出的方法在SVC-2004-task2数据集中达到了2.16%的等错误率和96.88%的准确率,实验结果表明所提出的方法够有效地提高OSV系统的认证精度。 展开更多
关键词 在线签名认证 多任务学习 注意力机制 双向循环单元 稀疏自动编码器
下载PDF
基于双向GRU和PCNN的人物关系抽取 被引量:7
3
作者 王明波 王峥 邱秀连 《电子设计工程》 2020年第10期160-165,共6页
目前基于深度学习的人物关系抽取方法中大都使用单一的CNN或RNN模型,CNN擅长提取局部的最重要特征,但是不适合处理序列输入,而RNN虽然在任意长度的序列化任务中具有很大的优势,但是对局部的重要特征提取不够充分,针对以上问题,提出一种... 目前基于深度学习的人物关系抽取方法中大都使用单一的CNN或RNN模型,CNN擅长提取局部的最重要特征,但是不适合处理序列输入,而RNN虽然在任意长度的序列化任务中具有很大的优势,但是对局部的重要特征提取不够充分,针对以上问题,提出一种基于双向GRU和PCNN的人物关系抽取方法。将双向GRU模型与PCNN模型的优点结合起来,同时在模型中加入注意力机制。利用远程监督的方法构建训练语料进行实验验证,结果表明,该方法相较于单一的双向GRU模型、PCNN模型具有更好的效果。 展开更多
关键词 深度学习 人物关系抽取 双向循环单元 卷积神经网络
下载PDF
基于双层注意力和深度自编码器的时间序列异常检测模型 被引量:1
4
作者 尹春勇 赵峰 《计算机工程与科学》 CSCD 北大核心 2024年第5期826-835,共10页
目前时间序列通常具有弱周期性以及高度复杂的相关性特征,传统的时间序列异常检测方法难以检测此类异常。针对这一问题,提出了一种新的无监督时间序列异常检测模型(DA-CBG-AE)。首先,使用新型滑动窗口方法,针对时间序列周期性设置滑动... 目前时间序列通常具有弱周期性以及高度复杂的相关性特征,传统的时间序列异常检测方法难以检测此类异常。针对这一问题,提出了一种新的无监督时间序列异常检测模型(DA-CBG-AE)。首先,使用新型滑动窗口方法,针对时间序列周期性设置滑动窗口大小;其次,采用卷积神经网络提取时间序列高维度空间特征;然后,提出具有堆叠式Dropout双向门循环单元网络作为自编码器的基本结构,从而捕捉时间序列的相关性特征;最后,引入双层注意力机制,进一步提取特征,选择更加关键的时间序列,从而提高异常检测准确率。为了验证该模型的有效性,将DA-CBG-AE与6种基准模型在8个数据集上进行比较。最终的实验结果表明,DA-CBG-AE获得了最优的F1值(0.863),并且其检测性能相比最新的基准模型Tad-GAN高出25.25%。 展开更多
关键词 异常检测 双层注意力机制 自编码器 卷积神经网络 双向循环单元
下载PDF
基于CNN-BiGRU的高压直流输电线路故障识别 被引量:1
5
作者 赵妍 王泽通 +3 位作者 邢士标 朱建华 陈阔 张思博 《吉林电力》 2024年第1期29-34,39,共7页
针对高压直流(high voltage direct current,HVDC)输电线路故障暂态行波具有时序性和强非线性的特点,导致高过渡电阻情况下故障识别率低的问题,提出基于卷积神经网络(convolutional neural networks,CNN)和双向循环门单元(bidirectional... 针对高压直流(high voltage direct current,HVDC)输电线路故障暂态行波具有时序性和强非线性的特点,导致高过渡电阻情况下故障识别率低的问题,提出基于卷积神经网络(convolutional neural networks,CNN)和双向循环门单元(bidirectional gate recurrent unit,BiGRU)的HVDC输电线路故障识别方法。首先,采用故障后整流侧的双极暂态电流行波作为特征向量,利用CNN提取全局特征,并从中剔除噪声和不稳定成分,完成对数据的降维处理。然后,采用BiGRU来捕获CNN提取到特征的前后时间信息,进一步提取数据中的时序特征,以实现HVDC输电线路故障识别。仿真结果表明:该方法可在不同故障地点以及不同过渡电阻下对单极接地、双极短路、雷击故障、雷击干扰共四种故障实现准确识别,可靠性高,具有较强的耐受过渡电阻能力,同时具备一定的抗噪性能。 展开更多
关键词 深度学习 高压直流 卷积神经网络 双向循环单元 故障识别
下载PDF
融合多粒度信息的用户画像生成方法 被引量:4
6
作者 邵一博 秦玉华 +2 位作者 崔永军 高宝勇 赵彪 《计算机应用研究》 CSCD 北大核心 2024年第2期401-407,共7页
现有用户画像方法缺乏不同粒度文本信息表示,且特征提取阶段存在噪声,导致构建画像不够准确。针对以上问题,提出一种融合多粒度信息的用户画像生成方法(user profile based on multi-granularity information fusion,UP-MGIF)。首先,该... 现有用户画像方法缺乏不同粒度文本信息表示,且特征提取阶段存在噪声,导致构建画像不够准确。针对以上问题,提出一种融合多粒度信息的用户画像生成方法(user profile based on multi-granularity information fusion,UP-MGIF)。首先,该方法在嵌入层融合字粒度、词粒度表示向量以扩充特征内容;其次,在改进双向门控循环单元网络基础上,结合降噪自编码器和注意力机制设计一种特征提取混合模型Bi-GRU-DAE-Attention,实现特征降噪和语义增强;最后,将鲁棒性强的特征向量输入到分类器中实现用户画像生成。实验表明,该用户画像生成方法在医疗和互联网两个画像数据集上的分类准确率高于其他基线方法,并通过消融实验验证了各个模块的有效性。 展开更多
关键词 用户画像 多粒度信息融合 特征提取 双向控制循环单元
下载PDF
基于多粒度网络预测增强子-启动子相互作用
7
作者 刘志豪 王会青 +1 位作者 李浩琳 韩家乐 《华东理工大学学报(自然科学版)》 CAS CSCD 北大核心 2024年第1期106-113,共8页
准确识别增强子-启动子相互作用(EPIs)对疾病来源追踪和发展基因疗法有重要意义。现有预测方法缺乏对序列不同粒度信息的关注,提取增强子、启动子序列包含的不同粒度特征有助于从多层级分析EPIs。因此,提出EPIs预测模型EPI-PBGA(Paralle... 准确识别增强子-启动子相互作用(EPIs)对疾病来源追踪和发展基因疗法有重要意义。现有预测方法缺乏对序列不同粒度信息的关注,提取增强子、启动子序列包含的不同粒度特征有助于从多层级分析EPIs。因此,提出EPIs预测模型EPI-PBGA(Parallel BiGRU Attention Network),分别通过卷积子网络和双层双向门循环单元(BiGRU)注意子网络提取序列的细粒度、粗糙粒度特征。基于EPIs普遍存在的细胞特异性,在不同细胞系进行粒度选择,选定最优粗糙粒度,同时通过双层BiGRU注意网络提取元件子序列中存在的多种关联特征。实验结果表明,EPI-PBGA在6个基准数据集表现出较好性能,有效预测EPIs。 展开更多
关键词 增强子-启动子相互作用 多粒度 双向循环单元 特征融合 注意力机制
下载PDF
一种基于GRU的半监督网络流量异常检测方法 被引量:20
8
作者 李海涛 王瑞敏 +1 位作者 董卫宇 蒋烈辉 《计算机科学》 CSCD 北大核心 2023年第3期380-390,共11页
入侵检测系统(IDS)是在出现网络攻击时能够发出警报的检测系统,检测网络中未知的攻击是IDS面临的挑战。深度学习技术在网络流量异常检测方面发挥着重要的作用,但现有的方法大多具有较高的误报率且模型的训练大多使用有监督学习的方式。... 入侵检测系统(IDS)是在出现网络攻击时能够发出警报的检测系统,检测网络中未知的攻击是IDS面临的挑战。深度学习技术在网络流量异常检测方面发挥着重要的作用,但现有的方法大多具有较高的误报率且模型的训练大多使用有监督学习的方式。为此,提出了一种基于门循环单元网络(GRU)的半监督网络流量异常检测方法(SEMI-GRU)。该方法将多层双向门循环单元神经网络(MLB-GRU)和改进的前馈神经网络(FNN)相结合,采用数据过采样技术和半监督学习训练方式,应用二分类和多分类方式检验网络流量异常检测的效果,并使用NSL-KDD,UNSW-NB15和CIC-Bell-DNS-EXF-2021数据集进行验证。与经典机器学习模型和DNN,ANN等深度学习模型相比,SEMI-GRU方法在准确率、精确率、召回率、误报率和F1分数等指标上的表现均表现更优。在NSL-KDD二分类和多分类任务中,SEMI-GRU在F1分数指标上领先于其他方法,分别为93.08%和82.15%;在UNSW-NB15二分类和多分类任务中,SEMI-GRU在F1分数上的表现优于对比方法,分别为88.13%和75.24%;在CIC-Bell-DNS-EXF-2021轻文件攻击数据集二分类任务中,SEMI-GRU对所有测试数据均分类正确。 展开更多
关键词 入侵检测系统 半监督学习 多层双向循环单元 前馈神经网络 NSL-KDD UNSW-NB15
下载PDF
基于组合模型的城市轨道站点短时客流分类预测 被引量:10
9
作者 王金水 欧雪雯 +1 位作者 陈俊岩 唐郑熠 《铁道科学与工程学报》 EI CAS CSCD 北大核心 2023年第6期2004-2012,共9页
轨道交通客流预测是轨道交通线网规划的重要内容,是确定轨道交通系统的线网规模、设置轨道站点及布设线路基础。不同类型的轨道站点在城市中的功能定位和布局要求等方面均存在差异,进而导致站点的进出客流量呈现显著的时空分布不均衡性... 轨道交通客流预测是轨道交通线网规划的重要内容,是确定轨道交通系统的线网规模、设置轨道站点及布设线路基础。不同类型的轨道站点在城市中的功能定位和布局要求等方面均存在差异,进而导致站点的进出客流量呈现显著的时空分布不均衡性。为了挖掘各类型站点的客流变化规律,将站点自身特征和周边环境特征组成向量因子,运用K-means聚类方法对站点进行分类。在此基础上,将影响乘客出行的多源数据作为输入特征,分别构建了随机森林(RF)模型、门控制循环单元(GRU)模型以及RF-GRU组合模型,从而进行站点短时客流分类预测。利用杭州地铁站自动检票系统(AFC)采集的刷卡客流数据,对所构建的预测模型的有效性进行检验。研究结果表明:利用7个刻画站点自身特征和周边环境特征的参数作为聚类因子,并结合站点客流时间分布数据,可将杭州市地铁站点分为就业导向型车站、职住混合型车站和住宅偏远型车站;采用平均绝对误差以及均方根误差作为评价指标,参数化模型(ARIMA),非参数化模型(SVR),深度学习模型(LSTM,GRU,SAEs和GCN),组合模型(DCRNN,STGCN,STHGCN和DSTHGCN)的预测误差依次降低,其中RF-GRU组合模型的预测精度优于其他的组合模型;对站点进行分类之后,单一模型和组合模型预测结果的精度均有提高。 展开更多
关键词 智能交通 短时客流量预测 组合预测模型 多源数据 随机森林 控制循环单元
下载PDF
融入自注意力机制的深度学习情感分析方法 被引量:18
10
作者 胡艳丽 童谭骞 +1 位作者 张啸宇 彭娟 《计算机科学》 CSCD 北大核心 2022年第1期252-258,共7页
文本情感极性分析是自然语言处理的热点领域,近年来基于中文语料的情感分析方法受到了学术界的广泛关注。目前大部分基于词向量的循环神经网络与卷积神经网络模型对于文本特征的提取和保留能力不足,为此文中引入了多层自注意力机制,提... 文本情感极性分析是自然语言处理的热点领域,近年来基于中文语料的情感分析方法受到了学术界的广泛关注。目前大部分基于词向量的循环神经网络与卷积神经网络模型对于文本特征的提取和保留能力不足,为此文中引入了多层自注意力机制,提出了一种结合双向门控循环单元(BGRU)和多粒度卷积神经网络的中文情感极性分析方法。该方法首先使用BGRU获取文本的序列化特征信息,然后使用自注意力机制进行初步特征筛选,将处理后的特征信息导入含有不同卷积核的卷积神经网络;再使用自注意力机制对获得的局部特征进行动态权重的调整,注重关键特征的抽取;最后经Softmax获得文本情感极性。实验结果证明,模型在两种中文语料数据集上都体现了较好的分析处理性能,其中在ChineseNLPcorpus的online;hopping;0;ats数据集上取得了92.94%的情感分类准确性,在中科院谭松波学者整理的酒店评论数据集上取得了92.75%的情感分类准确度,相比目前的主流方法,其性能均有显著的提升。 展开更多
关键词 情感分析 自注意力机制 双向控制循环单元 多粒度卷积神经网络
下载PDF
融合残差网络的CR-BiGRU入侵检测模型 被引量:10
11
作者 沈记全 魏坤 《吉林大学学报(理学版)》 CAS 北大核心 2023年第2期353-361,共9页
针对当前网络攻击的复杂性和多样性,传统模型提取流量特征不足且准确率较低的问题,提出一种融合残差网络改进的CR-BiGRU混合模型的网络入侵检测方法.首先将数据集进行归一化以及独热编码处理,然后利用基于残差网络的卷积神经网络提取空... 针对当前网络攻击的复杂性和多样性,传统模型提取流量特征不足且准确率较低的问题,提出一种融合残差网络改进的CR-BiGRU混合模型的网络入侵检测方法.首先将数据集进行归一化以及独热编码处理,然后利用基于残差网络的卷积神经网络提取空间特征,最后使用双向门控神经网络提取时间特征,完成模型的训练并实现异常网络的入侵检测.为表明模型的适用性,基于数据集NSL-KDD和UNSW-NB15进行对比分析实验,结果表明,该方法基于上述数据集准确率分别达99.40%和83.79%,明显优于经典网络入侵检测算法,能有效提升检测网络入侵的精度,从而更好保证网络数据的通信安全. 展开更多
关键词 入侵检测 深度学习 网络流量 卷积神经网络 双向控制循环单元
下载PDF
基于用户和产品Attention机制的层次BGRU模型 被引量:12
12
作者 郑雄风 丁立新 万润泽 《计算机工程与应用》 CSCD 北大核心 2018年第11期145-152,共8页
文本情感分类的核心问题是如何有效地表示文本的情感语义,然而,目前的大多数方法只考虑到了文本内容中的情感语义,忽略了与文本内容相关的用户信息以及文本内容所描述的产品信息。已有的包含用户和产品信息方法也存在着以下两个问题:(1... 文本情感分类的核心问题是如何有效地表示文本的情感语义,然而,目前的大多数方法只考虑到了文本内容中的情感语义,忽略了与文本内容相关的用户信息以及文本内容所描述的产品信息。已有的包含用户和产品信息方法也存在着以下两个问题:(1)不能有效地表示用户和产品信息,而且模型复杂度过高导致训练速度满。(2)文本情感语义表示模型过于简单,不能有效地表示文本中的上下文语义信息。针对以上两个问题,提出了相应的解决方案:(1)针对用户和产品的评价数据,利用奇异值分解(Singular Value Decomposition,SVD)的方法得到用户和产品的语义准确的先验信息,同时避免了用户和产品信息等相关参数的训练,缓解了模型复杂度高的问题。(2)利用双向的门循环单元(GRU)模型代替原有的简单模型,更加有效地结合了文本中的上下文语义信息。实验结果表明:相比传统的文本分类方法,提出的方法有更好的分类效果,在部分实验数据中达到了最好的分类准确度。同时模型的训练速度也得到了提升。 展开更多
关键词 深度学习 文本情感分类 注意力机制 奇异值分解 双向循环单元
下载PDF
基于BO-GRU的混凝土坝变形预测模型 被引量:8
13
作者 李其峰 杨杰 +1 位作者 程琳 仝飞 《水资源与水工程学报》 CSCD 北大核心 2021年第4期180-184,193,共6页
针对混凝土坝变形具有较强的非线性特点、目前大坝变形预测模型出现参数过多及易陷入局部最优等问题,提出了一种深度学习中的门控制循环单元(GRU)模型,并结合贝叶斯优化算法(BO)对门控制循环单元的超参数进行优化,建立BO-GRU模型应用于... 针对混凝土坝变形具有较强的非线性特点、目前大坝变形预测模型出现参数过多及易陷入局部最优等问题,提出了一种深度学习中的门控制循环单元(GRU)模型,并结合贝叶斯优化算法(BO)对门控制循环单元的超参数进行优化,建立BO-GRU模型应用于混凝土坝变形预测。为检验模型的可行性,以实测变形监测数据为基础,并与极限学习机、相关向量机和基于遗传算法优化的支持向量机等模型预测结果进行对比。结果表明:该模型的泛化能力强、运行效率高,能有效运用于混凝土坝的变形预测。 展开更多
关键词 混凝土坝 变形预测 深度学习 控制循环单元 贝叶斯优化算法
下载PDF
双通道混合神经网络的文本情感分析模型 被引量:8
14
作者 杨长利 刘智 鲁明羽 《计算机工程与应用》 CSCD 北大核心 2020年第11期124-128,共5页
大多数文本情感分析方法不能有效地反映文本序列中不同单词的重要程度,并且不能获得足够的文本信息。提出了一种双通道混合神经网络的文本情感分析模型,混合神经网络层在胶囊网络(Capsule Network)模型和双向门限循环单元(BiGRU)模型之... 大多数文本情感分析方法不能有效地反映文本序列中不同单词的重要程度,并且不能获得足够的文本信息。提出了一种双通道混合神经网络的文本情感分析模型,混合神经网络层在胶囊网络(Capsule Network)模型和双向门限循环单元(BiGRU)模型之后分别引入注意力机制,使其自适应地感知上下文信息并提取影响文本情感分析的文本特征,将两种模型提取的特征进行融合。将两种不同的词向量经过混合神经网络层得到的结果进一步融合,由Softmax分类器进行分类。在三个标准数据集上的实验结果证明了该模型的有效性。 展开更多
关键词 混合神经网络 特征融合 注意力机制 双向循环单元 胶囊网络
下载PDF
基于时序特征的草图识别方法 被引量:1
15
作者 于美玉 吴昊 +2 位作者 郭晓燕 贾棋 郭禾 《计算机科学》 CSCD 北大核心 2018年第B11期198-202,共5页
草图识别是一项很具有挑战性的工作。目前,大部分草图识别的工作都将草图当作普通的纹理图像,忽视了草图的时序性。因此,文中通过挖掘草图的时序性,将草图笔画按照时间分组。为进一步利用时序特征在草图识别过程中的作用,使用了循环神... 草图识别是一项很具有挑战性的工作。目前,大部分草图识别的工作都将草图当作普通的纹理图像,忽视了草图的时序性。因此,文中通过挖掘草图的时序性,将草图笔画按照时间分组。为进一步利用时序特征在草图识别过程中的作用,使用了循环神经网络将笔画分组按照时间序列作为输入,最后使用联合贝叶斯将各个时序下获得的草图特征进行整合,完成草图的识别工作。在公开标准数据集上对所提算法进行了测试,实验结果显示该算法的识别准确率明显高于其他算法。 展开更多
关键词 草图识别 时序性 循环神经网络 控制单元 联合贝叶斯
下载PDF
基于BERT-BiGRU模型的文本分类研究 被引量:12
16
作者 王紫音 于青 《天津理工大学学报》 2021年第4期40-46,共7页
文本分类是自然语言处理的典型应用,目前文本分类最常用的是深度学习的分类方法。针对中文文本数据具有多种特性,例如隐喻表达、语义多义性、语法特异性等,在文本分类中进行研究。提出基于编码器-解码器的双向编码表示法-双向门控制循... 文本分类是自然语言处理的典型应用,目前文本分类最常用的是深度学习的分类方法。针对中文文本数据具有多种特性,例如隐喻表达、语义多义性、语法特异性等,在文本分类中进行研究。提出基于编码器-解码器的双向编码表示法-双向门控制循环单元(bidirectional encoder representations from transformers-bidirectional gate recurrent unit,BERT-BiGRU)模型结构,使用BERT模型代替传统的Word2vec模型表示词向量,根据上下文信息计算字的表示,在融合上下文信息的同时还能根据字的多义性进行调整,增强了字的语义表示。在BERT模型后面增加了BiGRU,将训练后的词向量作为Bi GRU的输入进行训练,该模型可以同时从两个方向对文本信息进行特征提取,使模型具有更好的文本表示信息能力,达到更精确的文本分类效果。使用提出的BERT-BiGRU模型进行文本分类,最终准确率达到0.93,召回率达到0.94,综合评价数值F1达到0.93。通过与其他模型的试验结果对比,发现BERT-BiGRU模型在中文文本分类任务中有良好的性能。 展开更多
关键词 文本分类 深度学习 基于编码器-解码器的双向编码表示法(bidirectional encoder representations from transformers BERT)模型 双向控制循环单元(bidirectional gate recurrent unit BiGRU)
下载PDF
融合BiGRU和记忆网络的会话推荐算法 被引量:3
17
作者 曾亚竹 孙静宇 何倩倩 《计算机工程与设计》 北大核心 2023年第2期335-342,共8页
为消除噪声、充分使用邻域信息并考虑用户动态兴趣,提出一种融合BiGRU和记忆网络的会话推荐模型。使用BiGRU捕获会话总体特征,使用另一个加入缩放点积自注意力的BiGRU消除噪声项的干扰并捕获细粒度的用户兴趣,使用记忆网络通过邻域会话... 为消除噪声、充分使用邻域信息并考虑用户动态兴趣,提出一种融合BiGRU和记忆网络的会话推荐模型。使用BiGRU捕获会话总体特征,使用另一个加入缩放点积自注意力的BiGRU消除噪声项的干扰并捕获细粒度的用户兴趣,使用记忆网络通过邻域会话信息预测当前的会话意图,改进融合选通门进行特征融合并计算每个候选项的推荐分数。通过在两个数据集上的实验,验证了该模型能够准确预测用户意图,提高推荐效果。 展开更多
关键词 会话推荐 双向循环单元 记忆网络 缩放点积自注意力 用户兴趣 邻域会话 融合选通
下载PDF
语义及句法特征多注意力交互的医疗自动问答 被引量:2
18
作者 张华丽 康晓东 +2 位作者 李小军 刘汉卿 王笑天 《计算机工程与应用》 CSCD 北大核心 2022年第18期233-240,共8页
针对中文医疗自动问答任务,为了捕捉问答句中重要的句法信息和语义信息,提出引入图卷积神经网络捕捉句法信息,并添加多注意力池化模块实现问答句的语序特征和句法特征联合学习的方法。在BERT模型学习问答句的高阶语义特征基础上,利用双... 针对中文医疗自动问答任务,为了捕捉问答句中重要的句法信息和语义信息,提出引入图卷积神经网络捕捉句法信息,并添加多注意力池化模块实现问答句的语序特征和句法特征联合学习的方法。在BERT模型学习问答句的高阶语义特征基础上,利用双向门控循环单元描述句子的全局语义特征,以及引入图卷积神经网络编码句子的语法结构信息,以与双向门控循环单元所获取的序列特征呈现互补关系;通过多注意力池化模块对问答对的不同语义空间上的编码向量进行两两交互,并着重突出问答对的共现特征;通过衡量问答对的匹配分数,找出最佳答案。实验结果表明,在cMedQA v1.0和cMedQA v2.0数据集上,相比于主流的深度学习方法,所提方法的ACC@1有所提高。实验证明引入图卷积神经网络和多注意力池化模块的集成算法能有效提升自动问答模型的性能。 展开更多
关键词 自动问答 双向循环单元 图卷积神经网络 句法信息 多注意力池化
下载PDF
基于动态行为和机器学习的恶意代码检测方法 被引量:11
19
作者 陈佳捷 彭伯庄 吴佩泽 《计算机工程》 CAS CSCD 北大核心 2021年第3期166-173,共8页
目前恶意代码出现频繁且抗识别性加强,现有基于签名的恶意代码检测方法无法识别未知与隐藏的恶意代码。提出一种结合动态行为和机器学习的恶意代码检测方法。搭建自动化分析Cuckoo沙箱记录恶意代码的行为信息和网络流量,结合Cuckoo沙箱... 目前恶意代码出现频繁且抗识别性加强,现有基于签名的恶意代码检测方法无法识别未知与隐藏的恶意代码。提出一种结合动态行为和机器学习的恶意代码检测方法。搭建自动化分析Cuckoo沙箱记录恶意代码的行为信息和网络流量,结合Cuckoo沙箱与改进DynamoRIO系统作为虚拟环境,提取并融合恶意代码样本API调用序列及网络行为特征。在此基础上,基于双向门循环单元(BGRU)建立恶意代码检测模型,并在含有12170个恶意代码样本和5983个良性应用程序样本的数据集上对模型效果进行验证。实验结果表明,该方法能全面获得恶意代码的行为信息,其所用BGRU模型的检测效果较LSTM、BLSTM等模型更好,精确率和F1值分别达到97.84%和98.07%,训练速度为BLSTM模型的1.26倍。 展开更多
关键词 恶意代码 应用程序接口序列 流量分析 Cuckoo沙箱 DynamoRIO系统 双向循环单元网络
下载PDF
基于BERT的双通道神经网络模型文本情感分析研究 被引量:5
20
作者 严驰腾 何利力 《智能计算机与应用》 2022年第5期16-22,共7页
针对当前情感分析任务中使用Word2Vec、GloVe等模型生成的文本词向量,无法有效解决多义词表征、经典神经网络模型无法充分提取文本语义特征等问题,本文提出基于BERT的双通道神经网络模型文本情感分析方法。该方法采用BERT模型生成词向量... 针对当前情感分析任务中使用Word2Vec、GloVe等模型生成的文本词向量,无法有效解决多义词表征、经典神经网络模型无法充分提取文本语义特征等问题,本文提出基于BERT的双通道神经网络模型文本情感分析方法。该方法采用BERT模型生成词向量,BERT模型对下游分类任务进行微调的过程中生成文本词向量的动态表征。然后,将词向量输入由CNN与BiGRU构建的双通道模型进行特征提取,并行获取文本的局部与全局语义特征,并通过注意力机制为输出特征分配相应的权重分值,突出文本的情感极性。最后将双通道输出特征融合进行情感分类。在酒店评论数据集上进行实验,结果表明本文模型与文本情感分析的基线模型相比,在准确率与F;分值上分别提高了3.7%和5.1%。 展开更多
关键词 文本情感分析 BERT模型 卷积神经网络(CNN) 双向控制循环单元(BiGRU) 注意力机制
下载PDF
上一页 1 2 下一页 到第
使用帮助 返回顶部