基于独立循环神经网络与变分自编码网络的视频帧异常检测 被引量：2

1

作者 贾晴 王来花 王伟胜 《计算机应用》 CSCD 北大核心 2023年第2期507-513,共7页

为了有效提取连续视频帧间的时间信息,提出一种融合独立循环神经网络(IndRNN)与变分自编码(VAE)网络的预测网络IndRNN-VAE。首先,利用VAE网络提取视频帧的空间信息,并通过线性变换得到视频帧的潜在特征;然后,将潜在特征作为IndRNN的输... 为了有效提取连续视频帧间的时间信息,提出一种融合独立循环神经网络(IndRNN)与变分自编码(VAE)网络的预测网络IndRNN-VAE。首先,利用VAE网络提取视频帧的空间信息,并通过线性变换得到视频帧的潜在特征;然后,将潜在特征作为IndRNN的输入以得到视频帧序列的时间信息;最后,通过残差块将获得的潜在变量与时间信息进行融合并输入到解码网络中来生成预测帧。通过在UCSD Ped1、UCSD Ped2、Avenue公开数据集上进行测试,实验结果表明,与现有的异常检测方法相比,基于IndRNN-VAE的方法性能得到了显著提升,曲线下面积(AUC)值分别达到了84.3%、96.2%和86.6%,错误率(EER)值分别达到了22.7%、8.8%和19.0%,平均异常得分的差值分别达到了0.263、0.497和0.293,且运行速度达到了每秒28帧。 展开更多

关键词 视频异常检测 视频监控 变分自编码器 独立循环神经网络 特征提取

下载PDF 职称材料

基于布谷鸟算法优化独立循环神经网络深度学习的超短期风电功率预测 被引量：16

2

作者 邓亚平 段建东 +2 位作者 贾颢 王璐 同向前 《电网与清洁能源》 北大核心 2021年第9期18-26,共9页

风电功率数据具有强烈的时序特性,其序列数据的特征提取,是进行风电功率准确预测的重要前提。为此,引入了更长、更深层次的多隐层独立循环神经网络来最大程度上提取可反映输入风电功率序列数据的本质特征量,进而建立起特征量与风电功率... 风电功率数据具有强烈的时序特性,其序列数据的特征提取,是进行风电功率准确预测的重要前提。为此,引入了更长、更深层次的多隐层独立循环神经网络来最大程度上提取可反映输入风电功率序列数据的本质特征量,进而建立起特征量与风电功率之间的非线性关系。然而,在建立深层独立循环神经网络时,存在模型超参数设置与优化困难的问题。为此,进一步提出结合布谷鸟算法对独立循环神经网络关键超参数进行优化设计的方法。最终,结合某风电场实际数据,将模型预测结果与实测数据进行对比,验证所提方法能够有效提高预测精度。 展开更多

关键词 布谷鸟算法 独立循环神经网络 深度学习 风电功率 功率预测

下载PDF 职称材料

基于残差独立循环神经网络的空间增强人体骨架行为识别 被引量：2

3

作者 赵明富 刘帅 +3 位作者 宋涛 余晓毅 杨鑫 曹利波 《激光杂志》 北大核心 2020年第7期37-43,共7页

为解决循环神经网络缺乏空间信息且在训练中易出现的梯度消失和爆炸的问题,提出了一种增强空间尺度特征的残差独立循环神经网络人体骨架行为识别算法。研究了人体骨架的空间表达能力增强方法,将原始骨架关节三维坐标转移到人体坐标系后... 为解决循环神经网络缺乏空间信息且在训练中易出现的梯度消失和爆炸的问题,提出了一种增强空间尺度特征的残差独立循环神经网络人体骨架行为识别算法。研究了人体骨架的空间表达能力增强方法,将原始骨架关节三维坐标转移到人体坐标系后进行尺度变换,进而输入到改进的残差独立循环神经网络对人体骨架序列行为进行识别。改进后的人体骨架能有效缓解人体骨架大小、形状,摄像机的位置等差异带来的影响,提高模型的鲁棒性。残差独立循环神经网络具有独立的神经元,通过约束递归权值解决了梯度问题,具有较好的性能。在NTU RGB+D数据集上取得跨受试者80.1%的识别率,结果证实该算法的有效性。 展开更多

关键词 独立循环神经网络 行为识别 人体骨架 深度学习

原文传递

联合分层注意力网络和独立循环神经网络的地域欺凌识别

4

作者 孟曌 田生伟 +1 位作者 禹龙 王瑞锦 《计算机应用》 CSCD 北大核心 2019年第8期2450-2455,共6页

为提高对文本语境深层次信息的利用效率,提出了联合分层注意力网络(HAN)和独立循环神经网络(IndRNN)的地域欺凌文本识别模型——HACBI。首先,将手工标注的地域欺凌文本通过词嵌入技术映射到低维向量空间中;其次,借助卷积神经网络(CNN)... 为提高对文本语境深层次信息的利用效率,提出了联合分层注意力网络(HAN)和独立循环神经网络(IndRNN)的地域欺凌文本识别模型——HACBI。首先,将手工标注的地域欺凌文本通过词嵌入技术映射到低维向量空间中;其次,借助卷积神经网络(CNN)和双向长短期记忆网络(BiLSTM)提取地域欺凌文本的局部及全局语义特征,并进一步利用HAN捕获文本的内部结构信息;最后,为避免文本层次结构信息丢失和解决梯度消失等问题,引入IndRNN以增强模型的描述能力,并实现信息流的整合。实验结果表明,该模型的准确率(Acc)、精确率(P)、召回率(R)、F1和AUC值分别为99.57%、98.54%、99.02%、98.78%和99.35%,相比支持向量机(SVM)、CNN等文本分类模型有显著提升。 展开更多

关键词 地域欺凌 结构信息 分层注意力网络 独立循环神经网络 词向量 语境

下载PDF 职称材料

基于独立循环神经网络的跌倒检测方法 被引量：4

5

作者 王晶晶 黄勇 +1 位作者 陈宝欣 赵运勇 《实验室研究与探索》 CAS 北大核心 2020年第7期20-23,40,共5页

针对现有基于特征的跌倒检测方法误报率较高和传统循环神经网络方法受梯度消失影响难以训练等问题,引入独立循环神经网络(RNN),通过构建基于独立循环神经网络的双向、多层和残差结构的跌倒检测模型,实现了对原始数据端到端的跌倒判决。... 针对现有基于特征的跌倒检测方法误报率较高和传统循环神经网络方法受梯度消失影响难以训练等问题,引入独立循环神经网络(RNN),通过构建基于独立循环神经网络的双向、多层和残差结构的跌倒检测模型,实现了对原始数据端到端的跌倒判决。通过选择合适的损失函数,实现了基于奈曼-皮尔逊准则的跌倒检测。利用研制的可穿戴式跌倒检测设备采集各种跌倒与非跌倒样式的数据,通过实验测试了不同网络结构和参数对模型训练的影响。结果显示,基于独立循环神经网络的跌倒检测方法更容易训练,检测率和误报率显著优于基于原始RNN的方法,与基于LSTM网络的方法性能相当,表明了所提方法对提高检测率和降低误报率的有效性。 展开更多

关键词 跌倒检测 循环神经网络 独立循环神经网络 跌倒仪 加速度传感器

下载PDF 职称材料

基于双流独立循环神经网络的人体动作识别 被引量：1

6

作者 葛鹏花 智敏 +1 位作者 于华 郝岩 《现代电子技术》 北大核心 2020年第4期137-141,共5页

针对RGB视频中遮挡物以及其他外界因素对人体动作识别产生影响,以及识别精确度有待提升的问题,提出基于双流独立循环神经网络人体动作识别算法。在提取特征方面,时间网络采用分层IndRNN对时序中3D骨架坐标信息进行特征提取;空间网络采... 针对RGB视频中遮挡物以及其他外界因素对人体动作识别产生影响,以及识别精确度有待提升的问题,提出基于双流独立循环神经网络人体动作识别算法。在提取特征方面,时间网络采用分层IndRNN对时序中3D骨架坐标信息进行特征提取;空间网络采用深层的IndRNN对每个时刻骨架的空间位置关系进行特征提取,其中骨架的空间结构采用了图遍历的方法。对于空间网络和时间网络的特征融合采用加权求和的方式,最后用softmax对动作进行分类。在3D骨架动作数据集(NTU RGB+D)以及交互数据集(SBU Interaction Dataset)上验证了模型的有效性。 展开更多

关键词 人体动作识别 双流网络 独立循环神经网络 特征提取 特征融合 模型验证

下载PDF 职称材料

独立RNN和胶囊网络的维吾尔语事件缺失元素填充 被引量：3

7

作者 王县县 禹龙 +1 位作者 田生伟 王瑞锦 《自动化学报》 EI CAS CSCD 北大核心 2021年第4期903-912,共10页

提出了注意力机制独立循环神经网络和胶囊网络并行的维吾尔语事件缺失元素填充模型(Att_IndRNN_CapsNet).首先,抽取18项事件和事件元素的内部特征,作为结合注意力机制的独立循环神经网络模型的输入,进一步获取高阶特征;同时,引入词嵌入... 提出了注意力机制独立循环神经网络和胶囊网络并行的维吾尔语事件缺失元素填充模型(Att_IndRNN_CapsNet).首先,抽取18项事件和事件元素的内部特征,作为结合注意力机制的独立循环神经网络模型的输入,进一步获取高阶特征;同时,引入词嵌入技术将事件触发词和候选元素映射为词向量,通过胶囊网络挖掘事件和事件元素的上下文语义特征;然后,将两种特征融合,作为分类器的输入,进而完成事件缺失元素的填充.实验结果表明,该方法用于维吾尔语事件缺失元素填充准确率为86.94%,召回率为84.14%,衡量模型整体性能的F1值为85.52%,从而证明了该方法在维吾尔语事件缺失元素填充上的有效性. 展开更多

关键词 注意力机制 胶囊网络 事件抽取 独立循环神经网络 缺失元素填充

下载PDF 职称材料

基于IndRNN-1DLCNN的负载口独立控制阀控缸系统故障诊断 被引量：3

8

作者 孙炜 刘恒 +2 位作者 陶建峰 孙浩 刘成良 《浙江大学学报（工学版）》 EI CAS CSCD 北大核心 2023年第10期2028-2041,共14页

为了解决负载口独立控制阀控液压缸系统故障信息相似表征下的故障元件识别难题,提出基于独立循环神经网络(IndRNN)和一维大核卷积神经网络(1DLCNN)结合的故障诊断方法.构建负载口独立控制阀控液压缸系统,针对系统提出压力与位移信号的... 为了解决负载口独立控制阀控液压缸系统故障信息相似表征下的故障元件识别难题,提出基于独立循环神经网络(IndRNN)和一维大核卷积神经网络(1DLCNN)结合的故障诊断方法.构建负载口独立控制阀控液压缸系统,针对系统提出压力与位移信号的状态感知方案,分析了系统故障的信号特征.设计一种基于IndRNN-1DLCNN的深度神经网络模型,模型引入残差结构进行多层IndRNN设计并引入1DLCNN增强全局信息捕捉能力,实现多源信号的融合,识别发生故障的具体元件.结果表明在不同的负载工况下,利用提出的方法均能够准确地将系统故障定位至4个先导阀、2个主阀、1组位移传感器以及1个液压缸共8类具体元件,系统的整体诊断准确率最高达到96%,单一元件的故障识别准确率均大于93%. 展开更多

关键词 负载口独立控制 阀控液压缸系统 独立循环神经网络 一维大核卷积神经网络 故障诊断

下载PDF 职称材料

基于深度学习的复合电能质量扰动识别方法

9

作者 邓亚平 贾颢 +2 位作者 张晓晖 同向前 王璐 《电气传动》 2024年第3期76-83,共8页

精准的电能质量扰动识别是对电能质量扰动事件发生后需要解决的主要问题之一,这对划分责任和加快电力市场化进程均具有重要意义,而海量的电能质量监测数据则为电能质量扰动识别提供了条件与机遇。不同的电能质量扰动类型,其电气特征上... 精准的电能质量扰动识别是对电能质量扰动事件发生后需要解决的主要问题之一,这对划分责任和加快电力市场化进程均具有重要意义,而海量的电能质量监测数据则为电能质量扰动识别提供了条件与机遇。不同的电能质量扰动类型,其电气特征上也存在区别,故可利用不同电能质量扰动波形之间的差异来区分电能质量扰动类型。结合深度学习理论,建立一种基于双向独立循环神经网络的复合电能质量扰动识别方法,通过提取电能质量扰动信号的本质特征量,建立输入序列与输出序列之间的内在对应关系,克服了分析结果对物理特征量的依赖性,提升了电能质量扰动识别准确率。实验结果表明,所提方法可以有效应对复合电能质量扰动的多样性问题,可以直接从原始的底层数据中自主学习复合电能质量扰动信号中所隐藏的本质特征量,识别准确率高。 展开更多

关键词 电能质量扰动识别 双向独立循环神经网络 深度学习

下载PDF 职称材料

融合IndRNN和PSO的随钻测井数据反演方法

10

作者 付俊芃 孙歧峰 +1 位作者 陈沛沛 王亚宁 《计算机系统应用》 2024年第2期33-42,共10页

针对传统的反演方法过于其依赖初始模型,导致结果不稳定与计算效率低的问题,提出一种融合独立循环神经网络和粒子群优化算法的随钻测井实时反演方法.首先,通过地层模型正演模拟产生的序列数据,建立独立循环神经网络模型,并引入注意力机... 针对传统的反演方法过于其依赖初始模型,导致结果不稳定与计算效率低的问题,提出一种融合独立循环神经网络和粒子群优化算法的随钻测井实时反演方法.首先,通过地层模型正演模拟产生的序列数据,建立独立循环神经网络模型,并引入注意力机制强调关键特征在随钻测井反演中的作用;其次,在粒子群优化算法中引入随机惯性权重提高粒子群算法的全局和局部搜索能力,利用粒子群优化算法对神经网络模型进行超参数优化;最后,在正演模拟测试集与某油田1931–2132 m段的测井数据测试集上分别进行消融实验与对比实验,结果证明,粒子群算法与注意力机制可以有效提高预测精度,且该方法在各个方面的反演性能均优于长短期记忆神经网络、双向长短期记忆神经网络以及门控循环单元网络模型,满足随钻测井数据实时反演的需要. 展开更多

关键词 独立循环神经网络 注意力机制 粒子群算法 随钻测井 实时反演

下载PDF 职称材料

基于LightGBM-IndRNN模型的现货市场日前电价预测 被引量：2

11

作者 段央央 陈光宇 +1 位作者 张仰飞 邓湘 《水力发电》 CAS 2023年第1期84-87,93,共5页

日前电价的准确预测对保障电力市场参与者的利益具有重要意义。针对高比例新能源参与现货市场交易导致日前电价预测难度加大的问题,提出一种基于轻型梯度提升机(LightGBM)的独立循环神经网络(IndRNN)日前电价预测方法。首先,使用LightGB... 日前电价的准确预测对保障电力市场参与者的利益具有重要意义。针对高比例新能源参与现货市场交易导致日前电价预测难度加大的问题,提出一种基于轻型梯度提升机(LightGBM)的独立循环神经网络(IndRNN)日前电价预测方法。首先,使用LightGBM算法计算特征的重要性得分,根据计算值排序提取出重要特征;然后,将筛选得到的新数据集作为输入,运用IndRNN神经网络对其进行训练,从而实现对日前电价的预测;最后,采用北欧电力交易所Nord Pool的数据进行仿真分析。实验结果表明,所提算法与传统预测模型相比,充分考虑了新能源出力不确定性对日前电价的影响,有效提高了预测的准确性。 展开更多

关键词 日前电价预测 现货市场 独立循环神经网络 LightGBM 新能源

下载PDF 职称材料

基于Deep-IndRNN的DGA域名检测方法 被引量：1

12

作者 刘伯成 王浩宇 +3 位作者 李向军 肖聚鑫 肖楚霁 孔珂 《南昌大学学报（理科版）》 CAS 北大核心 2020年第6期598-609,共12页

恶意服务常利用域名生成算法(DGA)逃避域名检测,针对DGA域名隐蔽性强、现有检测方法检测速度较慢、实用性不强等问题,采用深度学习技术,提出了一种基于Deep-IndRNN的DGA域名检测方法。方法运用词袋模型(BoW)将域名向量化,然后通过Deep-I... 恶意服务常利用域名生成算法(DGA)逃避域名检测,针对DGA域名隐蔽性强、现有检测方法检测速度较慢、实用性不强等问题,采用深度学习技术,提出了一种基于Deep-IndRNN的DGA域名检测方法。方法运用词袋模型(BoW)将域名向量化,然后通过Deep-IndRNN提取域名字符间特征,并使用Sigmoid函数对域名分类检测。其主要特点在于:通过将Deep-IndRNN的多序列输入拼接为单向量输入,以单步处理代替循环处理,同时结合Deep-IndRNN能保存更长时间记忆的特点,可有效释放深度学习时占用的GPU、CPU等系统资源,且在保证高准确率和精确度的前提下提高训练、检测速度。实验结果表明,基于Deep-IndRNN的DGA域名检测方法在检测任务中具有较高的准确率和精确度,相比于DNN、CNN、LSTM、BiLSTM、CNN-LSTM-Concat等同类检测方法,能显著提高训练、检测速度,是有效可行的。 展开更多

关键词 域名生成算法 深度学习 独立循环神经网络 SIGMOID函数 词袋模型

下载PDF 职称材料

基于Bi IndRNN和PSO的航班延误预测 被引量：2

13

作者 王辉 刘杰 《航空计算技术》 2022年第3期15-19,共5页

针对普通循环神经网络在航班延误预测问题上精度不高、调试时间长的问题,提出基于Bi IndRNN和粒子群的机场短期航班延误预测模型。模型采用Bi IndRNN结构作为预测模型,使用粒子群算法对模型超参数进行全局寻优,使模型不仅能够处理长序... 针对普通循环神经网络在航班延误预测问题上精度不高、调试时间长的问题,提出基于Bi IndRNN和粒子群的机场短期航班延误预测模型。模型采用Bi IndRNN结构作为预测模型,使用粒子群算法对模型超参数进行全局寻优,使模型不仅能够处理长序列的数据,还能够高效率地选择合适的参数,使其预测准确度更高。实验在2018年国内某机场航班延误数据集上构建预测模型,并对所提模型预测结果与其他预测模型预测结果进行比较分析。结果表明,提出的预测模型提高了航班延误预测的准确率。 展开更多

关键词 航班延误预测 独立循环神经网络 双向循环神经网络 粒子群算法

下载PDF 职称材料

基于CNN⁃SIndRNN的恶意TLS流量快速识别方法 被引量：8

14

作者 李小剑 谢晓尧 +1 位作者 徐洋 张思聪 《计算机工程》 CAS CSCD 北大核心 2022年第4期148-157,164,共11页

传统浅层机器学习方法在识别恶意TLS流量时依赖专家经验且流量表征不足,而现有的深度神经网络检测模型因层次结构复杂导致训练时间过长。提出一种基于CNN-SIndRNN端到端的轻量级恶意加密流量识别方法,使用多层一维卷积神经网络提取流量... 传统浅层机器学习方法在识别恶意TLS流量时依赖专家经验且流量表征不足,而现有的深度神经网络检测模型因层次结构复杂导致训练时间过长。提出一种基于CNN-SIndRNN端到端的轻量级恶意加密流量识别方法,使用多层一维卷积神经网络提取流量字节序列局部模式特征,并利用全局最大池化降维以减少计算参数。为增强流量表征,设计一种改进的循环神经网络用于捕获流量字节长距离依赖关系。在此基础上,采用独立循环神经网络IndRNN单元代替传统RNN循环单元,使用切片并行计算结构代替传统RNN的串行计算结构,并将两种类型深度神经网络所提取的特征拼接作为恶意TLS流量表征。在CTU-Maluware-Capure公开数据集上的实验结果表明,该方法在二分类实验上F1值高达0.9657,在多分类实验上整体准确率为0.8489,相比BotCatcher模型训练时间与检测时间分别节省了98.47%和98.28%。 展开更多

关键词 恶意TLS流量 独立循环神经网络 切片循环神经网络 一维卷积 全局池化

下载PDF 职称材料

基于DIndRNN-RVM深度融合模型的AGC指令执行效果精准辨识及置信评估研究 被引量：8

15

作者 陈光宇 孙叶舟 +4 位作者 江海洋 王宁 康春雷 张仰飞 郝思鹏 《中国电机工程学报》 EI CSCD 北大核心 2022年第5期1852-1866,共15页

随着电网结构的日益复杂,机组执行(automatic generation control,AGC)指令的精准性对电网在线调控的影响正逐渐增强。针对当前部分厂站对AGC指令跟踪效果不理想的实际问题,该文引入“深度学习”技术对AGC调控指令执行效果进行精准感知... 随着电网结构的日益复杂,机组执行(automatic generation control,AGC)指令的精准性对电网在线调控的影响正逐渐增强。针对当前部分厂站对AGC指令跟踪效果不理想的实际问题,该文引入“深度学习”技术对AGC调控指令执行效果进行精准感知和评估。首先提出一种基于深度学习的AGC指令执行效果精准辨识框架,采用深度独立循环神经网络(deep independent recurrent neural network,DIndRNN)对机组执行指令的调节效果进行精准感知;其次,提出一种加快模型训练的预处理策略,基于机组运行历史数据通过分析不同输入属性间的关联特性,实现对模型输入属性的降维;进一步提高模型的收敛性和预测精度;最后提出一种对指令执行效果的不确定性评估方法,采用深度独立循环神经网络关联向量机(deep independent recurrent neural network relevance vector machine,DIndRNN-RVM)深度融合技术给出预测结果在给定出力偏差范围内的可信度,从概率的角度增强了预测结果的使用价值。算例采用真实电网数据进行仿真分析,计算结果表明,该文提出的辨识框架和模型优化方法能较为准确的感知机组执行指令的精度和执行结果的可信度。该文所述方法提高了电网对AGC指令执行效果的精准感知和预判,能够为AGC在线决策提供支撑。 展开更多

关键词 独立循环神经网络 预处理策略 交叉验证 深度融合 置信评估

原文传递

基于Word Embedding的遥感影像检测分割 被引量：6

16

作者 尤洪峰 田生伟 +1 位作者 禹龙 吕亚龙 《电子学报》 EI CAS CSCD 北大核心 2020年第1期75-83,共9页

遥感影像检测分割技术通常需提取影像特征并通过深度学习算法挖掘影像的深层特征来实现.然而传统特征(如颜色特征、纹理特征、空间关系特征等)不能充分描述影像语义信息,而单一结构或串联算法无法充分挖掘影像的深层特征和上下文语义信... 遥感影像检测分割技术通常需提取影像特征并通过深度学习算法挖掘影像的深层特征来实现.然而传统特征(如颜色特征、纹理特征、空间关系特征等)不能充分描述影像语义信息,而单一结构或串联算法无法充分挖掘影像的深层特征和上下文语义信息.针对上述问题,本文通过词嵌入将空间关系特征映射成实数密集向量,与颜色、纹理特征的结合.其次,本文构建基于注意力机制下图卷积网络和独立循环神经网络的遥感影像检测分割并联算法(Attention Graph Convolution Networks and Independently Recurrent Neural Network,ATGIR).该算法首先通过注意力机制对结合后的特征进行概率权重分配;然后利用图卷积网络(GCNs)算法对高权重的特征进一步挖掘并生成方向标签,同时使用独立循环神经网络(IndRNN)算法挖掘影像特征中的上下文信息,最后用Sigmoid分类器完成影像检测分割任务.以胡杨林遥感影像检测分割任务为例,我们验证了提出的特征提取方法和ATGIR算法能有效提升胡杨林检测分割任务的性能. 展开更多

关键词 注意力机制 图卷积网络 独立循环神经网络 并联算法 词嵌入

下载PDF 职称材料

基于特征挖掘的indRNN光伏发电功率预测 被引量：20

17

作者 王超洋 张蓝宇 +2 位作者 刘铮 谭娟 徐晟 《电力系统及其自动化学报》 CSCD 北大核心 2021年第4期17-22,共6页

光伏发电功率有明显的随机性、波动性和间歇性。准确地预测光伏发电功率对电网有序运行和调度有着极其重要的意义。本文提出一种基于特征挖掘的独立循环神经网络光伏发电功率预测模型。首先,探究环境因素与光伏发电功率的关系,并构造相... 光伏发电功率有明显的随机性、波动性和间歇性。准确地预测光伏发电功率对电网有序运行和调度有着极其重要的意义。本文提出一种基于特征挖掘的独立循环神经网络光伏发电功率预测模型。首先,探究环境因素与光伏发电功率的关系,并构造相应特征;然后,以构造后特征作为输入,输入到独立循环神经网络模型进行训练和预测;接着,用独立循环神经网络模型与传统循环神经网络和长短期记忆神经网络模型进行对比,独立循环神经网络模型不仅具有更强的记忆能力,更快的训练速度,同时也改善了循环神经网络的梯度弥散或爆炸问题;最后,采用实际光伏电站数据进行验证,验证了特征构造和独立循环神经网络模型的优越性,证明了特征构造后的独立循环神经网络模型预测精度比其他模型方法有显著提高。 展开更多

关键词 特征挖掘 独立循环神经网络 影响因素 光伏发电功率预测

下载PDF 职称材料

在线医疗问答文本的命名实体识别 被引量：23

18

作者 杨文明 褚伟杰 《计算机系统应用》 2019年第2期8-14,共7页

本文主要是对在线问诊中产生的医疗文本进行命名实体识别的研究.使用在线医疗问答网站的数据,采用{B, I, O}标注体系构建数据集,抽取疾病、治疗、检查和症状四个医疗实体.以BiLSTM-CRF为基准模型,提出两种深度学习模型IndRNN-CRF和IDCNN... 本文主要是对在线问诊中产生的医疗文本进行命名实体识别的研究.使用在线医疗问答网站的数据,采用{B, I, O}标注体系构建数据集,抽取疾病、治疗、检查和症状四个医疗实体.以BiLSTM-CRF为基准模型,提出两种深度学习模型IndRNN-CRF和IDCNN-BiLSTM-CRF,并在自构建数据集上验证模型的有效性.将新提出的两种模型与基准模型通过实验对比得出:模型IDCNN-BiLSTM-CRF的F1值0.8116,超过了BiLSTM-CRF的F1值0.8009, IDCNN-BiLSTM-CRF整体性能好于BiLSTM-CRF模型;模型IndRNN-CRF的精确率0.8427,但该模型在召回率上低于基准模型BiLSTM-CRF. 展开更多

关键词 医疗问答 深度学习 独立循环神经网络 膨胀卷积 双向循环神经网络

下载PDF 职称材料

基于多注意力机制的维吾尔语人称代词指代消解

19

作者 杨启萌 禹龙 +1 位作者 田生伟 艾山·吾买尔 《自动化学报》 EI CAS CSCD 北大核心 2021年第6期1412-1421,共10页

针对深度神经网络模型学习照应语和候选先行语的语义信息忽略了每一个词在句中重要程度,且无法关注词序列连续性关联和依赖关系等问题,提出一种结合语境多注意力独立循环神经网络(Contextual multi-attention independently recurrent n... 针对深度神经网络模型学习照应语和候选先行语的语义信息忽略了每一个词在句中重要程度,且无法关注词序列连续性关联和依赖关系等问题,提出一种结合语境多注意力独立循环神经网络(Contextual multi-attention independently recurrent neural network,CMAIR)的维吾尔语人称代词指代消解方法.相比于仅依赖照应语和候选先行语语义信息的深度神经网络,该方法可以分析上下文语境,挖掘词序列依赖关系,提高特征表达能力.同时,该方法结合多注意力机制,关注待消解对多层面语义特征,弥补了仅依赖内容层面特征的不足,有效识别人称代词与实体指代关系.该模型在维吾尔语人称代词指代消解任务中的准确率为90.79%,召回率为83.25%,F值为86.86%.实验结果表明,CMAIR模型能显著提升维吾尔语指代消解性能. 展开更多

关键词 注意力机制 语境 独立循环神经网络 指代消解

下载PDF 职称材料

基于IndRNN-Attention的用户意图分类 被引量：8

20

作者 张志昌 张珍文 张治满 《计算机研究与发展》 EI CSCD 北大核心 2019年第7期1517-1524,共8页

针对人机对话中的用户意图分类问题,提出了一种基于独立循环神经网络(independently recurrent neural network, IndRNN)和词级别注意力(word-level attention)融合的用户意图分类方法.通过构造一个多层独立循环神经网络模型实现对用户... 针对人机对话中的用户意图分类问题,提出了一种基于独立循环神经网络(independently recurrent neural network, IndRNN)和词级别注意力(word-level attention)融合的用户意图分类方法.通过构造一个多层独立循环神经网络模型实现对用户输入文本编码,有效解决了循环神经网络中容易出现的梯度消失和梯度爆炸问题;结合词级别注意力提高了领域相关词汇对用户输入文本编码的贡献度,有效提高了分类精度.实验结果表明:提出的方法在用户意图分类任务上的效果取得了显著的提升. 展开更多

关键词 人机对话 用户意图分类 深度学习 独立循环神经网络 注意力机制

下载PDF 职称材料