-
题名基于点积自注意力卷积神经网络的歌声检测
被引量：1
- 1
-
-
作者
桂文明
曾岳
臧娴
-
机构
金陵科技学院软件工程学院
南京邮电大学宽带无线通信与传感网技术教育部重点实验室
金陵科技学院电子信息工程学院
-
出处
《信号处理》
CSCD
北大核心
2021年第10期1899-1906,共8页
-
基金
国家自然科学基金(61872199)
南京邮电大学宽带无线通信与传感网技术教育部重点实验室开放研究基金资助(201908)
江苏省教育厅高校优秀中青年教师和校长境外研修项目(2018191)。
-
文摘
传统的歌声检测过程往往包含了复杂的特征工程,而基于深度神经网络统一框架的算法则可以利用其强大的学习能力学习到特征,从而忽略特征工程。但是,这些学习到的特征通常得不到重要性区分,在网络中所占权重相同。针对这一问题,提出在卷积神经网络中嵌入点积自注意力模块的算法,该算法通过学习得到各个特征的注意力分布,调整注意力权重,使得卷积神经元在"观察"这些特征时能区分轻重,从而提升网络的整体性能。在实验部分,通过在两个公开数据集下测试,并和基准模型进行对比,准确率分别提升1.96%和1.76%,证明了该算法对提升歌声检测水平切实有效。
-
关键词
歌声检测
卷积神经网络
余弦注意力
点积自注意力
-
Keywords
singing voice detection
convolutional neural network
cosine attention
scaled dot-product attention
-
分类号
TP391
[自动化与计算机技术—计算机应用技术]
-
-
题名面向稳控策略校核的并联图注意力网络稳定评估模型
被引量：2
- 2
-
-
作者
朱思婷
管霖
黄济宇
陈鎏凯
-
机构
华南理工大学电力学院
-
出处
《电网技术》
EI
CSCD
北大核心
2023年第9期3836-3846,共11页
-
基金
国家自然科学基金项目(52077080)。
-
文摘
考虑稳控策略的数据驱动稳定评估模型可以实现稳控策略的快速评估与校核,是值得探索的研究方向。应用中不仅要求稳定评估模型准确判断系统失稳与否,还需要获得主导失稳机群等信息,辅助稳控策略调整。论文提出了一种并联结构的图深度学习稳定评估模型。分别采用图点积注意力网络和时序卷积网络,有效提取故障期间和稳控动作前后的关键特征。设计了发电机分段稳定指标,并通过机组级稳定指标和机组稳定分类指标的多任务并行预测和相互校核,实现了高精度和细粒度的稳定评估。在IEEE10机39节点系统算例的对比分析验证了模型的有效性和准确性。
-
关键词
暂态稳定评估
点积注意力
并联结构
图深度学习
-
Keywords
transient stability assessment
dot Product attention
parallel structure
graph deep learning
-
分类号
TM721
[电气工程—电力系统及自动化]
-
-
题名基于多特征多注意力模型的中文事件关系识别
- 3
-
-
作者
宋杨
廖涛
张顺香
-
机构
安徽理工大学计算机科学与工程学院
-
出处
《现代电子技术》
2022年第18期153-158,共6页
-
基金
国家自然科学基金面上项目(62076006)
安徽省高校优秀青年人才支持计划项目(gxyq2017007)
安徽省高等学校自然研究重点项目(KJ2016A202)。
-
文摘
当前的关系识别任务多采用基于词或字粒度单一特征进行,忽略了全局信息对于关系识别的重要性,而且现代汉语具有词类和句法成分关系复杂的特点,这使得特征选择成为中文文本处理中的重点与难点。文中所用多特征多注意力模型除事件自身特征外,充分地考虑到位置、事件要素和上下文三类额外特征,利用全局信息以解决模型特征矩阵语义表征不足的问题。该模型结合双向注意力机制、点积注意力机制和双向门控循环神经网络进行事件关系识别,结合注意力机制的神经网络模型来较好地提取文本中的深层语义信息。其中双向注意力从特征矩阵两个方向提取事件自身有效信息,点积注意力提取事件之间的对应关系,双向门控循环神经网络提取矩阵中的上下文特征。在CEC2.0中文突发事件语料库上的实验结果表明,文中方法以及所用模型均有较好的识别效果。
-
关键词
事件关系识别
多特征嵌入
多特征融合
双向注意力机制
点积注意力机制
双向门控循环网络
CEC2.0语料库
-
Keywords
event relation recognition
multi-features embedding
multi-features fusion
bidirectional attention
dot product attention
Bi-GRU
CEC2.0 corpus
-
分类号
TN919-34
[电子电信—通信与信息系统]
TP391
[自动化与计算机技术—计算机应用技术]
-
