为实现英文文本标题的自动化生成,研究一套基于长短期记忆网络的句子级LSTM编码策略,并在标题生成模型中引入注意力机制来获取英文文本的上下文向量,保留文本中的重要信息。在此基础上,通过负对数似然函数来对模型加以训练。最后通过Byt...为实现英文文本标题的自动化生成,研究一套基于长短期记忆网络的句子级LSTM编码策略,并在标题生成模型中引入注意力机制来获取英文文本的上下文向量,保留文本中的重要信息。在此基础上,通过负对数似然函数来对模型加以训练。最后通过Byte Cup 2018数据集对本文提出的英语标题自动生成算法进行实验,并通过过ROUGE-N指标对标题生成质量加以评价。实验研究发现,所提出的句子级LSTM编码方案在英文文本标题生成准确性方面相比于其他常规摘要生成模型来说具有显著优势。展开更多
现代电力系统海量量测数据为电力系统暂态稳定评估提供可靠的数据基础,与此同时,数据信息挖掘成为研究焦点,暂态稳定分析中不平衡故障样本以及多特征电气量时间序列数据中所蕴藏的信息仍有待深入挖掘。为此,该文提出一种结合注意力机制...现代电力系统海量量测数据为电力系统暂态稳定评估提供可靠的数据基础,与此同时,数据信息挖掘成为研究焦点,暂态稳定分析中不平衡故障样本以及多特征电气量时间序列数据中所蕴藏的信息仍有待深入挖掘。为此,该文提出一种结合注意力机制的长短期记忆网络(long short term memory network with attention,LSTMA)方法,用以深入挖掘暂态稳定评估样本中所蕴藏的信息。在离线训练环节,以长短期记忆网络为基础分类器,引入Attention注意力机制引导模型学习样本中关键特征,并对损失函数进行改进,以此强化对不平衡样本的学习能力;在线应用环节,在目标域小样本条件下采用迁移学习方法更新成型的离线LSTMA模型,并对比不同迁移学习策略对模型性能影响,经过迁移学习建立的新运行点下的改进LSTMA模型评估精度有效提高,训练时间大幅减少,所得出的迁移学习策略确定方法有利于实际应用环节快速决策。研究在IEEE39节点和IEEE300节点系统上进行实验,验证了所提方法的有效性。展开更多
文摘为实现英文文本标题的自动化生成,研究一套基于长短期记忆网络的句子级LSTM编码策略,并在标题生成模型中引入注意力机制来获取英文文本的上下文向量,保留文本中的重要信息。在此基础上,通过负对数似然函数来对模型加以训练。最后通过Byte Cup 2018数据集对本文提出的英语标题自动生成算法进行实验,并通过过ROUGE-N指标对标题生成质量加以评价。实验研究发现,所提出的句子级LSTM编码方案在英文文本标题生成准确性方面相比于其他常规摘要生成模型来说具有显著优势。
文摘现代电力系统海量量测数据为电力系统暂态稳定评估提供可靠的数据基础,与此同时,数据信息挖掘成为研究焦点,暂态稳定分析中不平衡故障样本以及多特征电气量时间序列数据中所蕴藏的信息仍有待深入挖掘。为此,该文提出一种结合注意力机制的长短期记忆网络(long short term memory network with attention,LSTMA)方法,用以深入挖掘暂态稳定评估样本中所蕴藏的信息。在离线训练环节,以长短期记忆网络为基础分类器,引入Attention注意力机制引导模型学习样本中关键特征,并对损失函数进行改进,以此强化对不平衡样本的学习能力;在线应用环节,在目标域小样本条件下采用迁移学习方法更新成型的离线LSTMA模型,并对比不同迁移学习策略对模型性能影响,经过迁移学习建立的新运行点下的改进LSTMA模型评估精度有效提高,训练时间大幅减少,所得出的迁移学习策略确定方法有利于实际应用环节快速决策。研究在IEEE39节点和IEEE300节点系统上进行实验,验证了所提方法的有效性。
