基于BERT-TextCNN的中文短文本情感分析 被引量：4

1

作者 邵辉 《信息与电脑》 2022年第1期77-80,共4页

外卖商家和平台留住客户的重点就是要依据客户的需求制定个性化的服务。因此,本文提出一种基于BERT(Bidirectional Encoder Representation from Transformers)网络与文本卷积神经网络(Convolutional Neural Networks,TextCNN)相结合的B... 外卖商家和平台留住客户的重点就是要依据客户的需求制定个性化的服务。因此,本文提出一种基于BERT(Bidirectional Encoder Representation from Transformers)网络与文本卷积神经网络(Convolutional Neural Networks,TextCNN)相结合的BERT-TextCNN网络模型。该模型从外卖中文短文本评论中得到更多的情感信息。最后,在外卖中文评论数据集上进行实验,对比BERT、TextCNN、BERT-TextCNN模型的准确性、稳定性和耗时程度。实验结果证明:BERT-TextCNN的准确率有提升,该方法能更准确地进行中文文本情感分析。 展开更多

关键词 BERT TextCNN 中文短文本 情感分析

下载PDF 职称材料

基于BERT-TextCNN模型的临床试验筛选短文本分类方法 被引量：11

2

作者 杨飞洪 王序文 李姣 《中华医学图书情报杂志》 CAS 2021年第1期54-59,共6页

目的:设计一种基于深度学习的BERT-TextCNN模型,用于临床试验筛选短文本的自动化识别与分类。方法:调研文本分类的常见算法,从中国健康信息处理会议开发的临床试验中筛选短文本分类数据集,比较分析BERT-TextCNN模型、BERT模型和TextCNN... 目的:设计一种基于深度学习的BERT-TextCNN模型,用于临床试验筛选短文本的自动化识别与分类。方法:调研文本分类的常见算法,从中国健康信息处理会议开发的临床试验中筛选短文本分类数据集,比较分析BERT-TextCNN模型、BERT模型和TextCNN模型的性能差异。结果:BERT-TextCNN模型的文本分类平均F1值为82.39%,相较于单纯使用BERT模型和TextCNN模型进行文本分类的性能分别提升了1.81%和9.02%。结论:基于BERT-TextCNN模型的临床试验筛选短文本分类方法有效,为今后相关医学领域的研究和临床试验筛选短文文本自动化系统开发提供了一定的参考。 展开更多

关键词 BERT模型 TextCNN模型 临床试验 筛选标准 短文文本分类

下载PDF 职称材料

基于BERT-TextCNN的临床试验疾病亚型识别研究 被引量：4

3

作者 杨林 黄晓硕 +3 位作者 王嘉阳 丁玲玲 李子孝 李姣 《数据分析与知识发现》 CSSCI CSCD 北大核心 2022年第4期69-81,共13页

【目的】面向复杂疾病临床试验招募的需求,提出一种基于BERT-TextCNN的临床试验疾病亚型识别方法,辅助识别复杂疾病特定亚型的受试人群。【方法】将临床试验疾病亚型识别问题转化为单标签分类问题,应用基于BERT-TextCNN的单标签分类模... 【目的】面向复杂疾病临床试验招募的需求,提出一种基于BERT-TextCNN的临床试验疾病亚型识别方法,辅助识别复杂疾病特定亚型的受试人群。【方法】将临床试验疾病亚型识别问题转化为单标签分类问题,应用基于BERT-TextCNN的单标签分类模型进行分类,以卒中为例在临床试验数据集(ClinicalTrials.gov)上开展实验验证。【结果】基于LP法的BERT-TextCNN模型性能最佳,加权宏平均F1值为0.9053,可以有效判定一项卒中临床试验可纳入卒中亚型受试者情况。【局限】缺乏在其他单病种上的可行性研究,以及在外部数据集上的有效性验证。【结论】本文方法可以有效解决从纳入标准中准确识别复杂疾病亚型的问题。 展开更多

关键词 临床试验 文本分类 bert-textcnn 卒中 疾病亚型

原文传递

融入频域增强自注意力机制的BTBFA混合神经网络情感分类模型

4

作者 苏妍嫄 韩翠娟 张亚明 《现代情报》 CSSCI 北大核心 2024年第12期52-63,共12页

[目的/意义]智媒时代基于神经网络模型实现用户情感精准分类,进而深入挖掘海量文本信息潜在价值具有重要意义。[方法/过程]针对现有混合模型层间依赖性强、输出特征重要性差异体现不足等导致的情感分类效果受限问题,基于Stacking集成思... [目的/意义]智媒时代基于神经网络模型实现用户情感精准分类,进而深入挖掘海量文本信息潜在价值具有重要意义。[方法/过程]针对现有混合模型层间依赖性强、输出特征重要性差异体现不足等导致的情感分类效果受限问题,基于Stacking集成思想,提出一种融入频域增强自注意力机制的混合神经网络情感分类模型,通过构建由Bert、TextCNN、BiLSTM组成的并行式特征提取基学习器层与融入频域增强自注意力机制的元学习器层,并与词嵌入层和全连接层相融合,系统挖掘文本深层次语义信息以及局部、全局特征,进而通过权重分配以及离散傅里叶变换提升情感分类效果。[结果/结论]酒店评论数据集上的对比实验与消融实验结果均表明,所提模型情感分类性能与其他模型相比具有显著优势,准确率、召回率、F1值分别达到91.7%、95.3%和93.9%,且随Epoch训练轮数增加,模型情感分类准确性不断提升,损失值不断降低,呈现较强的泛化能力。 展开更多

关键词 情感分类 混合神经网络 bert-textcnn-BiLSTM-FAttention Stacking算法 自注意力机制 离散傅里叶变换

下载PDF 职称材料

基于知识图谱的电力标准智能问答系统研究

5

作者 刘沿娟 张栋栋 +3 位作者 于海亮 刘玉玺 王一竹 陈宜亮 《电工技术》 2024年第16期143-146,共4页

随着人工智能技术和机器学习技术的快速发展,目前智能问答系统已成为自然语言处理领域的热点研究之一。构建了一种基于知识图谱的电力标准智能问答系统,该系统通过对用户提出的问题进行分析理解,自动从知识库资源中获取信息并将搜索结... 随着人工智能技术和机器学习技术的快速发展,目前智能问答系统已成为自然语言处理领域的热点研究之一。构建了一种基于知识图谱的电力标准智能问答系统,该系统通过对用户提出的问题进行分析理解,自动从知识库资源中获取信息并将搜索结果以多维度可视化的方式展示给用户。重点介绍了电力标准知识库构建过程以及问答系统实现方式,其中知识构建过程包含实体识别、实体间关系抽取、基于BERT-TextCNN网络结构的意图识别。系统实现包含系统设计方案以及系统界面展示结果。该系统的开发能够满足用户对电力标准知识的问答需求。 展开更多

关键词 知识图谱 电力标准 bert-textcnn 多维度展示

下载PDF 职称材料

基于深度学习的化工新闻文本分类方法

6

作者 宗慧 魏鹏 《淮阴工学院学报》 CAS 2024年第2期74-79,共6页

近年来鉴于化工新闻文本的数量增多,化工从业者想要获得高质量的化工新闻文本信息变得越来越困难,而文本分类技术可以帮助化工从业者更轻松地找到自己所需的信息。提出了BERT-ATTCNN(BERT-Attention-TextCNN)模型,它将BERT和TextCNN模... 近年来鉴于化工新闻文本的数量增多,化工从业者想要获得高质量的化工新闻文本信息变得越来越困难,而文本分类技术可以帮助化工从业者更轻松地找到自己所需的信息。提出了BERT-ATTCNN(BERT-Attention-TextCNN)模型,它将BERT和TextCNN模型融合并结合Attention机制进行化工新闻文本分类,该模型可以同时学习文本信息的语义表示和特征提取,从而实现更加准确的分类任务。通过实验验证,BERT-ATTCNN模型在化工新闻分类任务中表现优秀,准确率达到97.65%的,具有更高的分类准确率和更好的泛化能力。因此,BERT-ATTCNN模型可以为化工新闻分类等自然语言处理任务提供有效的解决方案。 展开更多

关键词 文本分类 自然语言处理 BERT 注意力机制 TextCNN

下载PDF 职称材料

基于BERT的多模型融合的Web攻击检测方法

7

作者 袁平宇 邱林 《计算机工程》 CAS CSCD 北大核心 2024年第11期197-206,共10页

传统Web攻击检测方法准确率不高,不能有效防范Web攻击。针对该问题,提出一种基于变换器的双向编码器表示(BERT)的预训练模型、文本卷积神经网络(TextCNN)和双向长短期记忆网络(BiLSTM)多模型融合的Web攻击检测方法。先将HTTP请求进行预... 传统Web攻击检测方法准确率不高,不能有效防范Web攻击。针对该问题,提出一种基于变换器的双向编码器表示(BERT)的预训练模型、文本卷积神经网络(TextCNN)和双向长短期记忆网络(BiLSTM)多模型融合的Web攻击检测方法。先将HTTP请求进行预处理,再通过BERT进行训练得到具备上下文依赖的特征向量,并用TextCNN模型进一步提取其中的高阶语义特征,作为BiLSTM的输入,最后利用Softmax函数进行分类检测。在HTTP CSIC 2010和恶意URL检测两个数据集上对所提方法进行验证,结果表明,与支持向量机(SVM)、逻辑回归(LR)等传统的机器学习方法和现有较新的方法相比,基于BERT的多模型融合的Web攻击检测方法在准确率、精确率、召回率和F1值指标上均表现更优(准确率和F1值的最优值都在99%以上),能准确检测Web攻击。 展开更多

关键词 Web攻击检测 基于变换器的双向编码器表示 多模型融合 HTTP请求 文本卷积神经网络 双向长短期记忆网络

下载PDF 职称材料

融合注意力机制的图文多模态情绪分类模型 被引量：2

8

作者 彭俊文 李磊 《软件》 2023年第12期176-180,共5页

在图文双模态情绪分类任务中,特征提取不充分和多模态特征融合出现信息冗余等问题较为普遍,本文在多通道特征提取和融合的过程中引入注意力机制,提出融合注意力机制的多模态情绪分类模型。首先,使用TextCNN和BERT模型分别提取文本局部... 在图文双模态情绪分类任务中,特征提取不充分和多模态特征融合出现信息冗余等问题较为普遍,本文在多通道特征提取和融合的过程中引入注意力机制,提出融合注意力机制的多模态情绪分类模型。首先,使用TextCNN和BERT模型分别提取文本局部特征、文本上下文特征,用残差网络提取图像特征;其次,利用跨模态注意力机制实现模态间的信息交互,从而增强各模态特征表示;然后,利用自注意力机制进行多模态特征融合;最后,通过Softmax分类器获得最终情绪分类结果。在公开的TumEmo图文数据集上,情绪七分类的准确率和F1值分别达到了75.2%、74.3%,表现出良好的性能。 展开更多

关键词 情绪分类 多模态 注意力机制 BERT ResNet TextCNN

下载PDF 职称材料

基于TextCNN-Bert融合模型的不良信息识别技术 被引量：2

9

作者 裴卓雄 杨敏 杨婧 《网络安全与数据治理》 2023年第8期72-76,共5页

敏感领域的不良信息具有极强的迷惑性和欺骗性,腐蚀人们的思想,影响人们的价值观和判断能力,危害社会安全,研究敏感领域不良信息的识别技术具有深远意义。通用的识别技术忽略了背景知识和隐喻问题,直接应用于敏感领域不良信息识别效果... 敏感领域的不良信息具有极强的迷惑性和欺骗性,腐蚀人们的思想,影响人们的价值观和判断能力,危害社会安全,研究敏感领域不良信息的识别技术具有深远意义。通用的识别技术忽略了背景知识和隐喻问题,直接应用于敏感领域不良信息识别效果较差。提出一种基于TextCNN-Bert的融合模型,通过敏感领域主题识别和情感隐喻识别,实现对敏感领域不良信息的文本识别。实验结果表明,该模型在准确率、F 1评分等指标方面取得了良好的结果,相较于现有模型有显著提高。 展开更多

关键词 敏感领域 TextCNN Bert 融合模型

下载PDF 职称材料

基于图书语义特征的推荐模型

10

作者 刘园园 李雅琴 《武汉工程大学学报》 CAS 2023年第3期319-324,共6页

为了充分利用图书丰富的文本信息,更准确地表达图书属性,为读者提供更精准的图书推荐服务,提出了一种基于图书语义特征的深度学习推荐模型。该模型将预训练模型(BERT)与文本卷积神经网络(TextCNN)相结合提取图书语义特征。首先利用BERT... 为了充分利用图书丰富的文本信息,更准确地表达图书属性,为读者提供更精准的图书推荐服务,提出了一种基于图书语义特征的深度学习推荐模型。该模型将预训练模型(BERT)与文本卷积神经网络(TextCNN)相结合提取图书语义特征。首先利用BERT网络对图书书名、内容摘要等图书文本信息生成向量表示;然后将获得的字向量通过TextCNN模型抽取文本局部特征,再与句向量一起输入神经网络进行训练,得到图书向量;最后将提取的图书特征与读者年龄、性别、专业等人口属性特征拼接后输入多层神经网络进行模型训练,获得预测结果。实验结果表明:所提出的模型对比其他模型推荐效果有较大提升。 展开更多

关键词 语义特征 预训练模型 文本卷积神经网络

下载PDF 职称材料

互联网新闻敏感信息识别方法的研究 被引量：9

11

作者 李姝 张祥祥 +1 位作者 于碧辉 于金刚 《小型微型计算机系统》 CSCD 北大核心 2021年第4期685-689,共5页

敏感信息识别是净化互联网环境的关键,在当今信息爆炸的时代,人们每天都要从互联网中获得大量信息,如何过滤大量信息中的敏感信息对整个社会安定和谐有着重要的意义.现有的方法主要是基于敏感关键词的方法进行过滤,需要不断更新迭代敏... 敏感信息识别是净化互联网环境的关键,在当今信息爆炸的时代,人们每天都要从互联网中获得大量信息,如何过滤大量信息中的敏感信息对整个社会安定和谐有着重要的意义.现有的方法主要是基于敏感关键词的方法进行过滤,需要不断更新迭代敏感关键词,泛化性弱,本文中使用基于预训练模型的深度学习方法可以学习到互联网新闻文本中更深层的语义信息,进而更有效的识别和过滤敏感信息,泛化性强,但是只使用深度学习方法会一定程度上的损失敏感关键词特征.本文首次将传统的敏感关键词方法与深度学习方法相结合应用于互联网敏感信息识别,提出了一种融合敏感关键词特征的模型Mer-HiBert.实验结果表明,与之前的敏感关键词方法以及深度学习模型相比,模型的性能有进一步提高. 展开更多

关键词 敏感信息识别 敏感关键词 Bert ATTENTION TextCNN

下载PDF 职称材料

基于BERT模型的中文短文本分类算法 被引量：78

12

作者 段丹丹 唐加山 +1 位作者 温勇 袁克海 《计算机工程》 CAS CSCD 北大核心 2021年第1期79-86,共8页

针对现有中文短文本分类算法通常存在特征稀疏、用词不规范和数据海量等问题,提出一种基于Transformer的双向编码器表示(BERT)的中文短文本分类算法,使用BERT预训练语言模型对短文本进行句子层面的特征向量表示,并将获得的特征向量输入S... 针对现有中文短文本分类算法通常存在特征稀疏、用词不规范和数据海量等问题,提出一种基于Transformer的双向编码器表示(BERT)的中文短文本分类算法,使用BERT预训练语言模型对短文本进行句子层面的特征向量表示,并将获得的特征向量输入Softmax回归模型进行训练与分类。实验结果表明,随着搜狐新闻文本数据量的增加,该算法在测试集上的整体F1值最高达到93%,相比基于TextCNN模型的短文本分类算法提升6个百分点,说明其能有效表示句子层面的语义信息,具有更好的中文短文本分类效果。 展开更多

关键词 中文短文本分类 基于Transformer的双向编码器表示 Softmax回归模型 TextCNN模型 word2vec模型

下载PDF 职称材料

基于BSTTC模型的中文命名实体识别 被引量：3

13

作者 申晖 张英俊 +1 位作者 谢斌红 赵红燕 《计算机系统应用》 2021年第6期262-270,共9页

大多数中文命名实体识别模型中,语言预处理只关注单个词和字符的向量表示,忽略了它们之间的语义关系,无法解决一词多义问题;Transformer特征抽取模型的并行计算和长距离建模优势提升了许多自然语言理解任务的效果,但全连接结构使得计算... 大多数中文命名实体识别模型中,语言预处理只关注单个词和字符的向量表示,忽略了它们之间的语义关系,无法解决一词多义问题;Transformer特征抽取模型的并行计算和长距离建模优势提升了许多自然语言理解任务的效果,但全连接结构使得计算复杂度为输入长度的平方,导致其在中文命名实体识别的效果不佳.针对这些问题,提出一种基于BSTTC (BERT-Star-Transformer-TextCNN-CRF)模型的中文命名实体识别方法.首先利用在大规模语料上预训练好的BERT模型根据其输入上下文动态生成字向量序列;然后使用星型Transformer与TextCNN联合模型进一步提取句子特征;最后将特征向量序列输入CRF模型得到最终预测结果.在MSRA中文语料上的实验结果表明,该模型的精确率、召回率和F1值与之前模型相比,均有所提高.与BERT-Transformer-CRF模型相比,训练时间大约节省了65%. 展开更多

关键词 BERT 星型Transformer 命名实体识别 TextCNN 条件随机场

下载PDF 职称材料

基于改进的BERT-CNN 模型的新闻文本分类研究 被引量：11

14

作者 张小为 邵剑飞 《电视技术》 2021年第7期146-150,共5页

语言处理模型层出不穷,从在图像领域运用的卷积神经网络(Convolutional Neural Networks,CNN)、被改进后的TextCNN到循环神经网络(Rerrent Neural Network,RNN)、谷歌推出的transformer模型以及百度公司提出的ERNIE模型等。为了区分出... 语言处理模型层出不穷,从在图像领域运用的卷积神经网络(Convolutional Neural Networks,CNN)、被改进后的TextCNN到循环神经网络(Rerrent Neural Network,RNN)、谷歌推出的transformer模型以及百度公司提出的ERNIE模型等。为了区分出在新闻文本领域处理效果最佳的文本分类模型,基于新闻文本任务数据对来自变换器的双向编码器表征量(Bidirectional Encoder Representations from Transformers,BERT)进行微调,再将BERT作为embedding输入到其他深度学习模型中,最后对比目前几个深度学习模型的训练效果。实验结果表明,BERT-CNN模型分类效果最佳,其准确率比原BERT模型的准确率多了0.31%,且更为稳定。 展开更多

关键词 BERT TextCNN 词嵌入

下载PDF 职称材料

基于BERT字向量和TextCNN的农业问句分类模型分析 被引量：9

15

作者 鲍彤 罗瑞 +2 位作者 郭婷 贵淑婷 任妮 《南方农业学报》 CAS CSCD 北大核心 2022年第7期2068-2076,共9页

【目的】研究不同词向量和深度学习模型组合对农业问句分类结果的影响,为构建农业智能问答系统提供技术支撑。【方法】通过爬虫获取农业种植网等网站的问答数据,选择20000条问句进行人工标注,构建农业问句分类语料库。采用BERT对农业问... 【目的】研究不同词向量和深度学习模型组合对农业问句分类结果的影响,为构建农业智能问答系统提供技术支撑。【方法】通过爬虫获取农业种植网等网站的问答数据,选择20000条问句进行人工标注,构建农业问句分类语料库。采用BERT对农业问句进行字符编码,利用文本卷积神经网络(TextCNN)提取问句高维度特征对农业问句进行分类。【结果】在词向量对比实验中,BERT字向量与TextCNN结合时农业问句分类F1值达93.32%,相比Word2vec字向量提高2.1%。在深度学习模型的分类精度对比方面,TextCNN与Word2vec和BERT字向量结合的F1值分别达91.22%和93.32%,均优于其他模型。在农业问句的细分试验中,BERT-TextCNN在栽培技术、田间管理、土肥水管理和其他4个类别中分类F1值分别为86.06%、90.56%、95.04%和85.55%,均优于其他深度学习模型。超参数设置方面,BERT-TextCNN农业问句分类模型卷积核大小设为[3,4,5]、学习率设为5e-5、迭代次数设为5时效果最优,该模型在数据样本不均衡的情况下,对于农业问句的平均分类准确率依然能达93.00%以上,可满足农业智能问答系统的问句分类需求。【建议】通过阿里NLP等开源平台提升数据标注质量;在分类过程中补充词频和文档特征,提高模型分类精度;农业相关政府职能部门加强合作,积极探索农业技术数字化推广和服务新模式。 展开更多

关键词 农业问句 智能问答系统 问句分类 预训练语言模型(BERT) 文本卷积神经网络

下载PDF 职称材料

社交网络虚假新闻识别方法 被引量：4

16

作者 楼靓 《浙江交通职业技术学院学报》 CAS 2020年第2期106-110,共5页

随着移动互联网等信息技术的发展与普及,社交网络中的谣言和虚假新闻的传播也更迅速、影响也更广泛,造成了不良的社会影响与经济损失,同时对监管部门的响应速度提出更高要求。提出一种面向社交网络的虚假新闻检测方法,该方法分析社交网... 随着移动互联网等信息技术的发展与普及,社交网络中的谣言和虚假新闻的传播也更迅速、影响也更广泛,造成了不良的社会影响与经济损失,同时对监管部门的响应速度提出更高要求。提出一种面向社交网络的虚假新闻检测方法,该方法分析社交网络中新闻文本的语言特征,并结合基于BERT全词覆盖模型抽取中文字向量来联合构建新闻文本特征。为结合这两类特征,提出了一种改进的TextCNN模型。在实验中该方法取得了更高的精度,证明了该方法的有效性。 展开更多

关键词 自然语言处理 虚假新闻识别 BERT TextCNN

下载PDF 职称材料

基于BERT与密集复合网络的长文本语义匹配模型 被引量：1

17

作者 陈岳林 高铸成 蔡晓东 《吉林大学学报（工学版）》 EI CAS CSCD 北大核心 2024年第1期232-239,共8页

针对长文本语义匹配中词向量前后之间联系不易捕获以及主题信息可能不唯一,通常使得语义匹配效果不佳的问题,提出了一种基于BERT与密集复合网络的长文本语义匹配方法,通过BERT嵌入与复合网络的密集连接,显著提高了长语义匹配的准确率。... 针对长文本语义匹配中词向量前后之间联系不易捕获以及主题信息可能不唯一,通常使得语义匹配效果不佳的问题,提出了一种基于BERT与密集复合网络的长文本语义匹配方法,通过BERT嵌入与复合网络的密集连接,显著提高了长语义匹配的准确率。首先,将句子对输入BERT预训练模型,通过迭代反馈得到精准的词向量表示,进而得到高质量的句子对语义信息。其次,设计了一种密集复合网络,先由双向长短期记忆网络(Bi-LSTM)获得句子对的全局语义信息,然后由TextCNN提取并整合局部语义信息得到每个句子的关键特征和句子对间的对应关系,并将BERT与Bi-LSTM的隐藏输出与TextCNN的池化输出融合。最后,汇总训练过程中网络之间的关联状态,可以有效防止网络退化和增强模型判断能力。实验结果表明,在社区问题回答(CQA)长文本数据集上,本文方法平均提升幅度达到45%。 展开更多

关键词 深度学习 长文本语义匹配 BERT 密集复合网络 Bi-LSTM TextCNN

原文传递

融合上下文特征和BERT词嵌入的新闻标题分类研究 被引量：15

18

作者 范昊 何灏 《情报科学》 CSSCI 北大核心 2022年第6期90-97,共8页

【目的/意义】随着社交媒体的发展,各类新闻数量激增,舆情监测处理越来越重要,高效精确的识别舆情新闻可以帮助有关部门及时搜集跟踪突发事件信息并处理,减小舆论对社会的影响。本文提出一种融合BERT、TEXTCNN、BILSTM的新闻标题文本分... 【目的/意义】随着社交媒体的发展,各类新闻数量激增,舆情监测处理越来越重要,高效精确的识别舆情新闻可以帮助有关部门及时搜集跟踪突发事件信息并处理,减小舆论对社会的影响。本文提出一种融合BERT、TEXTCNN、BILSTM的新闻标题文本分类模型,充分考虑词嵌入信息、文本特征和上下文信息,以提高新闻标题类别识别的准确率。【方法/过程】将使用BERT生成的新闻标题文本向量输入到TEXTCNN提取特征,将TEXTCNN的结果输入到BILSTM捕获新闻标题上下文信息,利用softmax判断分类结果。【结果/结论】研究表明,本文提出的融合了基于语言模型的BERT、基于词向量TEXTCNN和基于上下文机制BILSTM三种算法的分类模型在准确率、精确率、召回率和F1值均达到了0.92以上,而且具有良好的泛化能力,优于传统的文本分类模型。【创新/局限】本文使用BERT进行词嵌入,同时进行特征提取和捕获上下文语义,模型识别新闻类别表现良好,但模型参数较多向量维度较大对训练设备要求较高,同时数据类别只有10类,未对类别更多或类别更细化的数据进行实验。 展开更多

关键词 文本分类 新闻标题 BERT词嵌入 TEXTCNN BILSTM

原文传递