多源域分布下优化权重的迁移学习Boosting方法 被引量：1

1

作者 李赟波 王士同 《计算机科学与探索》 CSCD 北大核心 2023年第6期1441-1452,共12页

深度决策树迁移学习Boosting方法(DTrBoost)仅能适应一个源域与一个目标域的训练数据,无法适应多个不同分布的源域的样本。此外,DTrBoost方法同步地从源域中学习数据至目标域模型,并没有根据重要程度量化学习知识的权重。在实践中,对于... 深度决策树迁移学习Boosting方法(DTrBoost)仅能适应一个源域与一个目标域的训练数据,无法适应多个不同分布的源域的样本。此外,DTrBoost方法同步地从源域中学习数据至目标域模型,并没有根据重要程度量化学习知识的权重。在实践中,对于某数据集的数据按照某一或某些特征划分出来的数据往往分布不一致,并且这些不同分布的数据对于最终模型的重要性也不一致,知识迁移的权重也因此不平等。针对这一问题,提出了多源域优化权重的迁移学习方法,主要思想是根据不同分布的源域空间计算出到目标域的KL距离,利用KL距离的比值计算出不同分布的源域样本的学习权重比例,从而优化整体梯度函数,使学习方向朝着梯度下降最快的方向进行。使用梯度下降算法能使模型较快收敛,在确保迁移学习效果的同时,也能确保学习的速度。实验结果表明,提出的算法在整体上实现了更好的性能并且对于不同的训练数据能够实现自适应效果,分类错误率平均下降0.013,在效果最好的OCR数据集上下降0.030。 展开更多

关键词 深度决策树迁移学习boosting方法(DTrboost) 多源域迁移学习 KL距离 决策树

下载PDF 职称材料

用Boosting方法组合增强Stumps进行文本分类(英文) 被引量：15

2

作者 刁力力 胡可云 +1 位作者 陆玉昌 石纯一 《软件学报》 EI CSCD 北大核心 2002年第8期1361-1367,共7页

为提高文本分类的精度,Schapire和Singer尝试了一个用Boosting来组合仅有一个划分的简单决策树(Stumps)的方法.其基学习器的划分是由某个特定词项是否在待分类文档中出现决定的.这样的基学习器明显太弱,造成最后组合成的Boosting分类器... 为提高文本分类的精度,Schapire和Singer尝试了一个用Boosting来组合仅有一个划分的简单决策树(Stumps)的方法.其基学习器的划分是由某个特定词项是否在待分类文档中出现决定的.这样的基学习器明显太弱,造成最后组合成的Boosting分类器精度不够理想,而且需要的迭代次数很大,因而效率很低.针对这个问题,提出由文档中所有词项来决定基学习器划分以增强基学习器分类能力的方法.它把以VSM表示的文档与类代表向量之间的相似度和某特定阈值的大小关系作为基学习器划分的标准.同时,为提高算法的收敛速度,在类代表向量的计算过程中动态引入Boosting分配给各学习样本的权重.实验结果表明,这种方法提高了用Boosting组合Stump分类器进行文本分类的性能(精度和效率),而且问题规模越大,效果越明显. 展开更多

关键词 boosting方法 文本分类 机器学习 Stumps分类器

下载PDF 职称材料

基于Boosting方法的人脸检测 被引量：8

3

作者 陈爱斌 夏利民 赵桂敏 《计算机工程与应用》 CSCD 北大核心 2004年第3期50-52,共3页

该文提出一种基于Boosting方法的人脸检测算法。先用特征脸方法构造一个基于重建图像信噪比的阈值函数用于人脸检测,在此基础上,该文利用Boosting方法构造一个基于信噪比阈值的检测函数序列,然后以一定的方式将它们组合成一个总检测函数... 该文提出一种基于Boosting方法的人脸检测算法。先用特征脸方法构造一个基于重建图像信噪比的阈值函数用于人脸检测,在此基础上,该文利用Boosting方法构造一个基于信噪比阈值的检测函数序列,然后以一定的方式将它们组合成一个总检测函数,据此判别一幅图像是否为人脸图像。实验结果显示,这种方法明显提高了检测性能。 展开更多

关键词 人脸检测 特征脸 信噪比 boosting方法 模式识别

下载PDF 职称材料

基于多阈值Boosting方法的人脸检测 被引量：2

4

作者 钟向阳 凌捷 《计算机工程》 CAS CSCD 北大核心 2009年第11期172-174,共3页

Adaboost算法采用单阈值弱分类器,难以拟合复杂分布,其训练过程收敛速度较慢。针对该问题设计一种多阈值弱学习器,利用平方和减少最大化准则划分节点并生成弱分类器,在训练数据集上采用GAB算法将弱分类器提升为强分类器。实验结果表明,... Adaboost算法采用单阈值弱分类器,难以拟合复杂分布,其训练过程收敛速度较慢。针对该问题设计一种多阈值弱学习器,利用平方和减少最大化准则划分节点并生成弱分类器,在训练数据集上采用GAB算法将弱分类器提升为强分类器。实验结果表明,在弱分类器数目相同的情况下,该方法的正样本误报率低于Adaboost算法。 展开更多

关键词 人脸检测 boosting方法 实值Adaboost 平缓Adaboost

下载PDF 职称材料

Boosting方法在网络攻击分类中的性能分析 被引量：2

5

作者 靳燕 姚悦 《网络空间安全》 2016年第6期25-28,共4页

针对KDD CUP99网络攻击数据集的分类建模问题,论文结合NaiveBayes、RIPPER和SVM三类算法分别介绍了各自的学习过程。Boosting方法属提升算法,通过多轮迭代实现弱分类器的加权组合,最终决策结果较基算法较为理想。为分析Boosting方法在KD... 针对KDD CUP99网络攻击数据集的分类建模问题,论文结合NaiveBayes、RIPPER和SVM三类算法分别介绍了各自的学习过程。Boosting方法属提升算法,通过多轮迭代实现弱分类器的加权组合,最终决策结果较基算法较为理想。为分析Boosting方法在KDD CUP99集上的分类性能,实验选用AdaBoost算法为代表,将以上三类算法作为基算法,依次应用到数据集上。分类预测结果表明:RIPPER算法的总体性能优于其他算法,尤其对少类的分类效果较好,使用AdaBoost后,性能改善明显。在不考虑分类效率的前提下,论文所提方法中,基于RIPPER的Boosting对KDD CUP99更为适合。 展开更多

关键词 KDD CUP99 分类预测 boosting方法 性能提升

下载PDF 职称材料

代价敏感的Boosting软件缺陷预测方法 被引量：4

6

作者 李莉 任振康 石可欣 《计算机工程》 CAS CSCD 北大核心 2022年第3期175-180,共6页

软件缺陷预测可以有效提高软件的可靠性,修复系统存在的漏洞。Boosting重抽样是解决软件缺陷预测样本数量不足问题的常用方法,但常规Boosting方法在处理领域类不平衡问题时效果不佳。为此,提出一种代价敏感的Boosting软件缺陷预测方法 C... 软件缺陷预测可以有效提高软件的可靠性,修复系统存在的漏洞。Boosting重抽样是解决软件缺陷预测样本数量不足问题的常用方法,但常规Boosting方法在处理领域类不平衡问题时效果不佳。为此,提出一种代价敏感的Boosting软件缺陷预测方法 CSBst。针对缺陷模块漏报和误报代价不同的问题,利用代价敏感的Boosting方法更新样本权重,增大产生第一类错误的样本权重,使之大于无缺陷类样本权重与第二类错误样本的权重,从而提高模块的预测率。采用阈值移动方法对多个决策树基分类器的分类结果进行集成,以解决过拟合问题。在此基础上,通过分析给出模型构建过程中权重和阈值的最优化设置。在NASA软件缺陷预测数据集上进行实验,结果表明,在小样本的情况下,与CSBKNN、CSCE方法相比,CSBst方法的BAL预测指标分别提升7%和3%,且时间复杂度降低一个数量级。 展开更多

关键词 软件缺陷预测 决策树 机器学习 阈值移动方法 boosting方法

下载PDF 职称材料

基于BOOSTING框架的视觉语音多模态情感识别检测方法

7

作者 张芬 《现代电子技术》 北大核心 2017年第23期59-63,共5页

情感识别技术是智能人机交互的重要基础,它涉及计算机科学、语言学、心理学等多个研究领域,是模式识别和图像处理领域的研究热点。鉴于此,基于Boosting框架提出两种有效的视觉语音多模态融合情感识别方法:第一种方法将耦合HMM(coupled H... 情感识别技术是智能人机交互的重要基础,它涉及计算机科学、语言学、心理学等多个研究领域,是模式识别和图像处理领域的研究热点。鉴于此,基于Boosting框架提出两种有效的视觉语音多模态融合情感识别方法:第一种方法将耦合HMM(coupled HMM)作为音频流和视频流的模型层融合技术,使用改进的期望最大化算法对其进行训练,着重学习难于识别的(即含有更多信息的)样本,并将Ada Boost框架应用于耦合HMM的训练过程,从而得到Ada Boost-CHMM总体分类器;第二种方法构建了多层Boosted HMM(MBHMM)分类器,将脸部表情、肩部运动和语音三种模态的数据流分别应用于分类器的某一层,当前层的总体分类器在训练时会聚焦于前一层总体分类器难于识别的样本,充分利用各模态特征数据间的互补特性。实验结果验证了两种方法的有效性。 展开更多

关键词 情感识别 表情识别 boosting方法 情感数据库

下载PDF 职称材料

Boosting算法中基分类器权重的动态赋值 被引量：9

8

作者 付彬 王志海 王中锋 《广西师范大学学报（自然科学版）》 CAS 北大核心 2009年第3期85-88,共4页

Boosting是一种有效的分类器组合方法,其通过加权投票来组合多个基分类器进行分类。在对基分类器进行权重赋值时,该算法采用了以基分类器在当前训练集上的错误率的某种变形来对基分类器进行权重赋值,这是一种静态的赋值方法。介绍一种... Boosting是一种有效的分类器组合方法,其通过加权投票来组合多个基分类器进行分类。在对基分类器进行权重赋值时,该算法采用了以基分类器在当前训练集上的错误率的某种变形来对基分类器进行权重赋值,这是一种静态的赋值方法。介绍一种动态地对基分类器进行赋权重的方法,这种方法利用当前测试实例属于某个被错误分类数据子集的程度,并按照程度的大小给相应的基分类器赋适当的权重。跟静态赋权重相比,这种方法考虑了测试实例属性取值的不同,进而能动态地调整基分类器的权重,从而达到进一步优化分类性能的目的。实验表明,动态权重赋值的方法在大多数情况下跟静态赋值相比具有更好的分类性能。 展开更多

关键词 组合分类器 boosting方法 动态权重赋值

下载PDF 职称材料

基于Boosting算法和RBF神经网络的交通事件检测 被引量：5

9

作者 党长青 张景辉 沈志远 《计算机应用》 CSCD 北大核心 2007年第12期3105-3107,共3页

提出一种新颖的基于Boosting RBF神经网络的交通事件检测方法。对Boosting算法进行改进,采用更有效的参数求解方法,即弱分类器的加权参数不但与错误率有关,还与其对正样本的识别能力有关。以上下游的流量和占有率作为特征,将RBF神经网... 提出一种新颖的基于Boosting RBF神经网络的交通事件检测方法。对Boosting算法进行改进,采用更有效的参数求解方法,即弱分类器的加权参数不但与错误率有关,还与其对正样本的识别能力有关。以上下游的流量和占有率作为特征,将RBF神经网络作为分类器进行交通事件的自动分类与检测。为了进一步提高神经网络的泛化能力,采用Boosting方法进行网络集成。最后运用Matlab进行了仿真分析,结果表明提出的交通事件检测算法利用较少样本数据即可快速实现交通事件检测。 展开更多

关键词 交通事件检测 boosting方法 RBF神经网络

下载PDF 职称材料

基于Boosting RBF神经网络的入侵检测 被引量：3

10

作者 党长青 刘洁 牛分中 《计算机工程与应用》 CSCD 北大核心 2008年第15期118-120,共3页

提出一种新颖的基于boosting RBF神经网络的入侵检测方法。将模糊聚类和神经网络技术相结合,提出基于改进的FCM算法和OLS算法相结合的FORBF算法,为了提高RBF神经网络的泛化能力,采用Boosting方法,进行网络集成。以"KDD Cup 1999 Da... 提出一种新颖的基于boosting RBF神经网络的入侵检测方法。将模糊聚类和神经网络技术相结合,提出基于改进的FCM算法和OLS算法相结合的FORBF算法,为了提高RBF神经网络的泛化能力,采用Boosting方法,进行网络集成。以"KDD Cup 1999 Data"网络连接数据集训练神经网络并仿真实验,得到了较高的检测率和较低的误警率。 展开更多

关键词 入侵检测 boosting方法 RBF神经网络 正交最小二乘法

下载PDF 职称材料

基于boosting算法的交通事件检测 被引量：3

11

作者 孙熙 李夏苗 《交通运输系统工程与信息》 EI CSCD 2007年第5期37-41,共5页

提出一种新颖的基于boosting模糊分类的交通事件检测方法.该方法利用Boosting方法和遗传算法以迭代形式获取一组模糊规则及规则对应的权值,分类器以加权投票方式进行分类决策.运用Matlab进行了仿真分析,结果表明提出的交通事件检测算法... 提出一种新颖的基于boosting模糊分类的交通事件检测方法.该方法利用Boosting方法和遗传算法以迭代形式获取一组模糊规则及规则对应的权值,分类器以加权投票方式进行分类决策.运用Matlab进行了仿真分析,结果表明提出的交通事件检测算法利用较少样本数据即可快速实现交通事件检测. 展开更多

关键词 交通事件检测 遗传算法 boosting方法 模糊分类器

下载PDF 职称材料

基于多特征融合和Boosting RBF神经网络的人脸识别 被引量：2

12

作者 嵇新浩 丁荣涛 《计算机科学》 CSCD 北大核心 2008年第6期196-198,共3页

提出一种多特征信息融合的人脸识别方法。应用Zernike矩方法和非负矩阵分解法(NMF)分别提取具有旋转不变性的人脸几何特征和人脸子空间投影系数特征,将这两种具有一定互补性的特征串行融合,得到一个分类能力更强的特征。在此基础上,采用... 提出一种多特征信息融合的人脸识别方法。应用Zernike矩方法和非负矩阵分解法(NMF)分别提取具有旋转不变性的人脸几何特征和人脸子空间投影系数特征,将这两种具有一定互补性的特征串行融合,得到一个分类能力更强的特征。在此基础上,采用RBF神经网络进行人脸识别。为了提高神经网络的分类准确率和泛化能力,采用Boosting方法进行网络集成。实验结果表明,提出的算法利用较少样本数据即可快速地进行人脸识别。 展开更多

关键词 人脸识别 ZEMIKE矩 非负矩阵分解法 boosting方法 RBF神经网络

下载PDF 职称材料

基于Boosting RBF神经网络的滚动轴承故障诊断 被引量：1

13

作者 龙仙爱 杨顺 夏利民 《计算机与数字工程》 2006年第9期15-18,37,共5页

提出了一种新颖的基于RBF神经网络滚动轴承故障诊断方法。以滚动轴承动态信号的能量信息作为特征,RBF神经网络作为分类器进行滚动轴承故障自动分类与诊断。为了进一步提高神经网络的泛化能力和故障诊断的准确性,采用Boosting方法,进行... 提出了一种新颖的基于RBF神经网络滚动轴承故障诊断方法。以滚动轴承动态信号的能量信息作为特征,RBF神经网络作为分类器进行滚动轴承故障自动分类与诊断。为了进一步提高神经网络的泛化能力和故障诊断的准确性,采用Boosting方法,进行网络集成。对七类滚动轴承进行了实验,结果表明该方法具有很好的故障诊断效果。 展开更多

关键词 滚动轴承 故障诊断 小波包分解 boosting方法 RBF神经网络

下载PDF 职称材料

基于Boosting算法的入侵检测

14

作者 况夯 《计算机工程与应用》 CSCD 北大核心 2008年第4期151-154,共4页

提出了一种新颖的基于boosting BP神经网络的入侵检测方法。为了提高BP神经网络的泛化能力,采用改进的Boosting方法,进行网络集成。Boosting方法采用更有效的参数求解方法,即弱分类器的加权参数不但与错误率有关,还与其对正样本的识别... 提出了一种新颖的基于boosting BP神经网络的入侵检测方法。为了提高BP神经网络的泛化能力,采用改进的Boosting方法,进行网络集成。Boosting方法采用更有效的参数求解方法,即弱分类器的加权参数不但与错误率有关,还与其对正样本的识别能力有关。对"KDD Cup 1999 Data"网络连接数据集进行特征选择和归一化处理之后用于训练神经网络并仿真实验,得到了较高的检测率和较低的误报率,仿真结果表明,提出的入侵检测方法是有效的。 展开更多

关键词 入侵检测 boosting方法 BP神经网络

下载PDF 职称材料

用基于树的Bagging和Boosting集成技术预测硬岩矿山岩爆 被引量：19

15

作者 王世鸣 周健 +3 位作者 李传奇 Danial Jahed ARMAGHANI 李夕兵 Hani SMITRI 《Journal of Central South University》 SCIE EI CAS CSCD 2021年第2期527-542,共16页

岩爆预测对地下硬岩矿山的设计和施工至关重要。使用三种基于树的集成方法,对由102个历史案例(即1998—2011年期间14个硬岩矿山数据)组成的岩爆数据库进行了检查,以用于有岩爆倾向矿井的岩爆预测。该岩爆数据集包含六个广泛接受的倾向... 岩爆预测对地下硬岩矿山的设计和施工至关重要。使用三种基于树的集成方法,对由102个历史案例(即1998—2011年期间14个硬岩矿山数据)组成的岩爆数据库进行了检查,以用于有岩爆倾向矿井的岩爆预测。该岩爆数据集包含六个广泛接受的倾向性指标,即:开挖边界周围的最大切向应力(MTS)、完整岩石的单轴抗压强度(UCS)和单轴抗拉强度(UTS)、应力集中系数(SCF)、岩石脆性指数(BI)和应变能储存指数(EEI)。以分类树作为基准分类器的两种Boosting算法(AdaBoost.M1,SAMME)和Bagging算法进行了评估,评估了它们学习岩爆的能力。将可用数据集随机分为训练集(整个数据集的2/3)和测试集(其余数据集)。采用重复10倍交叉验证(CV)作为调整模型超参数的验证方法,并利用边际分析和变量相对重要性分析了各集成学习模型特征。根据重复10倍交叉验证结果,对岩爆数据集的精度分析表明,与AdaBoost.M1、SAMME算法和岩爆经验判据相比,Bagging方法是预测硬岩矿山岩爆的最佳方法。 展开更多

关键词 岩爆 硬岩 预测 Bagging方法 boosting方法 集成学习

下载PDF 职称材料

一种新的空间权重矩阵选择方法 被引量：19

16

作者 任英华 游万海 《统计研究》 CSSCI 北大核心 2012年第6期99-105,共7页

空间权重矩阵选择问题一直是空间计量经济学中的一个难题,权重矩阵的选择正确与否关系到模型的最终估计结果。本文在空间滞后模型框架下,把空间权重矩阵选择问题转化为变量选择问题,然后利用CWB方法进行变量选择。中国城市服务业集聚机... 空间权重矩阵选择问题一直是空间计量经济学中的一个难题,权重矩阵的选择正确与否关系到模型的最终估计结果。本文在空间滞后模型框架下,把空间权重矩阵选择问题转化为变量选择问题,然后利用CWB方法进行变量选择。中国城市服务业集聚机理实证研究显示,利用本文提出的方法所选取的空间权重矩阵较为合理,进而可以减少因为空间权重矩阵误设问题而引起的模型估计偏误。在大样本情形下,该方法可以非常有效地降低计算成本。 展开更多

关键词 空间滞后模型 空间权重矩阵 Component-wise boosting方法

下载PDF 职称材料

基于Gabor直方图特征和MVBoost的人脸表情识别 被引量：26

17

作者 刘晓旻 章毓晋 《计算机研究与发展》 EI CSCD 北大核心 2007年第7期1089-1096,共8页

提出采用Gabor变换与分级直方图统计相结合的方法来提取表情特征,以分层次反映局部区域内纹理变化的信息.这比仅用一维的Gabor系数具有更强的特征表示能力.借助直方图特征,还设计了向量输入、多类连续输出的弱分类器,并嵌入到多类连续Ad... 提出采用Gabor变换与分级直方图统计相结合的方法来提取表情特征,以分层次反映局部区域内纹理变化的信息.这比仅用一维的Gabor系数具有更强的特征表示能力.借助直方图特征,还设计了向量输入、多类连续输出的弱分类器,并嵌入到多类连续AdaBoost的算法框架中,得到了向量输入、多类输出的MVBoost方法.该方法直接对特征进行多类的判决以满足多类时分类的需求,而不必训练多个二分类的AdaBoost分类器,从而使训练过程和分类过程都得到简化. 展开更多

关键词 表情识别 直方图 GABOR特征 分类器 boost方法

下载PDF 职称材料

基于CART算法的PVC压延设备状态诊断方法研究 被引量：1

18

作者 王美林 刘金刚 《现代计算机》 2021年第23期53-58,共6页

PVC压延设备保持正常工作状态是整个生产过程能否顺利进行重要前提。针对现有的PVC压延设备运行状态的诊断需求,本文提出了一种基于CART算法的工业设备状态诊断方法,该方法通过计算基尼系数建立诊断模型。同时,针对单CART树容易出现过... PVC压延设备保持正常工作状态是整个生产过程能否顺利进行重要前提。针对现有的PVC压延设备运行状态的诊断需求,本文提出了一种基于CART算法的工业设备状态诊断方法,该方法通过计算基尼系数建立诊断模型。同时,针对单CART树容易出现过拟合现象且分类精度不高的问题,引入提升(Boosting)方法。通过构建多个CART树并进行加性组合,提高诊断模型分类精度。通过实例测试,加性组合后的诊断模型在工业设备故障识别上正确率为88.37%,AUC值为0.90,判决速度为0.15 ms/条,可以应用于PVC压延设备生产状态的实时诊断。 展开更多

关键词 PVC压延设备 CART算法 提升(boosting)方法 实时诊断

下载PDF 职称材料

基于LBSVM机器学习的相关反馈图像检索 被引量：3

19

作者 欧阳军林 刘建勋 曹步清 《计算机工程与应用》 CSCD 北大核心 2009年第2期112-115,共4页

基于机器学习的相关反馈技术是基于内容的图像检索研究的热点。由于基于SVM的相关反馈技术存在样本数量少,样本正负比例不平衡,反馈准确率低等问题,文中先对Boosting方法进行改进,提出了用先验知识的Boosting方法与SVM结合的短期机器学... 基于机器学习的相关反馈技术是基于内容的图像检索研究的热点。由于基于SVM的相关反馈技术存在样本数量少,样本正负比例不平衡,反馈准确率低等问题,文中先对Boosting方法进行改进,提出了用先验知识的Boosting方法与SVM结合的短期机器学习相关反馈方法(BSVM);在此基础上为进一步提高系统反馈速度与准确率,通过保存训练好的分类器和它对应的样本,提出了基于长期机器学习的相关反馈方法(LBSVM)。文中提出的两种方法与其它方法进行了比较实验,结果表明,该方法优于其它方法。 展开更多

关键词 相关反馈 机器学习 boosting方法 图像检索

下载PDF 职称材料

基于自适应特征选择的夜间运动车辆检测算法 被引量：1

20

作者 朱韶平 《吉首大学学报（自然科学版）》 CAS 2013年第6期47-52,共6页

针对夜间交通环境的特点,提出了基于自适应特征选择的夜间运动车辆检测算法.首先,利用SIFT算法提取夜间运动车辆的形状特征,并融合颜色和纹理特征,得到夜间运动车辆的特征向量;其次,利用Boosting算法和遗传算法以迭代形式获取模糊规则... 针对夜间交通环境的特点,提出了基于自适应特征选择的夜间运动车辆检测算法.首先,利用SIFT算法提取夜间运动车辆的形状特征,并融合颜色和纹理特征,得到夜间运动车辆的特征向量;其次,利用Boosting算法和遗传算法以迭代形式获取模糊规则及其权值;然后,采用Boosting算法以加权投票方式自适应选取对检测最有利的特征,从而实现自适应特征选择;最后,对夜间交通场景下3种不同道路情况进行实验.实验结果表明,在遮挡、光照及背景干扰等复杂情况下,该方法可以根据背景信息的不同自适应地选择特征,实现夜间车辆的实时检测,鲁棒性较好,可以满足智能交通系统的实时性和准确性的要求. 展开更多

关键词 车辆检测 SIFT特征 boosting方法 自适应特征选择

下载PDF 职称材料