-
题名基于惩罚函数泛化的神经网络剪枝算法研究
被引量:1
- 1
-
-
作者
熊俊
王士同
潘永惠
包芳
-
机构
江南大学数字媒体学院
江阴职业技术学院计算机科学系
-
出处
《计算机工程》
CAS
CSCD
2014年第11期149-154,共6页
-
文摘
神经网络的隐层数和隐层节点数决定了网络规模,并对网络性能造成较大影响。在满足网络所需最少隐层节点数的前提下,利用剪枝算法删除某些冗余节点,减少隐层节点数,得到更加精简的网络结构。基于惩罚函数的剪枝算法是在目标函数后加入一个惩罚函数项,该惩罚函数项是一个变量为网络权值的函数。由于惩罚函数中的网络权值变量可以附加一个可调参数,将单一惩罚函数项泛化为一类随参数规律变化的新的惩罚函数,初始惩罚函数可看作泛化后惩罚函数的参数取定值的特殊情况。实验利用基于标准BP神经网络的XOR数据进行测试,得到隐层节点剪枝效果和网络权值随惩罚函数的泛化而发生变化,并从数据分析中得出具有更好剪枝效果及更优网络结构的惩罚函数泛化参数。
-
关键词
隐层节点
神经网络
剪枝算法
惩罚函数
泛化
xor数据
-
Keywords
hidden layer node
neural network
pruning algorithm
penalty function
generalization
xor data
-
分类号
TP183
[自动化与计算机技术—控制理论与控制工程]
-