本站原创文章,转载请说明来自《老饼讲解-BP神经网络》www.bbbdata.com
spread参数是RBF神经网络中的一个核心参数,它对RBF的平滑性起着关键性作用
本文先初步感性认识spread的作用,再进一步详细分析不同的spread所构建的RBF神经网络的特点
通过本文可以了解spread参数在RBF神经网络中的作用和功能 ,以及它对RBF神经网络的影响
本节初步感性了解spread对RBF神经网络的影响
初识spread对RBF神经网络的影响
径向基神经网络的主体思想就是用径向基函数去逼近目标函数
自然而然可知,径向基函数的宽度选择非常重要,
径向基函数宽度对网络的影响
在newrb和newrbe中,使用spread参数来控制径向基的宽度
下面给出一张图,让大家感受不同宽度的径向基对RBF网络的影响![]()
图1:径向基函数(绿色)较窄的时候,它们之间互不影响,因此叠加出来的曲线(红色)跌宕起伏
图2、3:径向基函数宽度增大,径向基函数之间会有重叠,叠加后曲线也会渐渐平滑
图4:当径向基函数非常宽的时候,径向基会近似一条横线,叠加后的曲线非常平滑
本节分析spread过小、适中和过大三种情况下,所构建出来的RBF神经网络的特点
spread过小时的RBF网络表现
spread过小的时候,会令RBF神经网络非常的跌宕,如下所示
并且如果要得到一个小的误差,必须把大部分径向基都用上
这就导致径向基非常的多,RBF网络整体非常的大
spread适中时的RBF网络表现
spread适中的时候,RBF网络会相对较来平滑
而且由于每个RBF的影响范围相对较大些,
要支撑起整个目标曲线所用的径向基相对也会少一些
spread过大时的RBF网络表现
spread过大的时候,每个径向基近似于一条直线,
由于每个径向基都非常平滑,整体RBF网络RBF也相对更加平滑
较大的spread会有较强的平滑性,这是优点,也是缺点,
因为这样会导致很难拟合曲线上的一些细节,
在一些不太平滑的拟合目标上,
为了尽量拟合得更准确,往往用上所有的径向基都无法达到目标误差
因此过大的spread往往会导致RBF网络需要使用较多的径向基
另外,spread过大的时候,还会导致数值问题,以致于网络的训练误差无法为0
具体见《RBF的spread过大时产生的数值问题》
spread的特点总结
spread过小:RBF神经网络会非常跌宕,且隐节点较多
spread适中:RBF神经网络相对比较平滑,且隐节点相对也较少
spread过大:RBF神经网络极为平滑,且隐节点可能也需要较多
End