本站原创文章,转载请说明来自《老饼讲解-BP神经网络》www.bbbdata.com
RBF神经网络是一种由RBF(Radial Basis Function)函数作为隐层激活函数的三层神经网络
本文讲述RBF神经网络的模型结构、详细的运算,并进一步详细剖析RBF神经网络模型结构的意义
通过本文,可以快速了解RBF神经网络是什么,以及它的模型原理、几何意义是什么
本节介绍什么是RBF径向基,以及RBF径向基神经网络的详细结构
什么是RBF神经网络
RBF神经网络是什么
RBF(Radial Basis Function)神经网络是指用RBF函数作为隐层激活函数的神经网络
![]()
如图,RBF神经网络共三层,第一层是输入层,第二层是隐层(RBF层),第三层是输出层
隐层的每一个隐节点都是一个RBF,输出层的每个输出则是各个隐节点(RBF)的加权和
RBF神经网络的数学表述如下:
其中,
:隐层(第2层)的权重、阈值
:输出层(第3层)的权重、阈值
在输入经过隐层的权重、阈值运算后得到,再经由RBF函数进行激活
而RBF神经网络的输出,则是由各个隐神经元的激活值进行加权而和、再加上输出节点自身的阈值
RBF神经网络的常用数学表述
由于一般取为欧氏距离函数,而径向基函数一般取为高斯函数,即
因此,RBF神经网络整体可以表述如下:
RBF神经网络-具体计算例子
以2个输入,3个隐节点,1个输出的RBF神经网络为例
设模型的权重、阈值如下:
1. 隐层的权重、阈值为:
备注:的第i行代表第i个隐节点的权重和阈值
2. 输出层的权重、阈值为:
备注:的第i行代表第i个输出节点的权重和阈值
假设模型的输入为
则RBF神经网络的输出如下计算:
一、计算隐层激活值(即径向基的值):
二、计算输出值
仔细看一遍上面的计算过程,就可以非常具体的了解RBF神经网络的结构细节了~
本节介绍如何理解RBF神经网络,加深理解RBF神经网络是什么
RBF神经网络的模型意义
下面以一个2输入、3个隐节点、单出输出的RBF神经网络为例
它的数学表达式形式如下:
为方便理解,我们对其展开如下:
备注:的下标代表它是的第3行
从上述表达式可以清晰的看到,RBF神经网络的输出实际就是多个RBF的加权和
而RBF是一个钟型曲线,
因此,RBF神经网络在几何意义上,就相当于用多个钟型曲线来叠加出目标曲线
在RBF神经网络中,每个隐节点就代表一个RBF,
因此,用多少个隐节点,就代表使用多少个RBF曲线来叠加出目标曲线
而RBF神经网络的训练算法的核心问题则是:
1. 每个RBF的中心位置在哪
从数学表达式中可知,第i个RBF的中心由隐层权重的第i行决定
2. 每个RBF的宽度是多少
从数学表达式中可知,第i个RBF的宽度由隐层阈值的第i个元素决定
3. 每个RBF的高度是多少
从数学表达式中可知,第i个RBF在第j个输出中的高度为输出层权
此外,输出层的阈值第j个元素则是第j个输出的基本值
总的来说,RBF神经网络的算法,主要就是确定的取值
实则就是确定各个RBF径向基的中心、宽度以及高度等形态,使它们能凑合出目标曲线
老饼编后语
RBF神经网络只是将一堆RBF凑在一起,去拟合目标曲线,结构极为简单
而为什么使用RBF?因为RBF具有局部性,即一个RBF它只比较显著地影响某个局部的值
不过也正因为RBF具有局部性,,往往需要较多的RBF才能拟合全局,即需要比较多的隐节点
好了,以上就是RBF神经网络模型结构的介绍了~
End