RBF神经网络

【介绍】RBF神经网络-模型结构

作者 : 老饼 发表日期 : 2022-06-09 04:46:03 更新日期 : 2024-12-11 20:13:21
本站原创文章,转载请说明来自《老饼讲解-BP神经网络》www.bbbdata.com



RBF神经网络是一种由RBF(Radial Basis Function)函数作为隐层激活函数的三层神经网络

本文讲述RBF神经网络的模型结构、详细的运算,并进一步详细剖析RBF神经网络模型结构的意义

通过本文,可以快速了解RBF神经网络是什么,以及它的模型原理、几何意义是什么





  01. 什么是RBF径向基神经网络  




本节介绍什么是RBF径向基,以及RBF径向基神经网络的详细结构




      什么是RBF神经网络      


RBF神经网络是什么
RBF(Radial Basis Function)神经网络是指用RBF函数作为隐层激活函数的神经网络
 RBF神经网络的模型结构  
如图,RBF神经网络共三层,第一层是输入层,第二层是隐层(RBF层),第三层是输出层
隐层的每一个隐节点都是一个RBF,输出层的每个输出则是各个隐节点(RBF)的加权和
 RBF神经网络的数学表述如下:
 
                   
 其中,
 
:隐层(第2层)的权重、阈值   
 
:输出层(第3层)的权重、阈值 
在输入经过隐层的权重、阈值运算后得到,再经由RBF函数进行激活
而RBF神经网络的输出,则是由各个隐神经元的激活值进行加权而和、再加上输出节点自身的阈值
 RBF神经网络的常用数学表述
由于一般取为欧氏距离函数,而径向基函数一般取为高斯函数,即
         
                        
 因此,RBF神经网络整体可以表述如下:
 






     RBF神经网络-具体计算例子   


以2个输入,3个隐节点,1个输出的RBF神经网络为例
 设模型的权重、阈值如下:
1. 隐层的权重、阈值为:                                                                              
              
 备注:的第i行代表第i个隐节点的权重和阈值
2. 输出层的权重、阈值为:                                                                          
                
     备注:的第i行代表第i个输出节点的权重和阈值
假设模型的输入为
 则RBF神经网络的输出如下计算:
一、计算隐层激活值(即径向基的值):                                                                   
                   
二、计算输出值                                                                                                    
     
 仔细看一遍上面的计算过程,就可以非常具体的了解RBF神经网络的结构细节了~








  02. 如何理解RBF基神经网络  




本节介绍如何理解RBF神经网络,加深理解RBF神经网络是什么




      RBF神经网络的模型意义     


下面以一个2输入、3个隐节点、单出输出的RBF神经网络为例
 它的数学表达式形式如下:
 
 

 为方便理解,我们对其展开如下:
      
   备注:的下标代表它是的第3行
从上述表达式可以清晰的看到,RBF神经网络的输出实际就是多个RBF的加权和 
而RBF是一个钟型曲线,
因此,RBF神经网络在几何意义上,就相当于用多个钟型曲线来叠加出目标曲线
 
RBF神经网络几何意义
 
在RBF神经网络中,每个隐节点就代表一个RBF,
因此,用多少个隐节点,就代表使用多少个RBF曲线来叠加出目标曲线
 而RBF神经网络的训练算法的核心问题则是:

1. 每个RBF的中心位置在哪                                                                     
 从数学表达式中可知,第i个RBF的中心由隐层权重的第i行决定
2. 每个RBF的宽度是多少                                                                        
    从数学表达式中可知,第i个RBF的宽度由隐层阈值的第i个元素决定
3. 每个RBF的高度是多少                                                                        
   从数学表达式中可知,第i个RBF在第j个输出中的高度为输出层权
此外,输出层的阈值第j个元素
则是第j个输出的基本值
 
总的来说,RBF神经网络的算法,主要就是确定的取值
实则就是确定各个RBF径向基的中心、宽度以及高度等形态,使它们能凑合出目标曲线






    老饼编后语    


RBF神经网络只是将一堆RBF凑在一起,去拟合目标曲线,结构极为简单
而为什么使用RBF?因为RBF具有局部性,即一个RBF它只比较显著地影响某个局部的值
不过也正因为RBF具有局部性,,往往需要较多的RBF才能拟合全局,即需要比较多的隐节点






好了,以上就是RBF神经网络模型结构的介绍了~







 End 




联系老饼