本站原创文章,转载请说明来自《老饼讲解-BP神经网络》www.bbbdata.com
本文简单介绍径向基神经网络的三种常用求解方法
通过本文可以快速了解径向基神经网络的各种求解方法的思想和特性
本节简单介绍径向基神经网络有什么求解方法
RBF径向基神经网络的求解方法
径向基神经网络的常见基本求解方法有三种
👉 1. 精确求解
👉 2. OLS求解法
👉 3. K-means聚类法
在matlab的工具箱提供了newrbe和newrb两个函数来构建RBF神经网络
newrbe和newrb两个函数对应的求解方法分别为:
👉1. newrbe:用精确求解方法构建RBF神经网络
👉2. newrb:使用OLS求解法构建RBF神经网络
matlab没有实现k-means求解径向基神经网络的方法
本文先简单介绍各种方法是怎么一回事,
在后续文章,再详细讲解RBF神经网络具体的算法原理和流程
并用代码自实现精解求解法与OLS求解法,重现newrbe、newrb的内部逻辑
本节对径向基神经网络各种求解方法的思想进行简单介绍
快速掌握各个求解方法到底是怎么一回事
径向基神经网络的精确求解思想介绍
RBF神经网络-精确求解-的算法步骤如下:
1. 先设定RBF径向基的宽度
2. 以各个样本为中心各生成一个径向基
3. 最后求解最外层的W和b就可以了
由于此种解法能获得精确解,因此能100%拟合样本的y值
精确求解对RBF神经网络来说,是一种最Base的求解方法
但缺点是网络的隐节点(径向基)非常多,
即有多少个样本就有多少个隐节点,当样本量稍多一些,模型就会非常庞大
因此,为了减少隐节点的个数,简化模型的复杂度,就有了OLS、k-means聚类等求解方法
RBF神经网络的精确求解详细原理可参考《RBF神经网络-求解原理-精确求解》
径向基神经网络的OLS求解思想介绍
OLS全称为Orthogonal least squares正交最小二乘法
OLS求解法是对精确求解的改进,用于减少隐节点的个数
它与精确求解一样,先以每个样本为中心生成隐节点
假设有n个样本,那么就有n个隐节点,
但这n个只是待用隐节点,OLS从这n个隐节点中逐个挑选隐节点,
每次都选出能让网络误差下降快多的隐节点添加到网络中来
直到网络的误差达到要求,就不要添加隐节点
OLS求解RBF神经网络相对复杂些,可参见RBF神经网络算法原理部分,
将彻底讲述并复现newrb函数,如非理论研究的同学,不推荐阅读
径向基神经网络的k-means求解思想介绍
k-means法求解径向基神经网络的目的同样是为了减少隐节点个数
先通过k-means聚类,把n个样本聚类成k个中心
然后以k个中心生成径向基,
并根据中心之间的距离确定径向基的宽度
再对外层的W,b进行求解即可
笔者语
本文只是简单的介绍RBF神经网络各个训练算法的思想,
并从训练算法的思想可以初步了解newrb和newrbe的区别
而RBF神经网络内部的算法原理细节直接安排在《原理讲解》部分
有兴趣的同学自行选择性阅读,可以彻底了解BRF神经网络的算法步骤
好了,RBF径向基神经网络的求解方法就介绍到这了~
End