各种神经网络-快速入门

【详解】matlab-BP神经网络工具箱-激活函数详解

作者 : 老饼 发表日期 : 2022-06-21 20:04:50 更新日期 : 2025-05-30 05:26:34
本站原创文章,转载请说明来自《老饼讲解-BP神经网络》www.bbbdata.com



matlab为神经网络提供了多种激活函数,例如tansig,logsig,elliotsig,hardlim等等

本文讲解matlab神经网络工具箱的各种激活函数,包括激活函数名称,图象,表达式等

通过本文可以快速了解matlab神经网络提供了哪些激活函数,以及它们的特性





   01. 神经网络-激活函数介绍   





本节展示matlab工具箱中所有传递函数/激活函数的名称与图像





   激活函数-参数与名称   


matlab神经网络工具箱的传递函数有如下:
函数名称函数中文名称英语解释
tansig对称S形函数Symmetric sigmoid transfer function.
logsig对数S形函数Logarithmic sigmoid transfer function.
elliotsigElliot S形函数Elliot sigmoid transfer function.
hardlim正硬限制函数Positive hard limit transfer function.
hardlims对称硬限制函数Symmetric hard limit transfer function.
poslin正线性函数Positive linear transfer function.
purelin线性函数Linear transfer function.
satlin正线性饱和函数Positive saturating linear transfer function.
satlins对称线性饱和函数Symmetric saturating linear transfer function.
netinv反比函数Inverse transfer function.
tribas三角基函数Triangular basis transfer function.
radbas径向基函数Radial basis transfer function.
radbasn标准化径向基函数Radial basis normalized transfer function.
compet竞争函数Competitive transfer function.
softmax软最大化函数Soft max transfer function.
✍️说明
这里的激活函数虽然多,但并不是所有的激活函数都适用于BP神经网络
例如compet函数就是用于竞争神经网络的,而非BP






     神经网络工具箱-激活函数的图象    


神经网络工具箱-各个传递函数/激活函数的图象如下:
各个传递函数/激活函数的图象 
(不包含radbasn,softmax,compet,这几种激活函数只适用于多维,无法画图)









   02. 激活函数-数学表达式    




各个传递函数的数学表达式为:




   (1) tansig 对称S形函数                  



    (2) elliotsig   (Elliot  S形函数)        



(3) logsig  对数S形函数               



(4) compet  竞争函数                 


将向量中最大者置1,其余置0. 
例子,compet([0.2 0.5 0.8 ]) = [0 0 1]


(5)  hardlim 正硬限制函数          



(6) hardlims  对称硬限制函数    



(7) poslin  正线性函数              



(8) purelin 线性函数                 



(9) satlin 正线性饱和函数         



(10) satlins 对称线性饱和函数 



(11) netinv 反比函数               




在   时,作如下处理:
   


(12) tribas 三角基函数           



(13) radbas  径向基函数        



(14) radbasn  标准化径向基函数




为了减少exp计算产生数值问题,可对xi作如下处理:


(15) softmax 软最大化函数      








好了,以上就是matlab神经网络工具箱中的各种激活函数了~









 End 





图标 评论
添加评论