老饼讲解-神经网络 机器学习 神经网络 深度学习
BP神经网络入门
1.初识BP神经网络
2.BP基本原理与建模
3.进阶-自实现一个BP神经网络

【辨识】神经网络、BP和深度学习的关系

作者 : 老饼 日期 : 2022-06-09 01:02:52 更新 : 2024-01-19 15:54:45
本站原创文章,转载请说明来自《老饼讲解-BP神经网络》www.bbbdata.com



相信很多人都读过不少文献了,很容易被各种神经网络名称弄得头晕转向

本文给大家辨识清楚各种神经网络的关系,特别是神经网络、BP神经网络和深度学习之间的关系




   01. 神经网络简介   



本节先简单介绍神经网络是什么,有哪些神经网络



    神经网络简介    


     什么是神经网络    
 
凡是模仿人的神经网络构建出来的数学模型,都叫神经网络,或者人工神经网络
神经网络是人工智能的一个主力算法
 
      神经网络的分类    
 
神经网络可以归为三块:
 
   👉 BP神经网络         
       👉 深度学习                
     👉 其它神经网络       




 02. 三类神经网络的详细介绍  



本节介绍一般神经网络、BP神经网络和深度学习三类神经网络各是什么一回事



    一般神经网络    


  ✍️ 一句话概括-一般神经网络
 
除BP神经网络、深度学习以外的其它人工神经网络        
     介绍    
 
出现得最早,起源于1940+年,该类神经网络非常多,
今天你根据生物神经网络构建一个模型,明天我根据生物神经网络构建一个,可以说是百舸争流
 经典代表:感知机、Hopfield神经网络、径向基神经网络....等等




     BP神经网络   


     ✍️ 一句话概括-BP神经网络 :
                               
人工神经网络中的顶级代表,往往说《神经网络》就是指《BP神经网络》 
   介绍    
 
1. BP的提出                                                                 
 
 大家研究着各种神经网络,研究得不亦乐乎,                  
    突然,1986年,来了两个家伙Romelhart 和Mcclelland,
提出了一个特殊的结构,并命名: 
 BP神经网络             
 
 2. BP的发展                                                                  
                                       BP神经网络提出后,瞬间崛起当了主力军,以致于几乎成为了《神经网络》的代名词
为什么要将BP拎出来特别划为一类?                             
                                因为它实在太出名了,以致于在不特指时,往往说神经网络都是指BP神经网络
 
 3. BP的结构                                                                  
 
BP神经网络的结构以下                                                   
                 
                                       大家印象中的神经网络是不是都是这种结构?但它其实只是BP神经网络的特有的结构
                                                    因为BP神经网络太普及了,现在大家几乎把"BP神经网络结构"与"神经网络结构"划上了等号
                            但神经网络实际上有千万种结构,BP神经网络结构仅是神经网络结构的一种




     深度学习    


  ✍️ 一句话概括-深度学习:    
 
深度学习可以看作是BP神经网络的一种加强版,解决输入极极极极多的问题
     
  介绍     
 
1. 为什么需要深度学习:BP在解决多输入时受挫              
 
                    BP神经网络虽然很牛X,但当要处理图象,音频,文字等问题时,却SB了
                  因为这类问题的输入极多,BP神经网络的参数会随着输入个数指数增长
例如一个50*50像素的图象,就有2500个输入                   
                            假设有100个隐节点,则2500个输入在第一层的权重参数就有2500*100个 ,
              参数个数量级太爆炸,导致BP在求解时,很难找到优秀解,就挂B了
 
 
 2. BP的改进: 根据业务特性去冗解决问题                        
 
这本来是个没办法的事,但偏偏图象,音频这些问题,       
        它的输入存在很严重的相关性
(例如相邻像素的值总是相近的)
因此,可以根据这个业务特性,进行输入个数压缩,        
                                        或者在求解时根据这个业务特性进行特殊讨巧
(例如相邻输入对应的权重参数共享) 
 
使BP神经网络又可以解决这类问题了                                 
 
 
 3. 颁发新名                                                                      
 
问题解决了,BP还是BP,但毕竟,有少许变种了!            
        (因为加入了这一些业务处理,使得BP神经网络的层数必须增加) 
           不管怎么样,解决了新问题了,得显示牛B,挂个名: 深度学习! 
就这样,2006年,开启了全民深度学习年代!                   
不懂点深度学习都不好意思说自己做人工智能                     
 
4. 再掀高潮                                                                    
                
 2016年,alpha go的出现,人工智能领域秀足了风头,同时也带动了深度学习 
开启了全民超级深度学习模式~!                                      
  
 
     总结   
 总的来说,深度学习底层还是BP,
你可以把深度学习当成 《专用于解决输入极极多,且输入变量之间有极强相关性的问题》的BP神经网络




     03. 神经网络、BP和深度学习的关系-总结     



最后,简单总结各种神经网络的特点作为本文的结束



   神经网络类型总结   


 1   神  经  网 络  :凡是模仿人的神经网络构建出来的数学模型,都叫神经网络
 2   BP 神经网络  :神经网络最经典的代表就是BP神经网络,能解决很多问题。
 3   深  度  学 习   :深度学习可以看作《加强版BP神经网络》,专用于解决输入极极多,且输入变量之间有极强相关性的问题。
 4  其它神经网络  :除了BP神经网络外,还有很多杂七杂八的神经网络,经典的有感知机、Hopfield神经网络、径向基神经网络等等。








 End 







联系老饼