自实现-Lasso回归、岭回归

【流程】岭回归-算法流程

作者 : 老饼 发表日期 : 2022-11-23 04:18:08 更新日期 : 2025-04-18 18:00:20
本站原创文章,转载请说明来自《老饼讲解-机器学习》www.bbbdata.com



岭回归模型的求解与线性回归类似,但由于岭回归中加入了惩罚项,所以略有不同

本文展示岭回归的详细求解算法流程,用于自行编写岭回归求解代码进行参考

通过本文,可以了解岭回归模型求解的详细流程步骤,以及所涉及的具体计算公式





     01. 岭回归模型-求解算法流程     




本节介绍岭回归模型求解的算法流程与相关公式





     岭回归的求解-算法流程    


岭回归模型(带阈值)的求解流程如下:
岭回归求解算法流程图 
主流程中各个步骤的相关公式如下:
1. 数据中心的计算                                    
 xˉ=1minxiyˉ=1minyi\small \begin{aligned} \bar{\text{x}} =\dfrac{1}{m} \sum\limits_{i}^{n}x_i \\ \bar{\text{y}} =\dfrac{1}{m} \sum\limits_{i}^{n}\text{y}_i \end{aligned}  
2. 数据中心化                                          
 x=xxˉy=yyˉ\small \begin{aligned} x' = x- \bar{\text{x}} \\\text{y}'=\text{y}- \bar{\text{y}} \end{aligned}     
3. 模型权重求解公式                                
                      W=(XTX+αI)1XTY\small W = (X^TX+\alpha I)^{-1}X^TY 

4. 模型阈值求解公式                                
 b=yˉWxˉ\small b=\bar{\text{y}}-W\bar{\text{x}}








好了,以上就是岭回归模型的求解算法流程了~










 End 




图标 评论
添加评论