老饼讲解-机器学习 机器学习 神经网络 深度学习
集成方法

【指标】随机森林的特征权重

作者 : 老饼 发表日期 : 2022-08-31 21:18:55 更新日期 : 2023-11-07 10:43:03
本站原创文章,转载请说明来自《老饼讲解-机器学习》www.bbbdata.com


在训练好随机森林后,可以用随机森林的特征权重来评估各个特征的重要性

本文讲解什么是随机森林的特征权重,并讲解随机森林特征权重的计算公式



  01. 随机森林的特征权重  


本节讲解随机森林的特征权重是什么

并展示随机森林特征树重的计算公式



   随机森林的特征权重是什么  


随机森林的特征权重是决策树特征权重的拓展
随机森林的特征权重是指每个特征对随机森林贡献度的占比,
特征权重越高,说明特征对森林的构成越重要,对决策结果影响越大




   特征权重的计算方式   


随机森林的特征权重是决策树特征权重的拓展
随机森林的特征权重只需将森林的每棵树的特征权重求均值,并作归一化即可
森林的特征权重计算公式如下:
 
其中,为向量,是第 i 棵树对各个特征的评分
决策树的特征权重详见:《决策权的特征权重feature_importances》








 End 












联系老饼