/text/272
首页
机器学习
神经网络
深度学习
视频
资料
VIP开通
饼饼饼
关闭
用户登录
忘记密码？
注册
登录
算法原理
线性模型
一、线性模型：线性回归、岭回归、Lasso回归
1.1.线性回归
【原理】线性回归原理
【代码】sklearn-实现线性回归
【代码】自写代码-实现线性回归
【拓展】线性回归中均方差的意义
1.2.岭回归
【原理】岭回归模型介绍
【求解】岭回归的模型求解
【辨析】直观理解岭回归不能去掉无效变量
【流程】岭回归的实现流程
【代码】sklearn-实现岭回归
【代码】自写代码-实现岭回归
1.3.Lasso回归
【原理】Lasso回归模型介绍
【求解】Lasso回归的求解算法
【推导】Lasso迭代公式推导
【代码】sklearn-实现Lasso回归
【代码】自写代码-实现Lasso回归
二、线性模型泛谈
2.1.线性模型泛谈
【辨析】线性回归、岭回归和Lasso的比较
【拓展】线性模型有阈值与无阈值的转化
逻辑回归与决策树
一、自实现-逻辑回归
1.1.逻辑回归-模型原理
【模型】逻辑回归模型简介
【推导】逻辑回归-损失函数推导
1.2.逻辑回归-牛顿法求解
【原理】牛顿法求极值
【原理】牛顿法求解逻辑回归
【原理】牛顿法求解逻辑回归-简化版
【流程】牛顿法求解逻辑回归-算法流程
【附件】加权最小二乘法
1.3.逻辑回归-代码实现
【代码】逻辑回归-自实现代码(matlab)
【代码】逻辑回归-自实现代码(python)
二、CART决策树
2.1.CART决策树-模型原理
【原理】CART分类树构建原理
【原理】CART分类树构建算法实现
【推导】GINI系数的含义与推导
2.2.CART决策树-剪枝原理
【原理】什么是CCP后剪枝
【原理】CCP路径的原理与计算
2.3.CART决策树-代码实现
【代码】CART分类树-调包DEMO(matlab)
【代码】CART分类树-代码自实现(matlab)
【代码】CART分类树-代码自实现(python)
【代码】复现sklearn中CCP路径的实现代码(python)
集成方法
一、随机森林算法
1.1.随机森林
【原理】随机森林原理
【指标】随机森林的袋外错误率
【指标】随机森林的特征权重
【代码】sklearn简单实现随机森林
【代码】随机森林-自实现代码
二、Adaboost算法
2.1.Adaboost原理
【模型】Adaboost模型介绍
【训练】Adaboost的训练
【流程】Adaboost的算法流程
【推导】Adaboost公式推导
2.2.Adaboost代码实现
【代码】Adaboost简单Demo(sklearn)
【代码】Adaboost-自实现代码
三、GBDT算法
3.1.GBDT原理
【模型】GBDT模型介绍
【训练】GBDT的训练方法
【流程】GBDT的算法流程
【推导】GBDT公式推导
3.2.GBDT代码实现
【代码】GBDT简单Demo(sklearn)
【代码】GBDT-自实现代码
降维算法
一、PCA与SVD降维
1.1.SVD降维
【原理】SVD降维
1.2.PCA主成份分析
【原理】PCA主成份分析原理
【代码】PCA的求解及代码
【附件】协方差与相关系数
二、LDA线性判别
2.1.LDA算法原理与实现
【概述】LDA系列算法概述
【基础】基于贝叶斯原理的判别函数
【原理】LDA线性判别算法原理
【流程】LDA算法流程
【附件】类内类间协方差定义及推导
【代码】LDA线性判别分析Demo(python-sklearn)
【代码】LDA代码复现
2.2.QDA二次判别
【原理】二次判别QDA
【代码】QDA代码复现
2.3.Fisher-LDA
【原理】Fisher-LDA线性判别算法原理
【流程】Fisher-LDA算法流程
【代码】Fisher-LDA代码复现
三、FA因子分析
3.1.FA因子分析原理
【模型】FA因子分析模型介绍
【原理】FA因子分析模型系数求解
【推导】FA因子分析W的驻点求解
【流程】因子分析算法流程
【附件】线性加噪高斯分布的分析
3.2.FA因子分析代码实现
【代码】因子分析代码实现
SVM支持向量机
一、SVM基础模型
1.1.SVM模型
【硬间隔】SVM硬间隔模型与损失函数
【硬间隔】SVM硬间隔损失函数的对偶问题
【软间隔】SVM软间隔模型与损失函数
【软间隔】SVM软间隔损失函数的对偶问题
二、SVM求解
2.1.SMO算法求解SVM
【综述】SVM-SMO求解算法思想
【原理】SVM-SMO求解算法原理
【推导】SVM-SMO求解算法原理-αIαJ的优化推导
【流程】SVM-SMO求解算法流程
2.2.SVM附件
【附件】拉格朗日对偶性-解决带约束条件的优化问题
【附件】如何搭建环境调试libsvm3.25
三、SVM多类别模型与概率模型
3.1.SVM概率模型
【原理】SVM概率模型原理
【推导】SVM概率模型相关公式推导
【流程】SVM概率模型算法流程
3.2.SVM多类别模型
【原理】SVM多类别模型
【原理】SVM多类别概率模型原理
四、SVM代码实现
4.1.SVM代码自实现
【说明】SVM代码说明
【代码】SVM二分类模型代码-svm_train_one.py
【代码】SVM二分类概率模型代码-svm_train_prob_one.py
【代码】SVM多分类模型-svm_muti_train.py
相关基础数学
一、机器学习的一些函数
1.1.机器学习的一些函数
【原理】KL散度
二、求解
2.1.求解方法
最小二乘求解
广义特征值问题求解
三、矩阵运算
3.1.矩阵分解
矩阵SVD分解
矩阵QR分解
矩阵LU分解(一)：Doolittle分解
矩阵LU分解(二)：Crout分解
矩阵LU分解(三)：Cholesky分解
3.2.矩阵求导
二次型求导公式
行列式求导公式
矩阵对标量的求导
矩阵值函数对标量的求导法则
矩阵迹的定义及运算
3.3.常用矩阵公式
分块矩阵的求逆公式
伍德伯里矩阵恒等式
/
机器学习
/
SVM支持向量机
【代码】SVM二分类模型代码-svm_train_one.py
作者 : 老饼
发表日期 : 2023-01-19 13:35:44
更新日期 : 2023-04-08 19:45:14
会员文章，
请先登录哦
联系老饼
