本站原创文章,转载请说明来自《老饼讲解-BP神经网络》www.bbbdata.com
本文讲述感知机的算法流程
一方面可以更详细具体理解感知机算法
另一方面为代码实现提供参考
本节展示感知机的训练算法流程
感知机的训练算法流程
感知机采用逐样本训练方法,
具体训练流程如下:
1、初始化
将w和b的元素全部初始化为0
2、逐样本训练
逐个样本训练 w,b,
如果训练样本的预测值与真实值不一致
则往负梯度方向更新w,b( 其中,lr为学习率):
3、检测是否终止训练
如果达到训练终止条件,则终止训练,否则重复2
训练终止条件如下
👉 (1) 总体预测误差达到目标
👉 (2) 达到最大训练步数
误差的评估公式如下
4、输出结果
训练完后,输出如下结果
👉w:感知机的权重
👉b:感知机的阈值
👉E:预测误差
✍️补充说明
已被证明,在样本点可分的情况下,算法经过有限次迭代,感知机肯定能将样本完全分开
证明可参考 李航-《统计学习方法》2.3.2节
End