机器学习偏差与方差和F1与BEP值的关系

Posted 2021-06-20 GYH_better_coder

写在前面

前文回顾：

1. 【机器学习】模型的过拟合，欠拟合以及评估方法
2. 【机器学习】性能度量：错误率与精度&&查准率、查全率与Fβ
3. 【机器学习】ROC以及代价曲线

今天首先分享偏差与方差的概念，接着来分析一个实例，那就是若学习器A的F1值比学习器B高，那么A的BEP值是否比B高呢？

偏差与方差

这个部分主要是用来评价模型在泛化时会因为噪声等原因相比于理想情况出现误差，那么我们就用数学来定量计算这个误差
先放结论：
泛化误差 = 偏差 + 方差 + 噪声
首先是一些前提条件

再来定义几个概念

F1与BEP值的关系

问题分析

首先来看F1的定义

那么根据问题学习器A 的F1值比学习器B高可以得出

乍看F1A和F1B的表达式没有什么头绪，但是在之前的文章中提到过，F1是P和R的调和平均，因此我们可以将式子做如下的变换

接下来我们来看BEP的定义，其实BEP的数值大小就是P=R时候的P（R）的数值，因此我们就深入挖掘了如下的条件

问题解决以及结论

接下来根据题目条件进行数学推导：

因此可以得到结论：若学习器A的F1值比学习器B高，那么A的BEP值也是比B高的

---

疯狂明示，这次一定