机器学习 | 机器学习评估方法

Posted 2020-10-24 yuzhen233

机器学习评估方法

• 留出法(hold out)：数据集预留出一部分数据为测试集，将数据集 D 划分为训练集 S 和测试集 T。大概比例为测试集占全局数据量的(1/5~1/3)

• 留一法：留一法是留出法的特例，即每次测试集 T 只留一个数据，剩下的作为训练集 S

• K折交叉验证(k-fold cross validation)：每次将数据划分 k 份，其中一份作为测试集 T，剩下的作为训练集 S；重复以上过程 k 次，特别地每次用作测试集 T 的都是各不相同的。

• 自助法(bootstrapping)：每次从数据集 D 中有放回地采一个样本，并将这个样本放入训练集 S 中，共重复 m 次，此时训练集共有 m 个样本，而测试集 T 则为 D - S（此处的减法为集合减法）

---

自助法在样本量较少、难以有效划分训练集和测试集时很有用，而留出法和k折交叉验证在样本量较多时更常用