交叉验证（cross validation）是什么？K折交叉验证(k-fold crossValidation)是什么？

Posted 2021-06-29 Data+Science+Insight

交叉验证（cross validation）是什么？K折交叉验证(k-fold crossValidation)是什么？

交叉验证（cross validation）是什么？

 交叉验证是一种模型的验证技术用于评估一个统计分析模型在独立数据集上的概括能力。主要用于在使用ML模型进行预测时，准确衡量一个模型在实际数据集上的效果。具体来说就是将整个数据集划分为若干部分，一部分用以训练模型、一部分用以测试最终模型的优劣、一部分验证模型结构和超参数。
  交叉验证的目标是确定一个原数据集的子集，去限制ML模型在训练阶段的一些问题，比如模型的过拟合、欠拟合等，同时提供了一种判断标准去衡量模型在独立数据集上的泛化能力。值得注意的是，数据集和测试集必须是独立同分布，不然反而会得到很槽糕的模型。

交叉验证的用途
交叉验证可以有效评估模型的质量
交叉验证可以有效选择在数据集上表现最好的模型
交叉验证可以有效避免过拟合和欠拟合

交叉检验在深度学习跑标准数据集的时候一般根本不会用到，当数据集比较小的时候，交叉验证可以“充分利用”有限的数据找到合适的模型参数，防止过度拟合。在数据集很小的时候防止over-fitting+找到合适的模型参数。