R：如何将数据框拆分为训练集、验证集和测试集？
Posted
技术标签:
【中文标题】R：如何将数据框拆分为训练集、验证集和测试集？【英文标题】：R: How to split a data frame into training, validation, and test sets? 【发布时间】：2016-07-04 07:08:39 【问题描述】：我正在使用 R 进行机器学习。按照标准的机器学习方法，我想将我的数据随机分成训练、验证和测试数据集。我如何在 R 中做到这一点？
我知道有一些关于如何拆分为 2 个数据集的相关问题（例如这个 post），但是对于 3 个拆分数据集如何做到这一点并不明显。顺便说一句，正确的方法是使用 3 个数据集（包括一个用于调整超参数的验证集）。
【问题讨论】：
【参考方案1】：这种用于两个组的链接方法（使用floor）不会自然扩展到三个。我会做的
spec = c(train = .6, test = .2, validate = .2)
g = sample(cut(
seq(nrow(df)),
nrow(df)*cumsum(c(0,spec)),
labels = names(spec)
))
res = split(df, g)
检查结果：
sapply(res, nrow)/nrow(df)
# train test validate
# 0.59375 0.18750 0.21875
# or...
addmargins(prop.table(table(g)))
# train test validate Sum
# 0.59375 0.18750 0.21875 1.00000
在set.seed(1)之前运行，结果看起来像
$train
mpg cyl disp hp drat wt qsec vs am gear carb
Mazda RX4 21.0 6 160.0 110 3.90 2.620 16.46 0 1 4 4
Mazda RX4 Wag 21.0 6 160.0 110 3.90 2.875 17.02 0 1 4 4
Datsun 710 22.8 4 108.0 93 3.85 2.320 18.61 1 1 4 1
Hornet Sportabout 18.7 8 360.0 175 3.15 3.440 17.02 0 0 3 2
Merc 240D 24.4 4 146.7 62 3.69 3.190 20.00 1 0 4 2
Merc 230 22.8 4 140.8 95 3.92 3.150 22.90 1 0 4 2
Merc 280 19.2 6 167.6 123 3.92 3.440 18.30 1 0 4 4
Merc 280C 17.8 6 167.6 123 3.92 3.440 18.90 1 0 4 4
Merc 450SE 16.4 8 275.8 180 3.07 4.070 17.40 0 0 3 3
Merc 450SL 17.3 8 275.8 180 3.07 3.730 17.60 0 0 3 3
Merc 450SLC 15.2 8 275.8 180 3.07 3.780 18.00 0 0 3 3
Fiat 128 32.4 4 78.7 66 4.08 2.200 19.47 1 1 4 1
Toyota Corolla 33.9 4 71.1 65 4.22 1.835 19.90 1 1 4 1
Dodge Challenger 15.5 8 318.0 150 2.76 3.520 16.87 0 0 3 2
AMC Javelin 15.2 8 304.0 150 3.15 3.435 17.30 0 0 3 2
Pontiac Firebird 19.2 8 400.0 175 3.08 3.845 17.05 0 0 3 2
Fiat X1-9 27.3 4 79.0 66 4.08 1.935 18.90 1 1 4 1
Porsche 914-2 26.0 4 120.3 91 4.43 2.140 16.70 0 1 5 2
Volvo 142E 21.4 4 121.0 109 4.11 2.780 18.60 1 1 4 2
$test
mpg cyl disp hp drat wt qsec vs am gear carb
Valiant 18.1 6 225.0 105 2.76 3.460 20.22 1 0 3 1
Cadillac Fleetwood 10.4 8 472.0 205 2.93 5.250 17.98 0 0 3 4
Toyota Corona 21.5 4 120.1 97 3.70 2.465 20.01 1 0 3 1
Camaro Z28 13.3 8 350.0 245 3.73 3.840 15.41 0 0 3 4
Ford Pantera L 15.8 8 351.0 264 4.22 3.170 14.50 0 1 5 4
Ferrari Dino 19.7 6 145.0 175 3.62 2.770 15.50 0 1 5 6
$validate
mpg cyl disp hp drat wt qsec vs am gear carb
Hornet 4 Drive 21.4 6 258.0 110 3.08 3.215 19.44 1 0 3 1
Duster 360 14.3 8 360.0 245 3.21 3.570 15.84 0 0 3 4
Lincoln Continental 10.4 8 460.0 215 3.00 5.424 17.82 0 0 3 4
Chrysler Imperial 14.7 8 440.0 230 3.23 5.345 17.42 0 0 3 4
Honda Civic 30.4 4 75.7 52 4.93 1.615 18.52 1 1 4 2
Lotus Europa 30.4 4 95.1 113 3.77 1.513 16.90 1 1 5 2
Maserati Bora 15.0 8 301.0 335 3.54 3.570 14.60 0 1 5 8
Data.frames 可以像res$test 或res[["test"]] 一样访问。
cut 是基于共享进行分区的标准工具。
【讨论】：
这很好，因为所有行都会被使用。floor() 的多次使用使某些行可能丢失。而split返回一个列表当然很好。
这是一个出色的答案，并且比其他人更容易使用和测试。【参考方案2】：
按照post 中显示的方法，这里是工作 R 代码，用于将数据帧划分为三个新的数据帧，用于测试、验证和测试。这三个子集不重叠。
# Create random training, validation, and test sets
# Set some input variables to define the splitting.
# Input 1. The data frame that you want to split into training, validation, and test.
df <- mtcars
# Input 2. Set the fractions of the dataframe you want to split into training,
# validation, and test.
fractionTraining <- 0.60
fractionValidation <- 0.20
fractionTest <- 0.20
# Compute sample sizes.
sampleSizeTraining <- floor(fractionTraining * nrow(df))
sampleSizeValidation <- floor(fractionValidation * nrow(df))
sampleSizeTest <- floor(fractionTest * nrow(df))
# Create the randomly-sampled indices for the dataframe. Use setdiff() to
# avoid overlapping subsets of indices.
indicesTraining <- sort(sample(seq_len(nrow(df)), size=sampleSizeTraining))
indicesNotTraining <- setdiff(seq_len(nrow(df)), indicesTraining)
indicesValidation <- sort(sample(indicesNotTraining, size=sampleSizeValidation))
indicesTest <- setdiff(indicesNotTraining, indicesValidation)
# Finally, output the three dataframes for training, validation and test.
dfTraining <- df[indicesTraining, ]
dfValidation <- df[indicesValidation, ]
dfTest <- df[indicesTest, ]
【讨论】：
谢谢。完美运行！ 我可以用它来分割一个包含 3 组因变量的数据框吗？【参考方案3】：其中一些似乎过于复杂，这里有一个简单的方法，使用样本将任何数据集分成 3 个，甚至是任意数量的集合。
# Simple into 3 sets.
idx <- sample(seq(1, 3), size = nrow(iris), replace = TRUE, prob = c(.8, .2, .2))
train <- iris[idx == 1,]
test <- iris[idx == 2,]
cal <- iris[idx == 3,]
如果您更喜欢可重用代码：
# Or a function to split into arbitrary number of sets
test_split <- function(df, cuts, prob, ...)
idx <- sample(seq(1, cuts), size = nrow(df), replace = TRUE, prob = prob, ...)
z = list()
for (i in 1:cuts)
z[[i]] <- df[idx == i,]
z
z <- test_split(iris, 4, c(0.7, .1, .1, .1))
train <- z[1]
test <- z[2]
cal <- z[3]
other <- z[4]
【讨论】：
这不能保证子集的大小，因为成员在观察中是独立的。特别是，子集最终可能完全为空。【参考方案4】：这是一种具有 60, 20, 20 拆分的解决方案，该解决方案还可以确保没有重叠。然而，调整拆分是一个麻烦。如果有人可以帮助我，我将不胜感激
# Draw a random, stratified sample including p percent of the data
idx.train <- createDataPartition(y = known$return_customer, p = 0.8, list = FALSE)
train <- known[idx.train, ] # training set with p = 0.8
# test set with p = 0.2 (drop all observations with train indeces)
test <- known[-idx.train, ]
idx.validation <- createDataPartition(y = train$return_customer, p = 0.25, list = FALSE) # Draw a random, stratified sample of ratio p of the data
validation <- train[idx.validation, ] #validation set with p = 0.8*0.25 = 0.2
train60 <- train[-idx.validation, ] #final train set with p= 0.8*0.75 = 0.6
【讨论】：
我不认为这是一个很有帮助的答案，因为除了你可以运行代码之外没有人考虑。也许您应该在阅读有关为该站点编写好的 R 问题的一些指导后将其作为问题发布：***.com/questions/5963269/… 你是对的！我把它贴在这里***.com/questions/41880453/… 好的，谢谢。你可能想删除这个答案。【参考方案5】：Caret也支持使用createDataPartition函数进行数据拆分
如果您的结果y 是不平衡因子（yes >>> No，反之亦然），理想情况下，随机抽样发生在每个类中，并且应该保留数据的整体类分布。
createDataPartition就是这种情况
例子：
library(caret)
set.seed(123)
table(iris$Species=="setosa")
##
## FALSE TRUE
## 100 50
注意我们的结果是不平衡的
拆分（80% 训练和 20% 测试）：
trainIndex <- createDataPartition(iris$Species=="setosa", p = .8,
list = FALSE,
times = 1)
train = iris[ trainIndex,]
test = iris[-trainIndex,]
验证：
table(train$Species == "setosa")
##
## FALSE TRUE
## 80 40
table(test$Species == "setosa")
##
## FALSE TRUE
## 20 10
请注意，我们保留了整体类分布
【讨论】：
【参考方案6】：我认为我的方法是最简单的：
idxTrain <- sample(nrow(dat),as.integer(nrow(dat)*0.7))
idxNotTrain <- which(! 1:nrow(dat) %in% idxTrain )
idxVal <- sample(idxNotTrain,as.integer(length(idxNotTrain)*0.333))
idxTest <- idxNotTrain[which(! idxNotTrain %in% idxVal)]
首先，它将数据分成 70% 的训练数据和其余的 (idxNotTrain)。 然后，将剩余部分再次拆分为验证数据集（33%，占总数据的 10%）和剩余部分（测试数据，占总数据的 66%，占总数据的 20%）。
【讨论】：
【参考方案7】：让我知道这是否可行。只是一个简化版
sample_train<- sample(seq_len(nrow(mtcars)), size = floor(0.60*nrow(mtcars)))
sample_valid<- sample(seq_len(nrow(mtcars)), size = floor(0.20*nrow(mtcars)))
sample_test <- sample(seq_len(nrow(mtcars)), size = floor(0.20*nrow(mtcars)))
train <- mtcars[sample_train, ]
validation<- mtcars[sample_valid, ]
test <- mtcars[sample_test, ]
【讨论】：
以上是关于R：如何将数据框拆分为训练集、验证集和测试集？的主要内容，如果未能解决你的问题，请参考以下文章