scikit learn的train_test_split()方法

Posted

技术标签:

【中文标题】scikit learn的train_test_split()方法【英文标题】:train_test_split( ) method of scikit learn 【发布时间】:2020-01-05 08:08:30 【问题描述】:

我正在尝试使用 DecisionTreeClassifier 创建机器学习模型。为了训练和测试我的数据,我从 scikit learn 导入了 train_test_split 方法。但我无法理解其中一个名为random_state 的论点。

model_selection.train_test_split 函数的random_state 分配数值有什么意义,我如何知道为我的决策树分配random_state 哪个数值?

X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.33, random_state=324)

【问题讨论】:

【参考方案1】:

正如docs 提到的,random_state 用于初始化train_test_split 中使用的随机数生成器(其他方法也类似)。由于实际拆分数据集有许多不同的方法,这是为了确保您可以对同一数据集多次使用该方法(例如在一系列实验中)并始终获得相同的结果(即完全相同的训练和测试在这里设置),即出于再现性的原因。它的确切值并不重要,也不必担心。

使用docs 中的示例,设置random_state=42 可确保您获得与此处显示的完全相同的结果(下面的代码实际上是在我的机器上运行,而不是从文档中复制粘贴):

import numpy as np
from sklearn.model_selection import train_test_split

X, y = np.arange(10).reshape((5, 2)), range(5)

X_train, X_test, y_train, y_test = train_test_split(
    X, y, test_size=0.33, random_state=42)

X_train
# array([[4, 5],
#        [0, 1],
#        [6, 7]])

y_train
# [2, 0, 3]

X_test
# array([[2, 3],
#        [8, 9]])

y_test
# [1, 4]

您应该在上面的 sn-p 中尝试不同的 random_state 值(或根本不指定它)以获得感觉。

【讨论】:

【参考方案2】:

为随机状态提供一个值将有助于在重新运行程序时在拆分中重现相同的值。

如果您不为随机状态提供任何值,我们将在每次运行后获得不同的测试和训练值集。在这种情况下,如果遇到任何错误,则对调试没有帮助。

示例:

设置:

from sklearn.model_selection import train_test_split
import pandas as pd

data = pd.read_csv("diabetes.csv")
X=data.iloc[0:,0:8]
X.head()
y=data.iloc[0:,-1]
y.head()

循环使用random_state:

for _ in range(2):
    X_train, X_test, y_train, y_test = train_test_split( X, y, test_size=0.33, random_state=42)
    print(X_train.head())
    print(X_test.head())
请注意,两次迭代的数据相同

没有random_state的循环:

for _ in range(2):
    X_train, X_test, y_train, y_test = train_test_split( X, y, test_size=0.33)
    print(X_train.head())
    print(X_test.head())
请注意,两次迭代的数据不同

如果你运行代码,并查看输出,你会看到当random_state 相同时,它将提供相同的训练/测试集,但当未提供random_state 时,测试中的值集/火车每次都不一样。

【讨论】:

【参考方案3】:

如果您没有在每次执行代码时指定random_state,您将获得不同的(随机)拆分。相反,如果您提供 random_state 值,则拆分将始终相同。它通常用于实验重现性。

例如:

X = [[1,5],[2,6],[3,2],[4,7], [5,5], [6,2], [7,1],[8,6]]
y = [1,2,3,4,5,6,7,8]


X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.33)
X_train_rs, X_test_rs, y_train_rs, y_test_rs = train_test_split(X, y, test_size=0.33, random_state=324)

print("WITH RANDOM STATE: ")
print("X_train: \ny_train: \nX_test: \ny_test: ".format(X_train_rs, X_test_rs, y_train_rs, y_test_rs))
print("WITHOUT RANDOM STATE: ")
print("X_train: \ny_train: \nX_test: \ny_test: ".format(X_train, X_test, y_train, y_test))

如果您在不同时间运行此代码,您可以看到每次运行时没有随机状态变化的拆分。

如sklearn documentation 中所述,如果您想指定随机数生成器种子(最常见的情况),random_state 可以是整数,或者直接是RandomState 类的实例。

【讨论】:

【参考方案4】:

random_state 参数只是为了播种随机顺序。如果您提供不同的 random_state ,它将以不同的顺序拆分数据集。如果您每次都提供相同的 random_state,那么拆分将是相同的。数据集将以相同的顺序拆分。

如果您希望您的数据集每次都以相同的顺序拆分,请提供相同的 random_state。

【讨论】:

以上是关于scikit learn的train_test_split()方法的主要内容,如果未能解决你的问题,请参考以下文章

Sklearn 速查

scikit-learn( Macine Learning in Python )

[机器学习与scikit-learn-3]:scikit-learn模型地图与模型选择

scikit-learn学习基础知识四

scikit-learn:如何使用拟合概率模型?

用scikit-learn学习LDA主题模型