随机播放字典中的数据以获取测试和训练数据

Posted 2023-03-12

【中文标题】随机播放字典中的数据以获取测试和训练数据

【英文标题】：Shuffle Data from Dictionary for Test and Train Data

【发布时间】：2021-01-29 16:51:52

【问题描述】：

我想将字典和单独数组中的数据拆分为训练数据和测试数据。我尝试了各种方法，但没有到达那里。由于这些功能在我的管道中是如何预处理的，我最初需要将这些功能保留为字典。社区中的任何人对此有什么建议吗？

字典（特征值）：

'input1': array([42., 50., 68., ..., 60., 46., 60.]),
 'input2': array([[-2.00370455, -2.35689664, -1.96147382, ...,  2.11014128,
          2.59383321,  1.24209607],
        [-1.97130549, -2.19063663, -2.02996445, ...,  2.32125568,
          2.27316046,  1.48600614],
        [-2.01526666, -2.40440917, -1.94321752, ...,  2.15266657,
          2.68460488,  1.23534095],
        ...,
        [-2.1359458 , -2.52428007, -1.75701785, ...,  2.25480819,
          2.68114281,  1.75468981],
        [-1.95868206, -2.23297167, -1.96401751, ...,  2.07427239,
          2.60306072,  1.28556955],
        [-1.80507278, -2.62199521, -2.08697271, ...,  2.34080577,
          2.48254585,  1.52028871]])

目标值

y = array([0.83, 0.4 , 0.53, ..., 0.  , 0.94, 1. ])
Shape: (3000,)

创建字典

#Dictionary Values
input1 = embeddings.numpy()
input2 = df['feature'].values
y = df['target'].values

full_model_inputs = [input1 , embeddings]
original_model_inputs = dict(input1 = input1 , input2 = input2 )

拆分数据

x_train, x_test, y_train, y_test = train_test_split([original_model_inputs['input1'], 
                                                     original_model_inputs['input2']], y, test_size = 0.2, random_state = 6)

或

x_train, x_test, y_train, y_test = train_test_split(original_model_inputs, y, test_size = 0.2, random_state = 6)

错误信息

ValueError: Found input variables with inconsistent numbers of samples: [2, 3000]

输入 1：

[55., 46., 46., ..., 60., 60., 45.]

Shape: (3000,)

输入 2：

[[-2.00370455, -2.35689664, -1.96147382, ...,  2.11014128,
         2.59383321,  1.24209607],
       [-1.97130549, -2.19063663, -2.02996445, ...,  2.32125568,
         2.27316046,  1.48600614],
       [-2.01526666, -2.40440917, -1.94321752, ...,  2.15266657,
         2.68460488,  1.23534095],
       ...,
       [-2.1359458 , -2.52428007, -1.75701785, ...,  2.25480819,
         2.68114281,  1.75468981],
       [-1.95868206, -2.23297167, -1.96401751, ...,  2.07427239,
         2.60306072,  1.28556955],
       [-1.80507278, -2.62199521, -2.08697271, ...,  2.34080577,
         2.48254585,  1.52028871]]

Shape: (3000, 3840)

模型构建

input1= Input(shape = (1, ))
input2= Input(shape = (3840, ))

# The first branch operates on the first input
x = Dense(units = 128, activation="relu")(input1)
x = BatchNormalization()(x)
x = Dense(units = 128, activation="relu")(x)
x = BatchNormalization()(x)
x = Model(inputs=input1, outputs=x)

# The second branch operates on the second input (Embeddings)
y = Dense(units = 128, activation="relu")(input2)
y = BatchNormalization()(y)
y = Dense(units = 128, activation="relu")(y)
y = BatchNormalization()(y)  
y = Model(inputs=input2, outputs=y)

# combine the output of the two branches
combined = Concatenate()([x.output, y.output])

out = Dense(128, activation='relu')(combined)
out = Dropout(0.5)(out)
out = Dense(1)(out)

# The model will accept the inputs of the two branches and then output a single value
model = Model(inputs = [x.input, y.input], outputs = out)
model.compile(loss='mse', optimizer = Adam(lr = 0.001), metrics = ['mse'])

model.fit([X1,X2], Y, epochs=3)

【问题讨论】：

这些输入是什么样的？字典数组的大小都一样吗？

@yatu 嘿！是的，它们的尺寸都一样。我刚刚更新了问题，以便您查看实际输入。

【参考方案1】：

将您的字典放入pandas df 中，这将保留数据维度并根据需要进行拆分：

df = pd.DataFrame("input1":original_model_inputs["input1"],  
                   "input2":list(original_model_inputs["input2"]))
X_train, X_test, y_train, y_test = train_test_split(df,y)

转换回原始格式：

X_train = X_train.to_dict("list")
X_test = X_test.to_dict("list")

编辑

为了让您的管道保持正常运行，您可能需要添加以下 2 行：

X_train = k:np.array(v) for k,v in X_train.items()
X_test = k:np.array(v) for k,v in X_test.items()

【讨论】：

抱歉回复延迟，只是想测试一些东西。是否可以将这些值转换为 numpy 数组。 “数组”或类似的东西？而不是 np.array(x_train['input1']) 只访问字典中的一个输入。

所有值都可以访问。这些数据结构与您作为输入的数据结构完全相同。您能否更清楚当前解决方案无法实现的目标？例子可能是？

我刚刚更新了我如何构建模型的帖子，采用这两个单独的输入。 AttributeError：“列表”对象没有属性“形状”。当我转换为 numpy 数组时，模型确实可以正常工作。抱歉没有说明清楚

model = build_model(np.array(x_train['input1']), np.array(x_train['input2'])) 例如，当我使用文本中提到的代码运行模型时。

非常感谢。这是完美的工作。我没有考虑过这种类型的循环。很简约！！我很感激:)

【参考方案2】：

调用train_test_split 时，您将嵌套列表作为X 提供，这会引发错误。相反，您可以从字典中构建一个二维特征数组，然后分成训练和测试。举个例子：

d = 'input1': np.random.random((10,)),
     'input2': np.random.random((10,3))
y = np.random.choice([0,1],10)

如果字典中的一个数组只有一个维度，我们可以只添加一个轴，然后将结果连接成一个二维数组：

X = [a[:,None] if len(a.shape)==1 else a for a in d.values()]
X_train, X_test, y_train, y_test = train_test_split(np.concatenate(X, axis=1), y)

【讨论】：

已更新，现在应该没问题了，感谢您告诉我@sergey

感谢您的回答，我正在使用多个输入 ANN，因此我需要分隔这些值。但这对我来说是一个很好的工作方向！所以我很欣赏它

我刚刚更新了我的帖子如何构建模型，采用这两个单独的输入。抱歉信息不足，是的，我刚刚投了赞成票：D