在 sklearn.neural_network 中初始化权重

Posted 2023-03-12

【中文标题】在 sklearn.neural_network 中初始化权重

【英文标题】：Initialize weights in sklearn.neural_network

【发布时间】：2019-04-14 01:42:46

【问题描述】：

我想在 MLPclassifier 中初始化权重，但是当我在 .fit() 方法中使用 sample_weight 时， 它说TypeError: fit() got an unexpected keyword argument 'sample_weight'

import sklearn.neural_network as SKNN

mlp_classifier = SKNN.MLPClassifier((10,), learning_rate="invscaling",solver="lbfgs")

fit_model = mlp_classifier.fit(train_data,train_target,  sample_weight = weight)

我还阅读了What does `sample_weight` do to the way a `DecisionTreeClassifier` works in sklearn?，它说您应该在.fit() 方法中使用sample_weight。

有什么方法可以将sample_weight 用于MLPclassifier，就像在Decisiontreeclassifier 中使用的那样？

【参考方案1】：

这是因为MLPClassifier 不像DecisionTreeClassifier 没有带有sample_weight 参数的fit() 方法。

见the documentation。

也许这个类似问题的一些答案可以提供帮助： How to set initial weights in MLPClassifier?

【讨论】：

有什么方法可以像MLPclassifier 那样使用sample_weight 之类的东西，就像Decisiontreeclassifier 中使用的那样？

我不这么认为——除非我提供的链接中建议的解决方法之一有效。您可以考虑改用 Keras，如下所示：towardsdatascience.com/…。

另外，你也许可以从这个关于从 scikit 的 Github 页面添加预训练功能的对话中得到一些有用的信息：github.com/scikit-learn/scikit-learn/pull/3281

【参考方案2】：

根据sklearn.neural_network.MLPClassifier.fit，fit 方法没有名为sample_weight 的参数

【参考方案3】：

sklearn NN 中还没有样本权重。但你可以作为开始：

在 Keras 中找到它：https://keras.io/models/sequential/ 用 numpy 编写神经网络，自己实现 sample_weight