在 python 中每次运行随机森林、非线性 SVC 和多项式 NB 时获得不同的准确度以进行文本分类

Posted

技术标签:

【中文标题】在 python 中每次运行随机森林、非线性 SVC 和多项式 NB 时获得不同的准确度以进行文本分类【英文标题】:Getting different accuracy on each run of Random Forest, Non-Linear SVC and Multinomial NB in python for text classification 【发布时间】:2019-04-17 14:07:14 【问题描述】:

我正在研究 Python 中的二进制文本分类问题,并在随机森林、非线性 SVC 和多项式 NB 中开发了模型。

但在每次运行时,这些各自的模型在测试集上得到不同的准确度和混淆矩阵参数。我在 train_test_split 和初始化每个模型时使用了 random_state 参数。代码中也加入了Random.Seed。

我还有什么遗漏的吗?

谢谢。

代码示例:

X_train, X_test, Y_train, Y_test = train_test_split(X, Y, test_size = 0.15, stratify= Y, random_state = 42) 

tfidf_vectorizer = TfidfVectorizer(analyzer='word', stop_words = 'english', max_df = 0.8, min_df = 0.05, ngram_range=(1,3)) 
tfidf_train = tfidf_vectorizer.fit_transform(X_train) 
tfidf_test = tfidf_vectorizer.transform(X_test) #Default Hyperparameters 

rfc = RandomForestClassifier(random_state = 42) 

rfc.fit(tfidf_train,Y_train) 
predictions = rfc.predict(tfidf_test) 

score = metrics.accuracy_score(Y_test, predictions) # get scores

print("accuracy: %0.3f" % score) #printing score

【问题讨论】:

请提供一些关于数据拆分、学习器初始化和拟合的代码示例。 其他的也请如randomforest(....), model.fit(....) 您必须在您的问题中提供一些真实的代码示例。这是帮助自己更好(有时是)回答您关于 SO 的问题的标准方法。 一些工具使用numpy.random.seed()而不是random.random.seed() 尝试在您的代码中使用 numpy.random.seed(),它们可能是您使用的某些实用程序中的一些随机操作。 【参考方案1】:

您使用的某些实用程序可能包含一些隐藏的随机动作,不确定性。

由于某些库使用numpy.random() 而不是random.random(),您应该使用numpy.random.seed()

【讨论】:

以上是关于在 python 中每次运行随机森林、非线性 SVC 和多项式 NB 时获得不同的准确度以进行文本分类的主要内容,如果未能解决你的问题,请参考以下文章

先马后看!详解线性回归朴素贝叶斯随机森林在R和Python中的实现应用!(附代码)

随机森林算法demo python spark

如何在 R 中执行随机森林/交叉验证

如何生产 XG 提升 / 决策树 / 随机森林模型

Python Scikit 随机森林回归器错误

随机森林为啥不会过度拟合