如何为 sklearn CountVectorizer 设置自定义停用词?

Posted

技术标签:

【中文标题】如何为 sklearn CountVectorizer 设置自定义停用词?【英文标题】:How to set custom stop words for sklearn CountVectorizer? 【发布时间】:2017-02-28 16:27:15 【问题描述】:

我正在尝试在非英语文本数据集上运行 LDA(潜在狄利克雷分配)。

在 sklearn 的教程中,您可以在此部分计算要输入 LDA 的单词的词频:

tf_vectorizer = CountVectorizer(max_df=0.95, min_df=2,
                            max_features=n_features,
                            stop_words='english')

它具有内置的停用词功能,我认为该功能仅适用于英语。我怎么能使用我自己的停用词列表呢?

【问题讨论】:

哦,天哪,是的,它成功了!下次应该更好地阅读文档。 【参考方案1】:

您可以将您自己的话的frozenset 分配给stop_words argument,例如:

stop_words = frozenset(["word1", "word2","word3"])

【讨论】:

以上是关于如何为 sklearn CountVectorizer 设置自定义停用词?的主要内容,如果未能解决你的问题,请参考以下文章

如何为句子中的每个单词分组?

如何为 Google 课堂分享按钮使用圆形徽标?

如何为WeekDatePicker禁用CURRENT DATE和PREVIOUS DATE'S

如何为 Google 课堂课程设置正确的时区

Octave:如何为 mkoctfile 指定参数

如何为映射类型添加索引签名?