[学习记录]NLTK常见操作一(去网页标记,统计词频,去停用词)

Posted trickofjoker

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了[学习记录]NLTK常见操作一(去网页标记,统计词频,去停用词)相关的知识,希望对你有一定的参考价值。

NLTK是python环境中的一个非常流行的NLP库,这篇记录主要记录NLTK的一些常见操作

1.去除网页html标记

  我们常常通过爬虫获取网页信息,然后需要去除网页的html标签。为此我们可以这么做:

技术分享图片

2.统计词频

  这里使用的tokens就是上面图中的tokens

技术分享图片

3.去除停用词

  停用词就是类似the,a,of这种语义无价值的词,取出后我们还可以把统计图画出来

技术分享图片

4.绘制词云图

  对于词云图的使用原理还不太清楚,只是找了一个可运行的公式

技术分享图片

 

 

 

 

 

  

以上是关于[学习记录]NLTK常见操作一(去网页标记,统计词频,去停用词)的主要内容,如果未能解决你的问题,请参考以下文章

无监督学习在反欺诈中的应用

机器学习入门-文本数据-构造词频词袋模型 1.re.sub(进行字符串的替换) 2.nltk.corpus.stopwords.words(获得停用词表) 3.nltk.WordPunctToke

为啥 NLTK NaiveBayes 分类器错误分类了一条记录?

python中文分词+词频统计

LeetCode 472. 连接词(字典树+回溯) / 1995. 统计特殊四元组(标记这个题) / 846. 一手顺子

NLTK 和停用词失败 #lookuperror