中文词频统计
Posted 056林锋
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了中文词频统计相关的知识,希望对你有一定的参考价值。
1.下载一中文长篇小说,并转换成UTF-8编码。
2.使用jieba库,进行中文词频统计,输出TOP20的词及出现次数。
3.排除一些无意义词、合并同一词。
4.对词频统计结果做简单的解读。
#载入短片小说并转换成utf-8编码 import jieba txt=open(‘西游记.txt‘,‘r‘,encoding=‘UTF-8‘).read() words=list(jieba.cut(txt)) #除去语法词汇 dic={} exp={‘的‘,‘了‘,‘“‘,‘”‘,‘在‘,‘对‘,‘。‘,‘!‘,‘?‘} keys=set(words)-exp # 创建计数字典 for i in keys: if len(i)>1: dic[i]=words.count(i) la=list(dic.items()) la.sort(key=lambda x:x[1],reverse=True)#排序 #输出前词频前20的效果 for i in range(20): print(la[i])
以上是关于中文词频统计的主要内容,如果未能解决你的问题,请参考以下文章