中文词频统计
Posted 袁颖琳
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了中文词频统计相关的知识,希望对你有一定的参考价值。
1)下载一中文长篇小说,并转换成UTF-8编码
2)使用jieba库,进行中文词频统计
3)输出TOP20的词及出现次数
4)排除一些无意义词、合并同一词
import jieba txt = open(\'A.txt\',\'r\',encoding=\'utf-8\').read()#转换成UTF-8编码 words = list(jieba.cut(txt)) exp={} keys=set(words) dic={} for w in keys: dic[w]=words.count(w) wc=list(dic.items()) wc.sort(key=lambda x:x[1],reverse=True) for i in range(20): print(wc[i])#输出TOP20的词及出现次数 print(list(jieba.cut(txt))) print(list(jieba.cut_for_search(txt))) print(list(jieba.cut(txt,cut_all=True)))
结果如下图所示:
以上是关于中文词频统计的主要内容,如果未能解决你的问题,请参考以下文章