文件方式实现完整的英文词频统计实例

Posted 2020-10-08 Jay

可以下载一长篇的英文小说，进行词频的分析。

1.读入待分析的字符串

2.分解提取单词 

3.计数字典

4.排除语法型词汇

5.排序

6.输出TOP(20)

7.对输出结果的简要说明。

#读入待分析的字符串
fo=open(\'test.txt\',\'r\')
news=fo.read()
fo.close()
news=news.lower()
#分解提取单词 
for i in \',.?!"\\n--\':
    news=news.replace(i,\'\')
words=news.split(\' \')
#排除语法型词汇
dic={}
exp=set([\'a\',\'more\',\'our\',\'with\',\'from\',"xi\'s",\'said\',\'the\',\'，\',\'。\',\'that\',\'to\',\'for\',\'and\',\'he\',\'is\',\'of\',\'an\',\'in\',\'are\'])
keys=set(words)-exp 
#创建计数字典
for i in keys:
    dic[i]=words.count(i)
#将字典转换为列表,以便后序排序
items=list(dic.items())
#排序
items.sort(key=lambda x:x[1],reverse=True)
#输出TOP(20)
print(\'输出TOP20:\')
for i in range(20):
    print(items[i])

    

7.对输出结果的简要说明。

输出结果说明这则新闻讲的主要是中国将为世界的安全做出很大的贡献，包括法律跟警察机制。