7-1 词频统计 (30 分)

Posted nobilis

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了7-1 词频统计 (30 分)相关的知识,希望对你有一定的参考价值。

7-1 词频统计 (30 分)

请编写程序,对一段英文文本,统计其中所有不同单词的个数,以及词频最大的前10%的单词。

所谓“单词”,是指由不超过80个单词字符组成的连续字符串,但长度超过15的单词将只截取保留前15个单词字符。而合法的“单词字符”为大小写字母、数字和下划线,其它字符均认为是单词分隔符。

输入格式:

输入给出一段非空文本,最后以符号#结尾。输入保证存在至少10个不同的单词。

输出格式:

在第一行中输出文本中所有不同单词的个数。注意“单词”不区分英文大小写,例如“PAT”和“pat”被认为是同一个单词。

随后按照词频递减的顺序,按照词频:单词的格式输出词频最大的前10%的单词。若有并列,则按递增字典序输出。

输入样例:

This is a test.

The word "this" is the word with the highest frequency.

Longlonglonglongword should be cut off, so is considered as the same as longlonglonglonee.  But this_8 is different than this, and this, and this...#
this line should be ignored.

输出样例:(注意:虽然单词the也出现了4次,但因为我们只要输出前10%(即23个单词中的前2个)单词,而按照字母序,the排第3位,所以不输出。)

23
5:this
4:is

感谢武汉理工大学的郭小兵老师修正测试数据!

其实题目没说出来的是全部要转换成小写字母的。参考了蔡军帅的博客
这道题我做了很久,用input()总是不对,所以我我决定使用stdin

from sys import stdin

count = {}
s = []
while True:
    c = stdin.read(1)
    if c.isalnum() or c == "_":
        s.append(c)
    elif s:
        t = ''.join(s[:15]).lower()
        count[t] = count.get(t, 0) + 1
        s = []
    elif c == '#':
        break

t = sorted(sorted(list(count.items()),
                  key=lambda a: a[0]), key=lambda a: a[1], reverse=True)

length = len(t)
print(length)
for i in range(length//10):
    print(f"{t[i][1]}:{t[i][0]}")

以上是关于7-1 词频统计 (30 分)的主要内容,如果未能解决你的问题,请参考以下文章

词频统计(30 分)

补 第一周进度条

词频统计单元测试

201671010432词频统计软件项目报告

第二周进度条

7-44 基于词频的文件相似度 (30分)--map