python实现的一个文本摘要程序

Posted 石头木

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了python实现的一个文本摘要程序相关的知识,希望对你有一定的参考价值。

文本摘要方法有很多,主要分为抽取式和生成式,应用比较多的是抽取式,也比较简单,就是从文本中抽取重要的句子或段落。本方法主要是利用句子中的关键词的距离,主要思想和参考来自阮一峰的网络日志http://www.ruanyifeng.com/blog/2013/03/automatic_summarization.html

#!/user/bin/python # coding:utf-8 __author__ = \'yan.shi\' import nltk import numpy import jieba import codecs N=100#单词数量 CLUSTER_THRESHOLD=5#单词间的距离 TOP_SENTENCES=5#返回的top n句子 #分句 def sent_tokenizer(texts): start=0 i=0#每个字符的位置 sentences=[] punt_list=\'.!?。!?\'.decode(\'utf8\') #\',.!?:;~,。!?:;~\'.decode(\'utf8\') for text in texts: if text in punt_list and token not in punt_list: #检查标点符号下一个字符是否还是标点 sentences.append(texts[start:i+1])#当前标点符号位置 start=i+1#start标记到下一句的开头 i+=1 else: i+=1#若不是标点符号,则字符位置继续前移 token=list(texts[start:i+2]).pop()#取下一个字符 if start<len(texts): sentences.append(texts[start:])#这是为了处理文本末尾没有标点符号的情况 return sentences #停用词 def load_stopwordslist(path): print(\'load stopwords...\') stoplist=[line.strip() for line in codecs.open(path,\'r\',encoding=\'utf8\').readlines()] stopwrods={}.fromkeys(stoplist) return stopwrods #摘要 def summarize(text): stopwords=load_stopwordslist(\'E:\\stopwords.txt\') sentences=sent_tokenizer(text) words=[w for sentence in sentences for w in jieba.cut(sentence) if w not in stopwords if len(w)>1 and w!=\'\\t\'] wordfre=nltk.FreqDist(words) topn_words=[w[0] for w in sorted(wordfre.items(),key=lambda d:d[1],reverse=True)][:N] scored_sentences=_score_sentences(sentences,topn_words) #approach 1,利用均值和标准差过滤非重要句子 avg=numpy.mean([s[1] for s in scored_sentences])#均值 std=numpy.std([s[1] for s in scored_sentences])#标准差 mean_scored=[(sent_idx,score) for (sent_idx,score) in scored_sentences if score>(avg+0.5*std)] #approach 2,返回top n句子 top_n_scored=sorted(scored_sentences,key=lambda s:s[1])[-TOP_SENTENCES:] top_n_scored=sorted(top_n_scored,key=lambda s:s[0]) return dict(top_n_summary=[sentences[idx] for (idx,score) in top_n_scored],mean_scored_summary=[sentences[idx] for (idx,score) in mean_scored]) #句子得分 def _score_sentences(sentences,topn_words): scores=[] sentence_idx=-1 for s in [list(jieba.cut(s)) for s in sentences]: sentence_idx+=1 word_idx=[] for w in topn_words: try: word_idx.append(s.index(w))#关键词出现在该句子中的索引位置 except ValueError:#w不在句子中 pass word_idx.sort() if len(word_idx)==0: continue #对于两个连续的单词,利用单词位置索引,通过距离阀值计算族 clusters=[] cluster=[word_idx[0]] i=1 while i<len(word_idx): if word_idx[i]-word_idx[i-1]<CLUSTER_THRESHOLD: cluster.append(word_idx[i]) else: clusters.append(cluster[:]) cluster=[word_idx[i]] i+=1 clusters.append(cluster) #对每个族打分,每个族类的最大分数是对句子的打分 max_cluster_score=0 for c in clusters: significant_words_in_cluster=len(c) total_words_in_cluster=c[-1]-c[0]+1 score=1.0*significant_words_in_cluster*significant_words_in_cluster/total_words_in_cluster if score>max_cluster_score: max_cluster_score=score scores.append((sentence_idx,max_cluster_score)) return scores; if __name__==\'__main__\': dict=summarize(u\'腾讯科技讯(刘亚澜)10月22日消息,\' u\'前优酷土豆技术副总裁黄冬已于日前正式加盟芒果TV,出任CTO一职。\' u\'资料显示,黄冬历任土豆网技术副总裁、优酷土豆集团产品技术副总裁等职务,\' u\'曾主持设计、运营过优酷土豆多个大型高容量产品和系统。\' u\'此番加入芒果TV或与芒果TV计划自主研发智能硬件OS有关。\' u\'今年3月,芒果TV对外公布其全平台日均独立用户突破3000万,日均VV突破1亿,\' u\'但挥之不去的是业内对其技术能力能否匹配发展速度的质疑,\' u\'亟须招揽技术人才提升整体技术能力。\' u\'芒果TV是国内互联网电视七大牌照方之一,之前采取的是“封闭模式”与硬件厂商预装合作,\' u\'而现在是“开放下载”+“厂商预装”。\' u\'黄冬在加盟土豆网之前曾是国内FreeBSD(开源OS)社区发起者之一,\' u\'是研究并使用开源OS的技术专家,离开优酷土豆集团后其加盟果壳电子,\' u\'涉足智能硬件行业,将开源OS与硬件结合,创办魔豆智能路由器。\' u\'未来黄冬可能会整合其在开源OS、智能硬件上的经验,结合芒果的牌照及资源优势,\' u\'在智能硬件或OS领域发力。\' u\'公开信息显示,芒果TV在今年6月对外宣布完成A轮5亿人民币融资,估值70亿。\' u\'据芒果TV控股方芒果传媒的消息人士透露,芒果TV即将启动B轮融资。\') print(\'-----------approach 1-------------\') for sent in dict[\'top_n_summary\']: print(sent) print(\'-----------approach 2-------------\') for sent in dict[\'mean_scored_summary\']: print(sent)

下面是测试结果:

以上是关于python实现的一个文本摘要程序的主要内容,如果未能解决你的问题,请参考以下文章

基于句子嵌入的无监督文本摘要(附代码实现)zt

我在哪里更改此 Python 代码片段以将临时文件保存在 tmp 文件夹中?

SnowNLP:?中文分词?词性标准?提取文本摘要,?提取文本关键词,?转换成拼音?繁体转简体的 处理中文文本的Python3 类库

SQLite 片段函数实现不会在 TextView 中将文本格式化为 HTML

MD5( 信息摘要算法)的概念原理及python代码的实现

在 python 中应用预训练的 facebook/bart-large-cnn 进行文本摘要