意境级讲解 jieba分词和词云关键词抽取：TextRankTF-IDF
Posted 炫云云
tags:
篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了意境级讲解 jieba分词和词云关键词抽取：TextRankTF-IDF相关的知识，希望对你有一定的参考价值。
文章目录
Jieba分词
Python中的分词模块有很多，他们的功能也都是大同小异，我们安装的结巴分词 是当前使用的最多的类型。
Jieba 分词的原理
Jieba 分词依靠中文词库，结合了基于规则和基于统计这两类方法。首先基于前缀词典进行词图扫描，前缀词典是指词典中的词按照前缀包含的顺序排列。如果将词看作节点，词和词之间的分词符看作边，那么一种分词方案则对应着从第一个字到最后一个字的一条分词路径。
因此，基于前缀词典可以快速构建包含全部可能分词结果的有向无环图，这个图中包含多条分词路径，有向是指全部的路径都始于第一个字、止于最后一个字，无环是指节点之间不构成闭环。基于标注语料，使用动态规划的方法可以找出最大概率路径，并将其作为最终的分词结果。
Jieba 分词的三种模式
结巴分词的分词模式分为三种：
(1)全模式:把句子中所有的可以成词的词语都扫描出来, 速度快,但是不能解决歧义问题
(2)精确模式:将句子最精确地切开,适合文本分析
(3)搜索引擎模式:在精确模式的基础上,对长词再次切分,提高召回率,适合用于搜索引擎分词
下面用一个简单的例子来看一下三种模式的分词区别：
import jieba
text = '我来北京清华大学,开着法拉利在水一方吃着苹果梨'
seg_list = jieba.cut(text,cut_all=True)
print('[全模式]:',','.join(seg_list))#全模式
seg_list = jieba.cut(text,cut_all=False)
print('[精确模式]:','/'.join(seg_list))#精确模式
seg_list = jieba.cut(text)#默认精确模式
print(u"[默认模式]: ", ", ".join(seg_list))
seg_list = jieba.cut_for_search('小明硕士毕业于中国科学院计算所,后在日本京都大学深造')#搜索引擎模式
print(u"[搜索引擎模式]: ", " ".join(seg_list))
print(u"[搜索引擎模式]: ", seg_list)#generator
Building prefix dict from the default dictionary ...
Loading model from cache C:\\Users\\become\\AppData\\Local\\Temp\\jieba.cache
Loading model cost 0.676 seconds.
Prefix dict has been built successfully.
[全模式]: 我,来,北京,清华,清华大学,华大,大学,,,开,着法,法拉,法拉利,在水一方,一方,吃,着,苹果,苹果梨
[精确模式]: 我来/北京/清华大学/,/开着/法拉利/在水一方/吃/着/苹果梨
[默认模式]: 我来, 北京, 清华大学, ,, 开着, 法拉利, 在水一方, 吃, 着, 苹果梨
[搜索引擎模式]: 小明 硕士 毕业 于 中国 科学 学院 科学院 中国科学院 计算 计算所 , 后 在 日本 京都 大学 日本京都大学 深造
[搜索引擎模式]: <generator object Tokenizer.cut_for_search at 0x00000189075FBF48>
Jieba 分词使用方法
可使用jieba.cut(sentence, cut_all, HMM)和jieba.cut_for_search(sentence, HMM)方法进行分词，两者所返回的结构都是一个可迭代的 generator ，可使用 for 循环来获得分词后得到的每一个词语（ unicode ），或者直接使用jieba.lcut(s,cut_all,HMM)以及jieba.lcut_for_search(sentence, HMM)直接返回 list 。其中：
jieba.cut(sentence, cut_all, HMM) 和 jieba.lcut(s,cut_all,HMM) 接受 3 个参数：
-
需要分词的字符串（ unicode 或 UTF-8 字符串、GBK 字符串）；
-
cut_all 参数：是否使用全模式，默认值为 False；
-
HMM 参数：用来控制是否使用 HMM 模型，默认值为 True。
jieba.cut_for_search(sentence, HMM) 和 jieba.lcut_for_search(sentence, HMM)接受2个参数：
-
需要分词的字符串（ unicode 或 UTF-8字符串、 GBK 字符串）
-
HMM 参数：用来控制是否使用 HMM 模型，默认值为 True
text = '我来北京清华大学,开着法拉利在水一方吃着苹果梨'
seg_list = jieba.lcut(text)#精确模式
print('[精确模式]:',' '.join(seg_list))
print('[精确模式]:',seg_list) # 直接是list
[精确模式]: 我来 北京 清华大学 , 开着 法拉利 在水一方 吃 着 苹果梨
[精确模式]: ['我来', '北京', '清华大学', ',', '开着', '法拉利', '在水一方', '吃', '着', '苹果梨']
载入词典的使用
用法： jieba.load_userdict(file_name) # file_name 为文件类对象或自定义词典的路径
词典格式和 dict.txt 一样，一个词占一行；每一行分三部分：词语、词频（可省略）、词性（可省略），用空格隔开，顺序不可颠倒。file_name 若为路径或二进制方式打开的文件，则文件必须为 UTF-8 编码。
词频省略时使用自动计算的能保证分出该词的词频。
例如：
创新办 3 i
云计算 5
凱特琳 nz
台中
#自定义词典
#jieba.load_userdict(file_name)
txt = '欧阳建国是创新办主任也是欢聚时代公司云计算方面的专家'
print(','.join(jieba.cut(txt)))
#使用用户字典(user_dict)
jieba.load_userdict('../../user_dict.txt')
print(','.join(jieba.cut(txt)))
欧阳,建国,是,创新,办,主任,也,是,欢聚,时代,公司,云,计算,方面,的,专家
欧阳建国,是,创新办,主任,也,是,欢聚时代,公司,云计算,方面,的,专家
调整词典
使用 add_word(word, freq=None, tag=None) 和 del_word(word) 可在程序中动态修改词典。
使用 suggest_freq(segment, tune=True) 可调节单个词语的词频，使其能（或不能）被分出来。
注意：自动计算的词频在使用 HMM 新词发现功能时可能无效。
print('/'.join(jieba.cut('如果放到post中将出错。', HMM=False)))
如果/放到/post/中将/出错/。
jieba.suggest_freq(('中', '将'), True)#分开
494
print('/'.join(jieba.cut('如果放到post中将出错。', HMM=False)))
如果/放到/post/中/将/出错/。
print('/'.join(jieba.cut('「台中」正确应该不会被切开', HMM=False)))
「/台/中/」/正确/应该/不会/被/切开
jieba.suggest_freq('台中', True)
69
print('/'.join(jieba.cut('「台中」正确应该不会被切开', HMM=False)))
「/台中/」/正确/应该/不会/被/切开
test_sent = (
"李小福是创新办主任也是云计算方面的专家; 什么是八一双鹿\\n"
"例如我输入一个带“韩玉赏鉴”的标题，在自定义词库中也增加了此词为N类\\n"
"「台中」正確應該不會被切開。mac上可分出「石墨烯」；此時又可以分出來凱特琳了。"
)
words = jieba.cut(test_sent)
print('/'.join(words))
jieba.add_word('石墨烯')
jieba.add_word('凱特琳')
jieba.del_word('自定义词')
words = jieba.cut(test_sent)
print('/'.join(words))
李小福/是/创新办/主任/也/是/云计算/方面/的/专家/;/ /什么/是/八/一双/鹿/
/例如/我/输入/一个/带/“/韩玉/赏鉴/”/的/标题/，/在/自定义词/库中/也/增加/了/此/词为/N/类/
/「/台中/」/正確/應該/不會/被/切開/。/mac/上/可/分出/「/石墨/烯/」/；/此時/又/可以/分出/來凱/特琳/了/。
李小福/是/创新办/主任/也/是/云计算/方面/的/专家/;/ /什么/是/八/一双/鹿/
/例如/我/输入/一个/带/“/韩玉/赏鉴/”/的/标题/，/在/自定义/词库/中/也/增加/了/此/词为/N/类/
/「/台中/」/正確/應該/不會/被/切開/。/mac/上/可/分出/「/石墨烯/」/；/此時/又/可以/分出/來/凱特琳/了/。
import jieba.posseg as pseg
result = pseg.cut(test_sent)
for w in result:
print(w.word, "/", w.flag, ", ", end=' ')
print("\\n" + "="*40)
李小福 / nr , 是 / v , 创新办 / i , 主任 / b , 也 / d , 是 / v , 云计算 / x , 方面 / n , 的 / uj , 专家 / n , ; / x , / x , 什么 / r , 是 / v , 八 / m , 一双 / m , 鹿 / nr ,
/ x , 例如 / v , 我 / r , 输入 / v , 一个 / m , 带 / v , “ / x , 韩玉 / nr , 赏鉴 / v , ” / x , 的 / uj , 标题 / n , ， / x , 在 / p , 自定义 / l , 词库 / n , 中 / f , 也 / d , 增加 / v , 了 / ul , 此 / r , 词 / n , 为 / p , N / eng , 类 / q ,
/ x , 「 / x , 台中 / s , 」 / x , 正確 / ad , 應該 / v , 不 / d , 會 / v , 被 / p , 切開 / ad , 。 / x , mac / eng , 上 / f , 可 / v , 分出 / v , 「 / x , 石墨烯 / x , 」 / x , ； / x , 此時 / c , 又 / d , 可以 / c , 分出 / v , 來 / zg , 凱特琳 / x , 了 / ul , 。 / x ,
========================================
testlist = [
('今天天气不错', ('今天', '天气')),
('如果放到post中将出错。', ('中', '将')),
('我们中出了一个叛徒', ('中', '出')),
]
for sent, seg in testlist:
print('/'.join(jieba.cut(sent, HMM=False)))
word = ''.join(seg)
print('%s Before: %s, After: %s' % (word, jieba.get_FREQ(word), jieba.suggest_freq(seg, True)))
print('/'.join(jieba.cut(sent, HMM=False)))
print("-"*40)
今天天气/不错
今天天气 Before: 3, After: 0
今天/天气/不错
----------------------------------------
如果/放到/post/中/将/出错/。
中将 Before: 494, After: 494
如果/放到/post/中/将/出错/。
----------------------------------------
我们/中/出/了/一个/叛徒
中出 Before: 3, After: 3
我们/中/出/了/一个/叛徒
----------------------------------------
基于 TF-IDF 算法的关键词抽取
jieba.analyse.extract_tags(sentence, topK=20, withWeight=False, allowPOS=())
- sentence 为待提取的文本
- topK 为返回几个 TF/IDF 权重最大的关键词，默认值为 20
- withWeight 为是否一并返回关键词权重值，默认值为 False
- allowPOS 仅包括指定词性的词，默认值为空，即不筛选
jieba.analyse.TFIDF(idf_path=None) 新建 TFIDF 实例，idf_path 为 IDF 频率文件
词频的方法：
#词频与分词字典
#TF term frequency指的是某一个给定的词语在该文件中出现的次数
#获取分词结果中出现频率前10的词列表
import jieba
from collections import Counter
content = open(r'../../pachong.txt',encoding = 'utf-8').read()
print(Counter(content).most_common(10))
#过滤标点字符：【
con_words = [x for x in jieba.cut(content) if len(x) >= 2]
print(Counter(con_words).most_common(10))
[('【', 116), ('】', 116), ('标', 106), ('题', 106), ('\\n', 104), ('：', 102), ('"', 100), ('>', 100), ('学', 98), ('，', 76)]
[('标题', 106), ('中北大学', 28), ('学姐', 28), ('贵校', 24), ('考生', 24), ('理科', 22), ('学长', 22), ('专业', 20), ('一本', 18), ('毕业生', 12)]
在拿到 Jieba 分词后的数据后就要对数据进行统计，所谓统计就是看一个词在这篇文章中出现了多少次。我们可以通过使用字典的键来存储出现的词，值存储词出现的次数来实现。
text= "很长时间不吃水果，到时又年纪比较小，如果说很长时间不吃水果的话，可能对我的身体健康造成，比较大的一个影响，\\
老师每人发了一个苹果给我们，然后我们每个人吃了一个苹果，当时学校里发的那个苹果，还吃起来还是比较甜的，会说我当时吃起来特别好吃"
words = jieba.lcut(text)
data={} # 词典
for chara in words:
if len(chara)<2:
continue
if chara in data:
data[chara] +=1
else:
data[chara] =1
data = sorted(data.items(), key=lambda x: x[1], reverse=True) # 排序
print(data[:3],end="")
[('比较', 3), ('一个', 3), ('苹果', 3)]
TF-ITF:
## TF-ITF
import jieba.analyse
content = open(r'../../pachong.txt',encoding = 'utf-8').read()
tags = jieba.analyse.extract_tags(content, topK=10)
print(",".join(tags))
标题,学姐,中北大学,贵校,学长,理科,考生,一本,中北,专业
基于 TextRank 算法的关键词抽取
jieba.analyse.textrank(sentence, topK=20, withWeight=False, allowPOS=('ns', 'n', 'vn', 'v')) 直接使用，接口相同，注意默认过滤词性。
jieba.analyse.TextRank() 新建自定义 TextRank 实例
算法论文： TextRank: Bringing Order into Texts
基本思想:
将待抽取关键词的文本进行分词
以固定窗口大小(默认为5，通过span属性调整)，词之间的共现关系，构建图
计算图中节点的PageRank，注意是无向带权图
import jieba
import jieba.posseg
import jieba.analyse
s = "此外，公司拟对全资子公司吉林欧亚置业有限公司增资4.3亿元，增资后，吉林欧亚置业注册资本由7000万元增加到5亿元。吉林欧亚置业主要经营范围为房地产开发及百货零售等业务。目前在建吉林欧亚城市商业综合体项目。2013年，实现营业收入0万元，实现净利润-139.13万元。"
print('3. 关键词提取')
print('-'*40)
print(' TF-IDF')
print('-'*40)
for x, w in jieba.analyse.extract_tags(s, withWeight=True):
print('%s %s' % (x, w))
3. 关键词提取
----------------------------------------
TF-IDF
----------------------------------------
欧亚 0.7300142700289363
吉林 0.659038184373617
置业 0.4887134522112766
万元 0.3392722481859574
增资 0.33582401985234045
4.3 0.25435675538085106
7000 0.25435675538085106
2013 0.25435675538085106
139.13 0.25435675538085106
实现 0.19900979900382978
综合体 0.19480309624702127
经营范围 0.19389757253595744
亿元 0.1914421623587234
在建 0.17541884768425534
全资 0.17180164988510638
注册资本 0.1712441526
百货 0.16734460041382979
零售 0.1475057117057447
子公司 0.14596045237787234
营业 0.13920178509021275
print('-'*40)
print(' TextRank')
print('-'*40)
for x, w in jieba.analyse.textrank(s, withWeight=True,topK=10):
print('%s %s' % (x, w))
----------------------------------------
TextRank
----------------------------------------
吉林 1.0
欧亚 0.9966893354178172
置业 0.6434360313092776
实现 0.5898606692859626
收入 0.43677859947991454
增资 0.4099900531283276
子公司 0.35678295947672795
城市 0.34971383667403655
商业 0.34817220716026936
业务 0.3092230992619838
词性标注
print('='*40)
print('4. 词性标注')
print('-'*40)
words = jieba.posseg.cut("我爱北京天安门")
for word, flag in words:
print('%s %s' % (word, flag))
========================================
4. 词性标注
----------------------------------------
我 r
爱 v
北京 ns
天安门 ns
print('='*40)
print('6. Tokenize: 返回词语在原文的起止位置')
print('-'*40)
print(' 默认模式')
print('-'*40)
result = jieba.tokenize('永和服装饰品有限公司')
for tk in result:
print("word %s\\t\\t start: %d \\t\\t end:%d" % (tk[0],tk[1],tk[2]))
========================================
6. Tokenize: 返回词语在原文的起止位置
----------------------------------------
默认模式
----------------------------------------
word 永和 start: 0 end:2
word 服装 start: 2 end:4
word 饰品 start: 4 end:6
word 有限公司 start: 6 end:10
添加停用词的输出结果
text = "哈利波特是一常优秀的文学作品"
stopwords = {}.fromkeys(['优秀','文学作品'])
seg_list = jieba.cut(text)
final = ''
for seg in seg_list:
if seg not in stopwords:
final +=seg
seg_list_new = jieba.cut(final)
print(u"[切割之后]: " , " ".join(seg_list_new))
[切割之后]: 哈利波
[切割之后]: 哈利波 特是
[切割之后]: 哈利波 特是 一常
[切割之后]: 哈利波 特是 一常 的
# 加入停用词文件
def stop_words(stopwords_path=stopwords_path):
# 加载停用词列表
with open(stopwords_path, 'r', encoding='utf-8') as swf:
return [word.strip() for word in swf.readlines()]
def word_count(document_words):
# 统计词频
import collections
word_freq = collections.defaultdict(int)
for l in document_words:
for w in l.strip().split():
word_freq[w] += 1
# return word_freq # 词典频数
return word_freq.keys() #该语句返回值的类型为list
def create_vocab(file_path, vocab_path):
# 读取file_path文件，分词，词典保存到vocab_path
with open(file_path, 'r', encoding='utf-8') as swf:
raw_document=[str(sentence).split() for sentence in swf.readlines()]
document_words = [] # 原始语料完成切词
for sentence in raw_document:
cut_sentence = [word.strip() for word in jieba.lcut(
sentence) if word not in stop_words()]
document_words.extend(cut_sentence)
vocab_list = word_count(document_words) #映射到字典，去除重复词
# 去标点符号
punc = "！？｡＂＃＄％＆＇（）＊＋，－／：；＜＝＞＠［＼］＾＿｀｛｜｝～｟｠｢｣､、〃》「」『』【】〔〕〖〗〘〙〚〛〜〝〞〟〰〾〿–—‘’‛“”„‟…‧﹏."
with open(vocab_path, 'w', encoding='utf-8') as f:
for vocab in vocab_list:
if vocab not in punc:
f.write(vocab + '\\n')
词云
在大数据时代，你竟然会在网上看到的词云，例如这样的。
看到之后你是什么感觉?想不想自己做一个？
如果你的答案是正确的，那就不要拖延了，现在我们就开始，做一个词云分析图，Python是一个当下很流行的编程语言，你不仅可以用它做数据分析和可视化，还能用来做网站、爬取数据、做数学题、写脚本替你偷懒……
如果你之前没有编程基础，没关系。希望你不要限于浏览，而是亲自动手尝试一番。到完成的那一步，你不仅可以做出第一张词云图，而且这还将是你的第一个有用的编程作品。
import jieba
from wordcloud import WordCloud
import matplotlib.pyplot as plt
text = open('pachong.txt',encoding = 'utf-8').read()
mylist = list(text)
word_list = [" ".join(jieba.cut(sentence)) for sentence in mylist]
new_text = ' '.join(word_list)
wordcloud = WordCloud(font_path='C:/Windows/Fonts/simhei.ttf',background_color='white').generate(new_text)
plt.imshow(wordcloud)
plt.axis("off")
plt.show()
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-bLw78n6W-1623487452109)(https://gitee.com/xuan_yun/PictureLibrary/raw/master/img/output_31_0.svg#pic_center)]
读取文章，并制作词云
使用的是wordcloud函数库，可以根据喜好来定义词云的颜色、轮廓等参数 ，下面为常用的参数设置方法
import jieba
text="成为牛逼的人，变得非常有钱，自由自在"
result = jieba.cut(text)
print("切分结果："," ".join(result))
切分结果： 成为 牛 逼 的 人 ， 变得 非常 有钱 ， 自由自在
jieba.suggest_freq(('非常有钱'),True)
result = jieba.cut(text)
print("切分结果："+" ".join(result))
切分结果：成为 牛 逼 的 人 ， 变得 非常有钱 ， 自由自在
路径读取：os.path.abspath、os.path.dirname、os.path.basename、os.path.split
# 遍历 stopwords 生成中文词云图
import os
from os import path
import numpy as np
from wordcloud import WordCloud, STOPWORDS, ImageColorGenerator
from PIL import Image
from matplotlib import pyplot as plt
from matplotlib.pyplot import imread
import random
import chardet
import jieba
import jieba.analyse
# 获取当前文件路径
d = path.dirname(__file__) if "__file__" in locals() else os.getcwd()
# 对原文本分词,使用textrank提取关键词
def trans_CN(text):
jieba.suggest_freq(('学长学姐'),True)
word_list = jieba.analyse.textrank(text,topK = 30)
# 分词后在单独个体之间加上空格
result = " ".join(word_list)
return result;
# 加载stopwords
def load_stopwords():
filepath = path.join(d, r'stopw以上是关于意境级讲解 jieba分词和词云关键词抽取：TextRankTF-IDF的主要内容，如果未能解决你的问题，请参考以下文章