6.2排序式检索 词项频率

Posted 2021-12-21 宇心QAQ

提示：
信息检索：文档评分-词项权重计算-向量空间模型
 第二部分：词项频率

文章目录

• 词项频率
• • 词袋模型
  • 词项文档计数矩阵
  • • 词项频率tf

---

词项频率

回顾词项文档关联矩阵

词袋模型

不考虑词项在文档中出现的顺序。如“A is bigger than B”和“B is bigger than A”在词袋模型中是一样的。
显然，这相对于位置索引呢是一种退步。

词项文档计数矩阵

考虑的是词项在文档中出现的次数，区别词项文档关联矩阵(只显示词项在文档中是否存在)。

词项频率tf

词项t在文档d中出现的次数记作：tf_t,d
那么如何使用tf来计算评分呢？

采用原始的tf值
但是并不是很合适，如果词项A在文档1中出现10次，而在文档2中只出现一次，文档1比文档2更相关，但是相关度不可能是10倍关系。
相关性不随词项频率成比例增加。

采用tf对数表示

文档-词项的匹配得分是所有查询和文档中同时出现的词项对数词频之和