推荐系统[九]项目技术细节讲解z3:向量检索技术与ANN搜索算法[KD树AnnoyLSH局部哈希PQ乘积量化IVFPQ倒排乘积量化HNSW层级图搜索等],超级详细技术原理讲解

Posted 汀、

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了推荐系统[九]项目技术细节讲解z3:向量检索技术与ANN搜索算法[KD树AnnoyLSH局部哈希PQ乘积量化IVFPQ倒排乘积量化HNSW层级图搜索等],超级详细技术原理讲解相关的知识,希望对你有一定的参考价值。

1.向量定义应用

1.1 物皆可embedding

如何表达一个物品/元素?

在现实世界中,我们认识和理解一个事物,总是会想办法捕捉它的一些特质或者属性。比如路边一朵红色的野花,那么仅从颜色这个维度,我们可以使用离散的0,1来表达。如 【1,0,0】


但仅从颜色描述是不够的,还有花的种类,气味,高度,用途等等。把所有的属性枚举出来,排列好位置,元素对应属性的位置点亮,那么一朵沁人心脾的红色梅花 = 【1,0,0,1,0,0,1,0】


上面分别就是 one-hot 与multi-hot的编码标识,在传统机器学习中比较常见。但这样会遇到几个问题:

  • 真实世界,物品描述的属性维度特别多,且值非常稀疏。(几十上百万个维度也是正常的)
  • 物品的属性无法完整枚举到。(很多肉眼看不到的属性)
  • 物品的属性包含离散和连续(比如价格属性可能就是连续的)

embedding 是 使用连续数值向量对元素的一种低维度表达(从可能几十万维度降低到n维度,n一般为 128,256等较低的数值)

可参考:

以上是关于推荐系统[九]项目技术细节讲解z3:向量检索技术与ANN搜索算法[KD树AnnoyLSH局部哈希PQ乘积量化IVFPQ倒排乘积量化HNSW层级图搜索等],超级详细技术原理讲解的主要内容,如果未能解决你的问题,请参考以下文章

推荐系统[九]项目技术细节讲解z1:Elasticsearch 如何进行快速检索(ES倒排索引和分词原理)以及倒排索引在召回中的应用。

推荐系统[九]项目技术细节讲解z2:搜索Query理解[Term WeightQuery 改写同义词扩写]和语义召回技术

达摩院自研向量检索引擎Proxima在行业搜索中的应用

知识图谱--概念与技术

深度学习核心技术精讲100篇(四十四)-深度召回在招聘推荐中的挑战和实践

网络爬虫相关软件以及论文检索与推荐网站调研