PostgreSQL全文检索简介

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了PostgreSQL全文检索简介相关的知识,希望对你有一定的参考价值。

参考技术A PostgreSQL自带有一个简易的全文检索引擎,可以实现小规模数据量的全文检索功能。本文我们将引导介绍一下这个功能,对于小数据量的搜索这个功能是足够使用的,而无需搭建额外的ES等重量级的全文检索服务器。

PG的全文检索操作符是 @@ ,当一个 tsvector (文档)和 tsquery (条件)匹配时返回 true ,并且前后顺序无影响:

和普通的SQL查询一样,只要在 WHERE 条件中使用这个符号就代表使用全文检索条件筛选文档了。如:

@@ 操作符支持隐式转换,对于 text 类型可以无需强类型转换( ::tsvector 或 to_tsvector(config_name, text) ),所以这个操作符实际支持的参数类型是这样的:

tsquery 查询条件并不是简单的正则,而是一组搜索术语,使用并且使用布尔操作符 & (AND)、 | (OR)和 ! (NOT)来组合它们,还有短语搜索操作符 <-> (FOLLOWED BY)。更详细的语法参见 此文档 。

此外,PostgreSQL还提供了两个相对简化的版本 plainto_tsquery 和 phraseto_tsquery 。

plainto_tsquery ( plainto_tsquery([ config regconfig, ] querytext text) returns tsquery )用户将未格式化的 text 经过分词之后,插入 & 符号转为 tsquery :

phraseto_tsquery ( phraseto_tsquery([ config regconfig, ] querytext text) returns tsquery )行为和 plainto_tsquery 行为类似,但是分词之后不是插入 & 而是 <-> (FOLLOWED BY):

使用索引可以加快全文检索的速度。对于全文检索来说,可选的索引类型是 GIN (通用倒排索引)和 GIST (通用搜索树),官方文档更推荐使用 GIN索引 。创建一个 GIN 索引的范例:

也可以是一个连接列:

还可以单独创建一个 tsvector 列,为这个列创建索引:

除了普通的 ORDER BY 条件之外,PostgreSQL为全文检索提供了两个可选的排序函数 ts_rank([ weights float4[], ] vector tsvector, query tsquery [, normalization integer ]) returns float4 和 ts_rank_cd([ weights float4[], ] vector tsvector, query tsquery [, normalization integer ]) returns float4 ,以便实现基于 权重 的排序。

此外,对于PostgreSQL 9.6以上的版本还可以使用 RUM index 排序。(注意,这个是扩展,默认不包含)。

PostgreSQL默认的分词字典中并不包含中文分词字典,因此我们必须手工引入。目前一个比较好的项目是 zhparser ,同时这个插件也是阿里云的RDS默认包含的。安装和启用没什么好说的。值得一提的是分词配置参数。

在 CREATE EXTENSION 之后,必须配置分词参数才能正确进行分词和查找,否则什么都查不到。官方文档提供的一个配置策略是:

n,v,a,i,e,l 这几个字母分别表示一种token策略,只启用了这几种token mapping,其余则被屏蔽。具体支持的参数和含义可以用 \dFp+ zhparser 显示:

WITH simple 表示词典使用的是内置的simple词典,即仅做小写转换。根据需要可以灵活定义词典和token映射,以实现屏蔽词和同义词归并等功能。

比如我们看下面这个例子:

可以看到 江淮 这个词组在查询的时候被忽略了,我们启用 j (abbreviation,简称)再看看结果:

所以实际使用中要设置合理的token types,过少将导致搜索结果不准确,过多将导致性能下降。此外,还有一些诸如 短词复合: zhparser.multi_short = f 这一类的控制分词结果的选项,根据实际使用酌情开启。

如何在 PostgreSQL 中检索表属性? [复制]

【中文标题】如何在 PostgreSQL 中检索表属性? [复制]【英文标题】:How to retrieve table attributes in PostgreSQL? [duplicate] 【发布时间】:2021-03-17 08:43:21 【问题描述】:

所以我对 PostgreSQL(以及整个 SQL)非常陌生,我正在尝试找到一种方法来查看表的所有属性。例如,假设您有一个名为“movies”的表,我想看看它具有哪些属性(例如,movie_name、release_year)。

我确定有一个简单的命令,但我找不到它。

提前感谢您的帮助!

【问题讨论】:

【参考方案1】:

假设 attributes 你的意思是 columns,标准方法使用 system view information_schema.columns:

select column_name, datatype 
from information_schema.columns 
where table_name = 'mytable'

在 PSQL 命令行中,您还可以使用 \d(代表 describe):

# \d mytable

【讨论】:

以上是关于PostgreSQL全文检索简介的主要内容,如果未能解决你的问题,请参考以下文章

使用PostgreSQL进行全文检索

PostgreSQL 全文搜索和三元组混淆

PostgreSQL(全文搜索)与 ElasticSearch

在 PostgreSQL 上使用 SQLAlchemy 创建全文搜索索引

PostgreSQL 全文索引

看大数据最大技术难关之模糊检索,PostgreSQL如何攻克