全文本搜索

Posted acgame

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了全文本搜索相关的知识,希望对你有一定的参考价值。

一、理解全文本搜索

  两个最常使用的引擎为MyISAM和InnoDB,前者支持全文本搜索,而后者不支持。

  通配符和正则表达式搜索机制的限制:

1、性能--通配符和正则表达式匹配通常要求mysql尝试匹配表中所有行(而且这些搜索极少使用表索引)。因此,随着搜索行数不断增加,这些搜索可能非常耗时。

2、明确控制--使用通配符和正则表达式匹配,很难(而且并不总是能)明确地控制匹配什么和不匹配什么。

3、智能化的结果--虽然基于通配符和正则表达式的搜索提供了非常灵活的搜索,但它们都不能提供一种智能化的选择结果的方法。

  所有这些限制以及更多的限制都可以用全文本搜索来解决。在使用全文本搜索时,MySQL不需要分别查看每个行,不需要分别分析和处理每个词。MySQL创建指定列中各词的一个索引,搜索可以针对这些词进行。这样MySQL可以快速有效地决定哪些词匹配(哪些行包含它们),哪些词不匹配,它们匹配的频率等。

  由于数据时索引的,全文本搜索还相当快。

二、启用全文本搜索支持

  为了进行全文本搜索,必须索引被搜索的列,而且要随着数据的改变不断地重新索引。在对表进行适当设计后,MySQL会自动进行所有的所有和重新索引。

  一般在创建表时启用全文本搜索。CREATE TABLE语句接受FULLTEXT子句,它给出被索引列的一个逗号分隔的列表。

1 CREATE TABLE `productnotes` (
2   `note_id` int(11) NOT NULL AUTO_INCREMENT,
3   `prod_id` char(10) NOT NULL,
4   `note_date` datetime NOT NULL,
5   `note_text` text,
6   PRIMARY KEY (`note_id`),
7   FULLTEXT KEY `note_text` (`note_text`)
8 ) ENGINE=MyISAM AUTO_INCREMENT=115 DEFAULT CHARSET=utf8;

  这些列中有一个名为note_text的列,为了进行全文本搜索,MySQL根据子句FULLTEXT KEY `note_text` (`note_text`)的指示对它进行索引。这里的FULLTEXT索引单个列,如果需要也可以指定多个列。

  在定义之后,MySQL自动维护该索引。在增加、更新或删除行时,索引随之自动更新。

  不要再导入数据时使用FULLTEXT。更新索引要花时间。如果正在导入数据到一个新表,此时不应该启用FULLTEXT索引。应该首先导入所有数据,然后再修改表,定义FULLTEXT。这样有助于更快地导入数据(而且使索引数据的总时间小于在导入每行时分别进行索引所需的总时间)。

三、进行全文本搜索

  在索引之后,使用两个函数Match()和Against()执行全文本搜索,其中Match()指定被搜索的列,Against()指定要使用的搜索表达式。

技术分享图片

  使用完整的Match()说明。传递给Match()的值必须与FULLTEXT()定义中的相同。如果指定多个列,则必须列出它们(而且次序正确)。

  搜索不区分大小写。除非使用BINARY关键字,否则全文本搜索不区分大小写。

  全文本搜索的结果是有序的。两个行都包含词rabbi,但包含词rabbit作为第3个词的行的等级比作为第20个词的行高。全文本搜索的一个重要部分就是对结果排序。具有较高等级的行先返回。

  为显示排序,请看下面的例子:

技术分享图片

  Match()和Against()用来建立一个计算列,此列包含全文本搜索计算出的等级值。等级由MySQL根据行中词的数目、唯一词的数目、整个索引中词的总数以及包含该词的行的数目计算出来。正如所见,不包含从rabbit的行等级为0。确实包含词rabbit的两个行每行都有一个等级值,文本中词靠前的行的等级值比词靠后的行的等级值高。

  这个例子有助于说明全文本搜索如何排序(排除那些等级为0的行),如何排序结果(按等级以降序排序)。

  排序多个搜索项:如果指定多个搜索项,则包含多数匹配词的那些行将具有比较少词(或仅有一个匹配)的那些行高的等级值。

四、查询扩展

1、查询扩展用来放宽所返回的全文本搜索结果的范围。

2、在使用查询扩展时,MySQL对数据和索引进行两遍扫描来完成搜索:

1)首先,进行一个基本的全文本搜索,找出与搜索条件匹配的所有行。

2)其次,MySQL检查这些匹配行并选择所有有用的词(??什么是有用的,不太清楚)。

3)然后,MySQL再次进行全文本扫描,这次不仅使用原来的条件,而且还使用所有有用的词。

3、查询扩展WITH QUERY EXPANSION。

技术分享图片

  这次返回了7行。第1行包含词anvils,因此等级最高。第2行与anvils无关,但因为它包含第1行中的两个词(customer 和Recommend ),所以也被检索出来。第3行也包含着两个相同的词,但它们在文本中的位置更靠后且分开得更远,因此也包含这一行,但等级第3。

  查询扩展极大地增加了返回的行数,但这样也增加了你实际上并不想要的数目。

五、布尔文本搜索

1、MySQL还支持全文本搜索的另一种形式,称为布尔方式。以布尔方式,可以提供如下内容的细节:

  1)要匹配的词。

  2)要排斥的词(如果某行包含这个词,则不返回该行,即使它包含其他指定的词也是如此)。

  3)排列提示(指定某些词比其他词更重要,更重要的词等级越高)。

  4)表达式分组。

  5)另外一些内容.

2、即使没有FULLTEXT索引也可以使用布尔方式,但这是一种非常缓慢的操作。

3、全文本布尔操作符

布尔操作符 说明
+ 包含,词必须存在
- 排除,词必须不出现 
> 包含,且增加等级值 
< 包含,且减少等级值 
() 把词组成表达式(允许这些子表达式作为一个组被包含、排除、排列等) 
~ 取消一个词的排序值 
* 词尾的通配符 
"" 定义一个短语(与单个词的列表不一样,它匹配整个短语以便包含或排除这个短语) 

 

 

 

 

 

 

 

 

 

 

 

4、举例说明布尔操作符如何使用

1)匹配包含词heavy,但排除包含rope*(任何以rope开始的词)的行

技术分享图片

2)搜索匹配包含词rabbit和bait的行

技术分享图片

3)搜索匹配包含包含rabbit和bait中的至少一个词的行

技术分享图片

4)搜索匹配短语rabbit bait而不是匹配两个词rabbit和bait的行

技术分享图片

5)匹配rabbit和bait,增加前者的等级,降低后者的等级

技术分享图片

6)搜索匹配词safe和combination,降低后者的等级

技术分享图片

5、排列而不排序。在布尔方式中,不按等级值降序排序返回行。

 六、使用说明

1、在索引全文本数据时,短词被忽略且从索引中排除。短词定义为那些具有3个或3个以下字符的词(如果需要,这个数目可以改)。

2、MySQL带有一个内建的非用词列表,这些词在索引全文本数据时总是被忽略。如果需要,可以覆盖这个列表。

3、许多次出现的频率很高,搜索它们没有用处(返回太多的结果)。因此,MySQL规定了一条50%规则,如果一个词出现在50%以上的行中,则将它作为一个非用词忽略。50%规则不用于IN BOOLEAN MODE。

4、如果表中的行数少于3行,则全文本搜索不返回结果(因为每个词或者不出现,或者至少出现在50%的行中)。

5、忽略此种的单引号。例如,don‘t索引为dont。

6、不具有词分隔符(包括汉语)的语言不能恰当地返回全文本搜索结果。

7、仅在MyISAM数据库引擎中支持全文本搜索。

以上是关于全文本搜索的主要内容,如果未能解决你的问题,请参考以下文章

Mysql基础第二十一天,全文本搜索

全文本搜索

全文本搜索

全文本搜索

全文本搜索

第十八章:全文本搜索