检验是不是高手,关于mysql全文索引fulltext支持中文 - PHP进阶讨论

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了检验是不是高手,关于mysql全文索引fulltext支持中文 - PHP进阶讨论相关的知识,希望对你有一定的参考价值。

近来想做一个搜索功能,用到全文索引,以下为sql语句:CREATE TABLE fulltext_sample(copy TEXT,FULLTEXT(copy)) TYPE=MyISAM;INSERT INTO fulltext_sample VALUES(\'It appears good from here\'),(\'The here and the past\'),(\'Why are we hear\'),(\'An all-out alert\'),(\'All you need is love\'),(\'A good alert\');SELECT * FROM fulltext_sample WHERE MATCH(copy) AGAINST(\'love\');上面的英文的,测试结果也正确,可是当我插入中文的时候,??SELECT * FROM fulltext_sample WHERE MATCH(copy) AGAINST(\'一些中文字\');怎么也没有结果,按照网上的资料说,有说 mysql5可以支持,也有说不支持的,都没找到解决方案,包括在 配制 mysql.ini ,在其中加入 ft_min_word_len=2试了一下,也不好使.这是我的毕业设计,还有一个月毕业了,设计一个简易的搜索系统,中文分词是参考 dedecms,现在在全文索引方面遇到问题,有前人在全文索引解决中文的方法,请指教.[]

参考技术A SELECT
*
FROM
fulltext_sample
WHERE
copy
LIKE
\'%中文%\'OR
copy
LIKE
\'%没有回答%\'OR
copy
LIKE
\'%不让全文索引,我来模糊查询%\'OR
copy
LIKE
\'%这样变通%\'OR??copy
LIKE
\'%实际意义不大%\'OR
copy
LIKE
\'%效率和结果排序都是大问题%\'OR
copy
LIKE
\'%继续ing,实在不行,把查询算法优化%\'
参考技术B 呵呵,?
???mysql
还不支持双字节字符的全文索引,有个简单的办法可以解决
就是建立一个
词库
然后你需要写个
切词
脚本
这样就可以解决你的问题了
参考技术C 全文检索在MySQL里面很早就支持了,只不过一直以来只支持英文。缘由是他从来都使用空格来作为分词的分隔符,而对于中文来讲,显然用空格就不合适,需要针对中文语义进行分词。这不,从MySQL5.7开始,MySQL内置了ngram全文检索插件,用来支持中文分词,并且对MyISAM和InnoDB引擎有效。

在使用中文检索分词插件ngram之前,先得在MySQL配置文件里面设置他的分词大小,比如,
[mysqld]
ngram_token_size=2

这里把分词大小设置为2。要记住,分词的SIZE越大,索引的体积就越大,所以要根据自身情况来设置合适的大小。

示例表结构:
CREATE TABLE articles (
id INTUNSIGNED AUTO_INCREMENT NOT NULL PRIMARY KEY,
titleVARCHAR(200),
body TEXT,
FULLTEXT (title,body) WITH PARSER ngram
) ENGINE=InnoDBCHARACTER SET utf8mb4;

示例数据,有6行记录。
mysql> select * from articles\G
***************************1. row ***************************
id: 1
title: 数据库管理
body: 在本教程中我将向你展示如何管理数据库
***************************2. row ***************************
id: 2
title: 数据库应用开发
body: 学习开发数据库应用程序
***************************3. row ***************************
id: 3
title: MySQL完全手册
body: 学习MySQL的一切
***************************4. row ***************************
id: 4
title: 数据库与事务处理
body: 系统的学习数据库的事务概论
***************************5. row ***************************
id: 5
title: NoSQL精髓
body: 学习了解各种非结构化数据库
***************************6. row ***************************
id: 6
title: SQL 语言详解
body: 详细了解如果使用各种SQL
6 rows inset (0.00 sec)

显式指定全文检索表源
mysql> SETGLOBAL innodb_ft_aux_table="new_feature/articles";
Query OK, 0 rows affected (0.00 sec)

通过系统表,就可以查看到底是怎么划分articles里的数据。
mysql> SELECT *FROM information_schema.INNODB_FT_INDEX_CACHE LIMIT 20,10;
+------+--------------+-------------+-----------+--------+----------+
| WORD | FIRST_DOC_ID | LAST_DOC_ID | DOC_COUNT | DOC_ID| POSITION |
+------+--------------+-------------+-----------+--------+----------+
| 中我 | 2 | 2 | 1 | 2 | 28 |
| 习m | 4 | 4 | 1 | 4 | 21 |
| 习了 | 6 | 6 | 1 | 6 | 16 |
| 习开 | 3 | 3 | 1 | 3 | 25 |
| 习数 | 5 | 5 | 1 | 5 | 37 |
| 了解 | 6 | 7 | 2 | 6 | 19 |
| 了解 | 6 | 7 | 2 | 7 | 23 |
| 事务 | 5 | 5 | 1 | 5 | 12 |
| 事务 | 5 | 5 | 1 | 5 | 40 |
| 何管 | 2 | 2 | 1 | 2 | 52 |
+------+--------------+-------------+-----------+--------+----------+
10 rows in set (0.00 sec)

这里可以看到,把分词长度设置为2,所有的数据都只有两个一组。上面数据还包含了行的位置,ID等等信息。
接下来,我来进行一系列检索示范,使用方法和原来英文检索一致。

1. 自然语言模式下检索:
A,得到符合条件的个数,
mysql>SELECT COUNT(*) FROM articles
-> WHERE MATCH (title,body) AGAINST ('数据库' IN NATURALLANGUAGE MODE);
+----------+
| COUNT(*) |
+----------+
| 4 |
+----------+
1 row in set (0.05 sec)

B,得到匹配的比率,

mysql>SELECT id, MATCH (title,body) AGAINST ('数据库' IN NATURAL LANGUAGE MODE)
AS score FROM articles;
+----+----------------------+
| id| score |
+----+----------------------+
| 1 | 0.12403252720832825 |
| 2 | 0.12403252720832825 |
| 3 | 0 |
| 4 | 0.12403252720832825 |
| 5 | 0.062016263604164124 |
| 6 | 0 |
+----+----------------------+
6rows in set (0.00 sec)

2. 布尔模式下搜索,这个就相对于自然模式搜索来的复杂些:
A,匹配既有管理又有数据库的记录,
mysql> SELECT * FROM articles WHERE MATCH (title,body)
-> AGAINST ('+数据库 +管理' IN BOOLEAN MODE);
+----+------------+--------------------------------------+
| id| title | body |
+----+------------+--------------------------------------+
| 1 | 数据库管理 | 在本教程中我将向你展示如何管理数据库
|
+----+------------+--------------------------------------+
1 rowin set (0.00 sec)

B,匹配有数据库,但是没有管理的记录,
mysql> SELECT * FROM articles WHERE MATCH (title,body)
-> AGAINST ('+数据库 -管理' IN BOOLEAN MODE);
+----+------------------+----------------------------+
| id| title | body |
+----+------------------+----------------------------+
| 2 | 数据库应用开发 | 学习开发数据库应用程序 |
| 4 | 数据库与事务处理 | 系统的学习数据库的事务概论 |
| 5 | NoSQL 精髓 | 学习了解各种非结构化数据库 |
+----+------------------+----------------------------+
3rows in set (0.00 sec)

C,匹配MySQL,但是把数据库的相关性降低,
mysql> SELECT * FROM articles WHERE MATCH (title,body)
-> AGAINST ('>数据库 +MySQL' INBOOLEAN MODE);
+----+---------------+-----------------+
| id| title | body |
+----+---------------+-----------------+
| 3 | MySQL完全手册 |学习MySQL的一切 |
+----+---------------+-----------------+
1 rowin set (0.00 sec)

3,查询扩展模式,比如要搜索数据库,那么MySQL,oracle,DB2也都将会被搜索到,

mysql> SELECT * FROM articles
-> WHERE MATCH (title,body)
-> AGAINST ('数据库' WITH QUERY EXPANSION);
+----+------------------+--------------------------------------+
| id| title | body |
+----+------------------+--------------------------------------+
| 1 | 数据库管理 | 在本教程中我将向你展示如何管理数据库
| 4 | 数据库与事务处理 | 系统的学习数据库的事务概论
| 2 | 数据库应用开发 | 学习开发数据库应用程序 |
| 5 | NoSQL 精髓 | 学习了解各种非结构化数据库 |
| 6 | SQL 语言详解 | 详细了解如果使用各种SQL|
| 3 | MySQL完全手册 | 学习MySQL的一切 |
+----+------------------+--------------------------------------+
6rows in set (0.01 sec)

当然,我这里只是功能演示,更多的性能测试,大家有兴趣可以进行详细测试。由于N-grm是中文检索常用的分词算法,已经在互联网大量使用,这次集成到mysql中,想必效果上不会有太大的问题。
参考技术D 建议都不错,分词我已经做了,lucene,这好东东,趁有时间得好好研究研究,[] 第5个回答  2014-02-26 看来没有高手啊,论坛高手都没人研究这东西,....必须来点激将........PS一些常被设为高亮的作者.....得改一下题目

mysql索引的类型及分类

一、索引方法
Mysql目前主要有以下几种索引类型:FULLTEXT,HASH,BTREE,RTREE。

1. FULLTEXT
即为全文索引,目前只有MyISAM引擎支持。其可以在CREATE TABLE ,ALTER TABLE ,CREATE INDEX 使用,不过目前只有 CHAR、VARCHAR ,TEXT 列上可以创建全文索引。

全文索引并不是和MyISAM一起诞生的,它的出现是为了解决WHERE name LIKE “%word%"这类针对文本的模糊查询效率较低的问题。

2. HASH
由于HASH的唯一(几乎100%的唯一)及类似键值对的形式,很适合作为索引。

HASH索引可以一次定位,不需要像树形索引那样逐层查找,因此具有极高的效率。但是,这种高效是有条件的,即只在“=”和“in”条件下高效,对于范围查询、排序及组合索引仍然效率不高。

3. BTREE
BTREE索引就是一种将索引值按一定的算法,存入一个树形的数据结构中(二叉树),每次查询都是从树的入口root开始,依次遍历node,获取leaf。这是MySQL里默认和最常用的索引类型。

4. RTREE
RTREE在MySQL很少使用,仅支持geometry数据类型,支持该类型的存储引擎只有MyISAM、BDb、InnoDb、NDb、Archive几种。

相对于BTREE,RTREE的优势在于范围查找

 

二、索引类型
普通索引:仅加速查询

唯一索引:加速查询 + 列值唯一(可以有null)

主键索引:加速查询 + 列值唯一(不可以有null)+ 表中只有一个

组合索引:多列值组成一个索引,专门用于组合搜索,其效率大于索引合并

全文索引:对文本的内容进行分词,进行搜索

ps.索引合并,使用多个单列索引组合搜索

覆盖索引,select的数据列只用从索引中就能够取得,不必读取数据行,换句话说查询列要被所建的索引覆盖

以上是关于检验是不是高手,关于mysql全文索引fulltext支持中文 - PHP进阶讨论的主要内容,如果未能解决你的问题,请参考以下文章

关于MSSQL 全文索引 某些词特别慢的问题

innodb存储引擎支持全文索引吗

创建了MySQL全文索引之后,使用啥命令可以知道是不是创建成功了

MySQL进阶实战10,MySQL全文索引

mysql全文索引 很慢,速度不如like的百分之一

mysql全文索引 很慢,速度不如like的百分之一