MongoDB 索引的使用, 管理 和优化

Posted 吃饭了吗

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了MongoDB 索引的使用, 管理 和优化相关的知识,希望对你有一定的参考价值。

 

MongoDB 索引的使用, 管理 和优化

技术分享 分类:
 

【使用explain和hint】

前面讲高级查询选项时,提到过"$explain" 和 ”$hint“可以作为包装查询的选项关键字使用,其实这两个本身就可以作为操作游标的函数调用!游标调用explain函数会返回一个文档,用于描述当前查询的一些细节信息。这也不同于我们前面介绍的游标函数,前面提到的游标处理函数都是返回游标,可组成方法链调用。我们看一下explain的具体应用

[javascript] view plaincopy
 
 
  1. > db.blogs.findOne();  
  2. {  
  3.         "_id" : ObjectId("502262ab09248743250688ea"),  
  4.         "content" : ".....",  
  5.         "comment" : [  
  6.                 {  
  7.                         "author" : "joe",  
  8.                         "score" : 3,  
  9.                         "comment" : "just so so!"  
  10.                 },  
  11.                 {  
  12.                         "author" : "jimmy",  
  13.                         "score" : 5,  
  14.                         "comment" : "cool! good!"  
  15.                 }  
  16.         ]  
  17. }  
  18. > db.blogs.find({"comment.author":"joe"}).explain();  
  19. {  
  20.         "cursor" : "BtreeCursor comment.author_1",  
  21.         "nscanned" : 1,  
  22.         "nscannedObjects" : 1,  
  23.         "n" : 1,  
  24.         "millis" : 70,  
  25.         "nYields" : 0,  
  26.         "nChunkSkips" : 0,  
  27.         "isMultiKey" : true,  
  28.         "indexOnly" : false,  
  29.         "indexBounds" : {  
  30.                 "comment.author" : [  
  31.                         [  
  32.                                 "joe",  
  33.                                 "joe"  
  34.                         ]  
  35.                 ]  
  36.         }  
  37. }  

我们在集合blogs上为内嵌文档的键“comment.author”建立了索引,然后我们使用这个键作为查询条件查询文档,在游标上调用explain返回上述文档,我们解释一下返回文档几个主要键的含义:

1》 “cursor”:因为这个查询使用了索引,MongoDB中索引存储在B树结构中,所以这是也使用了BtreeCursor类型的游标。如果没有使用索引,游标的类型是BasicCursor。这个键还会给出你所使用的索引的名称,你通过这个名称可以查看当前数据库下的system.indexes集合(系统自动创建,由于存储索引信息,这个稍微会提到)来得到索引的详细信息。

2》 “nscanned”/“nscannedObjects”:表明当前这次查询一共扫描了集合中多少个文档,我们的目的是,让这个数值和返回文档的数量越接近越好。

3》 "n":当前查询返回的文档数量。

4》 “millis”:当前查询所需时间,毫秒数。

5》 “indexBounds”:当前查询具体使用的索引

上述我们的文档只是定义了一个内嵌文档的索引,我们查询也正好使用了这个键,这个情况比较简单。我们再看一个稍微复杂些的情况!集合user上有两个索引{"name":1,“age”:1}和{“age”:1,“name”:1},我们按照这两个键查询,再看看explain的返回:

[javascript] view plaincopy
 
 
  1. > db.user.ensureIndex({"name":1,"age":1});  
  2. > db.user.ensureIndex({"age":1,"name":1});  
  3. > db.user.find({"age":40, "name":"tim"}).explain();  
  4. {  
  5.         "cursor" : "BtreeCursor name_1_age_1",  
  6.         "nscanned" : 1,  
  7.         "nscannedObjects" : 1,  
  8.         "n" : 1,  
  9.         "millis" : 0,  
  10.         "nYields" : 0,  
  11.         "nChunkSkips" : 0,  
  12.         "isMultiKey" : false,  
  13.         "indexOnly" : false,  
  14.         "indexBounds" : {  
  15.                 "name" : [  
  16.                         [  
  17.                                 "tim",  
  18.                                 "tim"  
  19.                         ]  
  20.                 ],  
  21.                 "age" : [  
  22.                         [  
  23.                                 40,  
  24.                                 40  
  25.                         ]  
  26.                 ]  
  27.         }  
  28. }  
  29. >  

我们看,返回文档的键没有区别,其默认使用了索引"name_1_age_1",这是查询优化器为我们使用的索引!我们此处可以通过hint进行更行,即强制这个查询使用我们定义的“age_1_name_1”索引,如下:

[javascript] view plaincopy
 
 
  1. var cursor = db.user.find({"age":40, "name":"tim"}).hint({"age":1,"name":1});  
  2. > cursor.explain();  
  3. {  
  4.         "cursor" : "BtreeCursor age_1_name_1",  
  5.         "nscanned" : 1,  
  6.         "nscannedObjects" : 1,  
  7.         "n" : 1,  
  8.         "millis" : 0,  
  9.         "nYields" : 0,  
  10.         "nChunkSkips" : 0,  
  11.         "isMultiKey" : false,  
  12.         "indexOnly" : false,  
  13.         "indexBounds" : {  
  14.                 "age" : [  
  15.                         [  
  16.                                 40,  
  17.                                 40  
  18.                         ]  
  19.                 ],  
  20.                 "name" : [  
  21.                         [  
  22.                                 "tim",  
  23.                                 "tim"  
  24.                         ]  
  25.                 ]  
  26.         }  
  27. }  
  28. >  

我们看,hint函数不同于explain函数,会返回游标,我们可以在游标上调用explain查看索引的使用情况!99%的情况,我们没有必要通过hint去强制使用某个索引,MongoDB的查询优化器非常智能,绝对能帮助我们使用最佳的索引去进行查询!

【索引管理】

上面提到索引的元信息(描述信息)存储在集合system.indexes中,这是系统提供的保留集合(创建数据库时),我们不能对其进行插入或删除操作!我们可以从中查看索引定义的相关信息,我们操作这个集合只能通过ensureIndex(插入索引),dropIndex(删除索引)两个函数!我们先看看system.indexes这个集合吧:

[javascript] view plaincopy
 
 
  1. > db.system.indexes.find();  
  2. "v" : 1, "key" : { "_id" : 1 }, "ns" : "mylearndb.blogs", "name" : "_id_" }  
  3. "v" : 1, "key" : { "_id" : 1 }, "ns" : "mylearndb.people", "name" : "_id_" }  
  4. "v" : 1, "key" : { "_id" : 1 }, "ns" : "mylearndb.users", "name" : "_id_" }  

系统会默认为集合创建"_id"唯一性索引,所以这个表会有很多这种“name”为“_id_”的索引信息。键“ns”是“数据库名.集合名”,我们可以通过这个查询一个集合上定义的所有索引:

[javascript] view plaincopy
 
 
  1. > db.system.indexes.find({"ns":"mylearndb.user"});  
  2. "v" : 1, "key" : { "_id" : 1 }, "ns" : "mylearndb.user", "name" : "_id_" }  
  3. "v" : 1, "key" : { "name" : 1 }, "unique" : true, "ns" : "mylearndb.user", "name" : "name_1", "dropDups" : true }  
  4. "v" : 1, "key" : { "name" : 1, "age" : 1 }, "ns" : "mylearndb.user", "name" : "name_1_age_1" }  
  5. "v" : 1, "key" : { "age" : 1, "name" : 1 }, "ns" : "mylearndb.user", "name" : "age_1_name_1" }  
  6. >  

我们也可通过键"name”来查询特定索引的元信息,这里不做演示了。

【修改索引】

随着应用数据的积累或集合结构的改变,老的索引会出现效率低下的问题,修改索引页也是不可避免了。我们可以随时通过ensureIndex函数为集合添加索引,这个函数前面已经多次使用,这里我们再介绍该函数第二个参数文档的一个键"background",布尔类型,表明是否在数据库服务空闲时来构建索引,因为索引的构建是一个耗时耗资源的过程,并且在构建过程中,数据库会阻塞所有的访问请求,对于一个大数量的集合添加索引我们应该启用这个选型!我们还要知道的是,即时启用了这个选项,构建仍会影响正常服务,但不会彻底阻塞数据库服务:

[javascript] view plaincopy
 
 
  1. > db.user.ensureIndex({"name":1,"registered":-1},{"background":true});  
  2. >  

其使用方式和以前创建索引的过程没有区别。

对于没有用的索引,我们应尽快删除,因为索引会影响数据库的增删改的效率!利用集合的dropIndex(indexName)删除一个集合上的特定索引。我们使用这个函数的正确步骤应该是先通过查询system.indexes确认索引的名称,然后再删除,这样做是因为不是所有语言的数据库驱动都是按照我们前面介绍的方式去生成索引名称:

[javascript] view plaincopy
 
 
  1. > db.system.indexes.find({"ns":"mylearndb.user"});  
  2. "v" : 1, "key" : { "_id" : 1 }, "ns" : "mylearndb.user", "name" : "_id_" }  
  3. "v" : 1, "key" : { "name" : 1, "age" : 1 }, "ns" : "mylearndb.user", "name" :  
  4. "v" : 1, "key" : { "age" : 1, "name" : 1 }, "ns" : "mylearndb.user", "name" :  
  5. > db.user.dropIndex("name_1_age_1");  
  6. "nIndexesWas" : 3, "ok" : 1 }  
  7. > db.system.indexes.find({"ns":"mylearndb.user"});  
  8. "v" : 1, "key" : { "_id" : 1 }, "ns" : "mylearndb.user", "name" : "_id_" }  
  9. "v" : 1, "key" : { "age" : 1, "name" : 1 }, "ns" : "mylearndb.user", "name" :  
  10. >  

我们需要注意,集合还有一个函数dropIndexes,不接受任何参数,这个函数要慎用啊,他会直接将集合所有的索引全部删掉!Shell中还可以通过运行命令的方式删除一个索引:

[javascript] view plaincopy
 
 
  1. > db.system.indexes.find({"ns":"mylearndb.user"});  
  2. "v" : 1, "key" : { "_id" : 1 }, "ns" : "mylearndb.user", "name" : "_id_" }  
  3. "v" : 1, "key" : { "age" : 1, "name" : 1 }, "ns" : "mylearndb.user", "name" : "age_1_name_1" }  
  4. > db.runCommand({"dropIndexes":"user","index":"age_1_name_1"});  
  5. "nIndexesWas" : 2, "ok" : 1 }  
  6. > db.system.indexes.find({"ns":"mylearndb.user"});  
  7. "v" : 1, "key" : { "_id" : 1 }, "ns" : "mylearndb.user", "name" : "_id_" }  
  8. >  

从上述的例子可看到这个命令的使用情况,其中键"dropIndexes"指明要删除索引所在的集合,键"index"指明要删除的索引的名称!如果这里名称指明为一个“*”,则表明是删除集合上所有的索引!

除此之外,还有一种删除索引的方式是将集合删掉,这样所有索引(包括键“_id”的唯一索引)、文档都会被删除。上述的删除所有索引的方式都不会删除系统为键“_id”创建的唯一索引。调用集合的remove函数,即使删除所有文档,也不会删除索引,当你往集合中添加数据时,该索引还会起作用。

MongoDB中,往含有数据的集合上添加索引比向空集合添加索引后插入数据要快一些,这个在进行数据库数据初始化时可以考虑一下。

【地理空间索引】

目前网络上LBS(location based service)越来越流行,有一个应用就是查询你所在位置附件的某些场所。为了提升这种查询的速度(查询不同于上面单维度,需要搜索两个维度),MongoDB为坐标平面查询提供了专门的索引,即称作地理空间索引。

由于建立地理空间索引的键的值必须是一对值:一个包含两个数值的数组或包含两个键的内嵌文档(内嵌文档的键的名称无所谓),如:{“gps”:[123,134]},{“gps”:{“x”:123,“y”:134}},{“gps”:{“latitude”:123,“longitude”:134}}。这些文档的键“gps”,我们都可以再上面建立地理空间索引:

[javascript] view plaincopy
 
 
  1. > db.shopstreet.find();  
  2. "_id" : ObjectId("502673678a84caa12e8070be"), "desc" : "coffeehouse", "gps" : [ 100, 120 ] }  
  3. "_id" : ObjectId("502673738a84caa12e8070bf"), "desc" : "coffeebar", "gps" : [ 110, 130 ] }  
  4. "_id" : ObjectId("502673838a84caa12e8070c0"), "desc" : "coffee king", "gps" : [ 110, 123 ] }  
  5. "_id" : ObjectId("502673a08a84caa12e8070c1"), "desc" : "coffee buck", "gps" : [ 106, 113 ] }  
  6. "_id" : ObjectId("502674028a84caa12e8070c2"), "desc" : "nike shop", "gps" : [ 109, 111 ] }  
  7. > db.shopstreet.ensureIndex({"gps" : "2d"});  
  8. >  

建立地理空间索引同样调用ensureIndex方法,{"gps" : "2d"},以前建立索引键的值为1,或-1,地理空间索引的值固定为"2d"。地理空间索引默认值的范围为(-180~180)(对于经纬度很适合),但我们在创建索引时可以指定其值的范围:

[javascript] view plaincopy
 
 
  1. > db.shopstreet.ensureIndex({"gps" : "2d"},{"min":-1000,"max":1000});  
  2. >  

上面我们创建的地理空间索引值的范围为-1000~1000。

地理空间查询可以通过find或使用数据库命令。这里我们需要使用“$near”查询操作符,如下:

[javascript] view plaincopy
 
 
  1. > db.shopstreet.find({"gps":{"$near" : [110,130]}});  
  2. "_id" : ObjectId("502673738a84caa12e8070bf"), "desc" : "coffeebar", "gps" : [ 110, 130 ] }  
  3. "_id" : ObjectId("502673838a84caa12e8070c0"), "desc" : "coffee king", "gps" : [ 110, 123 ] }  
  4. "_id" : ObjectId("502673678a84caa12e8070be"), "desc" : "coffeehouse", "gps" : [ 100, 120 ] }  
  5. "_id" : ObjectId("502673a08a84caa12e8070c1"), "desc" : "coffee buck", "gps" : [ 106, 113 ] }  
  6. "_id" : ObjectId("502674028a84caa12e8070c2"), "desc" : "nike shop", "gps" : [ 109, 111 ] }  
  7. >  

这个查询会按点(110,130)来查询文档,由远及近将符合条件的文档返回,如果没有在游标上使用limit函数,默认会返回100条文档。通常我们会利用limit限制前几个最靠近的目标文档即可!我们可以使用数据库命令完成上述查询:

[javascript] view plaincopy
 
 
  1. > db.shopstreet.ensureIndex({"gps" : "2d"},{"min":-1000,"max":1000});  
  2. > db.shopstreet.find({"gps":{"$near" : [110,130]}});  
  3. "_id" : ObjectId("502673738a84caa12e8070bf"), "desc" : "coffeebar", "gps" : [ 110, 130 ] }  
  4. "_id" : ObjectId("502673838a84caa12e8070c0"), "desc" : "coffee king", "gps" : [ 110, 123 ] }  
  5. "_id" : ObjectId("502673678a84caa12e8070be"), "desc" : "coffeehouse", "gps" : [ 100, 120 ] }  
  6. "_id" : ObjectId("502673a08a84caa12e8070c1"), "desc" : "coffee buck", "gps" : [ 106, 113 ] }  
  7. "_id" : ObjectId("502674028a84caa12e8070c2"), "desc" : "nike shop", "gps" : [ 109, 111 ] }  
  8. > db.runCommand({"geoNear":"shopstreet", "near":[110,130], "num":3});  
  9. {  
  10.         "ns" : "mylearndb.shopstreet",  
  11.         "near" : "1111000111111000000111111000000111111000000111111000",  
  12.         "results" : [  
  13.                 {  
  14.                         "dis" : 0,  
  15.                         "obj" : {  
  16.                                 "_id" : ObjectId("502673738a84caa12e8070bf"),  
  17.                                 "desc" : "coffeebar",  
  18.                                 "gps" : [  
  19.                                         110,  
  20.                                         130  
  21.                                 ]  
  22.                         }  
  23.                 },  
  24.                 {  
  25.                         "dis" : 7,  
  26.                         "obj" : {  
  27.                                 "_id" : ObjectId("502673838a84caa12e8070c0"),  
  28.                                 "desc" : "coffee king",  
  29.                                 "gps" : [  
  30.                                         110,  
  31.                                         123  
  32.                                 ]  
  33.                         }  
  34.                 },  
  35.                 {  
  36.                         "dis" : 14.142135623730951,  
  37.                         "obj" : {  
  38.                                 "_id" : ObjectId("502673678a84caa12e8070be"),  
  39.                                 "desc" : "coffeehouse",  
  40.                                 "gps" : [  
  41.                                         100,  
  42.                                         120  
  43.                                 ]  
  44.                         }  
  45.                 }  
  46.         ],  
  47.         "stats" : {  
  48.                 "time" : 0,  
  49.                 "btreelocs" : 0,  
  50.                 "nscanned" : 5,  
  51.                 "objectsLoaded" : 4,  
  52.                 "avgDistance" : 7.04737854124365,  
  53.                 "maxDistance" : 14.142152482638018  
  54.         },  
  55.         "ok" : 1  
  56. }  
  57. >  

这个命令接受一个文档,文档中键"geoNear"指明查询的集合,键"near"指明查询的基准坐标值,键"num"指定返回的结果数量!然后执行后返回如上结果,这个命令同时还会返回每个返回文档距查询点的距离,这个距离的数据单位就是你数据的单位,如上述数据位经纬度,键“dis”后面的距离数值就是经纬度!

MongoDB不但能找到靠近一个点的文档,还能找到指定形状内的文档!使用查询操作符"$within"即可,同时通过MongoDB提供的查询操作符指定形状,如“$box”可以指定矩形,“$center”可以指定圆形:

[javascript] view plaincopy
 
 
  1. > db.shopstreet.find();  
  2. "_id" : ObjectId("502673678a84caa12e8070be"), "desc" : "coffeehouse", "gps" : [ 100, 120 ] }  
  3. "_id" : ObjectId("502673738a84caa12e8070bf"), "desc" : "coffeebar", "gps" : [ 110, 130 ] }  
  4. "_id" : ObjectId("502673838a84caa12e8070c0"), "desc" : "coffee king", "gps" : [ 110, 123 ] }  
  5. "_id" : ObjectId("502673a08a84caa12e8070c1"), "desc" : "coffee buck", "gps" : [ 106, 113 ] }  
  6. "_id" : ObjectId("502674028a84caa12e8070c2"), "desc" : "nike shop", "gps" : [ 109, 111 ] }  
  7. > db.shopstreet.find({"gps" : {"$within" : {"$box":[[109,130],[110,120]]}}});  
  8. "_id" : ObjectId("502673838a84caa12e8070c0"), "desc" : "coffee king", "gps" : [ 110, 123 ] }  
  9. "_id" : ObjectId("502673738a84caa12e8070bf"), "desc" : "coffeebar", "gps" : [ 110, 130 ] }  


 通过{"$box":[[109,130],[110,120]]}指定一个矩形,其左下角和右上角坐标!“$within”指定查询在这个范围内的点。

[javascript] view plaincopy
 
 
  1. > db.shopstreet.find();  
  2. "_id" : ObjectId("502673678a84caa12e8070be"), "desc" : "coffeehouse", "gps" : [ 100, 120 ] }  
  3. "_id" : ObjectId("502673738a84caa12e8070bf"), "desc" : "coffeebar", "gps" : [ 110, 130 ] }  
  4. "_id" : ObjectId("502673838a84caa12e8070c0"), "desc" : "coffee king", "gps" : [ 110, 123 ] }  
  5. "_id" : ObjectId("502673a08a84caa12e8070c1"), "desc" : "coffee buck", "gps" : [ 106, 113 ] }  
  6. "_id" : ObjectId("502674028a84caa12e8070c2"), "desc" : "nike shop", "gps" : [ 109, 111 ] }  
  7. > db.shopstreet.find({"gps" : {"$within" : {"$center":[[110,130],10]}}});  
  8. "_id" : ObjectId("502673838a84caa12e8070c0"), "desc" : "coffee king", "gps" : [ 110, 123 ] }  
  9. "_id" : ObjectId("502673738a84caa12e8070bf"), "desc" : "coffeebar", "gps" : [ 110, 130 ] }  
  10. >  

上述是通过指定一个圆形来查询同样的点,{"$center":[[110,130],10]},指定了圆形的圆心坐标和半径!

【复合地理空间索引】

通常我们查找一个位置,不会只是通过坐标去定位,还会添加其他条件,我们构建索引时也可以用上:

[javascript] view plaincopy
 
 
  1. > db.shopstreet.find();  
  2. "_id" : ObjectId("502673678a84caa12e8070be"), "desc" : "coffeehouse", "gps" : [ 100, 120 ] }  
  3. "_id" : ObjectId("502673738a84caa12e8070bf"), "desc" : "coffeebar", "gps" : [ 110, 130 ] }  
  4. "_id" : ObjectId("502673838a84caa12e8070c0"), "desc" : "coffee king", "gps" : [ 110, 123 ] }  
  5. "_id" : ObjectId("502673a08a84caa12e8070c1"), "desc" : "coffee buck", "gps" : [ 106, 113 ] }  
  6. "_id" : ObjectId("502674028a84caa12e8070c2"), "desc" : "nike shop", "gps" : [ 109, 111 ] }  
  7. > db.showstreet.ensureIndex({"gps":"2d", "desc":1});  
  8. >  

上述就创建了一个复合地理空间索引,这个索引更符合实际需要!

上述就是MongoDB中索引的使用,索引是数据库查询提升效率的利器,对于任何数据库都是如此!我们应该好好掌握!

 



mongodb索引讲解与性能调优

 

mongodb索引规则基本上与传统的关系库一样,大部分优化mysql/Oracle/SQLite索引的技巧也适用于mongodb。

 

一、 为什么用索引:

当查询中用到某些条件时,可以对该键建立索引,以提高查询速度。

二、 索引管理:

a) 查询索引:

i. 查询已有索引的明细:

查询索引很简单,比如说需要查询mailaccess数据库中的Mail collection上的索引时:

mongo                          进入mongo

MongoDB shell version: 1.8.1        

connecting to: test

> use mailaccess                  进入mailaccess database

switched to db mailaccess

> db.Mail.getIndexes()             查询索引明细

[

        {

                "name" : "_id_",

                "ns" : "mailaccess.Mail",

                "key" : {

                        "_id" : 1

                },

                "v" : 0

        },

        {

                "_id" : ObjectId("4df063ac48857df7ac35c348"),

                "ns" : "mailaccess.Mail",

                "key" : {

                        "user" : 1,

                        "folderId" : 1,

                        "mailfilename" : 1

             

以上是关于MongoDB 索引的使用, 管理 和优化的主要内容,如果未能解决你的问题,请参考以下文章

MongoDB性能优化指南

MongoDB 创建基础索引组合索引唯一索引以及优化

MongoDB 创建基础索引组合索引唯一索引以及优化

MongoDB 创建基础索引组合索引唯一索引以及优化

MongoDB中索引的创建和使用详解

MongoDB 索引 和 explain 的使用