解决mongodb查询慢的问题

Posted 2021-01-02 ExplorerMan

    最近项目上一直在用mongodb作为数据库，mongodb有他的优势，文档型类json格式存储数据，修改起来比传统的关系型数据库更方便，但是最近在用mongodb出现了查询缓慢的问题，我用命令行查询，显示速度非常快，而且也添加了索引，2万条数据只需要十几毫秒，但是用代码实现却需要好几秒，我调试了代码发现代码生成的查询语句跟我在命令行的查询语句是一样的，我当时就很纳闷。

    我当时的代码是这样写的：

var list = collection.FindAs<AdClick>(query).SetSortOrder(s).toList();

这是很正常的一行代码，根据查询条件，按照排序返回List集合，当我去掉tolist之后，速度就秒查了，然后我看到返回的类型是mongoCursor。这里我要介绍一下MongoCursor，他是mongo的游标，他其实并没有真正的查询到结果，相当于懒加载，

在调用find时，MongoDB shell并不立即查询数据库，而是在等待真正开始获取数据时才发送查询。（类似Linq中IQueryable），你可以通过游标来对最终结果进行控制。比如限制结果数量，略过某一部分，根据任意键按任意顺序的组合对结果进行各种排序等。当时当你调用ToList()的时候，他就会把查询数据全部加载到内存，如果查询的数据多，这个过程那个就会很慢，所以真正慢的原因，就是ToList()，知道了慢的原因修改器起来就很好改了。


    但是修改了这个又发现了另外一个问题，那就是Mongodb加查询条件的count（）也会很慢，因为做统计需要得到总数，直接不加查询条件直接调用Count()比加了查询条件调用count()快，因为mongodb的查询是根据索引来的，如果你查询条件越多，没有命中查询条件的索引，就会全文搜索，所以就会很慢，所以使用count()函数的时候，尽量不加查询条件，但显然是不现实的，因为查询条件会必然很多。 后来在网上看到一个解决方案就是用MongoCursor.Size()方法，果然速度快了很多，不知道原因，没有仔细研究。


    还有一个问题，就是mongo的分页问题，你会发现，开始几页会很快，越到后面，分页越慢，这是mongo会把查询结果加载到内存，由于内存的限制，越到后面越慢，有什么解决方案呢？ 


 db.test.sort({"amount":1}).skip(100000).limit(10)  //183ms
db.test.find({amount:{$gt:2399927}}).sort({"amount":1}).limit(10)  //53ms
  根据查询条件加载分页，只查询10条数据加载到内存，skip分页貌似很影响效率，不要轻易使用Skip来做查询，否则数据量大了就会导致性能急剧下降，这是因为Skip是一条一条的数过来的，多了自然就慢了。