python爬虫---mongodb基础

Posted 乘地铁

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了python爬虫---mongodb基础相关的知识,希望对你有一定的参考价值。

一,mongodb简介

MongoDB是一个基于分布式文件存储的数据库。由C++语言编写。旨在为WEB应用提供可扩展的高性能数据存储解决方案。
MongoDB是一个介于关系数据库和非关系数据库之间的产品,是非关系数据库当中功能最丰富,最像关系数据库的。它支持的数据结构非常松散,是类似json的bson格式,因此可以存储比较复杂的数据类型。Mongo最大的特点是它支持的查询语言非常强大,其语法有点类似于面向对象的查询语言,几乎可以实现类似关系数据库单表查询的绝大部分功能,而且还支持对数据建立索引。

  下载安装mongodb: download

  mongodb的优势

 

二,mongodb的curd(增删改查)

  数据库操作

> use blog
switched to db blog
> show dbs
admin   0.000GB
config  0.000GB
local   0.000GB
test    0.000GB
> db.article.insert({"title":"西游记"})
WriteResult({ "nInserted" : 1 })
> db.userinfo.insert({"name":"alex"})
WriteResult({ "nInserted" : 1 })
> show tables;
article
userinfo
> show dbs
admin 0.000GB
blog 0.000GB
config 0.000GB
local 0.000GB
test 0.000GB
> db.dropDatabase()
{ "dropped" : "blog", "ok" : 1 }  

  

  集合操作

> use blog
switched to db blog
> db.article.insert({"title":"python"})
WriteResult({ "nInserted" : 1 })
> db.article.insert({"title":"linux"})
WriteResult({ "nInserted" : 1 })
> show tables;
article
> db.article.drop()
true
> show tables;
>

  

  文档操作

    添加文档

#1、没有指定_id则默认ObjectId,_id不能重复,且在插入后不可变
 
#2、插入单条
user0={
    "name":"egon",
    "age":10,
    \'hobbies\':[\'music\',\'read\',\'dancing\'],
    \'addr\':{
        \'country\':\'China\',
        \'city\':\'BJ\'
    }
}
 
db.test.insert(user0)
db.test.find()
 
#3、插入多条
user1={
    "_id":1,
    "name":"alex",
    "age":10,
    \'hobbies\':[\'music\',\'read\',\'dancing\'],
    \'addr\':{
        \'country\':\'China\',
        \'city\':\'weifang\'
    }
}
 
user2={
    "_id":2,
    "name":"wupeiqi",
    "age":20,
    \'hobbies\':[\'music\',\'read\',\'run\'],
    \'addr\':{
        \'country\':\'China\',
        \'city\':\'hebei\'
    }
}
 
 
user3={
    "_id":3,
    "name":"yuanhao",
    "age":30,
    \'hobbies\':[\'music\',\'drink\'],
    \'addr\':{
        \'country\':\'China\',
        \'city\':\'heibei\'
    }
}
 
user4={
    "_id":4,
    "name":"jingliyang",
    "age":40,
    \'hobbies\':[\'music\',\'read\',\'dancing\',\'tea\'],
    \'addr\':{
        \'country\':\'China\',
        \'city\':\'BJ\'
    }
}
 
user5={
    "_id":5,
    "name":"jinxin",
    "age":50,
    \'hobbies\':[\'music\',\'read\',],
    \'addr\':{
        \'country\':\'China\',
        \'city\':\'henan\'
    }
}
db.user.insertMany([user1,user2,user3,user4,user5]) 
db.user.find()

    查看文档

###################### (1) 比较运算  ###################################
 
# SQL:=,!=,>,<,>=,<=
# MongoDB:{key:value}代表什么等于什么,"$ne","$gt","$lt","gte","lte",其中"$ne"能用于所有数据类型
 
#1、select * from db1.user where name = "alex";
db.user.find({\'name\':\'alex\'})
 
#2、select * from db1.user where name != "alex";
db.user.find({\'name\':{"$ne":\'alex\'}})
 
#3、select * from db1.user where id > 2;
db.user.find({\'_id\':{\'$gt\':2}})
 
#4、select * from db1.user where id < 3;
db.user.find({\'_id\':{\'$lt\':3}})
 
#5、select * from db1.user where id >= 2;
db.user.find({"_id":{"$gte":2,}})
 
#6、select * from db1.user where id <= 2;
db.user.find({"_id":{"$lte":2}})

###################### (2) 逻辑运算  ###################################
 
# SQL:and,or,not
# MongoDB:字典中逗号分隔的多个条件是and关系,"$or"的条件放到[]内,"$not"
 
#1、select * from db1.user where id >= 2 and id < 4;
db.user.find({\'_id\':{"$gte":2,"$lt":4}})
 
#2、select * from db1.user where id >= 2 and age < 40;
db.user.find({"_id":{"$gte":2},"age":{"$lt":40}})
 
#3、select * from db1.user where id >= 5 or name = "alex";
db.user.find({
    "$or":[
        {\'_id\':{"$gte":5}},
        {"name":"alex"}
        ]
})
#4、select * from db1.user where id % 2=1;
db.user.find({\'_id\':{"$mod":[2,1]}})
 
#5、上题,取反
db.user.find({\'_id\':{"$not":{"$mod":[2,1]}}})
###################### (3) 成员运算  ###################################
 
# SQL:in,not in
# MongoDB:"$in","$nin"
 
#1、select * from db1.user where age in (20,30,31);
db.user.find({"age":{"$in":[20,30,31]}})
 
#2、select * from db1.user where name not in (\'alex\',\'yuanhao\');
db.user.find({"name":{"$nin":[\'alex\',\'yuanhao\']}})

###################### (4) 正则匹配  ###################################
 
# SQL: regexp 正则
# MongoDB: /正则表达/i
 
#1、select * from db1.user where name regexp \'^j.*?(g|n)$\';
db.user.find({\'name\':/^j.*?(g|n)$/i})


###################### (5) 取指定字段  ###################################
 
#1、select name,age from db1.user where id=3;
db.user.find({\'_id\':3},{\'\'name\':1,\'age\':1})
#2 db.user.find({\'_id\':3},{"addr":0})
{ "_id" : 3, "name" : "yuanhao", "age" : 30, "hobbies" : [ "music", "drink" ] }

###################### (6) 查询数组  ###################################
 
#1、查看有dancing爱好的人
db.user.find({\'hobbies\':\'dancing\'})
 
#2、查看既有dancing爱好又有tea爱好的人
db.user.find({
    \'hobbies\':{
        "$all":[\'dancing\',\'tea\']
        }
})
 
#3、查看第4个爱好为tea的人
db.user.find({"hobbies.3":\'tea\'})
 
#4、查看所有人最后两个爱好
db.user.find({},{\'hobbies\':{"$slice":-2},"age":0,"_id":0,"name":0,"addr":0})
 
#5、查看所有人的第2个到第3个爱好
db.user.find({},{\'hobbies\':{"$slice":[1,2]},"age":0,"_id":0,"name":0,"addr":0})
 

###################### (7) 排序  ###################################
 
# 排序:--1代表升序,-1代表降序
db.user.find().sort({"name":1,})
db.user.find().sort({"age":-1,\'_id\':1})

###################### (8) 分页  ###################################
 
# 分页:--limit代表取多少个document,skip代表跳过前多少个document。
db.user.find().sort({\'age\':1}).limit(1).skip(2)
 
###################### (9) 查询数量  ###################################
# 获取数量
db.user.count({\'age\':{"$gt":30}})
 
--或者
db.user.find({\'age\':{"$gt":30}}).count()

###################### (10) 其它  ###################################
 
#1、{\'key\':null} 匹配key的值为null或者没有这个key
db.t2.insert({\'a\':10,\'b\':111})
db.t2.insert({\'a\':20})
db.t2.insert({\'b\':null})
 
> db.t2.find({"b":null})
{ "_id" : ObjectId("5a5cc2a7c1b4645aad959e5a"), "a" : 20 }
{ "_id" : ObjectId("5a5cc2a8c1b4645aad959e5b"), "b" : null }
 
#2、查找所有
db.user.find() #等同于db.user.find({})
db.user.find().pretty()
 
#3、查找一个,与find用法一致,只是只取匹配成功的第一个
db.user.findOne({"_id":{"$gt":3}}) 

    修改文档

############################## 1 update的语法  ##############################
 
update() 方法用于更新已存在的文档。语法格式如下:
db.collection.update(
   <query>,
   <update>,
   {
     upsert: <boolean>,
     multi: <boolean>,
     writeConcern: <document>
   }
)
参数说明:对比update db1.t1 set name=\'EGON\',sex=\'Male\' where name=\'egon\' and age=18;
 
query : 相当于where条件。
update : update的对象和一些更新的操作符(如$,$inc...等,相当于set后面的
upsert : 可选,默认为false,代表如果不存在update的记录不更新也不插入,设置为true代表插入。
multi : 可选,默认为false,代表只更新找到的第一条记录,设为true,代表更新找到的全部记录。
writeConcern :可选,抛出异常的级别。
 
更新操作是不可分割的:若两个更新同时发送,先到达服务器的先执行,然后执行另外一个,不会破坏文档。
 
############################## 2 覆盖更新  ##############################
 
#注意:除非是删除,否则_id是始终不会变的
#1 :
db.user.update({\'age\':20},{"name":"Wxx","hobbies_count":3})
是用{"_id":2,"name":"Wxx","hobbies_count":3}覆盖原来的记录
 
#2、一种最简单的更新就是用一个新的文档完全替换匹配的文档。这适用于大规模式迁移的情况。例如
var obj=db.user.findOne({"_id":2})
 
obj.username=obj.name+\'SB\'
obj.hobbies_count++
delete obj.age
 
db.user.update({"_id":2},obj)
 
############################## 3 局部更新  ##############################
 
#设置:$set
 
通常文档只会有一部分需要更新。可以使用原子性的更新修改器,指定对文档中的某些字段进行更新。
更新修改器是种特殊的键,用来指定复杂的更新操作,比如修改、增加后者删除
 
#1、update db1.user set  name="WXX" where id = 2
db.user.update({\'_id\':2},{"$set":{"name":"WXX",}})
 
#2、没有匹配成功则新增一条{"upsert":true}
db.user.update({\'_id\':6},{"$set":{"name":"egon","age":18}},{"upsert":true})
 
#3、默认只改匹配成功的第一条,{"multi":改多条}
db.user.update({\'_id\':{"$gt":4}},{"$set":{"age":28}})
db.user.update({\'_id\':{"$gt":4}},{"$set":{"age":38}},{"multi":true})
 
#4、修改内嵌文档,把名字为alex的人所在的地址国家改成Japan
db.user.update({\'name\':"alex"},{"$set":{"addr.country":"Japan"}})
 
#5、把名字为alex的人的地2个爱好改成piao
db.user.update({\'name\':"alex"},{"$set":{"hobbies.1":"piao"}})
 
#6、删除alex的爱好,$unset
db.user.update({\'name\':"alex"},{"$unset":{"hobbies":""}})
 
############################## 4 自增或自减  ##############################
 
#增加和减少:$inc
 
#1、所有人年龄增加一岁
db.user.update({},
    {
        "$inc":{"age":1}
    },
    {
        "multi":true
    }
    )
#2、所有人年龄减少5岁
db.user.update({},
    {
        "$inc":{"age":-5}
    },
    {
        "multi":true
    }
    )
 
 
############################## 5 添加删除数组内元素 ##############################
 
#添加删除数组内元素:$push,$pop,$pull
     
往数组内添加元素:$push
#1、为名字为yuanhao的人添加一个爱好read
db.user.update({"name":"yuanhao"},{"$push":{"hobbies":"read"}})
 
#2、为名字为yuanhao的人一次添加多个爱好tea,dancing
db.user.update({"name":"yuanhao"},{"$push":{
    "hobbies":{"$each":["tea","dancing"]}
}})
 
按照位置且只能从开头或结尾删除元素:$pop
#3、{"$pop":{"key":1}} 从数组末尾删除一个元素
 
db.user.update({"name":"yuanhao"},{"$pop":{
    "hobbies":1}
})
 
#4、{"$pop":{"key":-1}} 从头部删除
db.user.update({"name":"yuanhao"},{"$pop":{
    "hobbies":-1}
})
 
#5、按照条件删除元素,:"$pull" 把符合条件的统统删掉,而$pop只能从两端删
db.user.update({\'addr.country\':"China"},{"$pull":{
    "hobbies":"read"}
},
{
    "multi":true
}
)
 
 
############################## 6 避免重复添加 ##############################
 
#避免添加重复:"$addToSet"
 
db.urls.insert({"_id":1,"urls":[]})
 
db.urls.update({"_id":1},{"$addToSet":{"urls":\'http://www.baidu.com\'}})
db.urls.update({"_id":1},{"$addToSet":{"urls":\'http://www.baidu.com\'}})
db.urls.update({"_id":1},{"$addToSet":{"urls":\'http://www.baidu.com\'}})
 
db.urls.update({"_id":1},{
    "$addToSet":{
        "urls":{
        "$each":[
            \'http://www.baidu.com\',
            \'http://www.baidu.com\',
            \'http://www.xxxx.com\'
            ]
            }
        }
    }
)
 
############################## 7 其它 ##############################
 
#1、了解:限制大小"$slice",只留最后n个
 
db.user.update({"_id":5},{
    "$push":{"hobbies":{
        "$each":["read",\'music\',\'dancing\'],
        "$slice":-2
    }
    }
})
 
#2、了解:排序The $sort element value must be either 1 or -1"
db.user.update({"_id":5},{
    "$push":{"hobbies":{
        "$each":["read"

以上是关于python爬虫---mongodb基础的主要内容,如果未能解决你的问题,请参考以下文章

scrapy按顺序启动多个爬虫代码片段(python3)

scrapy主动退出爬虫的代码片段(python3)

Python3爬虫Scrapy+MongoDB+MySQL

运维学python之爬虫高级篇scrapy爬取知乎关注用户存入mongodb

如何入门 Python 爬虫

Python网络爬虫Scrapy+MongoDB +Redis实战爬取腾讯视频动态评论教学视频