爬虫系列之mongodb

Posted 云丛

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了爬虫系列之mongodb相关的知识,希望对你有一定的参考价值。

mongodb

mongo简介

简介

MongoDB是一个基于分布式文件存储的数据库。由C++语言编写。旨在为WEB应用提供可扩展的高性能数据存储解决方案。
MongoDB是一个介于关系数据库和非关系数据库之间的产品,是非关系数据库当中功能最丰富,最像关系数据库的。它支持的数据结构非常松散,是类似json的bson格式,因此可以存储比较复杂的数据类型。Mongo最大的特点是它支持的查询语言非常强大,其语法有点类似于面向对象的查询语言,几乎可以实现类似关系数据库单表查询的绝大部分功能,而且还支持对数据建立索引。

下载安装

download

安装

mongodb的优势

mongodb的CURD

数据库操作

> use blog
switched to db blog
> show dbs
admin   0.000GB
config  0.000GB
local   0.000GB
test    0.000GB
> db.article.insert({"title":"西游记"})
WriteResult({ "nInserted" : 1 })
> db.userinfo.insert({"name":"alex"})
WriteResult({ "nInserted" : 1 })
> show tables;
article
userinfo
> show dbs
admin 0.000GB
blog 0.000GB
config 0.000GB
local 0.000GB
test 0.000GB
> db.dropDatabase()
{ "dropped" : "blog", "ok" : 1 }  

集合操作

> use blog
switched to db blog
> db.article.insert({"title":"python"})
WriteResult({ "nInserted" : 1 })
> db.article.insert({"title":"linux"})
WriteResult({ "nInserted" : 1 })
> show tables;
article
> db.article.drop()
true
> show tables;
>

文档操作

添加文档

#1、没有指定_id则默认ObjectId,_id不能重复,且在插入后不可变

#2、插入单条
user0={
"name":"egon",
"age":10,
\'hobbies\':[\'music\',\'read\',\'dancing\'],
\'addr\':{
\'country\':\'China\',
\'city\':\'BJ\'
}
}

db.test.insert(user0)
db.test.find()

#3、插入多条
user1={
"_id":1,
"name":"alex",
"age":10,
\'hobbies\':[\'music\',\'read\',\'dancing\'],
\'addr\':{
\'country\':\'China\',
\'city\':\'weifang\'
}
}

user2={
"_id":2,
"name":"wupeiqi",
"age":20,
\'hobbies\':[\'music\',\'read\',\'run\'],
\'addr\':{
\'country\':\'China\',
\'city\':\'hebei\'
}
}

user3={
"_id":3,
"name":"yuanhao",
"age":30,
\'hobbies\':[\'music\',\'drink\'],
\'addr\':{
\'country\':\'China\',
\'city\':\'heibei\'
}
}

user4={
"_id":4,
"name":"jingliyang",
"age":40,
\'hobbies\':[\'music\',\'read\',\'dancing\',\'tea\'],
\'addr\':{
\'country\':\'China\',
\'city\':\'BJ\'
}
}

user5={
"_id":5,
"name":"jinxin",
"age":50,
\'hobbies\':[\'music\',\'read\',],
\'addr\':{
\'country\':\'China\',
\'city\':\'henan\'
}
}
db.user.insertMany([user1,user2,user3,user4,user5]) 
db.user.find()

查看文档

###################### (1) 比较运算  ###################################

# SQL:=,!=,>,<,>=,<=

MongoDB:{key:value}代表什么等于什么,"$ne","$gt","$lt","gte","lte",其中"$ne"能用于所有数据类型

#1、select * from db1.user where name = "alex";
db.user.find({\'name\':\'alex\'})

#2、select * from db1.user where name != "alex";
db.user.find({\'name\':{"$ne":\'alex\'}})

#3、select * from db1.user where id > 2;
db.user.find({\'_id\':{\'$gt\':2}})

#4、select * from db1.user where id < 3;
db.user.find({\'_id\':{\'$lt\':3}})

#5、select * from db1.user where id >= 2;
db.user.find({"_id":{"$gte":2,}})

#6、select * from db1.user where id <= 2;
db.user.find({"_id":{"$lte":2}})

###################### (2) 逻辑运算 ###################################

# SQL:and,or,not

MongoDB:字典中逗号分隔的多个条件是and关系,"$or"的条件放到[]内,"$not"

#1、select * from db1.user where id >= 2 and id < 4;
db.user.find({\'_id\':{"$gte":2,"$lt":4}})

#2、select * from db1.user where id >= 2 and age < 40;
db.user.find({"_id":{"$gte":2},"age":{"$lt":40}})

#3、select * from db1.user where id >= 5 or name = "alex";
db.user.find({
"$or":[
{
\'_id\':{"$gte":5}},
{
"name":"alex"}
]
})
#4、select * from db1.user where id % 2=1;
db.user.find({\'_id\':{"$mod":[2,1]}})

#5、上题,取反
db.user.find({\'_id\':{"$not":{"$mod":[2,1]}}})
###################### (3) 成员运算 ###################################

# SQL:in,not in

MongoDB:"$in","$nin"

#1、select * from db1.user where age in (20,30,31);
db.user.find({"age":{"$in":[20,30,31]}})

#2、select * from db1.user where name not in (\'alex\',\'yuanhao\');
db.user.find({"name":{"$nin":[\'alex\',\'yuanhao\']}})

###################### (4) 正则匹配 ###################################

# SQL: regexp 正则

MongoDB: /正则表达/i

#1、select * from db1.user where name regexp \'^j.?(g|n)$\';
db.user.find({\'name\':/^j.
?(g|n)$/i})

###################### (5) 取指定字段 ###################################

#1、select name,age from db1.user where id=3;
db.user.find({\'_id\':3},{\'\'name\':1,\'age\':1})
#2 db.user.find({\'_id\':3},{"addr":0})
{ "_id" : 3, "name" : "yuanhao", "age" : 30, "hobbies" : [ "music", "drink" ] }

###################### (6) 查询数组 ###################################

#1、查看有dancing爱好的人
db.user.find({\'hobbies\':\'dancing\'})

#2、查看既有dancing爱好又有tea爱好的人
db.user.find({
\'hobbies\':{
"$all":[\'dancing\',\'tea\']
}
})

#3、查看第4个爱好为tea的人
db.user.find({"hobbies.3":\'tea\'})

#4、查看所有人最后两个爱好
db.user.find({},{\'hobbies\':{"$slice":-2},"age":0,"_id":0,"name":0,"addr":0})

#5、查看所有人的第2个到第3个爱好
db.user.find({},{\'hobbies\':{"$slice":[1,2]},"age":0,"_id":0,"name":0,"addr":0})

###################### (7) 排序 ###################################

# 排序:--1代表升序,-1代表降序
db.user.find().sort({"name":1,})
db.user.find().sort({
"age":-1,\'_id\':1})

###################### (8) 分页 ###################################

# 分页:--limit代表取多少个document,skip代表跳过前多少个document。
db.user.find().sort({\'age\':1}).limit(1).skip(2)

###################### (9) 查询数量 ###################################

获取数量

db.user.count({\'age\':{"$gt":30}})

--或者
db.user.find({
\'age\':{"$gt":30}}).count()

###################### (10) 其它 ###################################

#1、{\'key\':null} 匹配key的值为null或者没有这个key
db.t2.insert({\'a\':10,\'b\':111})
db.t2.insert({
\'a\':20})
db.t2.insert({
\'b\':null})

> db.t2.find({"b":null})
{
"_id" : ObjectId("5a5cc2a7c1b4645aad959e5a"), "a" : 20 }
{
"_id" : ObjectId("5a5cc2a8c1b4645aad959e5b"), "b" : null }

#2、查找所有
db.user.find() #等同于db.user.find({})
db.user.find().pretty()

#3、查找一个,与find用法一致,只是只取匹配成功的第一个
db.user.findOne({"_id":{"$gt":3}}) 

修改文档

############################## 1 update的语法  ##############################

update() 方法用于更新已存在的文档。语法格式如下:
db.collection.update(
   <query>,
   <update>,
   {
     upsert: <boolean>,
     multi: <boolean>,
     writeConcern: <document>
   }
)
参数说明:对比update db1.t1 set name=\'EGON\',sex=\'Male\' where name=\'egon\' and age=18;

query : 相当于where条件。
update : update的对象和一些更新的操作符(如$,$inc...等,相当于set后面的
upsert : 可选,默认为false,代表如果不存在update的记录不更新也不插入,设置为true代表插入。
multi : 可选,默认为false,代表只更新找到的第一条记录,设为true,代表更新找到的全部记录。
writeConcern :可选,抛出异常的级别。

更新操作是不可分割的:若两个更新同时发送,先到达服务器的先执行,然后执行另外一个,不会破坏文档。

############################## 2 覆盖更新 ##############################

#注意:除非是删除,否则_id是始终不会变的

1 :

db.user.update({\'age\':20},{"name":"Wxx","hobbies_count":3})
是用{
"_id":2,"name":"Wxx","hobbies_count":3}覆盖原来的记录

#2、一种最简单的更新就是用一个新的文档完全替换匹配的文档。这适用于大规模式迁移的情况。例如
var obj=db.user.findOne({"_id":2})

obj.username=obj.name+\'SB\'
obj.hobbies_count
++
delete obj.age

db.user.update({"_id":2},obj)

############################## 3 局部更新 ##############################

#设置:$set

通常文档只会有一部分需要更新。可以使用原子性的更新修改器,指定对文档中的某些字段进行更新。
更新修改器是种特殊的键,用来指定复杂的更新操作,比如修改、增加后者删除

#1、update db1.user set name="WXX" where id = 2
db.user.update({\'_id\':2},{"$set":{"name":"WXX",}})

#2、没有匹配成功则新增一条{"upsert":true}
db.user.update({\'_id\':6},{"$set":{"name":"egon","age":18}},{"upsert":true})

#3、默认只改匹配成功的第一条,{"multi":改多条}
db.user.update({\'_id\':{"$gt":4}},{"$set":{"age":28}})
db.user.update({
\'_id\':{"$gt":4}},{"$set":{"age":38}},{"multi":true})

#4、修改内嵌文档,把名字为alex的人所在的地址国家改成Japan
db.user.update({\'name\':"alex"},{"$set":{"addr.country":"Japan"}})

#5、把名字为alex的人的地2个爱好改成piao
db.user.update({\'name\':"alex"},{"$set":{"hobbies.1":"piao"}})

#6、删除alex的爱好,$unset
db.user.update({\'name\':"alex"},{"$unset":{"hobbies":""}})

############################## 4 自增或自减 ##############################

#增加和减少:$inc

#1、所有人年龄增加一岁
db.user.update({},
{
"$inc":{"age":1}
},
{
"multi":true
}
)
#2、所有人年龄减少5岁
db.user.update({},
{
"$inc":{"age":-5}
},
{
"multi":true
}
)

############################## 5 添加删除数组内元素 ##############################

#添加删除数组内元素:$push,$pop,$pull

往数组内添加元素:$push
#1、为名字为yuanhao的人添加一个爱好read
db.user.update({"name":"yuanhao"},{"$push":{"hobbies":"read"}})

#2、为名字为yuanhao的人一次添加多个爱好tea,dancing
db.user.update({"name":"yuanhao"},{"$push":{
"hobbies":{"$each":["tea","dancing"]}
}})

按照位置且只能从开头或结尾删除元素:$pop
#3、{"$pop":{"key":1}} 从数组末尾删除一个元素

db.user.update({
"name":"yuanhao"},{"$pop":{
"hobbies":1}
})

#4、{"$pop":{"key":-1}} 从头部删除
db.user.update({"name":"yuanhao"},{"$pop":{
"hobbies":-1}
})

#5、按照条件删除元素,:"$pull" 把符合条件的统统删掉,而$pop只能从两端删
db.user.update({\'addr.country\':"China"},{"$pull":{
"hobbies":"read"}
},
{
"multi":true
}
)

############################## 6 避免重复添加 ##############################

#避免添加重复:"$addToSet"

db.urls.insert({
"_id":1,"urls":[]})

db.urls.update({"_id":1},{"$addToSet":{"urls":\'http://www.baidu.com\'}})
db.urls.update({
"_id":1},{"$addToSet":{"urls":\'http://www.baidu.com\'}})
db.urls.update({
"_id":1},{"$addToSet":{"urls":\'http://www.baidu.com\'}})

db.urls.update({"_id":1},{
"$addToSet":{
"urls":{
"$each":[
\'http://www.baidu.com\',
\'http://www.baidu.com\',
\'http://www.xxxx.com\'
]
}
}
}
)

############################## 7 其它 ##############################

#1、了解:限制大小"$slice",只留最后n个

db.user.update({
"_id":5},{
"$push":{"hobbies":{
"$each":["read",\'music\',\'以上是关于爬虫系列之mongodb的主要内容,如果未能解决你的问题,请参考以下文章

爬虫系列之股票信息爬取

运维学python之爬虫中级篇MongoDB

爬虫之mongodb数据库

运维学python之爬虫高级篇scrapy爬取知乎关注用户存入mongodb

网络爬虫之MongoDB数据库的使用

Python爬虫之Scrapy框架系列(17)——实战某代码托管平台登录FormRequest类