如何将python爬虫数据直接存到数据库

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了如何将python爬虫数据直接存到数据库相关的知识,希望对你有一定的参考价值。

参考技术A 直接使用sqlite 这个是python自带的
用起来也很简单百度一下教程就行 ,很容易就把数据写到数据库里了

从数据库里python获取数据存到本地数据库

参考技术A python项目中从接口获取数据并存入本地数据库
首先用postman测试接口
根据请求方式将数据存入数据库中
首先用postman测试接口
通过url,选择相应的请求方式,头部,数据格式,点击send看能否获取数据
根据请求方式将数据存入数据库中

下面是post请求方式def get() URL = '' HEADERS = 'Content-Type': 'application/json' JSON = response = request.post(URL,headers=HEADERS,json=JSON) #json.loads()用于将str类型的数据转成dict jsondata = json.load(response.txt) for i in jsondata: date1 = i[data] type1 = i[type] ... #拼接sql语句 sql="" conn=MySQLdb.connect(host="localhost",user="root",passwd="sa",db="mytable")  cursor=conn.cursor()  ursor.execute(sql)

以上是关于如何将python爬虫数据直接存到数据库的主要内容,如果未能解决你的问题,请参考以下文章

爬虫学习推荐目录

python 的运算结果怎样输出

python爬虫-基础入门-python爬虫突破封锁

如何将图片存到数据库

从数据库里python获取数据存到本地数据库

pycharm爬取的数据在哪