requests 之豆瓣电影排行榜爬取

Posted huahuawang

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了requests 之豆瓣电影排行榜爬取相关的知识,希望对你有一定的参考价值。

import json
import requests
if __name__ == __main__:
    url = https://movie.douban.com/j/chart/top_list
    param = {
        type: 24,
        interval_id: 100:90,
        action:‘‘,
        start:0, # 从库中的第几部电影中去取
        limit: 20 # 一次取得个数
    }
    headers = {
        User-Agent: Mozilla/5.0 (Windows NT 6.3; WOW64) AppleWebKit/537.36 (Khtml, like Gecko) Chrome/63.0.3239.132 Safari/537.36
    }
    res = requests.get(url = url,params=param,headers=headers)
    list_data=res.json()
    fp = open(./douban.json,w,encoding=utf-8)
    json.dump(list_data,fp=fp,ensure_ascii=False)
    print("over!!!")

 

以上是关于requests 之豆瓣电影排行榜爬取的主要内容,如果未能解决你的问题,请参考以下文章

03.requests模块

基本文件处理-爬取豆瓣电影排行榜

用Scrapy爬虫爬取豆瓣电影排行榜数据,存储到Mongodb数据库

python爬虫实例教程之豆瓣电影排行榜--python爬虫requests库

requests实战之豆瓣电影爬取

python爬取豆瓣电影Top250(附完整源代码)