python 爬虫保存文件的几种方法

Posted 萧白白

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了python 爬虫保存文件的几种方法相关的知识,希望对你有一定的参考价值。

import os
os.makedirs(./img/, exist_ok=True)

IMAGE_URL = "https://morvanzhou.github.io/static/img/description/learning_step_flowchart.png"


def urllib_download():
    from urllib.request import urlretrieve
    urlretrieve(IMAGE_URL, ./img/image1.png)      # whole document


def request_download():
    import requests
    r = requests.get(IMAGE_URL)
    with open(./img/image2.png, wb) as f:
        f.write(r.content)                      # whole document


def chunk_download():
    import requests
    r = requests.get(IMAGE_URL, stream=True)    # stream loading

    with open(./img/image3.png, wb) as f:
        for chunk in r.iter_content(chunk_size=32):
            f.write(chunk)


urllib_download()
print(download image1)
request_download()
print(download image2)
chunk_download()
print(download image3)

 

以上是关于python 爬虫保存文件的几种方法的主要内容,如果未能解决你的问题,请参考以下文章

Python爬虫定时计划任务的几种常见方法

python爬虫多次请求超时的几种重试方法

python爬虫多次请求超时的几种重试方法

Laravel:如何在控制器的几种方法中重用代码片段

PHP模拟浏览器访问,抓取非本地文件的几种方法爬虫

Python中文件的读写操作的几种方法