Python3 用 requests 2.x 下载大文件

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Python3 用 requests 2.x 下载大文件相关的知识,希望对你有一定的参考价值。

【环境】

  • OS:Windows 10 x64

  • Python:3.6.5 x64

  • requests:2.18.4


【代码】

# encoding=utf-8
# author: walker
# date: 2018-06-11
# summary: 使用 requests 下载大文件

import time
import requests

# 下载一个大文件
def DownOneFile(srcUrl, localFile):
    print('%s
 --->>>
  %s' % (srcUrl, localFile))
    
    startTime = time.time()
    with requests.get(srcUrl, stream=True) as r:
        contentLength = int(r.headers['content-length'])
        line = 'content-length: %dB/ %.2fKB/ %.2fMB'
        line = line % (contentLength, contentLength/1024, contentLength/1024/1024)
        print(line)
        downSize = 0
        with open(localFile, 'wb') as f:
            for chunk in r.iter_content(8192):
                if chunk:
                    f.write(chunk)
                downSize += len(chunk)
                line = '%d KB/s - %.2f MB, 共 %.2f MB'
                line = line % (downSize/1024/(time.time()-startTime), downSize/1024/1024, contentLength/1024/1024)
                print(line, end='
')
                if downSize >= contentLength:
                    break
        timeCost = time.time() - startTime
        line = '共耗时: %.2f s, 平均速度: %.2f KB/s'
        line = line % (timeCost, downSize/1024/timeCost)
        print(line)

if __name__ == '__main__':
    srcUrl = r'http://cachefly.cachefly.net/100mb.test'
    localFile = r'D:Python3Project	estoutout.test'
    DownOneFile(srcUrl, localFile)


【效果图】

技术分享图片


【相关阅读】


*** walker ***


以上是关于Python3 用 requests 2.x 下载大文件的主要内容,如果未能解决你的问题,请参考以下文章

Python3爬虫网易云音乐歌单下载

在python3中使用urllib.request编写简单的网络爬虫

python3.4 + requests + re 仿写糗事百科爬虫,遇到一个疑惑,求助

Python3 urllib.request库的基本使用

python3 网页爬虫图片下载无效链接处理 try except

Python3——根据m3u8下载视频(上)之urllib.request