python的N个小功能(找到要爬取的验证码链接,并大量下载验证码样本)

Posted 嘟嘟_猪

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了python的N个小功能(找到要爬取的验证码链接,并大量下载验证码样本)相关的知识,希望对你有一定的参考价值。

# -*- coding: utf-8 -*-

"""

Created on Mon Mar 21 11:04:54 2017

@author: sl

"""

import requests

import time

 

#################################################################################

################先找到对应的爬取验证码连接,例如我要爬取车违章信息#################################

###############找到车违章链接http://smart.gzeis.edu.cn:8081/Content/AuthCode.aspx#####################

#################根据网页源码找到对应的登录链接https://www.stc.gov.cn/szwsjj_web/jsp/xxcx/jdcjtwfcx.jsp#######

################根据网页源码找到对应的验证码链接https://www.stc.gov.cn:443/szwsjj_web/ImgServlet.action?######

#################################################################################

def downloads_pic(pic_name):

         #url=‘http://smart.gzeis.edu.cn:8081/Content/AuthCode.aspx‘

         url=‘https://www.stc.gov.cn/szwsjj_web/ImgServlet.action?‘

         res=requests.get(url,stream=True)  ####在罕见的情况下你可能想获取来自服务器的原始套接字响应,那么你可以访问 r.raw如果你确实想这么干,那请你确保在初始请求中设置了stream=True

         print res

         with open(r‘G:\DownloadsVerificationCode\%s.jpg‘%(pic_name),‘wb‘) as f:

                   print res.iter_content(chunk_size=1024)

                   for chunk in res.iter_content(chunk_size=1024):  ####使用Response.iter_content将会处理大量你直接使用Response.raw不得不处理的.当流下载时,上面是优先推荐的获取内容方式

                            print chunk

                            if chunk: ###过滤下保持活跃的新块                      

                                     f.write(chunk)

                                     f.flush() #方法是用来刷新缓冲区的,即将缓冲区中的数据立刻写入文件,同时清空缓冲区,不需要是被动的等待输出缓冲区写入

                   f.close()

 

if __name__==‘__main__‘:

         for i in range(300):

                   pic_name=int(time.time()*1000000) #返回当前时间的时间戳(1970纪元后经过的浮点秒数)

                   downloads_pic(pic_name)

以上是关于python的N个小功能(找到要爬取的验证码链接,并大量下载验证码样本)的主要内容,如果未能解决你的问题,请参考以下文章

最全Python爬虫总结

利用Python爬取翻译网站的翻译功能

scrapy之360图片爬取

python爬取动态网页

python&MongoDB爬取图书馆借阅记录(没有验证码)

java的简单网络爬虫(爬取花瓣网的图片)