30行python代码爬取历年双色球

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了30行python代码爬取历年双色球相关的知识,希望对你有一定的参考价值。

当年学爬虫的第一个想法就是想把双色球的数据爬下来,然后看能不能用什么牛叉的算法,或者数据分析把后面的双色球概率算出来;
知道现在才抽空写了这几行代码爬取了双色球的数据,我也真是够懒的;
也算是闲来无事,练手的爬虫吧;
好了,多余的就不说了,直接上代码吧,代码注释已经很清楚了;

import sys
import requests
from lxml import etree

def get_url(url):       #请求url的方法,返回html
    headers = 
        ‘User-Agent‘:‘Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/77.0.3865.90 Safari/537.36‘,
    
    response = requests.get(url,headers=headers)        #获取请求的返回数据
    response.encoding = ‘utf-8‘         #定义编码,不然中文输出会乱码;
    if response.status_code == 200:     #如果请求成功,则返回;
        return response.text
    return None

for q in range(1,125):      #for循环,一共124页;
    url = ‘http://kaijiang.zhcw.com/zhcw/html/ssq/list_%s.html‘ % (q)   #定义请求的链接
    html = get_url(url)         #请求url获取返回代码
    xpath_html = etree.HTML(html)       #xpath初始化html代码

    dates = xpath_html.xpath(‘//table[@class="wqhgt"]//tr//td[1]//text()‘)      #获取开奖日期
    result = xpath_html.xpath(‘//table[@class="wqhgt"]//tr//em//text()‘)        #获取上色球号
    issues = xpath_html.xpath(‘//table[@class="wqhgt"]//tr//td[2]//text()‘)     #获取期号
    # print(result)       #输出所有双色球的列
    # print(len(result)//7)    #输出有几组双色球
    # print(dates)
    # print(issues)
    sta = 0
    end = 7
    for n in range(len(result)//7):     #双色球7个号一组,
        print("开奖日期:" + str(dates[n]) + " --- " + "期号:" + str(issues[n]) + " --- " + str(result[sta:end]))
        sta = sta + 7
        end = end + 7

python版本用的3.7,开发工具用的pycharm;
爬取的结果可以根据自己需求进行调整,后面怎么用这些数据就不说了哈;具体根据自己需求进行分析吧;

以上是关于30行python代码爬取历年双色球的主要内容,如果未能解决你的问题,请参考以下文章

Python爬取彩票双色球并存到把数据excel表格里

如何用30行代码爬取Google Play 100万个App的数据

如何用30行代码爬取Google Play 100万个App的数据

Python爬取双色球,妈妈再也不会担心我不会中奖了

今天你教高考生一个装逼神技!利用Python爬取历年高考成绩!

python写一个双色球计算器