你爱我,我爱你,IP被封很头疼Python爬虫实战:ip代理js逆向采集

Posted 五包辣条!

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了你爱我,我爱你,IP被封很头疼Python爬虫实战:ip代理js逆向采集相关的知识,希望对你有一定的参考价值。

大家好,我是辣条。

一见不日甚是...应该是一日不见甚是想念【串台了,这是郭德纲老师相声里的梗】。

直接进入今天的主题,相信学过爬虫的朋友们都知道爬虫封ip十分头疼,辣条今天带你获取免费ip代理

爬取目标

网址:站大爷

在这里插入图片描述

工具使用

开发环境:win10、python3.7 开发工具:pycharm、Chrome 工具包:requests,lxml

项目思路解析

请求目标网页地址 从静态网页中提取出ip地址(端口图片暂时不做处理)

 在这里插入图片描述 通过xpath的方式提取出对应的网页数据 提取下来的数据是进行加密的

在这里插入图片描述

提取数据的代码

session = requests.session()  
url = 'https://www.zdaye.com/FreeIPList.html'
response = session.get(url, headers=headers)
data = response.content.decode()
html_object = etree.HTML(data)
data_list = html_object.xpath('//*[@id="ipc"]/tbody/tr')
​
ip_list = []
for tr in data_list:
    ipnum = tr.xpath('./td[1]/text()')[0]
    ipnum2 = tr.xpath('./td[1]/@v')[0]
    ip_list.append((ipnum, ipnum2))

找到数据的加密方法 查看是否为动态加载的数据

在这里插入图片描述

并不是动态数据 找到加密的js文件

在这里插入图片描述

打断点调试js代码

在这里插入图片描述在这里插入图片描述

解析对应的加密函数

def sdfsgfdg(s):
    s2 = s.split('m')
    ts = ''
    for i in range(len(s2) - 1, -1, -1):
        ts += chr(int(s2[i]) - 352)
    return ts
​
​
def MD5(p):
    return hashlib.md5((p).encode()).hexdigest().upper()
​
​
def get_keyurl(mk, ak):
    url = 'https://www.zdaye.com/' + mk + "_" + MD5(MD5(sdfsgfdg(mk) + "beiji" + ak)) + '.gif'
    return url
​
​
def dsfgsd(s, kk):
    s2 = s.split('#')
    ts = ''
    for i in range(len(s2) - 1, -1, -1):
        ts += chr(int(s2[i]) - kk)
​
    return ts
​
​
t = str(time.strftime('%Y/%m/%d %H:%M:%S',time.localtime())).replace(' ', "%20").replace("/0", "/")
new_url = 'https://www.zdaye.com/js/base.js?' + t
pp = session.get(new_url, headers=headers)
mk = re.findall('mk = "(.*?)";', pp.text)[0]
ak = re.findall('ak = "(.*?)";', pp.text)[0]
key_url = get_keyurl(mk, ak)
key = session.get(key_url, headers=headers)

out函数从html页面获取到td的v标签数据进行解析 showm为MD5的加密方法

简易源码分享

import re
import time
import requests   
from lxml import etree   
import hashlib
​
headers = {
    'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/86.0.4240.198 Safari/537.36',
    'Referer': 'https://www.zdaye.com/FreeIPList.html',
}
​
def sdfsgfdg(s):
    s2 = s.split('m')
    ts = ''
    for i in range(len(s2) - 1, -1, -1):
        ts += chr(int(s2[i]) - 352)
    return ts
​
​
def MD5(p):
    return hashlib.md5((p).encode()).hexdigest().upper()
​
​
def get_keyurl(mk, ak):
    url = 'https://www.zdaye.com/' + mk + "_" + MD5(MD5(sdfsgfdg(mk) + "beiji" + ak)) + '.gif'
    return url
​
​
def dsfgsd(s, kk):
    s2 = s.split('#')
    ts = ''
    for i in range(len(s2) - 1, -1, -1):
        ts += chr(int(s2[i]) - kk)
    return ts
​
session = requests.session()
url = 'https://www.zdaye.com/FreeIPList.html'
response = session.get(url, headers=headers)
data = response.content.decode()
html_object = etree.HTML(data)
data_list = html_object.xpath('//*[@id="ipc"]/tbody/tr')
ip_list = []
for tr in data_list:
    ipnum = tr.xpath('./td[1]/text()')[0]
    ipnum2 = tr.xpath('./td[1]/@v')[0]
    ip_list.append((ipnum, ipnum2))
t = str(time.strftime('%Y/%m/%d %H:%M:%S',time.localtime())).replace(' ', "%20").replace("/0", "/")
new_url = 'https://www.zdaye.com/js/base.js?' + t
pp = session.get(new_url, headers=headers)
# print(pp.text)
mk = re.findall('mk = "(.*?)";', pp.text)[0]
ak = re.findall('ak = "(.*?)";', pp.text)[0]
key_url = get_keyurl(mk, ak)
key = session.get(key_url, headers=headers)
key = int(key.text)
new_ip = []
for info in ip_list:
    ip = info[0].replace("wait", (dsfgsd(info[1], key)))
    new_ip.append(ip)
​
print(new_ip)

欢迎大家在评论中讨论交流技术呀,能帮到你的话记得给辣条三连哦!

以上是关于你爱我,我爱你,IP被封很头疼Python爬虫实战:ip代理js逆向采集的主要内容,如果未能解决你的问题,请参考以下文章

又一年,毕业季,坚持学习甜蜜蜜~

又一年,毕业季,坚持学习甜蜜蜜~

又一年,毕业季,坚持学习甜蜜蜜~

张歆艺大婚后发文:感谢你袁弘 谢谢你爱我

《爱情的名义》 徐正润

被洗脑了!