爬虫4:cookie登陆并爬取学习成绩
Posted 一路の向北
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了爬虫4:cookie登陆并爬取学习成绩相关的知识,希望对你有一定的参考价值。
最近项目太忙了,都没空继续学习爬虫,前几天实验了各种姿势带cookie去登陆,都没有成功,不明觉厉
依然没有放弃,今天用同样的办法登陆以前大学的网站居然成功了,我真是一脸懵逼
又看了一遍以前的学习成绩,真是恨不得给自己两耳屎,青春都让狗吃了
哦,对了,以前还有一段学selenium的学习笔记,空了整理放到博客园里面来
# -*- coding:utf-8 -*- import requests from bs4 import BeautifulSoup head={‘cookie‘:‘填入抓包抓来的cookie‘, ‘User-Agent‘:‘Mozilla/5.0 (Windows NT 6.1; Win64; x64; rv:50.0) Gecko/20100101 Firefox/50.0‘, ‘Host‘:‘jxgl.cuit.edu.cn‘, ‘Connection‘:‘keep-alive‘, ‘Referer‘:‘http://210.41.224.117/Login/xLogin/Login.asp‘, ‘Upgrade-Insecure-Requests‘: ‘1‘ } # url = ‘http://jxgl.cuit.edu.cn/Jxgl/Xs/MainMenu.asp‘ # req = requests.get(url, headers=head) detail = requests.get(‘http://jxgl.cuit.edu.cn/Jxgl//UserPub/GetCjByXh.asp?UTp=Xs‘,headers=head).text soup = BeautifulSoup(detail, "html.parser") blist = soup.find_all(‘b‘) for item in blist: print item.get_text()
以上是关于爬虫4:cookie登陆并爬取学习成绩的主要内容,如果未能解决你的问题,请参考以下文章
Python模拟登陆教务系统爬取成绩信息+绘制成绩分布图+导入MySQL
爬虫学习 ----- 第二章 爬取静态网站 ---------- 04 带着cookie去爬取东西