爬虫4:cookie登陆并爬取学习成绩

Posted 一路の向北

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了爬虫4:cookie登陆并爬取学习成绩相关的知识,希望对你有一定的参考价值。

最近项目太忙了,都没空继续学习爬虫,前几天实验了各种姿势带cookie去登陆,都没有成功,不明觉厉

依然没有放弃,今天用同样的办法登陆以前大学的网站居然成功了,我真是一脸懵逼

又看了一遍以前的学习成绩,真是恨不得给自己两耳屎,青春都让狗吃了

哦,对了,以前还有一段学selenium的学习笔记,空了整理放到博客园里面来

# -*- coding:utf-8 -*-
import requests
from bs4 import BeautifulSoup


head={cookie:‘填入抓包抓来的cookie,
        User-Agent:Mozilla/5.0 (Windows NT 6.1; Win64; x64; rv:50.0) Gecko/20100101 Firefox/50.0,
        Host:jxgl.cuit.edu.cn,
        Connection:keep-alive,
        Referer:http://210.41.224.117/Login/xLogin/Login.asp,
        Upgrade-Insecure-Requests: 1
}
# url = ‘http://jxgl.cuit.edu.cn/Jxgl/Xs/MainMenu.asp‘
# req = requests.get(url, headers=head)
detail = requests.get(http://jxgl.cuit.edu.cn/Jxgl//UserPub/GetCjByXh.asp?UTp=Xs,headers=head).text
soup = BeautifulSoup(detail, "html.parser")
blist = soup.find_all(b)
for item in blist:
    print item.get_text()

 

以上是关于爬虫4:cookie登陆并爬取学习成绩的主要内容,如果未能解决你的问题,请参考以下文章

Python模拟登陆教务系统爬取成绩信息+绘制成绩分布图+导入MySQL

Python登录豆瓣并爬取影评

爬虫学习 ----- 第二章 爬取静态网站 ---------- 04 带着cookie去爬取东西

爬虫学习——带cookie的网页进行爬取

python3下scrapy爬虫(第五卷:利用cookie模拟登陆抓取个人中心页面)

Java爬虫爬取南通大学教务处成绩