spark学习进度7-Python爬取大学排名实例

Posted 宥宁

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了spark学习进度7-Python爬取大学排名实例相关的知识,希望对你有一定的参考价值。

利用pc编写python爬取大学排名的数据,如图:

 

 

 

import requests
from bs4 import BeautifulSoup
import bs4

def getHTMLText(url):
    try:
        r = requests.get(url, timeout=30)
        r.raise_for_status()
        r.encoding = r.apparent_encoding
        return r.text
    except:
        return ""

def fillUnivList(ulist, html):
    soup = BeautifulSoup(html, "html.parser")#bs4的html解析器
    for tr in soup.find(\'tbody\').children:
        if isinstance(tr, bs4.element.Tag):# bs4.element.Tag是标签类型
            tds = tr(\'td\')#将所有的td标签存为一个列表类型
            ulist.append([tds[0].string, tds[1].string, tds[2].string])

def printUnivList(ulist, num):
    print("{:^10}\\t{:^6}\\t{:^10}".format("排名", "学校名称", "所在地区"))
    for i in range(num):
        u = ulist[i]
        print("{:^10}\\t{:^6}\\t{:^10}".format(u[0], u[1], u[2]))

def main():
    uinfo = []
    url = \'http://www.zuihaodaxue.cn/zuihaodaxuepaiming2016.html\'
    html = getHTMLText(url)
    fillUnivList(uinfo, html)
    printUnivList(uinfo, 20)
main()

代码主要利用了BeautifulSoup库来对response对象进行解析,并通过对指定标签的子标签的遍历得到需要的数据。

结果截图:

 

以上是关于spark学习进度7-Python爬取大学排名实例的主要内容,如果未能解决你的问题,请参考以下文章

中国大学排名(定向爬虫)实例

网络爬虫的提取爬虫实例

python-爬取中国大学排名(第五周)

中国大学排名定向爬虫

爬虫日记-最好大学排名实例

什么是对中国大学进行排名的爬窗系统