关于python爬取网页

Posted 2021-09-24 Gendan

import urllib.request
from bs4 import BeautifulSoup
import xlwt
import re
def main():

#   爬取网页
baseurl = \'https://movie.douban.com/top250?start=\'
datalist = getData(baseurl)
savepath = \'豆瓣电影Top250.xls\'
#   保存数据
saveData(datalist,savepath)
# askURL("https://movie.douban.com/top250?start=1")

影片详情的规则

findLink = re.compile(r\'\') #创建从正则表达式，表示规则
findImgSrc = re.compile(r\'<img.src="(.?)"\', re.S) #让换行符匹配到字符中

影片的片名

finTitle = re.compile(r\'<span class="title">(.*)</span>\')

影片的评分

findReating = re.compile(r\'<span class="rating_num" property="v:average">(.*)</span>\')

找到评价人数

findJudge = re.compile(r\'<span>(\\d*)人评价</span>\')

找到概况

findInq = re.compile(r\'<span class="inq">(.*)</span>\')

找到影片的相关内容

findBb = re.compile(r\'<p class="">(.*?)</p>\', re.S)#re.S忽视换行符
第二部分：爬取网页。
def getData(baseurl):

datalist = []
for i in range(0, 10):
    url = baseurl + str(i*25)
    html = askURL(url)    #保存获取到的网页源码
    #对网页进行解析
    soup = BeautifulSoup(html, \'html.parser\')
    for item in soup.find_all(\'div\', class_="item"):  #查找符合要求的字符串 形成列表
        #print(item)  #测试查看电影信息
        data = []
        item = str(item)
        link = re.findall(findLink, item)[0]  #re库用来查找指定的字符串
        data.append(link)
        imgSrc = re.findall(findImgSrc, item)[0]
        data.append(imgSrc) #添加图片
        titles = re.findall(finTitle, item)         #
        if (len(titles) == 2):
            ctitle = titles[0]      #添加中文名
            data.append(ctitle)
            otitle = titles[1].replace("/", "")   #replace("/", "")去掉无关的符号
            data.append(otitle)     #添加英文名
        else:
            data.append(titles[0])
            data.append(\' \')#外国名字留空
        rating = [外汇跟单](https://www.gendan5.com/)re.findall(findReating, item)[0] #添加评分
        data.append(rating)
        judgeNum = re.findall(findJudge,item) #评价人数
        data.append(judgeNum)
        inq = re.findall(findInq, item)  #添加概述
        if len(inq) != 0:
            inq = inq[0].replace(".", "")  #去掉句号
            data.append(inq)
        else:
            data.append(" ")    #留空
        bd = re.findall(findBb,item)[0]
        bd = re.sub(\'<br(\\s+)?/>(\\s+)?\',\' \', bd)  #去掉br  后面这个bd表示对bd进行操作
        bd = re.sub(\'/\', \' \', bd)   #替换/
        data.append(bd.strip())  #去掉前后的空格strip()
        datalist.append(data)   #把处理好的一部电影放入datalist当中
return datalist

第三部分：得到一个指定的url信息。

得到指定的一个url网页信息

def askURL(url):

head = {
    "User-Agent": "Mozilla/5.0 (Linux; android 6.0; Nexus 5 Build/MRA58N) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/87.0.4280.141 Mobile Safari/537.36"

}

request = urllib.request.Request(url,headers=head)    #  get请求不需要其他的的，而post请求需要 一个method方法
html = ""
try:
    response = urllib.request.urlopen(request)
    html = response.read().decode(\'utf-8\')
    # print(html)
except Exception as e:
    if hasattr(e,\'code\'):
        print(e.code)
    if hasattr(e,\'reason\'):
        print(e.reason)
return  html

第四部分：保存数据

3:保存数据

def saveData(datalist,savepath):

book = xlwt.Workbook(encoding="utf-8", style_compression=0)
sheet = book.add_sheet(\'豆瓣电影Top250\', cell_overwrite_ok=True)
col = (\'电影详情链接\', \'图片链接\', \'影片中文名\', \'影片外国名\', \'评分\', \'评价数\', \'概况\', \'相关信息\')
for i in range(0,8):
    sheet.write(0,i,col[i])  #列名
for i in range(0,250):
    print("第%d条"%i)
    data = datalist[i]
    for j in range(0,8):
        sheet.write(i+1,j,data[j])
book.save(savepath) #保存

if name == \'__main__\':

main()
print("爬取完毕")