python爬虫-爬取天气预报内容

Posted eddycomeon

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了python爬虫-爬取天气预报内容相关的知识,希望对你有一定的参考价值。

使用requests模块获取网页内容,bs4数据清洗 ,pands保存数据一般都为csv格式。
技术图片
import requests
from bs4 import BeautifulSoup
import pandas as pd

def Get_data(url):
    # 请求得到网页内容
    res = requests.get(url)
    # 二进制方式显示网页内容
    html = res.content.decode(gbk)
    # 格式化网页
    soup = BeautifulSoup(html,html.parser)
    # 使用soup对象find_all所需内容
    tr_list = soup.find_all(tr)
    # 提取需要的数据
    dates = []
    tmp = []
    condiitions = []
    # 清洗数据
    for data in tr_list[1:]:
        rel_data = data.text.split()
        dates.append(rel_data[0])
        tmp.append(‘‘.join(rel_data[3:6]))
        condiitions.append(‘‘.join(rel_data[1:3]))
    Biaoge = pd.DataFrame()
    Biaoge[日期] = dates
    Biaoge[温度] = tmp
    Biaoge[天气情况] = condiitions
    return Biaoge

mounth9 = Get_data(http://www.tianqihoubao.com/lishi/beijing/month/201909.html)
mounth10 = Get_data(http://www.tianqihoubao.com/lishi/beijing/month/201910.html)
mounth11 = Get_data(http://www.tianqihoubao.com/lishi/beijing/month/201911.html)
# 利用pd.concat拼接 9、10、11月份表格为一份
v = pd.concat([mounth9,mounth10,mounth11]).reset_index(drop=True)
# 保存数据为csv格式
v.to_csv(BeiJing.csv,index=False,encoding=utf-8)
天气预报爬虫

 

以上是关于python爬虫-爬取天气预报内容的主要内容,如果未能解决你的问题,请参考以下文章

python爬虫爬取天气数据并图形化显示

python爬虫完成了天气数据的爬寻,然后可以做一些啥变复杂或者变完整

爬虫,爬取指定几个网站上面的天气预报信息

Python3 爬虫U11_爬取中国天气网

Python高级应用程序设计任务

Python高级应用程序设计任务要求