python3: 博客园列表爬取;

Posted 穿越王子

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了python3: 博客园列表爬取;相关的知识,希望对你有一定的参考价值。

import  requests
from bs4 import BeautifulSoup as bs
import  html5lib


header = {
    \'User-Agent\': \'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.96 Safari/537.36\'
}

def download():
    """
     模拟浏览器进行访问;
    :param url:
    :return:
    """
    for pageIdx in range(1, 5, 1):
        #print(pageIdx)
        url = "https://www.cnblogs.com/sitehome/p/%s" % str(pageIdx)
        try:
            r = requests.get(url, timeout=30)
            r.raise_for_status()
            r.encoding = r.apparent_encoding
            data = r.text
        except:
            return
        content = bs(data, \'html5lib\')
        for ctx in content.find_all(\'h3\'):
            print(ctx.a[\'href\'], ctx.a.string)


if __name__ == "__main__":
    download()

  

以上是关于python3: 博客园列表爬取;的主要内容,如果未能解决你的问题,请参考以下文章

webmagic爬取博客园所有文章

Python爬取博客园新闻代码

爬虫实战使用python爬取博客园的某一篇文章

python网络爬虫(14)博客园用户信息爬取

python爬取博客圆首页文章链接+标题

Python+webdriver爬取博客园“我的闪存”并保存到本地