python3 怎么爬取新闻网站?

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了python3 怎么爬取新闻网站?相关的知识,希望对你有一定的参考价值。

先开个坑,以后再填吧.......

import requests
from bs4 import BeautifulSoup
def content(url):
    text = requests.get(url)
    text.encoding = ‘utf-8‘
    soup2 = BeautifulSoup(text.text,‘html5lib‘)
    header2 = soup2.select(‘h1‘)[0].text
    text2 = soup2.select(‘#artibody‘)[0].text
    time2 = soup2.select(‘.time-source‘)[0].text
    print(header2,text2,time2,‘\n\n\n‘)
res = requests.get(‘http://news.sina.com.cn/china/‘)
res.encoding = ‘utf-8‘
soup = BeautifulSoup(res.text,"html5lib")
for news in soup.select(‘.news-item‘):
    if len(news.select(‘h2‘)) > 0:
        header = news.select(‘h2‘)[0].text
        link = news.select(‘a‘)[0][‘href‘]
        time = news.select(‘.time‘)[0].text
        print(link,time)
        content(link)

  

以上是关于python3 怎么爬取新闻网站?的主要内容,如果未能解决你的问题,请参考以下文章

python3 怎么爬取新闻网站?

scrapy按顺序启动多个爬虫代码片段(python3)

Python3从零开始爬取今日头条的新闻开发环境搭建

[内附完整源码和文档] 基于python的新闻检索系统

抓取新闻网站:异步爬虫实现的流程和细节

python3爬虫 -----华东交大校园新闻爬取