用requests库和BeautifulSoup4库爬取新闻列表

Posted 哥哥让你爽

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了用requests库和BeautifulSoup4库爬取新闻列表相关的知识,希望对你有一定的参考价值。

import requests
from bs4 import BeautifulSoup
jq=http://news.gzcc.cn/html/2017/xiaoyuanxinwen_0926/8262.html
res = requests.get(jq)
res.encoding=gb2312
soup = BeautifulSoup(res.text,html.parser)

for news in soup.select(li):
    if len(news.select(a))>0:
        title=news.select(a)[0].text
        url=news.select(a)[0][href]
        #time=news.select(‘span‘)[0].contents[0].text
        #print(time,title,url)
        print(title,url)

 

以上是关于用requests库和BeautifulSoup4库爬取新闻列表的主要内容,如果未能解决你的问题,请参考以下文章

用requests库和BeautifulSoup4库爬取新闻列表

用requests库和BeautifulSoup4库爬取新闻列表

用requests库和BeautifulSoup4库爬取新闻列表

用requests库和BeautifulSoup4库爬取新闻列表

用requests库和BeautifulSoup4库爬取新闻列表

用requests库和BeautifulSoup4库爬取新闻列表