23-python用BeautifulSoup用抓取a标签内所有数据

Posted 2021-01-12 ystraw

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了23-python用BeautifulSoup用抓取a标签内所有数据相关的知识，希望对你有一定的参考价值。

原文：https://blog.csdn.net/suibianshen2012/article/details/62040460?utm_source=copy

# -*- coding:utf-8 -*-
#python 2.7
#XiaoDeng
#http://tieba.baidu.com/p/2460150866
#标签操作


from bs4 import BeautifulSoup
import urllib.request
import re


#如果是网址，可以用这个办法来读取网页
#html_doc = "http://tieba.baidu.com/p/2460150866"
#req = urllib.request.Request(html_doc) 
#webpage = urllib.request.urlopen(req) 
#html = webpage.read()

 

html="""
<html><head><title>The Dormouse‘s story</title></head>
<body>
<p class="title" name="dromouse"><b>The Dormouse‘s story</b></p>
<p class="story">Once upon a time there were three little sisters; and their names were
<a href="http://example.com/elsie" class="sister" id="xiaodeng"><!-- Elsie --></a>,
<a href="http://example.com/lacie" class="sister" id="link2">Lacie</a> and
<a href="http://example.com/tillie" class="sister" id="link3">Tillie</a>;
<a href="http://example.com/lacie" class="sister" id="xiaodeng">Lacie</a>
and they lived at the bottom of a well.</p>
<p class="story">...</p>
"""
soup = BeautifulSoup(html, ‘html.parser‘) #文档对象


#查找a标签,只会查找出一个a标签
#print(soup.a)#<a class="sister" href="http://example.com/elsie" id="xiaodeng"><!-- Elsie --></a>

for k in soup.find_all(‘a‘):
print(k)
print(k[‘class‘])#查a标签的class属性
print(k[‘id‘])#查a标签的id值
print(k[‘href‘])#查a标签的href值
print(k.string)#查a标签的string
#tag.get(‘calss‘)，也可以达到这个效果

以上是关于23-python用BeautifulSoup用抓取a标签内所有数据的主要内容，如果未能解决你的问题，请参考以下文章

完美解决用抓包工具抓取idea中使用HttpClient发送的HTTPHTTPS请求

为什么用抓包工具看HTTPS包是明文的

用抓包软件为啥只能得到关于自己的包，其局域网其他机间通信为啥没有的

Mac下也能用抓包工具Fiddler