xpath 学习

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了xpath 学习相关的知识,希望对你有一定的参考价值。

安装xpath

pip install lxml

Xpath 常用规则

技术图片


话不多说,看代码

from lxml import etree

doc = ‘‘‘
<html>
 <head>
  <base href=‘http://example.com/‘ />
  <title>Example website</title>
 </head>
 <body>
  <div id=‘images‘>
   <a href=‘image1.html‘>Name: My image 1 <br /><img src=‘image1_thumb.jpg‘ /></a>
   <a href=‘image2.html‘>Name: My image 2 <br /><img src=‘image2_thumb.jpg‘ /></a>
   <a href=‘image3.html‘>Name: My image 3 <br /><img src=‘image3_thumb.jpg‘ /></a>
   <a href=‘image4.html‘>Name: My image 4 <br /><img src=‘image4_thumb.jpg‘ /></a>
   <a href=‘image5.html‘ class=‘li li-item‘ name=‘items‘>Name: My image 5 <br /><img src=‘image5_thumb.jpg‘ /></a>
   <a href=‘image6.html‘ name=‘items‘><span><h5>test</h5></span>Name: My image 6 <br /><img src=‘image6_thumb.jpg‘ /></a>
  </div>
 </body>
</html>
‘‘‘

html = etree.HTML(doc)

# /一个斜杠表示子级标签
# //两个斜杠表示子孙标签

# 1 所有节点
a = html.xpath(‘//*‘)  # 返回一个列表
for i in a:
    print(i.text)  # text 表示获取该节点的文本信息

# 2 指定节点(结果为列表)
a = html.xpath(‘//head‘)

# 3 子节点,子孙节点
a=html.xpath(‘//div/a‘)
a=html.xpath(‘//body/a‘) #无数据
a=html.xpath(‘//body//a‘)

# 4 父节点
a=html.xpath(‘//body//a[@href="image1.html"]/..‘)
a=html.xpath(‘//body//a[1]/..‘)
# 也可以这样
a=html.xpath(‘//body//a[1]/parent::*‘)

# 5 属性匹配
a=html.xpath(‘//body//a[@href="image1.html"]‘)

# 6 文本获取
a=html.xpath(‘//body//a[@href="image1.html"]/text()‘)

# 7 属性获取
a=html.xpath(‘//body//a/@href‘)
# # 注意从1 开始取(不是从0)
a=html.xpath(‘//body//a[1]/@href‘)

# 8 属性多值匹配
#  a 标签有多个class类,直接匹配就不可以了,需要用contains
a=html.xpath(‘//body//a[@class="li"]‘)
a=html.xpath(‘//body//a[contains(@class,"li")]‘)
a=html.xpath(‘//body//a[contains(@class,"li")]/text()‘)

# 9 多属性匹配
a=html.xpath(‘//body//a[contains(@class,"li") or @name="items"]‘)
a=html.xpath(‘//body//a[contains(@class,"li") and @name="items"]/text()‘)
a=html.xpath(‘//body//a[contains(@class,"li")]/text()‘)

# 10 按序选择
a=html.xpath(‘//a[2]/text()‘)
a=html.xpath(‘//a[2]/@href‘)

# 取最后一个
a=html.xpath(‘//a[last()]/@href‘)

# 位置小于3的
 a=html.xpath(‘//a[position()<3]/@href‘)

# 倒数第二个
a=html.xpath(‘//a[last()-2]/@href‘)

# 11 节点轴选择
# ancestor:祖先节点
# 使用了* 获取所有祖先节点
a=html.xpath(‘//a/ancestor::*‘)

# # 获取祖先节点中的div
a=html.xpath(‘//a/ancestor::div‘)

# attribute:属性值
a=html.xpath(‘//a[1]/attribute::*‘)

# child:直接子节点
a=html.xpath(‘//a[1]/child::*‘)

# descendant:所有子孙节点
a=html.xpath(‘//a[6]/descendant::*‘)

# following:当前节点之后所有节点
a=html.xpath(‘//a[1]/following::*‘)
a=html.xpath(‘//a[1]/following::*[1]/@href‘)

# following-sibling:当前节点之后同级节点
a=html.xpath(‘//a[1]/following-sibling::*‘)
a=html.xpath(‘//a[1]/following-sibling::a‘)
a=html.xpath(‘//a[1]/following-sibling::*[2]‘)
a=html.xpath(‘//a[1]/following-sibling::*[2]/@href‘)

以上是关于xpath 学习的主要内容,如果未能解决你的问题,请参考以下文章

XPath 歧义

xpath 学习

爬虫学习(十四)——xpath项目实践

使用 xpath 同时选择属性和内容?

爬虫Xpath高级用法

代码review_学习笔记_1