一文掌握Python爬虫XPath语法

目录

• 一、问题描述
• 1.什么是XPath？
• 二、解决方案
• 1.XPath语法
• 2.lxml库
• 3.实际案例
• 三、结语

本文转自微信公众号：”算法与编程之美”

一、问题描述

1.什么是XPath？

xpath是一门在XML和HTML文档中查找信息的语言，可用来在XML和HTML文档中对元素和属性进行遍历，XPath 通过使用路径表达式来选取 XML 文档中的节点或者节点集。这些路径表达式和在常规的电脑文件系统中看到的表达式非常相似。

二、解决方案

1.XPath语法

想要学好xpath，首先要搞明白html文档中的节点。

<div>
     <ul>
          <li class="item-0"><a href="https://www.freexyz.cn/dev/link1.html" rel="external nofollow" >first item</a></li>
          <li class="item-1"><a href="https://www.freexyz.cn/dev/link2.html" rel="external nofollow" >second item</a></li>
          <li class="item-inactive"><a href="https://www.freexyz.cn/dev/link3.html" rel="external nofollow" >third item</a></li>
          <li class="item-1"><a href="https://www.freexyz.cn/dev/link4.html" rel="external nofollow" >fourth item</a></li>
          <li class="item-0"><a href="https://www.freexyz.cn/dev/link5.html" rel="external nofollow" >fifth item</a> # 注意，此处缺少一个 </li> 闭合标签
      </ul>
  </div>

以上是在网上随便找的一段html的文本，可以观察得到，div的标签下是ul标签，而ul标签下是li标签，于是发现html的标签是一级一级如树状的。Xpath正是通过这样的方式去寻找。以生活中举例，要确定一个人的位置，首先确定他在中国，然后确定他在某个省份，哪座城市，那个小区，最后找到他。

同级标签可以用li[1] ,li[2] ,li[3]的方式获取

2.lxml库

简单介绍一下lxml库，接下来会用到它

lxml是一个HTML/XML的解析器，主要的功能是如何解析和提取HTML/XML 数据。

lxml和正则一样，也是用C实现的，是一款高性能的PythonHTML/XML解析器，可以利用之前学习的XPath语法，来快速的定位特定元素以及节点信息。

3.实际案例

随便爬取一个网站，找到找到网站的html文本

如下图：

要找到title和href，仔细观察可以得到路径分别是//div[@id="resultList"]/div[@class="el"]/p/span/a/@title

//div[@id="resultList"]/div[@class="el"]/p/span/a/@href

运行如下：

三、结语

Xpath，是在爬虫中常见的提取数据的方式之一，相比于正则，它更加简单一些，便于操作，xpath的难点在于准确的确定数据所在的位置。