Python中parsel两种获取数据方式小结

 更新时间:2023年04月24日 09:39:44   作者:极客飞虎  
本文主要介绍了Python中parsel两种获取数据方式小结,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧

⭐️网页解析利器parsel实战

我们以实际的案例,来具体了解学习其功能。我们在这里重点讲解其两种方式。一个是XPATH,一个是CSS。我们以某网为例,获取其新闻标题。

🌟 parsel简介

Parsel是一个用于解析JSON数据的Python库。它提供了一个简单易用的API,可以轻松地从JSON文件或字符串中解析数据。可以对 HTML 和 XML 进行解析,并支持使用 XPath 和 CSS Selector 对内容进行提取和修改,同时它还融合了正则表达式提取的功能。功能灵活而又强大。

🌟发送请求

我们先确定目标网址,我们为了让新手更好的学习,我们这里以中国新闻网为例,不讲太复杂的案例。如果,想更好的提升自己,可以尝试学习我之前发的文章。这篇文章使用的方法也是parsel。

我们发送请求,获取数据。我们相信大家这里的代码都会写了。

import parsel
import requests

url = 'https://www.xxxxx.com/importnews.html'

responses = requests.get(url)
responses.encoding=responses.apparent_encoding
print(responses.text)

我们使用requests.get()函数来发送HTTP请求,并将响应存储在responses变量中。在这个例子中,我们将响应的文本内容存储在responses.text变量中。

🌟解析数据

我们获取到了网页源代码之后,我们使用parsel方法对其解析,处理网页源代码。

selector = parsel.Selector(responses.text)

我们使用 parsel 库的 Selector 对象来选择 responses.text 中的特定元素。

我们使用开发者工具,观察标题在哪个标签位置里面。

​编辑

由上图,我们可以看到,我们标题信息就在

  • 标签里面。我们可以提取
  • 标签里面所有的内容。在这里,我们只获取新闻的标题内容。下面我们将用两种方式获取。

✨XPATH方式

我们很容易获取到了标签所在的位置,大家不会写的话,可以右击copy—xpath。我们来写代码。

titles = selector.xpath('/html/body/div[4]/div[1]/div[2]/ul/li/div[2]/a/text()').getall()

xpath 方法是 Selector 对象中的一个方法,用于指定 XPath 表达式,它可以用于选择 HTML 元素。在这个例子中,我们使用 xpath 方法来选择 /html/body/div[4]/div[1]/div[2]/ul/li/div[2]/a/text() 表达式指定的所有 <a> 元素,并将它们的文本内容作为列表返回。

我们这里会得到一个所有新闻的标题列表,我们for遍历一下。我们看看效果。

✨CSS方法

我们刚刚用了XPATH的方法获取新闻的标题,我们接下来,我们使用CSS的方法来获取标题。

 我们这里,直接写代码了。

titles = selector.css('ul > li > div.dd_bt a::text').getall()

css 方法是 Selector 对象中的一个方法,用于指定 CSS 属性,它可以用于选择 HTML 元素。在这个例子中,我们使用 css 方法来选择 ul > li > div.dd_bt a 表达式指定的所有 <a> 元素的文本,并将它们的样式作为列表返回。

我们CSS语法还可以这样写。

titles = selector.css('.dd_bt a::text').getall()

css 方法是 Selector 对象中的一个方法,用于指定 CSS 属性,它可以用于选择 HTML 元素。在这个例子中,我们使用 css 方法来选择 .dd_bt a::text 表达式指定的所有 <a> 元素,并将它们的文本内容作为列表返回。

我们会发现是一样的效果,不管怎么样,大家都要会一种方法。

🌟总结

在parsel实战中,我完成了一个使用 parsel 库的选择器来选择 特定元素的内容。在这个实战中,我使用了 xpath 和 css 方法来指定选择的元素的位置和样式,使用 Selector 对象来指定选择的元素,并使用 getall 方法来获取选择的所有元素。

首先,我们需要更好地理解 xpath 和 css 方法的使用,以便更准确地选择元素。其次,我们需要更好地理解 Selector 对象的使用,以便更准确地指定选择的元素。

​到此这篇关于Python中parsel两种获取数据方式小结的文章就介绍到这了,更多相关Python parsel获取内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

相关文章

  • Linux系统(CentOS)下python2.7.10安装

    Linux系统(CentOS)下python2.7.10安装

    这篇文章主要为大家详细介绍了Linux系统(CentOS)下python2.7.10安装图文教程,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2018-09-09
  • Pytho树的直径的计算实现

    Pytho树的直径的计算实现

    树的直径是树中任意两个节点之间最长路径的长度,本文主要介绍了Pytho树的直径的计算实现,具有一定的参考价值,感兴趣的可以了解一下
    2023-11-11
  • Django celery异步任务实现代码示例

    Django celery异步任务实现代码示例

    这篇文章主要介绍了Django celery异步任务实现代码示例,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
    2020-11-11
  • 浅谈Python3.10 和 Python3.9 之间的差异

    浅谈Python3.10 和 Python3.9 之间的差异

    多年来,Python 进行了大量升级,并且在新版本中添加了许多功能。本文就详细的介绍 一下Python3.10 和 Python3.9差异,感兴趣的朋友可以了解一下
    2021-09-09
  • 详解python实现识别手写MNIST数字集的程序

    详解python实现识别手写MNIST数字集的程序

    这篇文章主要介绍了详解python实现识别手写MNIST数字集的程序,小编觉得挺不错的,现在分享给大家,也给大家做个参考。一起跟随小编过来看看吧
    2018-08-08
  • python量化之搭建Transformer模型用于股票价格预测

    python量化之搭建Transformer模型用于股票价格预测

    这篇文章主要介绍了python量化之搭建Transformer模型用于股票价格预测,文章围绕主题展开基于python搭建Transformer,需要的小伙伴可以参考一下
    2022-05-05
  • Linux下将Python的Django项目部署到Apache服务器

    Linux下将Python的Django项目部署到Apache服务器

    这篇文章主要介绍了Python的Django项目部署到Apache服务器上的要点总结,文中针对的是wsgi连接方式,需要的朋友可以参考下
    2015-12-12
  • 使用numpy.ndarray添加元素

    使用numpy.ndarray添加元素

    这篇文章主要介绍了使用numpy.ndarray添加元素,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教
    2022-05-05
  • 简单实现python进度条脚本

    简单实现python进度条脚本

    这篇文章主要教大家如何简单实现python进度条,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2017-12-12
  • Python 中的对象析构函数__del__ 详情

    Python 中的对象析构函数__del__ 详情

    这篇文章主要介绍了Python 中的对象析构函数del详情,Python 中的类的构造函数 ​​__init__​​ , 每当实例产生就会调用这个构造函下面更多相关内容,需要的小伙伴可以参考一下
    2022-03-03

最新评论