脚本之家 服务器常用软件
快捷导航
您的位置：首页 → 脚本专栏 → python → Python网页解析

Python网页解析器使用实例详解

 更新时间：2020年05月30日 10:30:35   作者：BSSZDS930  
这篇文章主要介绍了Python网页解析器使用实例详解,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下

python 网页解析器

　　1、常见的python网页解析工具有：re正则匹配、python自带的html.parser模块、第三方库BeautifulSoup(重点学习)以及lxm库。

　　2、常见网页解析器分类

　　（1）模糊匹配 ：re正则表达式即为字符串式的模糊匹配模式；

　　（2）结构化解析： BeatufiulSoup、html.parser与lxml，他们都以DOM树结构为标准，进行标签结构信息的提取。

　　3.DOM树解释：即文档对象模型（Document Object Model），其树形标签结构，请见下图。

　　所谓结构化解析，就是网页解析器它会将下载的整个HTML文档当成一个Doucment对象，然后在利用其上下结构的标签形式，对这个对象进行上下级的标签进行遍历和信息提取操作。

# 引入相关的包，urllib与bs4，是获取和解析网页最常用的库
from urllib.request import urlopen
from bs4 import BeautifulSoup

# 打开链接
html=urlopen("https://www.datalearner.com/website_navi")

# 通过urlopen获得网页对象，将其放入BeautifulSoup中，bsObj存放的目标网页的html文档

bsObj=BeautifulSoup(html.read())
print(bsObj)

# soup = BeautifulSoup(open(url,'r',encoding = 'utf-8'))

import requests
from bs4 import BeautifulSoup

headers={'User-Agent': 'Mozilla/5.0 (Windows NT 6.3; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/57.0.2987.110 Safari/537.36','referer':"www.mmjpg.com" }
all_url = 'http://www.mmjpg.com/'
  #'User-Agent':请求方式
  #'referer':从哪个链接跳转进来的

start_html = requests.get(all_url, headers=headers)
  #all_url：起始的地址，也就是访问的第一个页面
  #headers：请求头，告诉服务器是谁来了。
  #requests.get：一个方法能获取all_url的页面内容并且返回内容。

Soup = BeautifulSoup(start_html.text, 'lxml')
  #BeautifulSoup：解析页面
  #lxml：解析器
  #start_html.text：页面的内容

以上就是本文的全部内容，希望对大家的学习有所帮助，也希望大家多多支持脚本之家。

您可能感兴趣的文章:

相关文章

  • Python类的继承和多态代码详解

    Python类的继承和多态代码详解

    这篇文章主要介绍了Python类的继承和多态代码详解，具有一定借鉴价值,需要的朋友可以参考下
    2017-12-12
  • python读取并绘制nc数据的保姆级教程

    python读取并绘制nc数据的保姆级教程

    其实目前很多数据以nc格式存储,这篇文章主要给大家介绍了关于python读取并绘制nc数据的保姆级教程,文中通过实例代码介绍的非常详细,需要的朋友可以参考下
    2023-05-05
  • 浅谈Django中view对数据库的调用方法

    浅谈Django中view对数据库的调用方法

    今天小编就为大家分享一篇浅谈Django中view对数据库的调用方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
    2019-07-07
  • python 3.10上如何安装pyqt5

    python 3.10上如何安装pyqt5

    这篇文章主要介绍了python 3.9上安装pyqt5的详细步骤，本文分步骤给大家介绍如何在python 3.9 上安装 pyqt5,需要的朋友可以参考下
    2022-07-07
  • python使用dataframe_image将dataframe表格转为图片

    python使用dataframe_image将dataframe表格转为图片

    本文主要介绍了python使用dataframe_image将dataframe表格转为图片,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2024-01-01
  • Python数据处理利器Pandas DataFrame常用操作

    Python数据处理利器Pandas DataFrame常用操作

    这篇文章主要为大家介绍了Python数据处理利器Pandas DataFrame，有需要的朋友可以借鉴参考下，希望能够有所帮助，祝大家多多进步，早日升职加薪
    2023-06-06
  • Python正则表达式高效处理文本数据的秘诀轻松掌握

    Python正则表达式高效处理文本数据的秘诀轻松掌握

    当谈到文本处理和搜索时,正则表达式是Python中一个强大且不可或缺的工具,正则表达式是一种用于搜索、匹配和处理文本的模式描述语言,可以在大量文本数据中快速而灵活地查找、识别和提取所需的信息,
    2023-11-11
  • Python模块导入问题终极解决方法指南

    Python模块导入问题终极解决方法指南

    这篇文章主要介绍了Python模块导入机制,包括sys.path的作用、包与模块的区别,以及常见导入问题如ModuleNotFoundError和相对导入问题的解决方法,文中通过代码介绍的非常详细,需要的朋友可以参考下
    2025-02-02
  • Python生成随机密码的方法

    Python生成随机密码的方法

    这篇文章主要为大家详细介绍了Python生成随机密码的方法，具有一定的参考价值，感兴趣的小伙伴们可以参考一下
    2017-06-06
  • Python搭建代理IP池实现接口设置与整体调度

    Python搭建代理IP池实现接口设置与整体调度

    这篇文章主要介绍了Python搭建代理IP池实现接口设置与整体调度，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧
    2019-10-10

最新评论