使用maven实现有关Jsoup简单爬虫的步骤
一、Jsoup的简介
jsoup 是一款Java 的HTML解析器,可直接解析某个URL地址、HTML文本内容。它提供了一套非常省力的API,可通过DOM,CSS以及类似于jQuery的操作方法来取出和操作数据
二、我们可以利用Jsoup做什么
2.1从URL,文件或字符串中刮取并解析HTML查找和提取数据,
2.2使用DOM遍历或CSS选择器操纵HTML元素,属性和文本
2.3从而使我们输出我们想要的整洁文本
三、利用Jsoup爬取某东示例

可以从图中看到,成功爬取某东的女装热门销量从高到低的标题,从而可以分析到销量高(或者是综合排序)在前列的标题名称。从而可以剖析出热门商品的命名规范。
四、Jsoup用法
4.1先创建maven工程,在maven工程上注入依赖

4.2注入依赖后需要导入依赖,否则在程序中使用Jsoup会全部报错。
4.3利用JSP的知识找出目标元素

如在某东界面我们发现, 控制目标页面的ID为"plist",则我们使用
getElementById("plist");方法去获取到他的ID
接着获取目标标题,可以由上图分析得,标题是由<em>标签所控制,因此我们需要用到
getElementsByTag("em");去捕捉到em的部分
最后循环输出他的部分即可。

五、总结
Jsoup只能应用于简单的页面捕捉,在实际开发中许多网站采用Ajax技术等使得模块在动态变化抑或是有反爬虫技术,因此本技术有局限性。熟悉前端jsp技术的同学应该会游刃有余。
最后附上所有代码

以上就是使用maven实现有关Jsoup简单爬虫的步骤的详细内容,更多关于maven实现Jsoup爬虫的资料请关注脚本之家其它相关文章!
相关文章
java源码解析之String类的compareTo(String otherString)方法
这篇文章主要给大家介绍了关于java源码解析之String类的compareTo(String otherString)方法的相关资料,文中通过示例代码介绍的非常详细,需要的朋友可以参考借鉴,下面随着小编来一起学习学习吧2018-09-09
Java报错net.dean.jraw.http.NetworkException异常的原因及解决方法
在开发涉及网络通信的Java应用程序时,我们经常需要处理各种网络异常,net.dean.jraw.http.NetworkException是在使用jRAW库时可能遇到的一个异常,本文将详细探讨NetworkException的成因,并提供多种解决方案,需要的朋友可以参考下2024-12-12
详解Spring Boot 使用Spring security 集成CAS
本篇文章主要介绍了详解Spring Boot 使用Spring security 集成CAS,具有一定的参考价值,感兴趣的小伙伴们可以参考一下2017-05-05


最新评论