基于selenium-java封装chrome、firefox、phantomjs实现爬虫
2017年一直以来在公司负责爬虫项目相关工程,主要业务有预定、库存、在开发中也遇到很多问题,随手记录一下,后续会持续更新。
chrome、firefox、phantomjs插件安装和版本说明
基于selenium-java封装chrome、firefox、phantomjs实现爬虫
maven版本说明
<!-- +++|selenium|+++ --> <dependency> <groupId>org.seleniumhq.selenium</groupId> <artifactId>selenium-java</artifactId> <version>3.5.1</version> </dependency> <!-- +++|phantomjsdriver|+++ --> <dependency> <groupId>com.github.detro.ghostdriver</groupId> <artifactId>phantomjsdriver</artifactId> <version>1.1.0</version> </dependency>
chrome插件配置
下载地址:chromedriver下载地址选择本地系统对应的chrome版本安装,工程下面有一个 对应的目录是:Plugin/chromedriver_win32.zip
,对应chrmoe版本是Supports Chrome v60-62
直接运行项目中示例
public class ChromeTest { public static void main(String[] args) { WebDriver webDriver = null; try { webDriver = WebDriverUtil.createChromeWebDriver("D:\\webdrvier\\chromedriver.exe");//修改路径 webDriver.get("https://www.baidu.com/"); System.out.println(webDriver.getTitle()); } catch (Exception e) { e.printStackTrace(); } finally { if (webDriver != null) { webDriver.close(); } } } }
chrome配置插件是最简单的,linux上面只需要把插件换成linux版本即可
firefox
下载插件地址:geckodriver下载地址,选择本地系统对应的firefox版本安装,工程下面有一个 对应的目录是:Plugin/geckodriver-v0.18.0-win64.zip
,对应firefox版本是Firefox Setup 50.0(64位)
、其他版本没有测试过
firefox下载地址、selenium-java版本和geckodriver版本更新迭代不一致,导致在搭建环境时很容易出现一系列问题。
直接运行项目中示例
public class FireFoxTest { public static void main(String[] args) { WebDriver webDriver = null; try { webDriver = WebDriverUtil.createFirefoxWebDriver("D:\\webdrvier\\Firefox\\geckodriver_18.exe"); webDriver.get("https://book.douban.com/tag/"); Set<String> tagSet = new HashSet<>(); //获取豆瓣标签 List<WebElement> divWebElement = webDriver.findElements(By.cssSelector("#content > div > div.article > div:nth-child(2) > div")); for (WebElement webElement : divWebElement) { List<WebElement> aWebElement = webElement.findElements(By.cssSelector("a")); for (WebElement element : aWebElement) { tagSet.add(element.getText()); } } System.out.println(tagSet); //点击小说标签 WebElement webElement = webDriver.findElement(By.cssSelector("#content > div > div.article > div:nth-child(2) > div:nth-child(1) > table > tbody > tr:nth-child(1) > td:nth-child(1) > a")); webElement.click(); System.out.println(webDriver.getTitle()); } catch (Exception e) { e.printStackTrace(); } finally { if (webDriver != null) { webDriver.quit(); webDriver.close(); } } } }
phantomjs
下载插件地址phantomjs插件地址1、phantomjs插件地址2、下载有些慢。phantomjs是没有界面的,所以只需要下载插件即可。
直接运行项目中示例
public class PhantomjsTest { public static void main(String[] args) { WebDriver webDriver = null; try { webDriver = WebDriverUtil.createPhantomjsWebDriver("D:/webdrvier/phantomjs-1.9.8-windows/phantomjs.exe"); webDriver.get("https://www.baidu.com/"); System.out.println(webDriver.getTitle()); } catch (Exception e) { e.printStackTrace(); } finally { if (webDriver != null) { webDriver.close(); } } } }
到此这篇关于基于selenium-java封装chrome、firefox、phantomjs实现爬虫的文章就介绍到这了,更多相关selenium java封装爬虫内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!
相关文章
Java操作minio删除文件夹及其文件方法(MinIO基本使用)
MinIO是一个高性能、无限扩展的开源对象存储服务器,它以对象的形式存储数据,并兼容Amazon S3接口,它适用于大规模数据存储、大数据分析、文件共享和备份等应用场景,这篇文章主要介绍了java操作minio删除文件夹及其文件方法,需要的朋友可以参考下2024-02-02Springboot jdbctemplate整合实现步骤解析
这篇文章主要介绍了Springboot jdbctemplate整合实现步骤解析,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下2020-08-08
最新评论