Java实现爬取百度图片的方法分析

 更新时间:2018年12月28日 14:27:46   作者:Joker_Ye   我要评论

这篇文章主要介绍了Java实现爬取百度图片的方法,结合实例形式分析了java基于jsonp爬取百度图片的相关原理、操作技巧与注意事项,需要的朋友可以参考下

本文实例讲述了Java实现爬取百度图片的方法。分享给大家供大家参考,具体如下:

在以往用java来处理解析HTML文档或者片段时,我们通常会采用htmlparser(http://htmlparser.sourceforge.net/)这个开源类库。现在我们有了JSOUP,以后的处理HTML的内容只需要使用JSOUP就已经足够了,JSOUP有更快的更新,更方便的API等。

jsoup 是一款 Java 的HTML 解析器,可直接解析某个URL地址、HTML文本内容。它提供了一套非常省力的API,可通过DOM,CSS以及类似于jQuery的操作方法来取出和操作数据,可以看作是java版的jQuery。

jsoup的主要功能如下:

  • 从一个URL,文件或字符串中解析HTML;
  • 使用DOM或CSS选择器来查找、取出数据;
  • 可操作HTML元素、属性、文本;

jsoup是基于MIT协议发布的,可放心使用于商业项目。官方网站:http://jsoup.org/

步骤大致可以分为三个模块:一是获取网页的资源,二是解析获取的资源,取出我们想要的图片URL地址,三是通过java的io存储在本地文件中。

获取网页资源的核心模块就是通过Jsoup去获取网页的内容,具体核心代码如下:

private static List<JsoupImageVO> findImageNoURl(String hotelId, String url, int timeOut) {
    List<JsoupImageVO> result = new ArrayList<JsoupImageVO>();
    Document document = null;
    try {
      document = Jsoup.connect(url).data("query", "Java")//请求参数
          .userAgent("Mozilla/4.0 (compatible; MSIE 9.0; Windows NT 6.1; Trident/5.0)")//设置urer-agent get();
          .timeout(timeOut)
          .get();
      String xmlSource = document.toString();
      result = dealResult(xmlSource, hotelId);
    } catch (Exception e) {
      String defaultURL = "http://qnimg.zowoyoo.com/img/15463/1509533934407.jpg";
      result = dealResult(defaultURL,hotelId);
    }
    return result;
}

其中URL地址是百度图片搜索的地址,具体调用代码如下:

public static List<JsoupImageVO> findImage(String hotelName, String hotelId, int page) {
    int number=5;
    String url = "http://image.baidu.com/search/avatarjson?tn=resultjsonavatarnew&ie=utf-8&word=" + hotelName + "&cg=star&pn=" + page * 30 + "&rn="+number+"&itg=0&z=0&fr=&width=&height=&lm=-1&ic=0&s=0&st=-1&gsm=" + Integer.toHexString(page * 30);
    int timeOut = 5000;
    return findImageNoURl(hotelId, url, timeOut);
}

这里需要注意的是:word是我们要搜索的关键字,pn是显示的页码,rn是一页显示多少个数据。

解析网页的资源,然后封装起来。核心代码如下:

private static List<JsoupImageVO> dealResult(String xmlSource, String hotelId) {
    List<JsoupImageVO> result = new ArrayList<JsoupImageVO>();
    xmlSource = StringEscapeUtils.unescapeHtml3(xmlSource);
    String reg = "objURL\":\"http://.+?\\.(gif|jpeg|png|jpg|bmp)";
    Pattern pattern = Pattern.compile(reg);
    Matcher m = pattern.matcher(xmlSource);
    while (m.find()) {
      JsoupImageVO jsoupImageVO = new JsoupImageVO();
      String imageURL = m.group().substring(9);
      if(imageURL==null || "".equals(imageURL)){
        String defaultURL = "http://qnimg.zowoyoo.com/img/15463/1509533934407.jpg";
        jsoupImageVO.setUrl(defaultURL);
      }else{
        jsoupImageVO.setUrl(imageURL);
      }
      jsoupImageVO.setName(hotelId);
      result.add(jsoupImageVO);
    }
    return result;
}

这里最主要的地方就是reg这个正则表达式,通过正则表达式,去网页中解析符合规定的图片URL地址,然后封装在对象中。

最后一部分就是通过java的io流去图片地址获取图片,并保存在本地。核心代码如下:

//根据图片网络地址下载图片
public static void download(String url,String name,String path){
    File file= null;
    File dirFile=null;
    FileOutputStream fos=null;
    HttpURLConnection httpCon = null;
    URLConnection con = null;
    URL urlObj=null;
    InputStream in =null;
    byte[] size = new byte[1024];
    int num=0;
    try {
      dirFile = new File(path);
      if(dirFile.exists()){
        dirFile.delete();
      }
      dirFile.mkdir();
      file = new File(path+"//"+name+".jpg");
      fos = new FileOutputStream(file);
      if(url.startsWith("http")){
        urlObj = new URL(url);
        con = urlObj.openConnection();
        httpCon =(HttpURLConnection) con;
        in = httpCon.getInputStream();
        while((num=in.read(size)) != -1){
          for(int i=0;i<num;i++)
            fos.write(size[i]);
        }
      }
    }catch (FileNotFoundException notFoundE) {
      LogUtils.writeLog("找不到该网络图片....");
    }catch(NullPointerException nullPointerE){
      LogUtils.writeLog("找不到该网络图片....");
    }catch(IOException ioE){
      LogUtils.writeLog("产生IO异常.....");
    }catch (Exception e) {
      e.printStackTrace();
    }finally{
      try {
        fos.close();
      } catch (Exception e) {
        e.printStackTrace();
      }
    }
}

这里面的操作都是java中io篇一些基础的操作,有不懂的可以去看看java中io模块的内容。

因为我这边是maven项目,所以在开发前需要引入Jsoup依赖才可以。

源码可点击此处本站下载

更多关于java相关内容感兴趣的读者可查看本站专题:《Java网络编程技巧总结》、《Java Socket编程技巧总结》、《Java文件与目录操作技巧汇总》、《Java数据结构与算法教程》、《Java操作DOM节点技巧总结》和《Java缓存操作技巧汇总

希望本文所述对大家java程序设计有所帮助。

相关文章

  • 解析Java的Hibernate框架中的持久化类和映射文件

    解析Java的Hibernate框架中的持久化类和映射文件

    这篇文章主要介绍了Java的Hibernate框架中的持久化类和映射文件,Hibernate是Java的SSH三大web开发框架之一,需要的朋友可以参考下
    2015-12-12
  • Netty学习教程之Netty与Marshalling结合发送对象

    Netty学习教程之Netty与Marshalling结合发送对象

    Netty是由JBOSS提供的一个Java开源框架,之前已经给大家简单介绍了一些基础与使用,下面这篇文章主要给大家介绍了关于Netty与Marshalling结合发送对象的相关资料,需要的朋友可以参考借鉴,下面来一起看看吧。
    2017-05-05
  • RestTemplate集成Ribbbon的示例代码

    RestTemplate集成Ribbbon的示例代码

    这篇文章主要介绍了RestTemplate集成Ribbbon的示例代码,小编觉得挺不错的,现在分享给大家,也给大家做个参考。一起跟随小编过来看看吧
    2018-08-08
  • java求100之内的素数(质数)简单示例

    java求100之内的素数(质数)简单示例

    这篇文章主要介绍了java求100之内的素数简单示例,素数是一个大于1的自然数,如果除了1和它自身外,不能被其他自然数整除的数;否则称为合数
    2014-04-04
  • Spring Boot 2.0.0 终于正式发布-重大修订版本

    Spring Boot 2.0.0 终于正式发布-重大修订版本

    北京时间 2018 年 3 月 1 日早上,如约发布的 Spring Boot 2.0 在同步至 Maven 仓库时出现问题,导致在 GitHub 上发布的 v2.0.0.RELEASE 被撤回
    2018-03-03
  • 23种设计模式(10)java组合模式

    23种设计模式(10)java组合模式

    这篇文章主要为大家详细介绍了23种设计模式之java组合模式,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2017-11-11
  • Java8 CompletableFuture详解

    Java8 CompletableFuture详解

    这篇文章主要介绍了Java8 CompletableFuture详解,CompletableFuture extends Future提供了方法,一元操作符和促进异步性以及事件驱动编程模型,需要的朋友可以参考下
    2014-06-06
  • java设计模式之抽像工厂详解

    java设计模式之抽像工厂详解

    这篇文章主要为大家详细介绍了java设计模式之抽像工厂的相关资料,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2017-09-09
  • Java利用反射如何查找使用指定注解的类详解

    Java利用反射如何查找使用指定注解的类详解

    这篇文章主要给大家介绍了关于Java利用反射如何查找使用指定注解的类的相关资料,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧。
    2017-09-09
  • spring整合redis以及使用RedisTemplate的方法

    spring整合redis以及使用RedisTemplate的方法

    本篇文章主要介绍了spring整合redis以及使用RedisTemplate的方法,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2017-05-05

最新评论