java实现爬虫爬网站图片的实例代码

更新时间：2018年06月01日 14:18:43 作者：dingzfeng

这篇文章主要介绍了java实现爬虫爬网站图片的实例代码,需要的朋友可以参考下

第一步，实现 LinkQueue，对url进行过滤和存储的操作

import java.util.ArrayList; 
import java.util.Collections; 
import java.util.HashSet; 
import java.util.List; 
import java.util.Set; 
public class LinkQueue { 
  // 已访问的 url 集合 
  private static Set<String> visitedUrl = Collections.synchronizedSet(new HashSet<String>()); 
  // 未访问的url 
  private static List<String> unVisitedUrl = Collections.synchronizedList(new ArrayList<String>()); 
  // 未访问的URL出队列 
  public static String unVisitedUrlDeQueue() { 
    if (unVisitedUrl.size() > 0) { 
      String url = unVisitedUrl.remove(0); 
      visitedUrl.add(url); 
      return url; 
    } 
    return null; 
  } 
  // 新的url添加进来的时候进行验证，保证只是添加一次 
  public static void addUnvisitedUrl(String url) { 
    if (url != null && !url.trim().equals("") && !visitedUrl.contains(url) 
        && !unVisitedUrl.contains(url)) 
      unVisitedUrl.add(url); 
  } 
  // 判断未访问的URL队列中是否为空 
  public static boolean unVisitedUrlsEmpty() { 
    return unVisitedUrl.isEmpty(); 
  } 
}

第二步，收集每一个url下的链接进行过滤产生新的链接

import java.util.HashSet; 
import java.util.Set; 
import org.htmlparser.Node; 
import org.htmlparser.NodeFilter; 
import org.htmlparser.Parser; 
import org.htmlparser.filters.NodeClassFilter; 
import org.htmlparser.filters.OrFilter; 
import org.htmlparser.tags.LinkTag; 
import org.htmlparser.util.NodeList; 
import org.htmlparser.util.ParserException; 
/** 
 * 过滤http的url，获取可以符合规则的url 
 * @author Administrator 
 * 
 */ 
public class ParserHttpUrl { 
  // 获取一个网站上的链接,filter 用来过滤链接 
  public static Set<String> extracLinks(String url, LinkFilter filter) { 
    Set<String> links = new HashSet<String>(); 
    try { 
      Parser parser = new Parser(url); 
      // 过滤 <frame >标签的 filter，用来提取 frame 标签里的 src 属性所表示的链接 
      NodeFilter frameFilter = new NodeFilter() { 
        public boolean accept(Node node) { 
          if (node.getText().startsWith("frame src=")) { 
            return true; 
          } else { 
            return false; 
          } 
        } 
      }; 
      // OrFilter 来设置过滤 <a> 标签，和 <frame> 标签 
      OrFilter linkFilter = new OrFilter(new NodeClassFilter( 
          LinkTag.class), frameFilter); 
      // 得到所有经过过滤的标签 
      NodeList list = parser.extractAllNodesThatMatch(linkFilter); 
      for (int i = 0; i < list.size(); i++) { 
        Node tag = list.elementAt(i); 
        if (tag instanceof LinkTag)// <a> 标签 
        { 
          LinkTag link = (LinkTag) tag; 
          String linkUrl = link.getLink();// url 
          if (filter.accept(linkUrl)) 
            links.add(linkUrl); 
        } else// <frame> 标签 
        { 
          // 提取 frame 里 src 属性的链接如 <frame src="test.html"/> 
          String frame = tag.getText(); 
          int start = frame.indexOf("src="); 
          frame = frame.substring(start); 
          int end = frame.indexOf(" "); 
          if (end == -1) 
            end = frame.indexOf(">"); 
          String frameUrl = frame.substring(5, end - 1); 
          if (filter.accept(frameUrl)) 
            links.add(frameUrl); 
        } 
      } 
    } catch (ParserException e) { 
      e.printStackTrace(); 
    } 
    return links; 
  } 
}

第三步，实现图片下载功能

import java.io.File; 
import java.io.FileOutputStream; 
import java.io.InputStream; 
import java.net.URL; 
import java.net.URLConnection; 
import java.util.ArrayList; 
import java.util.List; 
import java.util.regex.Matcher; 
import java.util.regex.Pattern; 
/*** 
 * java抓取网络图片 
 * 
 * @author swinglife 
 * 
 */ 
public class DownLoadPic { 
  // 编码 
  private static final String ECODING = "UTF-8"; 
  // 获取img标签正则 
  private static final String IMGURL_REG = "<img.*src=(.*?)[^>]*?>"; 
  // 获取src路径的正则 
  private static final String IMGSRC_REG = "http:\"?(.*?)(\"|>|\\s+)"; 
  public static void downloadPic(String url) { 
    // 获得html文本内容 
    String HTML = null; 
    try { 
      HTML = DownLoadPic.getHTML(url); 
    } catch (Exception e) { 
      e.printStackTrace(); 
    } 
    if (null != HTML && !"".equals(HTML)) { 
      // 获取图片标签 
      List<String> imgUrl = DownLoadPic.getImageUrl(HTML); 
      // 获取图片src地址 
      List<String> imgSrc = DownLoadPic.getImageSrc(imgUrl); 
      // 下载图片 
      DownLoadPic.download(imgSrc); 
    } 
  } 
  /*** 
   * 获取HTML内容 
   * 
   * @param url 
   * @return 
   * @throws Exception 
   */ 
  private static String getHTML(String url) throws Exception { 
    URL uri = new URL(url); 
    URLConnection connection = uri.openConnection(); 
    InputStream in = connection.getInputStream(); 
    byte[] buf = new byte[1024]; 
    int length = 0; 
    StringBuffer sb = new StringBuffer(); 
    while ((length = in.read(buf, 0, buf.length)) > 0) { 
      sb.append(new String(buf, ECODING)); 
    } 
    in.close(); 
    return sb.toString(); 
  } 
  /*** 
   * 获取ImageUrl地址 
   * 
   * @param HTML 
   * @return 
   */ 
  private static List<String> getImageUrl(String HTML) { 
    Matcher matcher = Pattern.compile(IMGURL_REG).matcher(HTML); 
    List<String> listImgUrl = new ArrayList<String>(); 
    while (matcher.find()) { 
      listImgUrl.add(matcher.group()); 
    } 
    return listImgUrl; 
  } 
  /*** 
   * 获取ImageSrc地址 
   * 
   * @param listImageUrl 
   * @return 
   */ 
  private static List<String> getImageSrc(List<String> listImageUrl) { 
    List<String> listImgSrc = new ArrayList<String>(); 
    for (String image : listImageUrl) { 
      Matcher matcher = Pattern.compile(IMGSRC_REG).matcher(image); 
      while (matcher.find()) { 
        listImgSrc.add(matcher.group().substring(0, 
            matcher.group().length() - 1)); 
      } 
    } 
    return listImgSrc; 
  } 
  /*** 
   * 下载图片 
   * 
   * @param listImgSrc 
   */ 
  private static void download(List<String> listImgSrc) { 
    for (String url : listImgSrc) { 
      try { 
        String imageName = url.substring(url.lastIndexOf("/") + 1, 
            url.length()); 
        URL uri = new URL(url); 
        InputStream in = uri.openStream(); 
        FileOutputStream fo = new FileOutputStream(new File(imageName)); 
        byte[] buf = new byte[1024]; 
        int length = 0; 
        while ((length = in.read(buf, 0, buf.length)) != -1) { 
          fo.write(buf, 0, length); 
        } 
        in.close(); 
        fo.close(); 
      } catch (Exception e) { 
        e.printStackTrace(); 
      } 
    } 
  } 
}

实在Filter接口，定义过滤接口：

public interface Filter { 
  public boolean accept(String url); 
}

第四步，过滤规则的实现：

public class Crawler { 
  /** 
   * 抓取过程 
   * 
   * @return 
   * @param seeds 
   */ 
  public void crawling(String url) { // 定义过滤器 
    Filter filter = new Filter() { 
      public boolean accept(String url) { 
        //这里过滤规则随需要爬的网站的规则进行改变，推荐使用正则实现，本人是爬豆瓣网站 
        if(url.indexOf("douban.com/group/topic") != -1 || url.indexOf("douban.com/group/haixiuzu/discussion?start") != -1 ) 
          return true; 
        else 
          return false; 
      } 
    }; 
    // 初始化 URL 队列 
    LinkQueue.addUnvisitedUrl(url); 
    // 循环条件，待抓取的链接不空 
    while (!LinkQueue.unVisitedUrlsEmpty()) { 
      // 队头URL出队列 
      String visitUrl = (String) LinkQueue.unVisitedUrlDeQueue(); 
      if (visitUrl == null) 
        continue; 
      DownLoadPic.downloadPic(visitUrl); 
      // 提取出下载网页中的 URL 
      Set<String> links = ParserHttpUrl.extracLinks(visitUrl, filter); 
      // 新的未访问的 URL 入队 
      for (String link : links) { 
        LinkQueue.addUnvisitedUrl(link); 
      } 
    } 
  } 
  // main 方法入口 
  public static void main(String[] args) { 
    Crawler crawler = new Crawler(); 
    crawler.crawling("http://www.douban.com/group/haixiuzu/discussion?start=0"); 
  } 
}

总结

以上所述是小编给大家介绍的java实现爬虫爬网站图片的实例代码，希望对大家有所帮助，如果大家有任何疑问请给我留言，小编会及时回复大家的。在此也非常感谢大家对脚本之家网站的支持！

您可能感兴趣的文章:

详解java为什么不允许类多重继承却允许接口多重继承
这篇文章主要介绍了java为什么不允许类多重继承却允许接口多重继承，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧
2019-05-05
Java序列化与反序列化
这篇文章主要介绍了Java的序列化与反序列化，序列化把一个对象Java Object变为一个二进制字节序列byte[]；反序列化就是把一个二进制字节序列byte[]变为Java对象Java Object。感兴趣的小伙伴可以参考阅读
2023-04-04
Java连接mysql数据库代码实例程序
这篇文章主要介绍了java连接mysql数据库代码实例程序,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
2019-11-11
Java实现分布式锁的3种方法总结
分布式锁是一种用于保证分布式系统中多个进程或线程同步访问共享资源的技术,同时它又是面试中的常见问题,所以我们本文就重点来看分布式锁的具体实现,希望对大家有所帮助
2023-09-09
如何准确判断邮件地址是否存在
本文介绍了如何判断邮件地址是否存在的方法，具有很高的使用价值，提高了工作效率
2015-07-07
java实现商品管理系统
这篇文章主要为大家详细介绍了java实现商品管理系统，文中示例代码介绍的非常详细，具有一定的参考价值，感兴趣的小伙伴们可以参考一下
2019-10-10
java控制台输出百分比进度条示例
这篇文章主要介绍了java控制台输出百分比进度条示例,需要的朋友可以参考下
2014-04-04
利用spring AOP记录用户操作日志的方法示例
这篇文章主要给大家介绍了关于利用spring AOP记录用户操作日志的相关资料，文中通过示例代码介绍的非常详细，对大家具有一定的参考学习价值，需要的朋友们下面跟着小编一起来学习学习吧。
2017-07-07
关于Java中Bean的作用域详解
这篇文章主要介绍了关于Java中Bean的作用域详解,限定程序中变量的可⽤范围叫做作⽤域，或者说在源代码中定义变量的某个区域就叫做作⽤域,需要的朋友可以参考下
2023-08-08
Spring中@Controller和@RestController的区别详解
这篇文章主要介绍了Spring中@Controller和@RestController的区别详解,@RestController 是 @Controller 和 @ResponseBody 的结合体,单独使用 @RestController 的效果与 @Controller 和 @ResponseBody 二者同时使用的效果相同,需要的朋友可以参考下
2023-10-10

java实现爬虫爬网站图片的实例代码

相关文章

最新评论

大家感兴趣的内容

最近更新的内容

常用在线小工具