网络爬虫工具(NWebCrawler) v1.0.1 绿色英文版

  • 软件大小:112KB
  • 软件语言:英文软件
  • 软件类型:国外软件
  • 软件授权:免费软件
  • 软件类别:浏览辅助
  • 应用平台:Windows平台
  • 更新时间:2015-06-25
  • 网友评分:
360通过 腾讯通过 金山通过

情介绍

网络爬虫是一款一种按照一定的规则,自动的抓取万维网信息的程序或者脚本。另外一些不常使用的名字还有蚂蚁,自动索引,模拟程序或者蠕虫,该又被称为网页蜘蛛,网络机器人,在FOAF社区中间,更经常的称为网页追逐者,欢迎需要的下载!
软件介绍:NwebCrawler是用C#写的一款多线程网络爬虫程序,它的实现原理是先输入一个或多个种子URL到队列中,然后从队列中提取URL(先进先出原则),分析此网页寻找相应标签并获得其href属性值,爬取有用的链接网页并存入网页库中,其中用爬取历史来记录爬过的网页,这样避免了重复爬取。提取URL存入队列中,进行下一轮爬取。所以NwebCrawler的搜索策略为广度优先搜索。采用广度优先策略有利于多个线程并行爬取而且抓取的封闭性很强。
功能介绍:可配置:线程数,等待时间,连接超时,允许MIME类型和优先级,下载文件夹。
统计信息:URL数量,总下载文件,总下载字节数,CPU利用率和可用内存。
Preferential crawler:用户可以设置优先级的MIME类型。
Robust: 10+ URL normalization rules, crawler trap avoiding rules.

载地址

下载错误?【投诉报错】

网络爬虫工具(NWebCrawler) v1.0.1 绿色英文版

      气软件

      关文章

      载声明

      ☉ 解压密码:www.jb51.net 就是本站主域名,希望大家看清楚,[ 分享码的获取方法 ]可以参考这篇文章
      ☉ 推荐使用 [ 迅雷 ] 下载,使用 [ WinRAR v5 ] 以上版本解压本站软件。
      ☉ 如果这个软件总是不能下载的请在评论中留言,我们会尽快修复,谢谢!
      ☉ 下载本站资源,如果服务器暂不能下载请过一段时间重试!或者多试试几个下载地址
      ☉ 如果遇到什么问题,请评论留言,我们定会解决问题,谢谢大家支持!
      ☉ 本站提供的一些商业软件是供学习研究之用,如用于商业用途,请购买正版。
      ☉ 本站提供的网络爬虫工具(NWebCrawler) v1.0.1 绿色英文版资源来源互联网,版权归该下载资源的合法拥有者所有。