详情介绍
软件介绍:NwebCrawler是用C#写的一款多线程网络爬虫程序,它的实现原理是先输入一个或多个种子URL到队列中,然后从队列中提取URL(先进先出原则),分析此网页寻找相应标签并获得其href属性值,爬取有用的链接网页并存入网页库中,其中用爬取历史来记录爬过的网页,这样避免了重复爬取。提取URL存入队列中,进行下一轮爬取。所以NwebCrawler的搜索策略为广度优先搜索。采用广度优先策略有利于多个线程并行爬取而且抓取的封闭性很强。
功能介绍:可配置:线程数,等待时间,连接超时,允许MIME类型和优先级,下载文件夹。
统计信息:URL数量,总下载文件,总下载字节数,CPU利用率和可用内存。
Preferential crawler:用户可以设置优先级的MIME类型。
Robust: 10+ URL normalization rules, crawler trap avoiding rules.
下载地址
人气软件
相关文章
-
Noi(增强型AI聚合搜索) for linux v0.2.1 免费Linux版Noi Linux版是一款集成了多种人工智能工具、插件和社区的跨平台浏览器,旨在为用户提供一个定制化的AI体验,通过其独特的功能,Noi能够适应不同用户的需求,为他们提供个性...
-
Noi(AI聚合搜索) v0.4.0 官方版Noi是一个简洁而强大的AI工具,它不仅仅是一个应用程序,更是你通往智能世界的钥匙,欢迎需要的朋友下载使用...
-
广告滚蛋(win11广告关闭工具) v0.4 官方绿色版广告滚蛋(win11广告关闭工具)这是一款能一键关闭 Win11 各个广告设置的小工具,操作简单,欢迎需要的朋友下载使用...
-
广告拦截大师AdBlockMaster v1.3524.1040.313 官方安装版广告拦截大师AdBlockMaster是一款简单易用的广告拦截工具,让您的告别烦扰,享受纯净操作,使用AdBlock Master后,您可以上网浏览,而不会出现烦人的广告,阻止广告在网络...
-
ZHPCleaner(广告拦截工具) v2023.12.29.66 绿色免费版ZHPCleaner是一款由Nicolas Coolman为Windows平台提供的免费广告软件删除器,它ZHPCleaner是一款由Nicolas Coolman为Windows平台提供的免费广告软件删除器,它设计目标是帮...
-
Ginger Webs Verificare(网页验证测试软件) v7.0.10 免费版Ginger Webs Verificare免费版是一款软件,用于验证和清理网页内容,以帮助网站管理员确保其网站内容的准确性和质量,它可以帮助检测和删除任何恶意软件、广告、恶意代码或...
下载声明
☉ 解压密码:www.jb51.net 就是本站主域名,希望大家看清楚,[ 分享码的获取方法 ]可以参考这篇文章
☉ 推荐使用 [ 迅雷 ] 下载,使用 [ WinRAR v5 ] 以上版本解压本站软件。
☉ 如果这个软件总是不能下载的请在评论中留言,我们会尽快修复,谢谢!
☉ 下载本站资源,如果服务器暂不能下载请过一段时间重试!或者多试试几个下载地址
☉ 如果遇到什么问题,请评论留言,我们定会解决问题,谢谢大家支持!
☉ 本站提供的一些商业软件是供学习研究之用,如用于商业用途,请购买正版。
☉ 本站提供的网络爬虫工具(NWebCrawler) v1.0.1 绿色英文版资源来源互联网,版权归该下载资源的合法拥有者所有。



























