Python Scrapy图片爬取原理及代码实例
更新时间：2020年06月12日 10:21:22 作者：Hedger_Lee
这篇文章主要介绍了Python Scrapy图片爬取原理及代码实例,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
1.在爬虫文件中只需要解析提取出图片地址，然后将地址提交给管道
在管道文件对图片进行下载和持久化存储
class ImgSpider(scrapy.Spider):
name = 'img'
# allowed_domains = ['www.xxx.com']
start_urls = ['http://www.521609.com/daxuemeinv/']
url = 'http://www.521609.com/daxuemeinv/list8%d.html'
pageNum = 1
def parse(self, response):
li_list = response.xpath('//*[@id="content"]/div[2]/div[2]/ul/li')
for li in li_list:
img_src = 'http://www.521609.com'+li.xpath('./a[1]/img/@src').extract_first()
item = ImgproItem()
item['src'] = img_src
yield item
2.配置文件修改
配置文件要增加IMAGES_STORE = './imgsLib'表明图片存放的路径
3.管道类的修改
原本管道类继承的object，处理item对象使用时process_item方法，该方法不能发送请求，要想对图片地址发送请求，需要继承ImagesPipeline类，然后重写该类中的三个方法:get_media_requests，file_path，item_completed
from scrapy.pipelines.images import ImagesPipeline
import scrapy
class ImgproPipeline(ImagesPipeline):
#对某一个媒体资源进行请求发送
#item就是接收到的spider提交过来的item
def get_media_requests(self, item, info):
yield scrapy.Request(item['src'])
#制定媒体数据存储的名称
def file_path(self, request, response=None, info=None):
name = request.url.split('/')[-1]
print('正在下载：',name)
return name
#将item传递给下一个即将给执行的管道类
def item_completed(self, results, item, info):
return item
以上就是本文的全部内容，希望对大家的学习有所帮助，也希望大家多多支持脚本之家。
相关文章
这篇文章主要给大家介绍了关于如何利用pyecharts画好看的饼状图的相关资料，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2021-03-03
这篇文章主要介绍了Python多继承原理与用法,简单描述了Python多继承的相关概念、原理并结合实例形式分析了Python多继承的具体定义、使用方法及相关操作注意事项,需要的朋友可以参考下2018-08-08
这篇文章主要为大家介绍了PyTorch权值初始化原理示例解析，有需要的朋友可以借鉴参考下，希望能够有所帮助，祝大家多多进步，早日升职加薪2023-07-07
这篇文章主要为大家介绍了Elasticsearch之倒排索引及索引操作示例，有需要的朋友可以借鉴参考下，希望能够有所帮助，祝大家多多进步，早日升职加薪2022-04-04
在爬虫的过程中,我们经常会遇见很多网站采取了防爬虫技术,或者说因为自己采集网站信息的强度和采集速度太大,给对方服务器带去了太多的压力,下面这篇文章主要给大家介绍了关于python爬虫之代理ip正确使用方法的相关资料,需要的朋友可以参考下2022-07-07
本文是基于opencv将视频和动态图gif保存为图像帧的方法，本文通过实例代码给大家介绍的非常详细，具有一定的参考借鉴价值，需要的朋友参考下吧2019-09-09
pytorch 计算ConvTranspose1d输出特征大小方式
这篇文章主要介绍了pytorch 计算ConvTranspose1d输出特征大小方式，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2020-06-06
使用Python从Excel读取数据并在PowerPoint幻灯片中创建图表不仅能够极大地简化图表创建过程,通过Python这一桥梁,我们可以轻松实现数据自动化处理和图表生成,本文将演示如何使用Python读取Excel数据在PPT中创建图表,需要的朋友可以参考下2024-08-08
这篇文章主要为大家详细介绍了OpenCV+python3实现视频分解成图片，文中示例代码介绍的非常详细，具有一定的参考价值，感兴趣的小伙伴们可以参考一下2021-09-09
ffill（forward fill）是Pandas库中DataFrame和Series对象的一个函数,用于填充缺失值,本文主要介绍了Pandas库中ffill函数的具体使用,具有一定的参考价值,感兴趣的可以了解一下2024-07-07
最新评论