Python使用scrapy采集数据时为每个请求随机分配user-agent的方法
更新时间：2015年04月08日 10:59:13 作者：pythoner
这篇文章主要介绍了Python使用scrapy采集数据时为每个请求随机分配user-agent的方法,涉及Python使用scrapy采集数据的技巧,非常具有实用价值,需要的朋友可以参考下
本文实例讲述了Python使用scrapy采集数据时为每个请求随机分配user-agent的方法。分享给大家供大家参考。具体分析如下：
通过这个方法可以每次请求更换不同的user-agent，防止网站根据user-agent屏蔽scrapy的蜘蛛
首先将下面的代码添加到settings.py文件，替换默认的user-agent处理模块
复制代码 代码如下:
DOWNLOADER_MIDDLEWARES = {
'scraper.random_user_agent.RandomUserAgentMiddleware': 400,
'scrapy.contrib.downloadermiddleware.useragent.UserAgentMiddleware': None,
}
'scraper.random_user_agent.RandomUserAgentMiddleware': 400,
'scrapy.contrib.downloadermiddleware.useragent.UserAgentMiddleware': None,
}
自定义useragent处理模块
复制代码 代码如下:
from scraper.settings import USER_AGENT_LIST
import random
from scrapy import log
class RandomUserAgentMiddleware(object):
def process_request(self, request, spider):
ua = random.choice(USER_AGENT_LIST)
if ua:
request.headers.setdefault('User-Agent', ua)
#log.msg('>>>> UA %s'%request.headers)
import random
from scrapy import log
class RandomUserAgentMiddleware(object):
def process_request(self, request, spider):
ua = random.choice(USER_AGENT_LIST)
if ua:
request.headers.setdefault('User-Agent', ua)
#log.msg('>>>> UA %s'%request.headers)
希望本文所述对大家的Python程序设计有所帮助。
相关文章
Python 实现图片转字符画的示例(静态图片,gif皆可)
这篇文章主要介绍了Python 实现图片转字符画的示例，帮助大家更好的利用python进行图片处理，感兴趣的朋友可以了解下2020-11-11
本文主要介绍了Python删除指定字符之前或之后所有内容的方法，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2023-03-03
Python图片视频超分模型RealBasicVSR的使用教程
这篇文章主要和大家分享一个有意思的模型：RealBasicVSR。这个模型可以实现图片或视频的超分处理，感兴趣的小伙伴可以跟随小编一起学习一下2022-05-05
使用python搭建服务器并实现Android端与之通信的方法
今天小编就为大家分享一篇使用python搭建服务器并实现Android端与之通信的方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2019-06-06
这篇文章主要介绍了使用pyecharts无法import Bar的解决方案，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2017-01-01
最新版 Windows10上安装Python 3.8.5的步骤详解
这篇文章主要介绍了最新版 Windows10上安装Python 3.8.5的步骤详解,本文给大家介绍的非常详细，对大家的学习或工作具有一定的参考借鉴价值，需要的朋友可以参考下2020-11-11
详谈在flask中使用jsonify和json.dumps的区别
下面小编就为大家分享一篇详谈在flask中使用jsonify和json.dumps的区别，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2018-03-03
今天小编就为大家分享一篇python通过tcp发送xml报文的方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2018-12-12
中国象棋是一种古老的棋类游戏，大约有两千年的历史。本文将介绍如何通过Python中的Pygame模块实现人机中国象棋游戏，感兴趣的可以学习一下2022-01-01
python的random库，提供了很多随机抽样方法。本文将通过几个示例为大家详细讲讲random模块实现随机抽样的方法，需要的可以参考一下2022-09-09
最新评论