基于python 爬虫爬到含空格的url的处理方法
更新时间：2018年05月11日 09:27:23 作者：孔天逸
今天小编就为大家分享一篇基于python 爬虫爬到含空格的url的处理方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
道友问我的一个问题，之前确实没遇见过，在此记录一下。
问题描述
在某网站主页提取url进行迭代，爬虫请求主页时没有问题，返回正常，但是在访问在主页提取到的url时出现了400状态码(400 Bad Request)。
结论
先贴出结论来，如果url里有空格的话，要把空格替换成%20，也就是url编码，否则就会出现400。
解决过程
首先百度了一下400状态码什么意思：
400页面是当用户在打开网页时，返回给用户界面带有400提示符的页面。其含义是你访问的页面域名不存在或者请求错误。
主要有两种形式：
1、bad request意思是“错误的请求”；
2、invalid hostname意思是”不存在的域名”。
所以说问题应该是出在了url上，我怀疑是他的url提取逻辑有问题，于是让他把url打印一下看看，他说看不出什么问题。
然后我就把他代码要了过来，自己调调试试，发现前几个子url是访问正常的，但是其中一个出现了400，那个url如下：
http://www.qichacha.com/company_getinfos?unique=4d5ad1bc15ddc4ad9873e5b0ff4f93d3&companyname=意大利C.D.VIDEO S.P.A.深圳代表处&tab=base
下面是一个访问正常的url：
http://www.qichacha.com/company_getinfos?unique=f6aa78d2e9f4b0bc98103785f96c1353&companyname=深圳市联得自动化装备股份有限公司&tab=base
我首先把这个url复制到浏览器，发现可以正常访问，然后就留神了一下浏览器上url的变化，发现空格变成了%20，在代码里把url中的空格都替换成%20后，
程序访问也正常了。
问题解决。
启示
以后做爬虫，对于不可预测的不规律的请求，在发请求之前先把url进行url编码，以免出现这种错误。
这篇基于python 爬虫爬到含空格的url的处理方法就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持脚本之家。
相关文章
这篇文章主要介绍了python xlwt如何设置单元格的自定义背景颜色,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下2019-09-09
这篇文章主要介绍了解决Python访问MySQL数据库速度慢的问题，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2021-04-04
这篇文章主要介绍了Python搭建代理IP池实现接口设置与整体调度，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2019-10-10
本文给大家介绍的是在Python中调用fortran代码，主要是用到了f2py这个程序，十分的实用，有需要的小伙伴可以参考下2016-04-04
在Python开发中,编写可重用的工具类和通用的异常处理机制是提高代码质量和开发效率的关键,本文将介绍如何将特定的异常类改写为更通用的ValidationException,并创建一个通用的工具类Utils,需要的可以参考下2024-12-12
在Python中,多线程编程是一个常见需求,尤其是在处理I/O密集型任务时,然而,多线程环境下保持任务执行结果的顺序通常较为复杂,为了解决这一问题,可以通过封装一个功能来确保即使在多线程环境下,任务的执行结果也能按照一定的顺序进行收集和处理2024-09-09
在本篇文章里小编给大家整理的是关于为什么说python更适合树莓派编程的相关文章，需要的朋友们可以参考学习下。2020-07-07
python2.6版本中后引入的一个简单的绘图工具，叫做海龟绘图(Turtle Graphics),出现在1966年的Logo计算机语言。海龟绘图（turtle库）是python的内部模块,使用前导入即可。本文就带大家深入了解一下海龟绘图，快来跟随小编一起学习吧2021-12-12
这篇文章主要为大家详细介绍了python自动化脚本安装指定版本python环境的相关方法，具有一定的参考价值，感兴趣的小伙伴们可以参考一下2017-09-09
Python Flask中Cookie和Session区别详解
Flask是一个使用 Python 编写的轻量级 Web 应用框架。其 WSGI 工具箱采用 Werkzeug ，模板引擎则使用 Jinja2 。Flask使用 BSD 授权。Flask也被称为 “microframework” ，因为它使用简单的核心，用 extension 增加其他功能，Flask中Cookie和Session有什么区别呢2022-07-07
最新评论