Python3爬虫中pyspider的安装步骤
pyspider是国人binux编写的强大的网络爬虫框架，它带有强大的WebUI、脚本编辑器、任务监控器、项目管理器以及结果处理器，同时支持多种数据库后端、多种消息队列，另外还支持JavaScript渲染页面的爬取，使用起来非常方便，本节介绍一下它的安装过程。
1. 相关链接
官方文档：http://docs.pyspider.org/
PyPI：https://pypi.python.org/pypi/pyspider
GitHub：https://github.com/binux/pyspider
官方教程：http://docs.pyspider.org/en/latest/tutorial
2. 准备工作
pyspider是支持JavaScript渲染的，而这个过程是依赖于PhantomJS的，所以还需要安装PhantomJS（具体的安装过程详见1.2.5节）。
3. pip安装
这里推荐使用pip安装，命令如下：
pip3 install pyspider
命令执行完毕即可完成安装。
4. 常见错误
Windows下可能会出现这样的错误提示：
Command "python setup.py egg_info" failed with error code 1 in /tmp/pip-build-vXo1W3/pycurl
这是PyCurl安装错误，此时需要安装PyCurl库。从http://www.lfd.uci.edu/~gohlke/pythonlibs/#pycurl找到对应的Python版本，然后下载相应的wheel文件即可。比如Windows 64位、Python 3.6，则需要下载pycurl‑7.43.0‑cp36‑cp36m‑win_amd64.whl，随后用pip安装即可，命令如下：
pip3 install pycurl‑7.43.0‑cp36‑cp36m‑win_amd64.whl
如果在Linux下遇到PyCurl的错误，可以参考本文：https://www.jb51.net/article/192094.htm。
5. 验证安装
安装完成之后，可以直接在命令行下启动pyspider：
pyspider all
此时控制台会有类似如图1-74所示的输出。
这时pyspider的Web服务就会在本地5000端口运行。直接在浏览器中打开http://localhost:5000/，即可进入pyspider的WebUI管理页面，如图1-75所示，这证明pyspider已经安装成功了。
后面，我们会详细介绍pyspider的用法。
到此这篇关于Python3爬虫中pyspider的安装步骤的文章就介绍到这了,更多相关Python3爬虫pyspider的安装内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家！
相关文章
这篇文章主要为大家介绍了Python全栈之CSS，具有一定的参考价值，感兴趣的小伙伴们可以参考一下，希望能够给你带来帮助2022-01-01
今天小编大家分享一篇PYQT5实现控制台显示功能的方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2019-06-06
Python利用format函数实现对齐打印(左对齐、右对齐与居中对齐)
format是字符串内嵌的一个方法,用于格式化字符串,下面这篇文章主要给大家介绍了关于Python利用format函数实现对齐打印(左对齐、右对齐与居中对齐)的相关资料,需要的朋友可以参考下2022-04-04
这篇文章主要介绍了Python 网页解析HTMLParse的实例详解的相关资料,python里提供了一个简单的解析模块HTMLParser类，使用起来也是比较简单的，解析语法没有用到XPath类似的简洁模式,需要的朋友可以参考下2017-08-08
这篇文章主要为大家介绍了python循环之彩色圆环实现示例详解，有需要的朋友可以借鉴参考下，希望能够有所帮助，祝大家多多进步，早日升职加薪2022-06-06
这篇文章主要介绍了如何利用 Python 完成一个 Saga 的分布式事务,需要的朋友可以参考下面文章具体的内容2021-09-09
Python Pytest装饰器@pytest.mark.parametrize详解
本文主要介绍了Python Pytest装饰器@pytest.mark.parametrize详解，文中通过示例代码介绍的非常详细，具有一定的参考价值，感兴趣的小伙伴们可以参考一下2021-08-08
这篇文章主要介绍了分析用Python脚本关闭文件操作的机制,作者分Python2.x版本和3.x版本两种情况进行了阐述,需要的朋友可以参考下2015-06-06
这篇文章主要介绍了python3如何使用Requests测试带签名的接口，具有很好的参考价值，希望对大家有所帮助。如有错误或未考虑完全的地方，望不吝赐教2022-02-02
Python基础之循环语句用法示例【for、while循环】
这篇文章主要介绍了Python基础之循环语句用法,结合实例形式分析了Python使用for、while循环及range、break和continue语句相关使用技巧,需要的朋友可以参考下2019-03-03
最新评论