零基础写python爬虫之爬虫框架Scrapy安装配置
前面十章爬虫笔记陆陆续续记录了一些简单的Python爬虫知识，
用来解决简单的贴吧下载，绩点运算自然不在话下。
不过要想批量下载大量的内容，比如知乎的所有的问答，那便显得游刃不有余了点。
于是乎，爬虫框架Scrapy就这样出场了！
Scrapy = Scrach+Python，Scrach这个单词是抓取的意思，
Scrapy的官网地址：点我点我。
那么下面来简单的演示一下Scrapy的安装流程。
具体流程参照：https://www.jb51.net/article/48607.htm
友情提醒：一定要按照Python的版本下载，要不然安装的时候会提醒找不到Python。建议大家安装32位是因为有些版本的必备软件64位不好找。
1.安装Python（建议32位）
建议安装Python2.7.x，3.x貌似还不支持。
安装完了记得配置环境，将python目录和python目录下的Scripts目录添加到系统环境变量的Path里。
在cmd中输入python如果出现版本信息说明配置完毕。
2.安装lxml
lxml是一种使用 Python 编写的库，可以迅速、灵活地处理 XML。点击这里选择对应的Python版本安装。
3.安装setuptools
用来安装egg文件，点击这里下载python2.7的对应版本的setuptools。
4.安装zope.interface
可以使用第三步下载的setuptools来安装egg文件，现在也有exe版本，点击这里下载。
5.安装Twisted
Twisted是用Python实现的基于事件驱动的网络引擎框架，点击这里下载。
6.安装pyOpenSSL
pyOpenSSL是Python的OpenSSL接口，点击这里下载。
7.安装win32py
提供win32api，点击这里下载
8.安装Scrapy
终于到了激动人心的时候了！安装了那么多小部件之后终于轮到主角登场。
直接在cmd中输入easy_install scrapy回车即可。
9.检查安装
打开一个cmd窗口，在任意位置执行scrapy命令，得到下列页面，表示环境配置成功。
相关文章
这篇文章主要介绍了Scrapy项目实战之爬取某社区用户详情，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2020-09-09
Pandas是Python中用于数据分析和处理的强大库,它提供了丰富的功能,可以轻松地处理各种类型的数据,在实际应用中,我们经常需要对数据进行复杂的转换、计算或聚合操作,而这些操作往往不能仅靠Pandas内置的函数完成,这时,自定义函数就显得尤为重要2025-01-01
我们知道,python脚本或者说python程序其实是一个包含了python代码的文件,通过运行python代码,我们可以验证脚本/程序是否按照我们的期望执行,在python中,有多种方式来运行脚本或程序,取决于小伙伴们的需求,接下来小编将介绍几种常见的 python 代码运行方式2023-10-10
这篇文章主要为大家详细介绍了Python实现简单猜拳游戏，文中示例代码介绍的非常详细，具有一定的参考价值，感兴趣的小伙伴们可以参考一下2022-01-01
这篇文章主要介绍了python lxml中etree的简单应用，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2019-05-05
文主要介绍了Python函数参数的两种基本类型：位置参数和关键字参数,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧2025-01-01
Python实现批量读取HDF多波段栅格数据并绘制像元直方图
这篇文章主要为大家详细介绍了如何基于Python语言gdal模块，实现多波段HDF栅格图像文件的读取、处理与像元值可视化（直方图绘制）等操作，需要的可以参考一下2023-03-03
python使用docx模块读写docx文件的方法与docx模块常用方法详解
这篇文章主要介绍了python使用docx模块读写docx文件的方法与docx模块常用方法详解,需要的朋友可以参考下2020-02-02
这篇文章主要为大家介绍了Python Httpx库实现超跑式网络请求用法实例,有需要的朋友可以借鉴参考下,希望能够有所帮助,祝大家多多进步,早日升职加薪2024-01-01
这篇文章主要介绍了python通过文件头判断文件类型，需要的朋友可以参考下2015-10-10
最新评论