Pycharm+Scrapy安装并且初始化项目的方法
更新时间：2019年01月15日 15:10:24 作者：方naoke
今天小编就为大家分享一篇Pycharm+Scrapy安装并且初始化项目的方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
前言
Scrapy是一个开源的网络爬虫框架，Python编写的。最初设计用于网页抓取，也可以用来提取数据使用API或作为一个通用的网络爬虫。是数据采集不可必备的利器。
安装
pip install scrapy
如果使用上面的命令太慢。国内可以使用豆瓣源进行加速。
pip install -i https://pypi.douban.com/simple scrapy
注意要写错了，是 https://pypi.douban.com/simple 很多包都可以使用这个源进行加速，这也是pip的一个技巧，还可以使用阿里云进行加速。
安装完成之后在命令行输入
scrapy -v
如果出现了相应的版本号就说明安装成功。
创建项目
目前还没有IDE 能够创建scrapy的项目，我们必须手动初始化项目。
1、找一个目录
输入命令
scrapy startproject SpiderObject
命令行出现这样的结果说明创建成果
You can start your first spider with: cd SpiderObject scrapy genspider example example.com
去文件夹中看看
初始化项目
使用pycharm打开该项目
如果出现这个页面就说明对了。
下面生成一个模板
打开pycharm的terminal
输入
scrapy genspider BiduSpider http://www.baidu.com
我们的spider 包下面会多一个文件
这说明我们的spider创建成功。可以在pytharm中使用这个 强大的框架了。
以上这篇Pycharm+Scrapy安装并且初始化项目的方法就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持脚本之家。
相关文章
在本篇文章里小编给大家整理了关于Flask中sqlalchemy模块的实例用法，需要的朋友们可以学习下。2020-08-08
今天小编就为大家分享一篇在pycharm下设置自己的个性模版方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2019-07-07
在本篇内容里我们给大家分享的是关于python安装pil库方法及代码内容，有此需要的朋友们可以参考下。2019-06-06
这篇文章主要为大家详细介绍了python实现多图像叠置输出，文中示例代码介绍的非常详细，具有一定的参考价值，感兴趣的小伙伴们可以参考一下2021-04-04
这篇文章主要介绍了浅谈一下Python中闭包的作用,闭包特点是返回的函数还引用了外层函数的局部变量,所以,要正确使用闭包,就要确保引用的局部变量在函数返回后不能变,需要的朋友可以参考下2023-12-12
微信红包告诉你,学好数学,真的可以多抢红包!!下面就和大家分享一下抢红包的秘籍,简单概括就是:让朋友先上!2015-05-05
这篇文章主要介绍了Python发送邮件测试报告操作,结合实例形式较为详细的分析了Python邮件发送相关模块使用及操作注意事项,需要的朋友可以参考下2018-12-12
这篇文章主要介绍了python中selenium库的基本使用详解,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2020-07-07
在本篇文章中小编给大家整理的是关于python的模块位置的相关知识点，需要的朋友们可以参考下。2020-06-06
利用psutil库可以获取系统的一些信息，如cpu，内存等使用率，从而可以查看当前系统的使用情况，实时采集这些信息可以达到实时监控系统的目的。本文给大家介绍Python psutil系统监控的相关知识，感兴趣的朋友一起看看吧2021-08-08
最新评论