Pycharm+Scrapy安装并且初始化项目的方法

 更新时间:2019年01月15日 15:10:24   作者:方naoke  
今天小编就为大家分享一篇Pycharm+Scrapy安装并且初始化项目的方法,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧

前言

Scrapy是一个开源的网络爬虫框架,Python编写的。最初设计用于网页抓取,也可以用来提取数据使用API或作为一个通用的网络爬虫。是数据采集不可必备的利器。

安装

pip install scrapy 

如果使用上面的命令太慢。国内可以使用豆瓣源进行加速。

pip install -i https://pypi.douban.com/simple scrapy 

注意要写错了,是 https://pypi.douban.com/simple 很多包都可以使用这个源进行加速,这也是pip的一个技巧,还可以使用阿里云进行加速。

安装完成之后在命令行输入

scrapy -v

如果出现了相应的版本号就说明安装成功。

创建项目

目前还没有IDE 能够创建scrapy的项目,我们必须手动初始化项目。

1、找一个目录

输入命令

scrapy startproject SpiderObject

命令行出现这样的结果说明创建成果

You can start your first spider with:
 cd SpiderObject
 scrapy genspider example example.com

去文件夹中看看

Pycharm+Scrapy安装并且初始化项目

初始化项目

使用pycharm打开该项目

Pycharm+Scrapy安装并且初始化项目

如果出现这个页面就说明对了。

Pycharm+Scrapy安装并且初始化项目

下面生成一个模板

打开pycharm的terminal

Pycharm+Scrapy安装并且初始化项目

输入

scrapy genspider BiduSpider http://www.baidu.com

我们的spider 包下面会多一个文件

Pycharm+Scrapy安装并且初始化项目

这说明我们的spider创建成功。可以在pytharm中使用这个 强大的框架了。

以上这篇Pycharm+Scrapy安装并且初始化项目的方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持脚本之家。

相关文章

  • Flask中sqlalchemy模块的实例用法

    Flask中sqlalchemy模块的实例用法

    在本篇文章里小编给大家整理了关于Flask中sqlalchemy模块的实例用法,需要的朋友们可以学习下。
    2020-08-08
  • 在pycharm下设置自己的个性模版方法

    在pycharm下设置自己的个性模版方法

    今天小编就为大家分享一篇在pycharm下设置自己的个性模版方法,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2019-07-07
  • python安装pil库方法及代码

    python安装pil库方法及代码

    在本篇内容里我们给大家分享的是关于python安装pil库方法及代码内容,有此需要的朋友们可以参考下。
    2019-06-06
  • python实现多图像叠置输出

    python实现多图像叠置输出

    这篇文章主要为大家详细介绍了python实现多图像叠置输出,文中示例代码介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2021-04-04
  • 浅谈一下Python中闭包的作用

    浅谈一下Python中闭包的作用

    这篇文章主要介绍了浅谈一下Python中闭包的作用,闭包特点是返回的函数还引用了外层函数的局部变量,所以,要正确使用闭包,就要确保引用的局部变量在函数返回后不能变,需要的朋友可以参考下
    2023-12-12
  • Python版微信红包分配算法

    Python版微信红包分配算法

    微信红包告诉你,学好数学,真的可以多抢红包!!下面就和大家分享一下抢红包的秘籍,简单概括就是:让朋友先上!
    2015-05-05
  • Python发送邮件测试报告操作实例详解

    Python发送邮件测试报告操作实例详解

    这篇文章主要介绍了Python发送邮件测试报告操作,结合实例形式较为详细的分析了Python邮件发送相关模块使用及操作注意事项,需要的朋友可以参考下
    2018-12-12
  • python中selenium库的基本使用详解

    python中selenium库的基本使用详解

    这篇文章主要介绍了python中selenium库的基本使用详解,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2020-07-07
  • python模块如何查看

    python模块如何查看

    在本篇文章中小编给大家整理的是关于python的模块位置的相关知识点,需要的朋友们可以参考下。
    2020-06-06
  • Python使用psutil库对系统数据进行采集监控的方法

    Python使用psutil库对系统数据进行采集监控的方法

    利用psutil库可以获取系统的一些信息,如cpu,内存等使用率,从而可以查看当前系统的使用情况,实时采集这些信息可以达到实时监控系统的目的。本文给大家介绍Python psutil系统监控的相关知识,感兴趣的朋友一起看看吧
    2021-08-08

最新评论