Pycharm+Scrapy安装并且初始化项目的方法
更新时间：2019年01月15日 15:10:24 作者：方naoke
今天小编就为大家分享一篇Pycharm+Scrapy安装并且初始化项目的方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
前言
Scrapy是一个开源的网络爬虫框架，Python编写的。最初设计用于网页抓取，也可以用来提取数据使用API或作为一个通用的网络爬虫。是数据采集不可必备的利器。
安装
pip install scrapy
如果使用上面的命令太慢。国内可以使用豆瓣源进行加速。
pip install -i https://pypi.douban.com/simple scrapy
注意要写错了，是 https://pypi.douban.com/simple 很多包都可以使用这个源进行加速，这也是pip的一个技巧，还可以使用阿里云进行加速。
安装完成之后在命令行输入
scrapy -v
如果出现了相应的版本号就说明安装成功。
创建项目
目前还没有IDE 能够创建scrapy的项目，我们必须手动初始化项目。
1、找一个目录
输入命令
scrapy startproject SpiderObject
命令行出现这样的结果说明创建成果
You can start your first spider with: cd SpiderObject scrapy genspider example example.com
去文件夹中看看
初始化项目
使用pycharm打开该项目
如果出现这个页面就说明对了。
下面生成一个模板
打开pycharm的terminal
输入
scrapy genspider BiduSpider http://www.baidu.com
我们的spider 包下面会多一个文件
这说明我们的spider创建成功。可以在pytharm中使用这个 强大的框架了。
以上这篇Pycharm+Scrapy安装并且初始化项目的方法就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持脚本之家。
相关文章
这篇文章主要介绍了python使用py2neo创建neo4j的节点和关系，第一步使用py2neo连接neo4j的方法然后根据dict创建Node，更多相关资料需要的朋友参考下面文章内容2022-02-02
Django 实现 Websocket 广播、点对点发送消息的代码
这篇文章主要介绍了Django 实现 Websocket 广播、点对点发送消息,本文通过实例代码给大家介绍的非常详细，对大家的学习或工作具有一定的参考借鉴价值，需要的朋友可以参考下2020-06-06
这篇文章主要为大家详细介绍了如何通过python脚本实现浏览器的一些基本操作，如：浏览器的前进后退、页面刷新等，感兴趣的可以学习一下2022-06-06
这篇文章主要为大家详细介绍了python实现诗歌游戏，根据上句猜下句、猜作者、猜朝代、猜诗名，具有一定的参考价值，感兴趣的小伙伴们可以参考一下2019-02-02
这篇文章主要为大家详细介绍了如何利用Python实现统计文本中的字符数量，包括中/英文字符、数字、特殊字符等，感兴趣的小伙伴可以跟随小编一起学习一下2023-05-05
这篇文章主要介绍了python文本处理的方案(结巴分词并去除符号)，具有很好的参考价值，希望对大家有所帮助。如有错误或未考虑完全的地方，望不吝赐教2021-05-05
PyCharm利用pydevd-pycharm实现Python远程调试的详细过程
这篇文章主要介绍了PyCharm利用pydevd-pycharm实现Python远程调试,本文通过实例代码给大家介绍的非常详细，对大家的学习或工作具有一定的参考借鉴价值，需要的朋友可以参考下2022-09-09
aws 通过boto3 python脚本打pach的实现方法
这篇文章主要介绍了aws 通过boto3 python脚本打pach的实现方法，本文通过实例代码给大家介绍的非常详细，对大家的学习或工作具有一定的参考借鉴价值，需要的朋友可以参考下2020-05-05
这篇文章主要介绍了bat和python批量重命名文件的实现代码,需要的朋友可以参考下2016-05-05
本文详细讲解了Python中requests库的用法，文中通过示例代码介绍的非常详细。对大家的学习或工作具有一定的参考借鉴价值，需要的朋友可以参考下2022-06-06
最新评论