Linux部署python爬虫脚本,并设置定时任务的方法

 更新时间:2019年06月29日 09:52:58   作者:mikezhou002  
今天小编就为大家分享一篇Linux部署python爬虫脚本,并设置定时任务的方法,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧

去年因项目需要,用python写了个爬虫。因爬到的数据需要存到生产环境的PG数据库。所以需要将脚本部署到CentOS服务器,并设置定时任务,自动启动脚本。

实施步骤如下:

1.安装pip(操作系统自带了python2.6可以直接用,但是没有pip)

# 下载pip安装包
wget "https://pypi.python.org/packages/source/p/pip/pip-1.5.4.tar.gz#md5=834b2904f92d46aaa333267fb1c922bb" --no-check-certificate
# 解压安装包并安装
tar -xzvf pip-1.5.4.tar.gz
cd pip-1.5.4
python setup.py install

2.用pip安装第三方库

pip install PyGreSQL==5.0.3
pip install requests==2.18.3

3.设置定时任务

# 开启定时任务服务
service crond start
# 查看定时任务服务状态
service crond status
# 打开定时任务编辑窗口
crontab -e 
# 添加两条定时任务,即每天0点0分和12点20分各执行一次,并写入日志
0 0 * * * /usr/bin/python /home/longrise/psrd/collect.py > /home/longrise/psrd/collect.log 2>&1 &

20 12 * * * /usr/bin/python /home/longrise/psrd/collect.py > /home/longrise/psrd/collect.log 2>&1 &

定时任务语法如下:
# For details see man 4 crontabs

# Example of job definition:
# .---------------- minute (0 - 59)
# | .------------- hour (0 - 23)
# | | .---------- day of month (1 - 31)
# | | | .------- month (1 - 12) OR jan,feb,mar,apr ...
# | | | | .---- day of week (0 - 6) (Sunday=0 or 7) OR sun,mon,tue,wed,thu,fri,sat
# | | | | |
# * * * * * user-name command to be executed

以上这篇Linux部署python爬虫脚本,并设置定时任务的方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持脚本之家。

相关文章

  • linxu服务器上nginx启动、关闭、配置检查命令(推荐)

    linxu服务器上nginx启动、关闭、配置检查命令(推荐)

    这篇文章主要介绍了linxu服务器上nginx启动、关闭、配置检查命令,文章内容比较简单,具有一定的参考借鉴价值,需要的朋友可以参考下
    2018-07-07
  • 使用autoconf生成Makefile并编译工程的步骤

    使用autoconf生成Makefile并编译工程的步骤

    今天小编就为大家分享一篇关于使用autoconf生成Makefile并编译工程的步骤,小编觉得内容挺不错的,现在分享给大家,具有很好的参考价值,需要的朋友一起跟随小编来看看吧
    2019-02-02
  • 腾讯云ubuntu服务器tomcat访问慢的原因分析及解决方法

    腾讯云ubuntu服务器tomcat访问慢的原因分析及解决方法

    在腾讯云上配了个一元的学生云,开始一切正常,直到配置tomcat开始出现各种莫名其妙的问题。最终找到问题的原因。下面小编通过本教程给大家介绍下腾讯云ubuntu服务器tomcat访问慢的原因分析及解决方法,一起看看吧
    2016-10-10
  • Apache日志的一些操作命令技巧

    Apache日志的一些操作命令技巧

    这篇文章主要介绍了Apache日志的一些操作命令技巧,对于查看服务器负载等情况时非常便捷实用,需要的朋友可以参考下
    2015-07-07
  • Centos8下django项目部署 nginx+uwsgi的教程

    Centos8下django项目部署 nginx+uwsgi的教程

    这篇文章主要介绍了Centos8下django项目部署 nginx+uwsgi的教程,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下
    2020-05-05
  • Apache提示 the requested operation has failed无法启动的解决方法大全

    Apache提示 the requested operation has failed无法启动的解决方

    这是我这两天频繁遇到的问题。Apache服务器还真是问题少年!任何点改动都可能导致它无法使用,下面结合网上搜来的内容,总结下自己关于此问题的解决方法,分享给大家
    2014-08-08
  • linux Vim基本操作方法

    linux Vim基本操作方法

    Ubuntu的Vi也不好用,搞了个Vim用来学习了,简单记录下它的基本操作。还有一本相关的电子书可下载。
    2013-11-11
  • Linux查看分区文件系统类型的方法总结

    Linux查看分区文件系统类型的方法总结

    这篇文章主要给大家总结介绍了关于Linux查看分区文件系统类型的相关资料,文中通过示例代码介绍的非常详细,对大家学习或者使用linux系统具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2018-08-08
  • 如何利用watch帮你重复执行命令

    如何利用watch帮你重复执行命令

    这篇文章主要给大家介绍了关于如何利用watch帮你重复执行命令的相关资料,文中通过示例代码介绍的非常详细,对大家学习或者使用linux系统具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2018-05-05
  • SSH在登录服务器后如何显示基础信息

    SSH在登录服务器后如何显示基础信息

    这篇文章主要介绍了SSH在登录服务器后如何显示基础信息的相关资料,文中介绍的非常详细,对大家具有一定的参考学习价值,需要的朋友们下面跟着小编一起来学习学习吧。
    2017-06-06

最新评论