python+rsync精确同步指定格式文件

 更新时间:2019年08月29日 10:34:07   作者:gcogle  
这篇文章主要为大家详细介绍了python+rsync精确同步指定格式文件,具有一定的参考价值,感兴趣的小伙伴们可以参考一下

本文实例为大家分享了python+rsync精确同步指定格式文件的具体代码,供大家参考,具体内容如下

# coding: utf-8
#!/usr/bin/env python
'''
updatedb更新本地服务器指定目录/home/upload/de locate.dbz数据库
然后locate命令正则查找符合条件的文件并将文件名输出到locate.src
通过paramiko模块得到远程服务器符合条件的文件并将文件名输出到locate.dst
比较这两个文件得到locate.diff,最好rsync命令同步locate.diff列表中的文件
到远程服务器
'''
import paramiko
import commands
import os
import logging
logging.basicConfig(level=logging.DEBUG,
          format='%(asctime)s %(filename)s[line:%(lineno)d] %(levelname)s %(message)s',
          datefmt='%Y-%m-%d %H:%M:%S',
          filename='/var/log/upload_to_chengdu.log',
          filemode='a')
logging.info("###################################################################")
hostname = '8.8.8.8'
username = 'username'
password = 'password'
port = 22
locate_lists = ['/tmp/locate.src', '/tmp/locate.dst', '/tmp/locate.diff']
dict_path = {'locate_lists': locate_lists, 'dst_db': '/tmp/locate.db',
       'src_db': '/tmp/locate.db', 'dst_path': '/logs/rsync_log/',
       'src_path': '/home/upload/', 'passwd_file': '/etc/rsync.pas'}
def check_file():
  for l in dict_path['locate_lists']:
    if os.path.exists(l):
      commands.getstatusoutput('sudo rm %s' % l)
def get_dst_list():
  s = paramiko.SSHClient()
  s.set_missing_host_key_policy(paramiko.AutoAddPolicy())
  s.connect(hostname=hostname, port=port, username=username, password=password)
  cmd_create = "sudo updatedb -U %s -o %s && sudo locate -d %s --regex '.*[0-9]{4}([-]{0,1}[0-9]{2}){2}\..*gz$' >>%s" % (
    dict_path['dst_path'], dict_path['dst_db'], dict_path['dst_db'], dict_path['locate_lists'][1])
  cmd_delete = 'sudo rm ' + dict_path['locate_lists'][1]
  stdin, stdout, stderr = s.exec_command(cmd_create)
  # print stdout.read()
  try:
    t = paramiko.Transport((hostname, port))
    t.connect(username=username, password=password)
    sftp = paramiko.SFTPClient.from_transport(t)
    sftp.get(dict_path['locate_lists'][1], dict_path['locate_lists'][1])
    t.close()
  except Exception, e:
    print e
  stdin, stdout, stderr = s.exec_command(cmd_delete)
  s.close()
def get_src_list():
  cmd = "sudo updatedb -U %s -o %s && sudo locate -d %s --regex '.*[0-9]{4}([-]{0,1}[0-9]{2}){2}\..*gz$' >>%s" % (
    dict_path['src_path'], dict_path['src_db'], dict_path['src_db'], dict_path['locate_lists'][0])
  commands.getstatusoutput(cmd)
def cmp_diff():
  f1 = open(dict_path['locate_lists'][0], 'r')
  f2 = open(dict_path['locate_lists'][1], 'r')
  f3 = open(dict_path['locate_lists'][2], 'a')
  x = f1.readlines()
  y = f2.readlines()
  f1.close()
  f2.close()
  for i in x:
    j = dict_path['dst_path'] + i[13:]
    if j not in y:
      f3.writelines(i)
  f3.close()
def rsync_file():
  f = open(dict_path['locate_lists'][2], 'r')
  for i in f.readlines():
    cmd = 'cd %s && sudo rsync -Rvz %s upload@%s::aliyun_log --password-file=%s' % (
      dict_path['src_path'], i.strip('\n')[13:], hostname, dict_path['passwd_file'])
    logging.info(cmd)
    commands.getstatusoutput(cmd)
  f.close()
def del_locate_file():
  cmd = 'sudo rm {%s,%s,%s}' % (dict_path['locate_lists'][1], dict_path['locate_lists'][0], dict_path['locate_lists'][2])
  commands.getstatusoutput(cmd)
if __name__ == '__main__':
  check_file()
  get_dst_list()
  get_src_list()
  cmp_diff()
  rsync_file()
  del_locate_file()

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持脚本之家。

相关文章

  • Pandas数据结构详细说明及如何创建Series,DataFrame对象方法

    Pandas数据结构详细说明及如何创建Series,DataFrame对象方法

    本篇文章中,我们主要侧重于介绍Pandas数据结构本身的特性,以及如何创建一个Series或者DataFrame数据对象,并填入一些数据
    2021-10-10
  • Python实战使用XPath采集数据示例解析

    Python实战使用XPath采集数据示例解析

    这篇文章主要为大家介绍了Python实战之使用XPath采集数据实现示例解析,有需要的朋友可以借鉴参考下,希望能够有所帮助,祝大家多多进步,早日升职加薪<BR>
    2023-04-04
  • Python实现新浪博客备份的方法

    Python实现新浪博客备份的方法

    这篇文章主要介绍了Python实现新浪博客备份的方法,涉及Python正则操作,字符串操作及文本操作的相关技巧,需要的朋友可以参考下
    2016-04-04
  • python排序算法之选择排序

    python排序算法之选择排序

    这篇文章主要介绍了python排序算法之选择排序,选择排序表示从无序的数组中,每次选择最小或最大的数据,从无序数组中放到有序数组的末尾,以达到排序的效果,需要的朋友可以参考下
    2023-04-04
  • Python中Pygame模块的详细安装过程

    Python中Pygame模块的详细安装过程

    pygame安装是为了开发小游戏,在下新手在经过许多尝试后,为大家避雷,给大家分享一个简单有效的方法,下面这篇文章主要给大家介绍了关于Python中Pygame的详细安装过程的相关资料,需要的朋友可以参考下
    2022-09-09
  • Python机器学习之决策树算法实例详解

    Python机器学习之决策树算法实例详解

    这篇文章主要介绍了Python机器学习之决策树算法,较为详细的分析了实例详解机器学习中决策树算法的概念、原理及相关Python实现技巧,需要的朋友可以参考下
    2017-12-12
  • 基于python实现删除指定文件类型

    基于python实现删除指定文件类型

    这篇文章主要介绍了基于python实现删除指定文件类型,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
    2020-07-07
  • 探索Python列表合并技术提高代码灵活性

    探索Python列表合并技术提高代码灵活性

    本文将深入研究Python中列表合并的几种方法,通过详细的示例代码和细致的解释,呈现一场关于列表操作的精彩探险,无论是初学者还是有经验的开发者,通过学习本文,将更加熟练地运用这些方法,提升代码的效率和可读性
    2024-01-01
  • Python中的日期时间处理详解

    Python中的日期时间处理详解

    Python程序能用很多方式处理日期和时间。转换日期格式是一个常见的例行琐事,这篇文章主要介绍了Python中的日期时间处理的几种方式的区别和联系,需要的朋友可以参考下
    2016-11-11
  • Python 脚本死锁问题与解决方案

    Python 脚本死锁问题与解决方案

    在脚本中,可以创建一个队列来存储子进程的输出,然后由主进程从队列中读取输出并进行处理,这篇文章主要介绍了Python 脚本死锁问题与解决方案,需要的朋友可以参考下
    2024-06-06

最新评论