我们经常会遇到监控一个文件或目录的变化,如果有变化,把文件上传备份至备份主机,并且我们还要监控上传过程是否有问题等,根据此需求,查阅了相关的一些材料,编写如下脚本实现这个功能:

#!/usr/bin/env python
#coding=utf-8
#######################
#
#Status wd gs/ccs sql file changed
#date:2013-08-26  王伟
#文件有变化上传至备份主机,上传之后验证文件是否正确
#
#######################
import paramiko,os,sys,datetime,time,MySQLdb
from pyinotify import WatchManager, Notifier, ProcessEvent, IN_DELETE, IN_CREATE,IN_MODIFY
'''
CREATE TABLE `wddel_log.status_sql` (`ip` varchar(16) NOT NULL COMMENT '机器IP',`tar_name` varchar(50) NOT NULL COMMENT '备份文件名字',`md5` varchar(50) NOT NULL COMMENT '备份文件MD5',`flag` int(2) NOT NULL COMMENT '0:成功;1:失败',`error_log` varchar(100) NOT NULL COMMENT '错误日志',`uptime` datetime NOT NULL COMMENT '更新时间',KEY `ip` (`ip`),KEY `uptime` (`uptime`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8'''#日志表创建脚本
GM_path='/home/asktao/'
center_hostname='192.168.1.100'
center_username='root'
center_password='123456'
center_port=63008
def log2db(ip,tar_name,md5,flag,error='0'):#删除日志入库try:tar_name = os.path.split(tar_name)[1]now  = time.strftime("%Y-%m-%d %H:%M:%S")conn = MySQLdb.connect(host = '192.168.1.104',user = 'root',passwd = '1q2w3e4r',charset='utf8',connect_timeout=20)cursor = conn.cursor()sql = "SELECT ip FROM wddel_log.status_sql WHERE ip='%s'" % ipcursor.execute(sql)res = cursor.fetchall()if len(res)==0:inster_sql = "insert into wddel_log.status_sql VALUES('%s','%s','%s',%s,'%s','%s')" % (ip,tar_name,md5,flag,error,now)cursor.execute(inster_sql)conn.commit()else:update_sql = "UPDATE wddel_log.status_sql SET md5='%s',flag='%s',error_log='%s',uptime='%s' WHERE ip='%s'" % (md5,flag,error,now,ip)cursor.execute(update_sql)conn.commit()cursor.close()conn.close()except Exception,e:print e
def find_ip():#获取本地eth0的IP地址ip = os.popen("/sbin/ip a|grep 'global eth0'").readlines()[0].split()[1].split("/")[0]if "192.168." in ip:ip = os.popen("/sbin/ip a|grep 'global eth1'").readlines()[0].split()[1].split("/")[0]return ip
def md5sum(file_name):#验证sql打包文件的MD5if os.path.isfile(file_name):f = open(file_name,'rb')py_ver = sys.version[:3]if py_ver == "2.4":import md5 as hashlibelse:import hashlibmd5 = hashlib.md5(f.read()).hexdigest()f.close()return md5else:return 0
def center_md5(file_name):#上传至备份中心的文件的MD5try:s=paramiko.SSHClient()s.set_missing_host_key_policy(paramiko.AutoAddPolicy())s.connect(hostname = center_hostname,port=center_port,username=center_username, password=center_password)conm = "/usr/bin/md5sum %s" % file_namestdin,stdout,stderr=s.exec_command(conm)result = stdout.readlines()[0].split()[0].strip()s.close()return resultexcept Exception,e:return e
def back_file(ip,tar_name,tar_md5):#上传文件到备份中心remote_dir='/data/sql'file_name=os.path.join(remote_dir,os.path.split(tar_name)[1])try:t=paramiko.Transport((center_hostname,center_port))t.connect(username=center_username,password=center_password)sftp=paramiko.SFTPClient.from_transport(t)sftp.put(tar_name,file_name)t.close()#print "%s back_file OK" % tar_nameos.remove(tar_name)remot_md5=center_md5(file_name)if remot_md5 == tar_md5:log2db(ip,tar_name,tar_md5,0)else:log2db(ip,tar_name,tar_md5,1,'remot_md5!=tar_md5')except Exception,e:#print "connect error!"log2db(ip,tar_name,tar_md5,1,e)os.remove(tar_name)
def back_sql():#执行备份ip = find_ip()tar_name = "/tmp/%s.tar.gz" % ipsql_conn = "/usr/bin/find %s -type f  -name '*.sql'|/usr/bin/xargs /bin/tar zcvPf %s" % (GM_path,tar_name)sql_tar = os.popen(sql_conn).readlines()tar_md5 = md5sum(tar_name)if tar_md5 != 0:back_file(ip,tar_name,tar_md5)else:error_log =  "%s not find" % tar_namelog2db(ip,tar_name,tar_md5,0,error_log)
class PFilePath(ProcessEvent):#文件变化的触发def process_IN_CREATE(self, event):if os.path.splitext(event.name)[1] == ".sql":text = "Create file: %s " % os.path.join(event.path, event.name)#print textback_sql()def process_IN_MODIFY(self, event):if os.path.splitext(event.name)[1] == ".sql":text = "Modify file: %s " % os.path.join(event.path, event.name)#print textback_sql()
def FSMonitor():#主监控函数back_sql()#运行脚本先备份sql文件wm = WatchManager()mask = IN_CREATE |IN_MODIFYnotifier = Notifier(wm, PFilePath())wdd = wm.add_watch(GM_path, mask, rec=True)print 'now starting monitor %s' % (GM_path)while True:try :notifier.process_events()if notifier.check_events():notifier.read_events()except KeyboardInterrupt:notifier.stop()break
if __name__ == "__main__":FSMonitor()

此脚本中主要用到paramiko和pyinotify模块,关于paramiko的讲解可以参见:http://wangwei007.blog.51cto.com/68019/1058726一文,pyinotify的用法可以参见官方文档:https://github.com/seb-m/pyinotify/wiki/Events-types

python监控文件或目录变化相关推荐

  1. python监控目录变化_如何用python语言监控文件或目录变化

    本文python语言实例实现的功能是监控一个文件或目录的变化,如果有变化,把文件上传备份至备份主机,并且要监控上传过程是否有问题等,具体内容如下,希望对大家学习python语言有所帮助.#!/usr/ ...

  2. python监控文件或目录大小_python监控文件或目录的变化(实例代码)

    本节主要内容: python监控一个文件或目录的变化,如果有变化,把文件上传备份至备份主机,并且还要监控上传过程是否有问题等. 根据此需求,编写如下脚本实现这个功能: 代码示例: #!/usr/bin ...

  3. Python监控文件变化:watchdog

    Python监控文件变化有两种库:pyinotify和watchdog.pyinotify依赖于Linux平台的inotify,后者则对不同平台的的事件都进行了封装.也就是说,watchdog跨平台. ...

  4. python操作文件和目录_Python操作文件和目录

    Python操作文件和目录 读写文件比较简单,有一点特别注意就好了 windows下Python默认打开的文件以gbk解码,而一般我们的文件是utf-8编码的,所以如果文本含有中文,就会出现异常或者乱 ...

  5. 工具类commons-io的Tailer用法,用来监控文件内容的变化情况

    一.前言:在Linux下有使用tail命令 在Commons-io中也提供这种方法 二.他采用的是线程方式来监控文件内容的变化 1.Tailer类(采用线程的方式进行文件的内容变法) 2.Tailer ...

  6. python 删除文件、目录_python如何删除文件、目录

    本文讲述了python实现删除文件与目录的方法.分享给大家供大家参考.具体实现方法如下: os.remove(path) 删除文件 path. 如果path是一个目录, 抛出 OSError错误.如果 ...

  7. python监控网页内容变化_使用Python监控文件内容变化代码实例

    利用seek监控文件内容,并打印出变化内容: #/usr/bin/env python #-*- coding=utf-8 -*- pos = 0 while True: con = open(&qu ...

  8. python删除文件夹无法访问_零基础小白必看:python基本操作-文件、目录及路径

    使用python的os模块,简单方便完成对文件夹.文件及路径的管理与访问操作. 1 前言 在最近开发中,经常需要对文件进行读取.遍历.修改等操作,想要快速.简单的完成这些操作,我选择用 python ...

  9. python目录及文件_零基础小白必看:python基本操作-文件、目录及路径

    1 前言 在最近开发中,经常需要对文件进行读取.遍历.修改等操作,想要快速.简单的完成这些操作,我选择用 python .通过 python 的标准内置 os 模块,只需要几行代码,即可完成想要的操作 ...

最新文章

  1. 外贸网络推广浅析新建网站该如何更快速进入搜索结果首页?
  2. 构建乘积数组(剑指offer)
  3. centos 系统重新安装ssh
  4. OpenCV改变图像的对比度和亮度
  5. 树莓派官方支持的Tensorflow版本
  6. 阶段3 1.Mybatis_09.Mybatis的多表操作_1 mybatis表之间关系分析
  7. indesign图片规定在左下角_InDesign如何为目录模板设置母版
  8. python epub转txt_怎么将很多个TXT合并成epub?
  9. Gom引擎Key.lic配套的X-FKGOM授权启动
  10. MS VS 2013下载和安装中文语言包教程
  11. linux如何安装压缩软件,linux之安装软件,压缩解压文件
  12. defined 用法
  13. WEBVTT字幕格式转SRT
  14. mac最值得关注的终端工具,全功能串行终端管理软件Serial
  15. md笔记上传到CSDN---Typora+SMMS+PicGo
  16. Golang 期权 指标计算
  17. MacOS配置C++开发环境
  18. Valgrind使用介绍
  19. 打开IDE里XXX.rc文件夹的子项,显示“!加载失败”
  20. 网络营销 实战才能得出真理

热门文章

  1. Simulink学习之Combinatorial Logic模块
  2. afudos备份bios不动_救命宝典:BIOS刷坏后的恢复方法
  3. 车路协同、车联网、智慧交通、智能网联车、自动驾驶、无人驾驶、高精度地图
  4. python多线程(Multiprocessing)与多线程(Multithreading)区别优缺点最详细解释
  5. 彩色空间(Color Space)
  6. [Java]Java文件读写
  7. 01-【浏览器】chrome浏览器收藏夹(书签)的导出与导入
  8. SpringCloud—笔记(三)高级篇
  9. C语言中void cpy,关于C/C++ void指针,使用void指针拷贝int 数组
  10. ubuntu18.04 texstudio下使用自动化学报latex模板的坑