Python中创建守护进程
转自:Python中创建守护进程
python 创建守护进程
- python 的os.setdid()提供了类似linux c api的 setsid
- 也可以通过unix双fork创建守护进程。
几个相关的函数
- os.umask(0) #重设文件创建掩码,子进程会从父进程继承所有权限,可以通过调用这个方法将文件创建掩码初始化成系统默认。
- os.setsid() #调用系统的setsid(),创建一个新的会话并创建组id
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
|
#!/usr/bin/env python
#coding:utf8
import sys, os
def main():
""" A demo daemon main routine, write a datestamp to
/tmp/daemon-log every 10 seconds.
"""
import time
f = open ( "/tmp/daemon-log" , "w" )
while 1 :
f.write( '%s/n' % time.ctime(time.time()))
f.flush()
time.sleep( 10 )
if __name__ = = "__main__" :
# do the UNIX double-fork magic, see Stevens' "Advanced
# Programming in the UNIX Environment" for details (ISBN 0201563177)
try :
pid = os.fork()
if pid > 0 :
# exit first parent
sys.exit( 0 )
except OSError, e:
print >>sys.stderr, "fork #1 failed: %d (%s)" % (e.errno, e.strerror)
sys.exit( 1 )
# decouple from parent environment
os.chdir( "/" )
os.setsid()
os.umask( 0 )
# do second fork
try :
pid = os.fork()
if pid > 0 :
# exit from second parent, print eventual PID before
print "Daemon PID %d" % pid
sys.exit( 0 )
except OSError, e:
print >>sys.stderr, "fork #2 failed: %d (%s)" % (e.errno, e.strerror)
sys.exit( 1 )
# start the daemon main loop
main()
|
代码引用自从:http://code.activestate.com/recipes/66012/download/1/
- main为写时间戳的永久循环
- 运行后程序fork一个进程,如果fork成功则程序自己退出
- 通过setsid() 创建了一个独立于当前会话的进程
- 再一次fork一个进程,如果fork成功则当前程序退出
- 这时候进程的父进程就变成了 init,成为了一个独立的deamon
转自:Python实例浅谈之五Python守护进程和脚本单例运行
一、简介
守护进程最重要的特性是后台运行;它必须与其运行前的环境隔离开来,这些环境包括未关闭的文件描述符、控制终端、会话和进程组、工作目录以及文件创建掩码等;它可以在系统启动时从启动脚本/etc/rc.d中启动,可以由inetd守护进程启动,也可以有作业规划进程crond启动,还可以由用户终端(通常是shell)执行。
Python有时需要保证只运行一个脚本实例,以避免数据的冲突。
二、Python守护进程
1、函数实现
- #!/usr/bin/env python
- #coding: utf-8
- import sys, os
- '''将当前进程fork为一个守护进程
- 注意:如果你的守护进程是由inetd启动的,不要这样做!inetd完成了
- 所有需要做的事情,包括重定向标准文件描述符,需要做的事情只有chdir()和umask()了
- '''
- def daemonize (stdin='/dev/null', stdout='/dev/null', stderr='/dev/null'):
- #重定向标准文件描述符(默认情况下定向到/dev/null)
- try:
- pid = os.fork()
- #父进程(会话组头领进程)退出,这意味着一个非会话组头领进程永远不能重新获得控制终端。
- if pid > 0:
- sys.exit(0) #父进程退出
- except OSError, e:
- sys.stderr.write ("fork #1 failed: (%d) %s\n" % (e.errno, e.strerror) )
- sys.exit(1)
- #从母体环境脱离
- os.chdir("/") #chdir确认进程不保持任何目录于使用状态,否则不能umount一个文件系统。也可以改变到对于守护程序运行重要的文件所在目录
- os.umask(0) #调用umask(0)以便拥有对于写的任何东西的完全控制,因为有时不知道继承了什么样的umask。
- os.setsid() #setsid调用成功后,进程成为新的会话组长和新的进程组长,并与原来的登录会话和进程组脱离。
- #执行第二次fork
- try:
- pid = os.fork()
- if pid > 0:
- sys.exit(0) #第二个父进程退出
- except OSError, e:
- sys.stderr.write ("fork #2 failed: (%d) %s\n" % (e.errno, e.strerror) )
- sys.exit(1)
- #进程已经是守护进程了,重定向标准文件描述符
- for f in sys.stdout, sys.stderr: f.flush()
- si = open(stdin, 'r')
- so = open(stdout, 'a+')
- se = open(stderr, 'a+', 0)
- os.dup2(si.fileno(), sys.stdin.fileno()) #dup2函数原子化关闭和复制文件描述符
- os.dup2(so.fileno(), sys.stdout.fileno())
- os.dup2(se.fileno(), sys.stderr.fileno())
- #示例函数:每秒打印一个数字和时间戳
- def main():
- import time
- sys.stdout.write('Daemon started with pid %d\n' % os.getpid())
- sys.stdout.write('Daemon stdout output\n')
- sys.stderr.write('Daemon stderr output\n')
- c = 0
- while True:
- sys.stdout.write('%d: %s\n' %(c, time.ctime()))
- sys.stdout.flush()
- c = c+1
- time.sleep(1)
- if __name__ == "__main__":
- daemonize('/dev/null','/tmp/daemon_stdout.log','/tmp/daemon_error.log')
- main()
可以通过命令ps -ef | grep daemon.py查看后台运行的继承,在/tmp/daemon_error.log会记录错误运行日志,在/tmp/daemon_stdout.log会记录标准输出日志。
2、类实现
- #!/usr/bin/env python
- #coding: utf-8
- #python模拟linux的守护进程
- import sys, os, time, atexit, string
- from signal import SIGTERM
- class Daemon:
- def __init__(self, pidfile, stdin='/dev/null', stdout='/dev/null', stderr='/dev/null'):
- #需要获取调试信息,改为stdin='/dev/stdin', stdout='/dev/stdout', stderr='/dev/stderr',以root身份运行。
- self.stdin = stdin
- self.stdout = stdout
- self.stderr = stderr
- self.pidfile = pidfile
- def _daemonize(self):
- try:
- pid = os.fork() #第一次fork,生成子进程,脱离父进程
- if pid > 0:
- sys.exit(0) #退出主进程
- except OSError, e:
- sys.stderr.write('fork #1 failed: %d (%s)\n' % (e.errno, e.strerror))
- sys.exit(1)
- os.chdir("/") #修改工作目录
- os.setsid() #设置新的会话连接
- os.umask(0) #重新设置文件创建权限
- try:
- pid = os.fork() #第二次fork,禁止进程打开终端
- if pid > 0:
- sys.exit(0)
- except OSError, e:
- sys.stderr.write('fork #2 failed: %d (%s)\n' % (e.errno, e.strerror))
- sys.exit(1)
- #重定向文件描述符
- sys.stdout.flush()
- sys.stderr.flush()
- si = file(self.stdin, 'r')
- so = file(self.stdout, 'a+')
- se = file(self.stderr, 'a+', 0)
- os.dup2(si.fileno(), sys.stdin.fileno())
- os.dup2(so.fileno(), sys.stdout.fileno())
- os.dup2(se.fileno(), sys.stderr.fileno())
- #注册退出函数,根据文件pid判断是否存在进程
- atexit.register(self.delpid)
- pid = str(os.getpid())
- file(self.pidfile,'w+').write('%s\n' % pid)
- def delpid(self):
- os.remove(self.pidfile)
- def start(self):
- #检查pid文件是否存在以探测是否存在进程
- try:
- pf = file(self.pidfile,'r')
- pid = int(pf.read().strip())
- pf.close()
- except IOError:
- pid = None
- if pid:
- message = 'pidfile %s already exist. Daemon already running!\n'
- sys.stderr.write(message % self.pidfile)
- sys.exit(1)
- #启动监控
- self._daemonize()
- self._run()
- def stop(self):
- #从pid文件中获取pid
- try:
- pf = file(self.pidfile,'r')
- pid = int(pf.read().strip())
- pf.close()
- except IOError:
- pid = None
- if not pid: #重启不报错
- message = 'pidfile %s does not exist. Daemon not running!\n'
- sys.stderr.write(message % self.pidfile)
- return
- #杀进程
- try:
- while 1:
- os.kill(pid, SIGTERM)
- time.sleep(0.1)
- #os.system('hadoop-daemon.sh stop datanode')
- #os.system('hadoop-daemon.sh stop tasktracker')
- #os.remove(self.pidfile)
- except OSError, err:
- err = str(err)
- if err.find('No such process') > 0:
- if os.path.exists(self.pidfile):
- os.remove(self.pidfile)
- else:
- print str(err)
- sys.exit(1)
- def restart(self):
- self.stop()
- self.start()
- def _run(self):
- """ run your fun"""
- while True:
- #fp=open('/tmp/result','a+')
- #fp.write('Hello World\n')
- sys.stdout.write('%s:hello world\n' % (time.ctime(),))
- sys.stdout.flush()
- time.sleep(2)
- if __name__ == '__main__':
- daemon = Daemon('/tmp/watch_process.pid', stdout = '/tmp/watch_stdout.log')
- if len(sys.argv) == 2:
- if 'start' == sys.argv[1]:
- daemon.start()
- elif 'stop' == sys.argv[1]:
- daemon.stop()
- elif 'restart' == sys.argv[1]:
- daemon.restart()
- else:
- print 'unknown command'
- sys.exit(2)
- sys.exit(0)
- else:
- print 'usage: %s start|stop|restart' % sys.argv[0]
- sys.exit(2)
运行结果:
可以参考:http://www.jejik.com/articles/2007/02/a_simple_unix_linux_daemon_in_python/,它是当Daemon设计成一个模板,在其他文件中from daemon import Daemon,然后定义子类,重写run()方法实现自己的功能。
- class MyDaemon(Daemon):
- def run(self):
- while True:
- fp=open('/tmp/run.log','a+')
- fp.write('Hello World\n')
- time.sleep(1)
不足:信号处理signal.signal(signal.SIGTERM, cleanup_handler)暂时没有安装,注册程序退出时的回调函数delpid()没有被调用。
然后,再写个shell命令,加入开机启动服务,每隔2秒检测守护进程是否启动,若没有启动则启动,自动监控恢复程序。
- #/bin/sh
- while true
- do
- count=`ps -ef | grep "daemonclass.py" | grep -v "grep"`
- if [ "$?" != "0" ]; then
- daemonclass.py start
- fi
- sleep 2
- done
三、python保证只能运行一个脚本实例
1、打开文件本身加锁
- #!/usr/bin/env python
- #coding: utf-8
- import fcntl, sys, time, os
- pidfile = 0
- def ApplicationInstance():
- global pidfile
- pidfile = open(os.path.realpath(__file__), "r")
- try:
- fcntl.flock(pidfile, fcntl.LOCK_EX | fcntl.LOCK_NB) #创建一个排他锁,并且所被锁住其他进程不会阻塞
- except:
- print "another instance is running..."
- sys.exit(1)
- if __name__ == "__main__":
- ApplicationInstance()
- while True:
- print 'running...'
- time.sleep(1)
注意:open()参数不能使用w,否则会覆盖本身文件;pidfile必须声明为全局变量,否则局部变量生命周期结束,文件描述符会因引用计数为0被系统回收(若整个函数写在主函数中,则不需要定义成global)。
2、打开自定义文件并加锁
- #!/usr/bin/env python
- #coding: utf-8
- import fcntl, sys, time
- pidfile = 0
- def ApplicationInstance():
- global pidfile
- pidfile = open("instance.pid", "w")
- try:
- fcntl.lockf(pidfile, fcntl.LOCK_EX | fcntl.LOCK_NB) #创建一个排他锁,并且所被锁住其他进程不会阻塞
- except IOError:
- print "another instance is running..."
- sys.exit(0)
- if __name__ == "__main__":
- ApplicationInstance()
- while True:
- print 'running...'
- time.sleep(1)
3、检测文件中PID
- #!/usr/bin/env python
- #coding: utf-8
- import time, os, sys
- import signal
- pidfile = '/tmp/process.pid'
- def sig_handler(sig, frame):
- if os.path.exists(pidfile):
- os.remove(pidfile)
- sys.exit(0)
- def ApplicationInstance():
- signal.signal(signal.SIGTERM, sig_handler)
- signal.signal(signal.SIGINT, sig_handler)
- signal.signal(signal.SIGQUIT, sig_handler)
- try:
- pf = file(pidfile, 'r')
- pid = int(pf.read().strip())
- pf.close()
- except IOError:
- pid = None
- if pid:
- sys.stdout.write('instance is running...\n')
- sys.exit(0)
- file(pidfile, 'w+').write('%s\n' % os.getpid())
- if __name__ == "__main__":
- ApplicationInstance()
- while True:
- print 'running...'
- time.sleep(1)
4、检测特定文件夹或文件
- #!/usr/bin/env python
- #coding: utf-8
- import time, commands, signal, sys
- def sig_handler(sig, frame):
- if os.path.exists("/tmp/test"):
- os.rmdir("/tmp/test")
- sys.exit(0)
- def ApplicationInstance():
- signal.signal(signal.SIGTERM, sig_handler)
- signal.signal(signal.SIGINT, sig_handler)
- signal.signal(signal.SIGQUIT, sig_handler)
- if commands.getstatusoutput("mkdir /tmp/test")[0]:
- print "instance is running..."
- sys.exit(0)
- if __name__ == "__main__":
- ApplicationInstance()
- while True:
- print 'running...'
- time.sleep(1)
也可以检测某一个特定的文件,判断文件是否存在:
- import os
- import os.path
- import time
- #class used to handle one application instance mechanism
- class ApplicationInstance:
- #specify the file used to save the application instance pid
- def __init__( self, pid_file ):
- self.pid_file = pid_file
- self.check()
- self.startApplication()
- #check if the current application is already running
- def check( self ):
- #check if the pidfile exists
- if not os.path.isfile( self.pid_file ):
- return
- #read the pid from the file
- pid = 0
- try:
- file = open( self.pid_file, 'rt' )
- data = file.read()
- file.close()
- pid = int( data )
- except:
- pass
- #check if the process with specified by pid exists
- if 0 == pid:
- return
- try:
- os.kill( pid, 0 ) #this will raise an exception if the pid is not valid
- except:
- return
- #exit the application
- print "The application is already running..."
- exit(0) #exit raise an exception so don't put it in a try/except block
- #called when the single instance starts to save it's pid
- def startApplication( self ):
- file = open( self.pid_file, 'wt' )
- file.write( str( os.getpid() ) )
- file.close()
- #called when the single instance exit ( remove pid file )
- def exitApplication( self ):
- try:
- os.remove( self.pid_file )
- except:
- pass
- if __name__ == '__main__':
- #create application instance
- appInstance = ApplicationInstance( '/tmp/myapp.pid' )
- #do something here
- print "Start MyApp"
- time.sleep(5) #sleep 5 seconds
- print "End MyApp"
- #remove pid file
- appInstance.exitApplication()
上述os.kill( pid, 0 )用于检测一个为pid的进程是否还活着,若该 pid的进程已经停止则抛出异常,若正在 运行则不发送kill信号。
5、socket监听一个特定端口
- #!/usr/bin/env python
- #coding: utf-8
- import socket, time, sys
- def ApplicationInstance():
- try:
- global s
- s = socket.socket()
- host = socket.gethostname()
- s.bind((host, 60123))
- except:
- print "instance is running..."
- sys.exit(0)
- if __name__ == "__main__":
- ApplicationInstance()
- while True:
- print 'running...'
- time.sleep(1)
可以将该函数使用装饰器实现,便于重用(效果与上述相同):
- #!/usr/bin/env python
- #coding: utf-8
- import socket, time, sys
- import functools
- #使用装饰器实现
- def ApplicationInstance(func):
- @functools.wraps(func)
- def fun(*args,**kwargs):
- import socket
- try:
- global s
- s = socket.socket()
- host = socket.gethostname()
- s.bind((host, 60123))
- except:
- print('already has an instance...')
- return None
- return func(*args,**kwargs)
- return fun
- @ApplicationInstance
- def main():
- while True:
- print 'running...'
- time.sleep(1)
- if __name__ == "__main__":
- main()
四、总结
(1)守护进程和单脚本运行在实际应用中比较重要,方法也比较多,可选择合适的来进行修改,可以将它们做成一个单独的类或模板,然后子类化实现自定义。
(2)daemon监控进程自动恢复避免了nohup和&的使用,并配合shell脚本可以省去很多不定时启动挂掉服务器的麻烦。
(3)若有更好的设计和想法,可随时留言,在此先感谢!
Python中创建守护进程相关推荐
- 守护进程与后台进程(Python 创建守护进程)
文章目录 一.守护进程与后台进程 1. 守护进程 1.1 代码实现 为什么要fork两次 umask权限掩码 进程组 会话组 2. 后台进程 3. 守护进程与后台进程区别 4. 使用场景总结 二.参考 ...
- python 守护程序检测进程是否存在_python创建守护进程的疑问
我自己写了一个简易的下载和文件执行的客户端,如下 """ 省略若干代码 """ #执行下载函数 def do_script(): " ...
- ASP.NET Core Linux下为 dotnet 创建守护进程(必备知识)
前言 在上篇文章中<ASP.NET Core Docker部署>中介绍了如何在 Docker 容器中部署我们的 asp.net core 应用程序,本篇主要是怎么样为我们在 Linux 或 ...
- python守护进程_让Python脚本成为守护进程
Python部落(python.freelycode.com)组织翻译,禁止转载,欢迎转发. Python daemonizer 类 这是一个Python类,会使你的Python脚本成为守护进程,以使 ...
- python学习笔记——守护进程
1 基本描述 守护进程:是系统中独立的后台服务进程, 特点:独立与终端并且周期性地执行某个任务,其生命周期长,一般随系统启动和终止. 缺点:进程的创建和销毁的时候需要消耗较多的计算机资源. 2 参考 ...
- Python多线程之守护进程
Python多线程之守护进程 让主进程不在等待子进程,只要主进程结束,不管子进程是否执行完成,子进程都要随着主进程结束而中止 # coding:utf-8 # 作者 : 王 # 职业 : 嘉心糖 # ...
- Supervisor 为服务创建守护进程
今天需要再服务上部署一个.net 方面的项目:当时开启服务的命令只能在前台执行:使用nohub CMD &等放在后台开启服务都会宕机:所以搜寻了Supervisor 这个解决办法,为服务创建守 ...
- 黑马程序员Linux系统开发视频之创建守护进程模型
黑马程序员Linux系统开发视频之创建守护进程模型 1.创建子进程,父进程退出 所有工作在子进程中进行形式上脱离了控制终端 2.在子进程中创建新会话 setsid()函数 使子进程完全独立 ...
- Python中的自定义进程和进程池
Python中的自定义进程和进程池 文章目录 Python中的自定义进程和进程池 一.自定义进程 1.步骤: 2.例 进程池 1.概念 2.介绍--multiprocess.Pool 3.非阻塞式进程 ...
- ora03135连接失去联系 进程id 0_进程组、会话、控制终端概念,如何创建守护进程?...
守护进程 概念: 守护进程,也就是通常所说的Daemon进程,是Linux中的后台服务进程.周期性的执行某种任务或等待处理某些发生的事件. Linux系统有很多守护进程,大多数服务都是用守护进程实现的 ...
最新文章
- 浅析机器视觉在安防行业的应用
- Destroying the bus stations
- Oracle简单建立表空间
- 微型计算机通信与接口技术 pdf,微机原理与接口技术 pdf
- 洛谷回文数c语言,【普及-】洛谷P1015:回文数 一种解法
- CG-光栅图形学区域填充算法-学习笔记
- 部署java项目到阿里云服务器(centos7版本)
- php过滤除了文字数据英文,正则:过滤除英文和汉字的其它特殊符号
- GoBatch简介 —— 一款基于go语言的企业级批处理框架(Golang下的SpringBatch)
- 74HC138 芯片(38译码器)和74HC245 芯片(处理段码)
- 用Java编写程序实现找出100以内的质数
- ROS中launch文件和参数设置
- python爬取双色球历史数据_爬取双色球历史数据
- numpy 是否为零_玩数据必备 Python 库:Numpy 使用详解
- xp iis连接数破解
- u盘,tf卡,MP3,500次就报废了!
- 硬件工程师(电源设计)
- centos内核是linux吗,CentOS各版本的内核版本分别是什么?
- mysql 当前日期加3天_MySQL应用总结(十三)—函数的操作(3):日期时间函数
- C语言程序实例100个