python 定时执行爬虫模块_浅析python实现scrapy定时执行爬虫

项目需要程序能够放在超算中心定时运行，于是针对scrapy写了一个定时爬虫的程序main.py ，直接放在scrapy的存储代码的目录中就能设定时间定时多次执行。

最简单的方法：直接使用Timer类

import time

import os

while True:

os.system("scrapy crawl News")

time.sleep(86400) #每隔一天运行一次 24*60*60=86400s或者，使用标准库的sched模块

import sched

#初始化sched模块的scheduler类

#第一个参数是一个可以返回时间戳的函数，第二个参数可以在定时未到达之前阻塞。

schedule = sched.scheduler ( time.time, time.sleep )

#被周期性调度触发的函数

def func():

os.system("scrapy crawl News")

def perform1(inc):

schedule.enter(inc,0,perform1,(inc,))

func() # 需要周期执行的函数

def mymain():

schedule.enter(0,0,perform1,(86400,))

if __name__=="__main__":

mymain()

schedule.run() # 开始运行，直到计划时间队列变成空为止关于cmd的实现方法，本人在单次执行爬虫程序时使用的是

cmdline.execute("scrapy crawl News".split())但可能因为cmdline是scrapy模块中自带的，所以定时执行时只能执行一次就退出了。

小伙伴有种方法是使用

import subprocess

subprocess.Popen("scrapy crawl News")

她的程序运行正常可以定时多次执行，而我的却直接退出了，改为

from subprocess import Popen

subprocess.Popen("scrapy crawl News")

才正常，不知道为什么会这样，如果有大神可以解释原因还请指点。

反正

os.system、subprocess.Popen

都是pythoncmd的实现方法，可以根据需要选择使用。

总结

以上所述是小编给大家介绍的python实现scrapy定时执行爬虫，希望对大家有所帮助，如果大家有任何疑问欢迎给我留言，小编会及时回复大家的！

python 定时执行爬虫模块_浅析python实现scrapy定时执行爬虫相关推荐

python中main的作用_浅析python 中__name__ = '__main__' 的作用
很多新手刚开始学习python的时候经常会看到python 中__name__ = \'__main__\' 这样的代码,可能很多新手一开始学习的时候都比较疑惑,python 中__name__ = ...
python测试代码与模块_测量Python代码运行时间
Python 社区有句俗语: "python自己带着电池" ,别自己写计时框架. Python 2.3 具备一个叫做 timeit 的完美计时工具可以测量python代码的运行时间 ...
python字典嵌套字典构造_浅析python 字典嵌套
为什么需要嵌套? 有时候,需要将一系列字典存储在列表中,或将列表作为值存储在字典中,这称为嵌套 .你可以在列表中嵌套字典.在字典中嵌套列表甚至在字典中嵌套字典. 字典列表例如:字典alien_0包含 ...
python 定时执行爬虫模块_【Python】定时执行网站爬虫
今天我们额讨论如何使用Python,SQLite数据库与crontab工具将爬虫程序部署到服务器上并实现定时爬取存储编写爬虫代码编写一个爬虫程序,使用requests与beautifulsoup4 ...
python如何导入自定义模块_【python】导入自定义模块
一.直接import 1.当执行文件与要导入的py文件在同一目录下时假设要在wangyi.py中导入weibo.py文件 import weibo 2.当执行文件与要导入的py文件所在文件夹在同一目 ...
python 命令行解析模块_【Python模块】命令行解析--argparse
python命令行解析前言当你还在使用 if len(sys.argv) > 1: 这样的方式判断选项和参数的时候,是否已意识到已经落伍了. 我在bash中用过getopt getopts, ...
python getattr调用自己模块_在Python中通过getattr获取对象引用的方法
getattr函数 (1)使用 getattr 函数,可以得到一个直到运行时才知道名称的函数的引用. >>> li = ["Larry", "Curly ...
python中的utils模块_使用Python的package机制如何简化utils包设计详解
package 机制 package是模块的集合,每一个Package的根目录下面都应当有一个__init__.py 文件.当解释器发现目录下有这个文件时,他就会认为这是一个Package,而不是一个 ...
python闭包两种写法_浅析Python闭包
一.什么是闭包python 在介绍闭包概念前,咱们先来看一段简短的代码数组 def sum_calc(*args):defwrapper(): sum=0for n inargs: sum+=n;re ...

python 定时执行爬虫模块_浅析python实现scrapy定时执行爬虫

python 定时执行爬虫模块_浅析python实现scrapy定时执行爬虫相关推荐

最新文章

热门文章

python 定时执行 爬虫 模块_浅析python实现scrapy定时执行爬虫

python 定时执行 爬虫 模块_浅析python实现scrapy定时执行爬虫相关推荐

最新文章

热门文章

python 定时执行爬虫模块_浅析python实现scrapy定时执行爬虫

python 定时执行爬虫模块_浅析python实现scrapy定时执行爬虫相关推荐