linux 运行scrapy,python 文件 运行 scrapy
写了一个scrapy,程序可以跑,没有任何问题。
爬下30个网站的body存入json文件,并且保存为test.json
如果test.json存在就保存到一个新建的test1.json
新建了一个python文件叫check.py,对比两个文件的hash值,如果有不一样,就发邮件到我邮箱。
在这个check.py内 有一句os.system(scrapy crawl xxxx)
问题来了。。 因为希望能定时运行,比如我在win上设置了定时执行计划,则每5分钟执行一次。这个是可以的。
有个问题和vps上一样,系统是centos 6。
比如随意在一个地方,用路径的方式打开这个check.py文件
python Documents/check_web/check.py
Scrapy 1.1.1 - no active project
Unknown command: crawl
Use "scrapy" to see available commands
0s
10s
Traceback (most recent call last):
File "Documents/check_web/check.py", line 35, in
f1 = open("./test.json", "rb")
IOError: [Errno 2] No such file or directory: './test.json'
check.py大致如下
def getJson():
os.system('scrapy crawl check_web_sprider')
time.sleep(10)
def getHash(f):
line = f.readline()
hash = hashlib.md5()
while (line):
hash.update(line)
line = f.readline()
return hash.hexdigest()
def IsHashEqual(f1, f2):
str1 = getHash(f1)
str2 = getHash(f2)
return str1 == str2
if __name__ == '__main__':
f1 = open("./test.json", "rb")
f2 = open("./test1.json", "rb")
if (IsHashEqual(f1, f2) is False):
def _format_addr(s):
name, addr = parseaddr(s)
return formataddr(( \
Header(name, 'utf-8').encode(), \
addr.encode('utf-8') if isinstance(addr, unicode) else addr))
求问为什么会这样。。路径的方式就会显示
Scrapy 1.1.1 - no active project
Unknown command: crawl
但是如果我进入到check.py的路径下 然后
python check.py
就没有任何问题。。爬虫也能正常工作。。
非常抱歉 文笔不太好 希望有人能看懂。。并且又知道如何解决。
thx!
check.py是在scrapy的工程目录下的。。
linux 运行scrapy,python 文件 运行 scrapy相关推荐
- python文件运行问题
今天配置ctf题的时候,遇到python文件的问题,一是python文件怎么用./*.py执行,解决链接在这里:linux运行python程序,二是运行python文件出现No such file o ...
- python文件运行哪一个_如何使一个python文件运行另一个?
本问题已经有最佳答案,请猛点这里访问. 如何创建一个python文件来运行另一个? 例如,我有两个.py文件.我想运行一个文件,然后让它运行另一个.py文件. docs.python.org / / ...
- spss运行脚本 linux,从外部Python脚本运行SPSS会话操作
不幸的是,这是一个复杂的问题.我不认为统计数据是有记录的.我会和发展部谈这个.在 在V24中,当您通过Utilities>:run script(与发出script命令相同)运行Pytho ...
- python文件运行闪退_python文件打开闪退怎么办
Python文件是以 .py 结尾的文件,可以用Python直接运行.不过在使用的过程中,可能遇到python文件无法打开,点击闪退的情况.那么python文件打开闪退怎么办? 方式/步调1 步调一 ...
- python解释器运行代码-Python如何运行程序
人生苦短,我用Python. 作为一个开发人员,如何写代码是必须要知道的,代码如何运行也是有必要了解的.通过了解代码如何运行,可指导我们写出效率更高的代码.下午看了<Python学习手册> ...
- linux pyinstaller打包python文件
python做算法,pyQt做界面,算法处理问题,界面调动及显示检测结果. 为方便使用及隐藏其中的细节,打包非常有必要. 文章目录 1.pyinstaller如何实现打包 2.更换打包好的文件的图标 ...
- python怎么运行代码-python如何运行代码
python作为一种动态语言,其实是一个解释器软件包. 当Python运行脚本时,在代码开始进行处理之前,Python还会执行一些步骤.(推荐学习:Python视频教程) 第一步是编译成所谓的&quo ...
- PHP如何启动scrapy,python,_新手Scrapy爬虫运行问题,python - phpStudy
新手Scrapy爬虫运行问题 新人刚开始学习Scrapy,成功安装Scrapy,运行第一个程序还是报错,望高手帮忙解答,感激不尽 错误提示 Traceback (most recent call la ...
- linux怎么创建python文件_Linux下创建python脚本并运行(入门)
1.首先定位到一个文件夹,然后使用vim编辑器:vim test.py 就创建了python脚本文件,并且进入编辑状态 2.编辑好之后按Esc切换到命令模式,然后输入:wq 回车就自动保存完成了,然后 ...
最新文章
- pytorch深度学习_了解如何使用PyTorch进行深度学习
- 证书格式pfx和cer的区别及转换
- flask blueprint/蓝图 基础
- 【转】C# 二维码生成
- Linux 配置文件
- 全国计算机等级考试 备考,全国计算机等级考试经验:如何调整备考心态
- 奇妙的go语言(面向对象)
- tp5 mkdir(): Permission denied 问题
- C语言把字串转换大小写的函数
- JM8.5中的高精度象素运动估计
- 初识Hadoop(会飞的大象)
- centos搭建proxypool
- Spring-AOP术语
- 《经典递归问题:汉罗塔》
- 《悲伤逆流成河》影评
- 气象雷达在民航中的运用
- C++生成简单WAV文件(三)——根据简谱生成菊花台
- 彻底解决Microsoft store闪退问题
- python 深度学习源码_「深度学习」用TensorFlow实现人脸识别(附源码,快速get技能)...
- 2018-10-27 直播课堂笔记
热门文章
- 《Python 快速入门》一千个程序员有一千套编码规范
- redis调优 -- 内存碎片
- 惠普g260鼠标宏软件_黑爵电竞鼠标AJ337 电竞手残党福音 鼠标宏一键火力全开
- python读取usb扫码枪数据_vue扫码枪input接收数据
- STM32F412应用开发笔记之二:基本GPIO控制
- 初学C遇到的一些知识点汇总
- qt在visual studio 2015下的使用
- 高并发服务器开源项目,百万级高并发WebRTC流媒体服务器设计与开发(示例代码)...
- JAVA入门级教学之(标识符与关键字)
- 逻辑代数01律的理解_零基础学习计算机原理:布尔逻辑和逻辑门