scrapy 6023 telnet查看爬虫引擎相关状态
Telnet终端(Telnet Console)
Scrapy提供了内置的telnet终端,以供检查,控制Scrapy运行的进程。 telnet仅仅是一个运行在Scrapy进程中的普通python终端。因此您可以在其中做任何事。
telnet终端是一个 自带的Scrapy扩展 。 该扩展默认为启用,不过您也可以关闭。 关于扩展的更多内容请参考 Telnet console 扩展 。
如何访问telnet终端
telnet终端监听设置中定义的 TELNETCONSOLE_PORT
,默认为 6023
。 访问telnet请输入:
telnet localhost 6023 >>>
Windows及大多数Linux发行版都自带了所需的telnet程序。
telnet终端中可用的变量
telnet仅仅是一个运行在Scrapy进程中的普通python终端。因此您可以做任何事情,甚至是导入新终端。
telnet为了方便提供了一些默认定义的变量:
快捷名称 | 描述 |
---|---|
crawler
|
Scrapy Crawler (scrapy.crawler.Crawler 对象)
|
engine
|
Crawler.engine属性 |
spider
|
当前激活的爬虫(spider) |
slot
|
the engine slot |
extensions
|
扩展管理器(manager) (Crawler.extensions属性) |
stats
|
状态收集器 (Crawler.stats属性) |
settings
|
Scrapy设置(setting)对象 (Crawler.settings属性) |
est
|
打印引擎状态的报告 |
prefs
|
针对内存调试 (参考 调试内存溢出) |
p
|
pprint.pprint 函数的简写 |
hpy
|
针对内存调试 (参考 调试内存溢出) |
Telnet console usage examples
下面是使用telnet终端的一些例子:
查看引擎状态
在终端中您可以使用Scrapy引擎的 est()
方法来快速查看状态:
telnet localhost 6023 >>> est() Execution engine statustime()-engine.start_time : 8.62972998619 engine.has_capacity() : False len(engine.downloader.active) : 16 engine.scraper.is_idle() : False engine.spider.name : followall engine.spider_is_idle(engine.spider) : False engine.slot.closing : False len(engine.slot.inprogress) : 16 len(engine.slot.scheduler.dqs or []) : 0 len(engine.slot.scheduler.mqs) : 92 len(engine.scraper.slot.queue) : 0 len(engine.scraper.slot.active) : 0 engine.scraper.slot.active_size : 0 engine.scraper.slot.itemproc_size : 0 engine.scraper.slot.needs_backout() : False
暂停,恢复和停止Scrapy引擎
暂停:
telnet localhost 6023 >>> engine.pause() >>>
恢复:
telnet localhost 6023 >>> engine.unpause() >>>
停止:
telnet localhost 6023 >>> engine.stop() Connection closed by foreign host.
Telnet终端信号
-
scrapy.telnet.
update_telnet_vars
(telnet_vars) -
在telnet终端开启前发送该信号。您可以挂载(hook up)该信号来添加,移除或更新 telnet本地命名空间可用的变量。 您可以通过在您的处理函数(handler)中更新
telnet_vars
字典来实现该修改。参数: telnet_vars (dict) – telnet变量的字典
Telnet设定
以下是终端的一些设定:
TELNETCONSOLE_PORT
Default: [6023, 6073]
telnet终端使用的端口范围。如果设为 None
或 0
, 则动态分配端口。
TELNETCONSOLE_HOST
默认: '127.0.0.1'
telnet终端监听的接口(interface)。
转载于:https://www.cnblogs.com/bonelee/p/9258453.html
scrapy 6023 telnet查看爬虫引擎相关状态相关推荐
- Python 爬虫 性能 相关( asyncio 模块 --- 高性能爬虫 )
From:https://www.cnblogs.com/bravexz/p/7741633.html 爬虫应用 asyncio 模块 ( 高性能爬虫 ):https://www.cnblogs.co ...
- Python爬虫进阶——Scrapy框架原理及分布式爬虫构建
1 Scrapy简介 1.1 概念 Scrapy是由Python语言开发的一个快速.高层次的屏幕抓取和web信息抓取框架,用于抓取web站点并从页面中提取结构化的数据. Scrapy用途广泛,可以用于 ...
- 4.基于scrapy的实时电影爬虫开发
在前面搭建好了前后台的基本框架之后,就可以使用websocket+scrapy来开发和用户交互的实时爬虫系统了.基本的思路为:当用户在前台发送请求之后,通过websocket的方式来进行前后台交互,并 ...
- python 系列 03 - 基于scrapy框架的简单爬虫
文章目录 1. scrapy介绍 2 新建爬虫项目 3 新建蜘蛛文件 4 运行爬虫 5 爬取内容 5.1分析网页结构 5.2 关于Xpath解析 5.3 接着解析电影数据 5.4 下载缩略图 5.5 ...
- python中scrapy是什么_python爬虫中scrapy组件有哪些?作用是什么?
最近苹果12的消息一直活跃,连小编这种不是果粉的人都知道了.虽然苹果是一部性能不错的手机,但是它各个零件却是来源于不同的地方,可见再好的成品也是需要不同零件支撑的.那么,python爬虫中scrapy ...
- 利用scrapyd管理scrapy的多个爬虫
说明:环境准备基于 Ubuntu16.04 一.安装 sudo pip install scrapyd sudo pip install scrapyd-client 二.验证 命令行输入:scrap ...
- python scrapy教程实例_爬虫框架Scrapy的第一个爬虫示例入门教程
原标题:爬虫框架Scrapy的第一个爬虫示例入门教程 我们使用dmoz.org这个网站来作为小抓抓一展身手的对象. 首先先要回答一个问题. 问:把网站装进爬虫里,总共分几步? 答案很简单,四步: 新建 ...
- scrapy初步-简单静态爬虫(爬取电影天堂所有电影)
之前用java写过一个简单的爬取电影天堂信息的爬虫,后来发现用python写这种简单的爬虫程序更简单,异步网络框架在不使用多线程和多进程的情况下也能增加爬取的速度,目前刚开始学scrapy,用这个写了 ...
- [Python]scrapy爬取当当网书籍相关信息
最近想买两本程序设计的书籍,也就在当当网上面看了下,发现真是太多的书了.所以想着利用爬虫知识爬取下程序设计相关书籍的一些信息. 00_1. 首先是今天所用到的东西 python 3.5 + scrap ...
最新文章
- R语言导入、读取网络CSV数据(Read a CSV from a URL)实战:R原生read_csv、readr包、data.table
- centos7 pam mysql.so,Centos7下搭建FTP服务器(博主亲测不坑)
- Android事件分发机制解析
- linux多进程知识汇总
- dart 替代java_Dart与Java的语法区别
- 小波阈值图像去噪的实现步骤
- Java 8:在新的Nashorn JS引擎中编译Lambda表达式
- github怎么搜索开源的代码_5.2.PYTHON开发利器之使用VS Code+GitHub进行python开源项目开发...
- exchange2003 SMTP连接器的应用案例
- 【STL】List基础
- 2021-09-03相同的树
- 【贪玩巴斯】数字图像处理基础课堂笔记(六)——「一维、二维离散傅里叶变化及其方变换,卷积定理,频域滤波的步骤」 2021-11-08
- 学习笔记——Exploiting Unintended Feature Leakage in Collaborative Learning(协作学习中的非预期特征泄露研究)
- E4A影视APP源码电视盒子酷点TV版4.5 后端对接苹果cms
- 设备巡检的执行的痛点及解决方案
- android studio主moudle无法调用依赖moudle里的jar包
- Android图像处理之Paint
- 球面图形到全景图像的正投影和逆投影
- Linux -- SELinux配置及应用(1)
- 使用SurfaceView实现的走势图
热门文章
- 第三讲,我们来谈谈:“二进制的负数”
- Git的撤销操作 git checkout -- <file>
- share_from_this
- Cadence快捷键设置亲测有效!
- linux qt检测u盘热插拔,【QT】动态监测U盘插拔
- 把一个dataset的表放在另一个dataset里面_使用中文维基百科语料库训练一个word2vec模型并使用说明...
- 联想计算机农村,农村的联想
- mysql sum计算效率很慢_MySQL--RDS下的分区表实践(文末附MySQL视频教程与面试题)...
- html电池百分比,显示电池百分比在哪设置
- 香槟分校计算机科学排名,伊利诺伊大学厄巴纳-香槟分校计算机科学与工程世界排名2020年最新排名第42(ARWU世界排名)...