本文并不是讲解爬虫的相关技术实现的,而是从实用性的角度,将抓取并存入 MongoDB 的数据 用 InfluxDB 进行处理,而后又通过 Grafana 将爬虫抓取数据情况通过酷炫的图形化界面展示出来。

在开始之前,先对 Grafana 和 InfluxDB 做一下简要的介绍:Grafana:是一个开源的分析和监控系统,拥有精美的web UI,支持多种图表,可以展示influxdb中存储的数据,并且有报警的功能。

**Influxdb **:是一款开源的时间序列数据库,专门用来存储和时间相关的数据(比如我用它存储某个时间点爬虫抓取信息的数量)。

最终能实现的效果是这样的:

请注意以下操作,都是 Mac 下实现的。但是原理是相似的,你可以在自己的 PC 上进行试验。

2. 安装配置 InfluxDB

安装 InfluxDB

修改配置文件/usr/local/etc/influxdb.conf,如果原文件中没有对应配置项,需自己添加。

3. 安装配置 Grafana

安装 Grafana

并修改 Grafana 配置文件 /usr/local/etc/grafana/grafana.ini,内容如下:

4. 爬虫代码

由于这里主是要介绍如何将 Grafana 和 InfluxDB 与爬虫进行结合的方案,而不是主讲爬虫原理,而且代码也比较多,影响可读性,所以就不贴出爬取的代码。

5. 监控脚本

考虑到可能要增加爬虫到监控中,因此这里使用了热更新对监控进行动态配置。

配置文件 influx_settings.conf 主要用于热更新相关设置。

如何动态读取这个配置文件的设置呢?需要写一个脚本来监控。代码如下:

来试着运行一下python3 influx_monitor.py

运行,得到下图内容,表示监控脚本运行成功。

另建窗口,修改配置文件 influx_settings.conf# 修改间隔时间为8秒

interval = 8

切换至第一次运行 influxDB 的窗口,会提示配置更新,说明配置热更新生效。

6. 配置 Grafana

首先打开 Chrome 浏览器,输入 http://127.0.0.1:3000 登录 grafana 页面。

连接本地 influxDB 数据库,操作如下图。

在红色方框内选择 Type 类型为 InfluxDB,并输入URL:http://localhost:8086

在红框内输入influxDB数据库名称

新建 dashboard

新建 graph 类型 dashboard

修改 dashboard 设置

点击红色方框修改设定

修改 dashboard 配置

设置监控的数据对象

在监控脚本中,写入influxDB的代码如下,其中 "measurement" 对应 表名,"fields" 对应写入的字段;

7. 运行爬虫文件

启动 MongoDB 数据库服务。brew services mongodb start

新建一个 terminal 窗口,运行爬虫文件。

爬虫文件运行成功

我们可以在刚刚打开的控制台里查看效果展示:

怎么样?学会了吗?如果你跟我一样都喜欢python,也在学习python的道路上奔跑,欢迎你加入python学习群:839383 765 群内每天都会分享最新业内资料,企业项目案例,分享python免费课程,共同交流学习,让学习变(编)成(程)一种习惯!

python中turtle画酷炫图案-用python打造可视化爬虫监控系统,酷炫的图形化界面相关推荐

  1. python拿什么做可视化界面好-用python打造可视化爬虫监控系统,酷炫的图形化界面...

    原标题:用python打造可视化爬虫监控系统,酷炫的图形化界面 本文并不是讲解爬虫的相关技术实现的,而是从实用性的角度,将抓取并存入 MongoDB 的数据 用 InfluxDB 进行处理,而后又通过 ...

  2. python中turtle画笑脸_怎么用python实现画笑脸

    详细内容 在Python中画笑脸可以使用turtle库实现. 1.打开idel,通过idel新建一个py文件,在空白的文件中输入下面的代码按F5运行此文件就可以画笑脸了.from turtle imp ...

  3. python中turtle画简单表情_用Python画QQ表情中的滑稽脸

    用Python中的turtle库写的代码,写了很久终于写的比较满意了.先看一下效果图[手动滑稽] 话不多讲,直接干货吧 代码: import turtle as t def moveto(x, y): ...

  4. python中turtle画笑脸_如何用python画笑脸

    如何用python画笑脸?首先我们要先下载安装好python程序,然后再下载安装turtle包.把一切准备工作做完才能开始我们接下来的绘画工作. 1.在我们自己的电脑上找到python 的IDLE工具 ...

  5. python做炫酷的界面_用python打造可视化爬虫监控系统,酷炫的图形化界面

    安装 InfluxDB 修改配置文件/usr/local/etc/influxdb.conf,如果原文件中没有对应配置项,需自己添加. 3. 安装配置 Grafana 安装 Grafana 并修改 G ...

  6. python中turtle画酷炫图案-使用Python的turtle画炫酷图形

    原标题:使用Python的turtle画炫酷图形 例子一: import turtle t = turtle.Pen() turtle.bgcolor("black") sides ...

  7. python中turtle画笑脸_基于turtle的Python作画

    2018年6月12日笔记 按win+q键换出搜索界面,输入path,进入系统属性,选择高级,选择环境变量.在系统变量中的PATHEXT这个变量中文本内容为.COM;.EXE;.BAT;.CMD;.VB ...

  8. python中turtle画老虎_通过Turtle库在Python中绘制一个鼠年福鼠

    turtle库是一个很经典的绘图库,其最初来自于1967年创造的logo编程语言,之后被Python编写放到了Python的内置模块中.网络上有很多借助于turtle绘制精美图像的案例.比如小猪佩奇. ...

  9. python中turtle画雪花_turtle画雪花-方法及效果的详解

    效果图: 代码: import turtle as t import random as r # 定义画雪 def drawsnow(): t.ht() # 隐藏笔头,ht=hideturtle t. ...

最新文章

  1. R语言ggplot2可视化:在选定数据点周围添加圆圈(Add Circles Around Select Data Points)
  2. music算法原理_大话FMCW雷达之区域检测原理
  3. hibernate 复合主键 根据主键删除_Python 之 MySql“未解之谜”11--主键 id 那些事
  4. Kotlin — 适用于移动端跨平台
  5. 织梦采集侠破解版_最新dedecms织梦采集侠v2.6破解版
  6. H5游戏助力区块链成2019年新玩法?
  7. cocos3.10 遇到企鹅游戏,点击屏幕白屏的解决方案
  8. 找不到Office安装路径,如何导入MathType
  9. Android 音视频开发之基础篇 使用 SurfaceView绘制一张图片
  10. 计算机考研838难吗,838初试经验教训分享
  11. 大学文秘专业有计算机,大学高级文秘专业描述
  12. JS实现线条动态背景
  13. day2:牛客网 糖果俱乐部
  14. 测试使用CSDN写博客
  15. C语言:判断是否是直角三角形
  16. 大数据如何学习,告诉你正确的学习姿势
  17. 达梦数据库(DM8)DCA培训及认证考试有感--附ODBC使用新场景
  18. 分享一款好用的图表制作软件,简单、美观又高效!
  19. 功能安全分级及参考资料
  20. mysql ini配置文件分组排序_Windows下的mysql获取my.ini配置文件位置的顺序

热门文章

  1. 下载恶意pcap包的网站
  2. python里混淆矩阵 左下角为漏报,右上角为误报
  3. Mac 安装 brew
  4. 矩阵管理——和visitor模式没有本质区别,都是为了避免资源重复
  5. properties 资源文件读取
  6. mybatis相关知识
  7. MediaPlayer loading 问题解决
  8. LightOJ - 1265 概率
  9. Tomcat的配置文件server.xml叙述
  10. App字体大小不随系统改变而改变