emq mysql消息存储_EMQ X 规则引擎系列(二)存储消息到 MySQL 数据库
场景介绍
该场景需要将 EMQ X 指定主题下且满足条件的消息存储到 MySQL 数据库。为了便于后续分析检索,消息内容需要进行拆分存储。
该场景下设备端上报信息如下:
上报主题:cmd/state/:id,主题中 id 代表车辆客户端识别码
消息体:
{
"id": "NXP-058659730253-963945118132721-22", // 客户端识别码
"speed": 32.12, // 车辆速度
"direction": 198.33212, // 行驶方向
"tachometer": 3211, // 发动机转速,数值大于 8000 时才需存储
"dynamical": 8.93, // 瞬时油耗
"location": { // GPS 经纬度数据
"lng": 116.296011,
"lat": 40.005091
},
"ts": 1563268202 // 上报时间
}
当上报数据发动机转速数值大于 8000 时,存储当前信息以便后续分析用户车辆使用情况。
准备工作
创建数据库
创建 iot_data 数据库以存储消息数据,这里指定数据库编码为 utf8mb4 避免编码问题:
CREATE DATABASE `emqx_rule_engine_output` CHARACTER SET utf8mb4;
创建数据表
根据场景需求,创建数据表 use_statistics 结构及字段注释如下:
CREATE TABLE `use_statistics` (
`id` int(11) NOT NULL AUTO_INCREMENT,
`client_id` varchar(100) DEFAULT NULL COMMENT '客户端识别码',
`speed` float unsigned DEFAULT '0.00' COMMENT '当前车速',
`tachometer` int(11) unsigned DEFAULT '0' COMMENT '发动机转速',
`ts` int(11) unsigned DEFAULT '0' COMMENT '上报时间戳',
`msg_id` varchar(50) DEFAULT NULL COMMENT 'MQTT 消息 ID',
PRIMARY KEY (`id`),
KEY `client_id_index` (`client_id`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4;
创建成功后通过 MySQL 命令确认数据表是否存在:
Database changed
mysql> desc use_statistics;
+------------+------------------+------+-----+---------+----------------+
| Field | Type | Null | Key | Default | Extra |
+------------+------------------+------+-----+---------+----------------+
| id | int(11) | NO | PRI | NULL | auto_increment |
| client_id | varchar(100) | YES | MUL | NULL | |
| speed | float unsigned | YES | | 0 | |
| tachometer | int(11) unsigned | YES | | 0 | |
| ts | int(11) unsigned | YES | | 0 | |
| msg_id | varchar(50) | YES | | NULL | |
+------------+------------------+------+-----+---------+----------------+
6 rows in set (0.01 sec)
配置说明
创建资源
打开 EMQ X Dashboard,进入左侧菜单的 资源 页面,点击 新建 按钮,键入 MySQL 服务器信息进行资源创建。
EMQ X 集群中节点所在网络环境可能互不相同,资源创建成功后点击列表中 状态按钮,查看各个节点资源连接状况,如果节点上资源不可用,请检查配置是否正确、网络连通性,并点击 重连 按钮手动重连。
创建规则
进入左侧菜单的 规则 页面,点击 新建 按钮,进行规则创建。这里选择触发事件 消息发布,在消息发布时触发该规则进行数据处理。
选定触发事件后,我们可在界面上看到可选字段及示例 SQL:
筛选所需字段
规则引擎使用 SQL 语句处理规则条件,该业务中我们需要将 payload 中所有字段单独选择出来,使用 payload.fieldName 格式进行选择,还需要消息上下文的 topic、qos、id 信息,当前 SQL 如下:
SELECT
payload.id as client_id, payload.speed as speed,
payload.tachometer as tachometer,
payload.ts as ts, id
FROM
"message.publish"
WHERE
topic =~ 't/#'
确立筛选条件
使用 SQL 语句 WHERE 字句进行条件筛选,该业务中我们需要定义两个条件:
仅处理 cmd/state/:id 主题,使用主题通配符 =~ 对 topic 进行筛选:topic =~ 'cmd/state/+'
仅处理 tachometer > 8000 的消息,使用比较符对 tachometer 进行筛选:payload.tachometer > 8000
组合上一步骤得到 SQL 如下:
SELECT
payload.id as client_id, payload.speed as speed,
payload.tachometer as tachometer,
payload.ts as ts,
id
FROM
"message.publish"
WHERE
topic =~ 'cmd/state/+'
AND payload.tachometer > 8000
使用 SQL 测试功能进行输出测试
借助 SQL 测试功能,我们可以实时查看当前 SQL 处理后的数据输出,该功能需要我们指定 payload 等模拟原始数据。
payload 数据如下,注意更改 tachometer 数值大小,以满足 SQL 条件:
{
"id": "NXP-058659730253-963945118132721-22",
"speed": 32.12,
"direction": 198.33212,
"tachometer": 9001,
"dynamical": 8.93,
"location": {
"lng": 116.296011,
"lat": 40.005091
},
"ts": 1563268202
}
点击 SQL 测试 切换按钮,更改 topic 与 payload 为场景中的信息,点击 测试 按钮查看数据输出:
测试输出数据为:
{
"client_id": "NXP-058659730253-963945118132721-22",
"id": "589A429E9572FB44B0000057C0001",
"speed": 32.12,
"tachometer": 9001,
"ts": 1563268202
}
测试输出与预期相符,我们可以进行后续步骤。
添加响应动作,存储消息到 MySQL
SQL 条件输入输出无误后,我们继续添加相应动作,配置写入 SQL 语句,将筛选结果存储到 MySQL。
点击响应动作中的 添加 按钮,选择 保存数据到 MySQL 动作,选取刚刚选定的资源,我们使用 ${fieldName} 语法填充 SQL 语句,将数据插入到数据库,最后点击 新建 按钮完成规则创建。
动作的 SQL 配置如下:
INSERT INTO
`use_statistics` (`client_id`, `speed`, `tachometer`, `ts`, `msg_id`)
VALUES
(${client_id}, ${speed}, ${tachometer}, ${ts}, ${id});
测试
预期结果
我们成功创建了一条规则,包含一个处理动作,动作期望效果如下:
设备向 cmd/state/:id 主题上报消息是,当消息中的 tachometer 数值超过 8000 时将命中 SQL,规则列表中 已命中 数字增加 1;
MySQL iot_data数据库的 use_statistics 表中将增加一条数据,数值与当前消息一致。
使用 Dashboard 中的 Websocket 工具测试
切换到 工具 --> Websocket 页面,使用任意信息客户端连接到 EMQ X,连接成功后在 消息 卡片发送如下信息:
主题:cmd/state/NXP-058659730253-963945118132721-22
消息体:
{
"id": "NXP-058659730253-963945118132721-22",
"speed": 32.12,
"direction": 198.33212,
"tachometer": 9002,
"dynamical": 8.93,
"location": {
"lng": 116.296011,
"lat": 40.005091
},
"ts": 1563268202
}
点击 发送 按钮,发送成功后查看规则统计 已命中 数据统计值为 1 表明规则已成功命中,MySQL 命令行中查看数据表记录得到数据如下:
至此,我们通过规则引擎实现了使用规则引擎存储消息到 MySQL 数据库的业务开发。
更多信息请访问我们的官网 emqx.io,或关注我们的开源项目 github.com/emqx/emqx ,详细文档请访问 官方文档。
emq mysql消息存储_EMQ X 规则引擎系列(二)存储消息到 MySQL 数据库相关推荐
- emq数据储存到mysql_EMQ X 规则引擎系列(三)存储消息到 InfluxDB 时序数据库
前言 InfluxDB 是一个用于存储和分析时间序列数据的开源数据库,内置 HTTP API,类 SQL 语句的支持和无结构的特性对使用者而言都非常友好.它强大的数据吞吐能力以及稳定的性能表现使其非常 ...
- 规则引擎系列—初识规则引擎
什么是规则引擎 规则引擎由推理引擎发展而来,是一种嵌入在应用程序中的组件,实现了将业务决策从应用程序代码中分离出来,并使用预定义的语义模块编写业务决策.接受数据输入,解释业务规则,并根据业务规则做出业 ...
- mac 查看mysql是否安装_[简明核心系列] 三分钟Mac安装MySQL教程
作者: @向三 高质量学习 QQ 群: 1021386120 自由转载-非商用-非衍生-保持署名 | Creative Commons BY-NC-ND 3.0 文章结构: 前言 安装 HomeBre ...
- EMQ X 存储消息到 MySQL 数据库
实现MQTT数据在MySQL上的数据持久化实验 MQTT 是轻量级的.灵活的物联网消息交换和数据传递协议,致力于为 IoT 开发人员实现灵活性与硬件/网络资源的平衡. ESP8266 提供了⼀套⾼度集 ...
- mysql外键排序规则_mysql创建外键出错(注意数据库表字段排序)
标签: 1. 两个字段的类型或者大小不严格匹配.例如,如果一个是int(10),那么外键也必须设置成int(10),而不是int(11),也不能是tinyint.另外,你还必须确定两个字段是否一个为 ...
- MySQL不同数据类型如何表示_MySQL系列(二)--数据类型
如何选择优化的数据类型: 当一个列有多种数据类型可以选择,选择顺序:数字类型.日期/二进制类型.字符类型,相同级别的数据类型,优先选择占用空间小的类型 1.通常更小的更好 相同级别的数据类型,选择占据 ...
- MySQL---数据库从入门走向大神系列(二)-用Java对MySQL进行增删改查
上节已经学会对MySQL进行简单的增删改查了,那么,我们如何实现用Java来对数据库操作增删改呢. 本节将用Java演示对MySQL进行增删改查. 简单的来说,分为4个步骤: 1.加载连接器(驱动) ...
- 【MySQL】Innodb存储引擎之物理存储结构(MySQL专栏启动)
- mysql读取股票数据_读取股票数据存储到本地MySQL数据库(一)
主要有三个步骤:(1)从东方财富上爬虫读取到所有股票的codelist:(2)从凤凰网的api获取到某只股票历史上所有数据,开盘收盘价,成交量,成交金额,ma均线价格等数据:(3)通过pymysql将 ...
- 规则引擎drools系列(一)
规则引擎 Drools 1. 问题引出 现有一个在线申请信用卡的业务场景,用户需要录入个人信息,如下图所示: //此处为伪代码 //检查用户信息合法性,返回true表示检查通过,返回false表示 ...
最新文章
- java httpurl_Java HttpURLConnection使用方法详解
- Python统计网站访问日志log中的IP信息,并排序。。
- python win32转pdf 横版_使用Python3将word文档和pdf电子书进行格式互转(兼容Windows/Linux)...
- AWS public key的邮件验证方式
- mysql表导出csv空值_从mysql中导出csv格式的数据
- 建模心法(2)——迈出建模第一步
- jzoj100044-abcd【多重背包,二进制压缩,dp】
- VMware16虚拟机怎么共享文件夹?
- 实验三 类和对象
- socket服务端处理多个客户端的请求学习理解
- c++多线程——基于锁和条件变量的前程安全队列
- magento xml配置详解(1)
- oracle wallet使用与维护---oracle无密码登录
- 第十四章 C语言头文件的编写_C语言模块化编程中的头文件
- 特朗普启动美国AI国家计划,人工智能角逐再添新变化!
- stm32程序flash下载和sram运行
- android手机连接电脑,安卓手机连接电脑的方法【图文教程】
- 2021-10-15
- 哈佛结构冯·诺依曼结构
- IMSI和TMSI的区别