debezium系列之:理解database.server.name和database.history.kafka.topic
debezium系列之:理解database.server.name和database.history.kafka.topic
debezium捕获数据库表结构更改事件,并把这些事件写入到kafka名称为database.server.name的topic中。
topic消息包括:
- ddl:提供导致架构更改的 SQL CREATE、ALTER 或 DROP 语句。
- databaseName:应用 DDL 语句的数据库的名称。 databaseName 的值用作消息键。
- pos:语句出现在 binlog 中的位置。
- tableChanges:整个表架构的结构化表示。 ableChanges 字段包含一个数组,其中包含表中每一列的条目。
注意:
- Connector不仅将表更改的历史记录存储在database.server.name中,还会存储在database.history.kafka.topic中。只供connector使用,不供消费应用程序直接使用。应用程序需要表结构变化可直接使用database.server.name的topic。
- database.history.kafka.topic不能分区,为了使数据库历史主题正确运行,必须保持连接器向其发出事件记录的一致的全局顺序。手动创建将database.history.kafka.topic分区设置为1,自动创建设置num.partitions值为1。
以创建表为例:
debezium系列之:理解database.server.name和database.history.kafka.topic相关推荐
- Debezium系列之:使用Debezium接入SQL Server数据库数据到Kafka集群的详细技术文档
Debezium系列之:使用Debezium接入SQL Server数据库数据到Kafka集群的详细技术文档 一.Debezium概述 二.SQL Server 连接器的工作原理 1.Snapshot ...
- debezium系列之:Kafka Connect
debezium系列之:Kafka Connect 一.Source和Sink 二.Task和Worker 三.Kafka Connect特性 四.独立模式 1.Source连接器的用法 2.Sink ...
- 深入理解SQL Server的规划和安装
深入理解SQL Server的规划和安装 实验背景: 在IT技术高速发展.互联网已***到千家万户.对于一个国家.一个企业甚至一个家庭来说,数据安全.可靠.高效的存储已成为重中之重的话题,任何 ...
- Debezium系列之:使用Debezium接入PostgreSQL数据库数据到Kafka集群的详细技术文档
Debezium系列之:使用Debezium接入PostgreSQL数据库数据到Kafka集群的详细技术文档 一.概述 二.连接器的工作原理 1.安全 2.快照 3.Ad hoc snapshots ...
- Debezium系列之:Debezium2.X之PostgreSQL数据库的Debezium连接器
Debezium系列之:Debezium2.X之PostgreSQL数据库的Debezium连接器 一.概述 二.连接器的工作原理 1.安全 2.快照 3.临时快照 4.触发临时快照 5.增量快照 6 ...
- Debezium系列之:快速了解Debezium 2.0.0.Final新的特性
Debezium系列之:快速了解Debezium 2.0.0.Final新的特性 一.对核心Debezium 的更改 1.需要 Java 11 2.改进的增量快照 3.交易元数据变化 4.多分区模式现 ...
- Debezium系列之:重置Sqlserver数据库的LSN拉取历史数据
Debezium系列之:重置Sqlserver数据库的LSN拉取历史数据 一.需求背景 二.理解LSN 三.sqlserver offset数据样式 四.写入历史LSN 五.观察历史数据 六.拉取最新 ...
- Debezium系列之:sqlserver数据库开启CDC
Debezium系列之:sqlserver数据库开启CDC 一.服务器角色 二.sqlserver数据库角色 三.创建登陆账户 四.创建具体数据库用户 五.赋予数据库用户权限 六.开启数据库CDC权限 ...
- [08001] Could not create connection to database server. Attempted reconnect 3 times.
现象描述: 在JetBrains的系列产品中,database连接MySQL数据库时,如Idea.DataGrip.GoLand.Pycharm 等等,连接MySQL数据库时会出现如下提示: 连接失败 ...
- 08001] Could not create connection to database server. Attempted reconnect 3 times.
现象描述: 在JetBrains的系列产品中,database连接MySQL数据库时,如Idea.DataGrip.GoLand.Pycharm 等等,连接MySQL数据库时会出现如下提示: 连接失败 ...
最新文章
- [转]如何编写 INF 文件
- Java实现世代距离_IGD反转世代距离-多目标优化评价指标概念及实现
- java打包内存溢出_maven build 内存溢出怎么解决?
- 【大话Hibernate】hibernate缓存详解
- hybris安装执行install.sh -r b2c_acc initialize遇到build错误 8983端口
- 从UDP/TCP到HTTP/HTTP2,弄清楚网络层面上应该了解的知识。
- Mind+上传模式的第三方Arduino用户库实现 -DHT11温湿度模块
- SVD 与 PCA 的直观解释(3): SVD的直观解释及推导
- .NET Core 3.0 稳定版发布
- idea server日志乱码_windows下,Kiwi_Syslog日志服务器的搭建
- 如何突破Windows环境限制打开“命令提示符”
- python连接SQLServer数据库,执行给定的查询SQL语句,并返回查询结果数据
- 一切从恢复系统开始(尽量不要学我恢复数据库的方法,我是个懒人^_^)
- 通过IMAP方式迁移U-Mail邮件到Exchange 2013之Exchange 2007 系统搭建!
- 多少个程序员能出一个架构师_每个程序员或架构师都应该知道的9 + 7件事
- 【PR学习笔记】PR学习笔记之PR快捷键
- CRM IFD部署更换证书 - adfs证书更换
- java极光短信的集成
- Spoon系列-概要
- python处理word文档(docxtpl 中文说明文档)