debezium系列之:理解database.server.name和database.history.kafka.topic

debezium捕获数据库表结构更改事件,并把这些事件写入到kafka名称为database.server.name的topic中。

topic消息包括:

  • ddl:提供导致架构更改的 SQL CREATE、ALTER 或 DROP 语句。
  • databaseName:应用 DDL 语句的数据库的名称。 databaseName 的值用作消息键。
  • pos:语句出现在 binlog 中的位置。
  • tableChanges:整个表架构的结构化表示。 ableChanges 字段包含一个数组,其中包含表中每一列的条目。

注意:

  • Connector不仅将表更改的历史记录存储在database.server.name中,还会存储在database.history.kafka.topic中。只供connector使用,不供消费应用程序直接使用。应用程序需要表结构变化可直接使用database.server.name的topic。
  • database.history.kafka.topic不能分区,为了使数据库历史主题正确运行,必须保持连接器向其发出事件记录的一致的全局顺序。手动创建将database.history.kafka.topic分区设置为1,自动创建设置num.partitions值为1。

以创建表为例:

debezium系列之:理解database.server.name和database.history.kafka.topic相关推荐

  1. Debezium系列之:使用Debezium接入SQL Server数据库数据到Kafka集群的详细技术文档

    Debezium系列之:使用Debezium接入SQL Server数据库数据到Kafka集群的详细技术文档 一.Debezium概述 二.SQL Server 连接器的工作原理 1.Snapshot ...

  2. debezium系列之:Kafka Connect

    debezium系列之:Kafka Connect 一.Source和Sink 二.Task和Worker 三.Kafka Connect特性 四.独立模式 1.Source连接器的用法 2.Sink ...

  3. 深入理解SQL Server的规划和安装

      深入理解SQL Server的规划和安装   实验背景: 在IT技术高速发展.互联网已***到千家万户.对于一个国家.一个企业甚至一个家庭来说,数据安全.可靠.高效的存储已成为重中之重的话题,任何 ...

  4. Debezium系列之:使用Debezium接入PostgreSQL数据库数据到Kafka集群的详细技术文档

    Debezium系列之:使用Debezium接入PostgreSQL数据库数据到Kafka集群的详细技术文档 一.概述 二.连接器的工作原理 1.安全 2.快照 3.Ad hoc snapshots ...

  5. Debezium系列之:Debezium2.X之PostgreSQL数据库的Debezium连接器

    Debezium系列之:Debezium2.X之PostgreSQL数据库的Debezium连接器 一.概述 二.连接器的工作原理 1.安全 2.快照 3.临时快照 4.触发临时快照 5.增量快照 6 ...

  6. Debezium系列之:快速了解Debezium 2.0.0.Final新的特性

    Debezium系列之:快速了解Debezium 2.0.0.Final新的特性 一.对核心Debezium 的更改 1.需要 Java 11 2.改进的增量快照 3.交易元数据变化 4.多分区模式现 ...

  7. Debezium系列之:重置Sqlserver数据库的LSN拉取历史数据

    Debezium系列之:重置Sqlserver数据库的LSN拉取历史数据 一.需求背景 二.理解LSN 三.sqlserver offset数据样式 四.写入历史LSN 五.观察历史数据 六.拉取最新 ...

  8. Debezium系列之:sqlserver数据库开启CDC

    Debezium系列之:sqlserver数据库开启CDC 一.服务器角色 二.sqlserver数据库角色 三.创建登陆账户 四.创建具体数据库用户 五.赋予数据库用户权限 六.开启数据库CDC权限 ...

  9. [08001] Could not create connection to database server. Attempted reconnect 3 times.

    现象描述: 在JetBrains的系列产品中,database连接MySQL数据库时,如Idea.DataGrip.GoLand.Pycharm 等等,连接MySQL数据库时会出现如下提示: 连接失败 ...

  10. 08001] Could not create connection to database server. Attempted reconnect 3 times.

    现象描述: 在JetBrains的系列产品中,database连接MySQL数据库时,如Idea.DataGrip.GoLand.Pycharm 等等,连接MySQL数据库时会出现如下提示: 连接失败 ...

最新文章

  1. [转]如何编写 INF 文件
  2. Java实现世代距离_IGD反转世代距离-多目标优化评价指标概念及实现
  3. java打包内存溢出_maven build 内存溢出怎么解决?
  4. 【大话Hibernate】hibernate缓存详解
  5. hybris安装执行install.sh -r b2c_acc initialize遇到build错误 8983端口
  6. 从UDP/TCP到HTTP/HTTP2,弄清楚网络层面上应该了解的知识。
  7. Mind+上传模式的第三方Arduino用户库实现 -DHT11温湿度模块
  8. SVD 与 PCA 的直观解释(3): SVD的直观解释及推导
  9. .NET Core 3.0 稳定版发布
  10. idea server日志乱码_windows下,Kiwi_Syslog日志服务器的搭建
  11. 如何突破Windows环境限制打开“命令提示符”
  12. python连接SQLServer数据库,执行给定的查询SQL语句,并返回查询结果数据
  13. 一切从恢复系统开始(尽量不要学我恢复数据库的方法,我是个懒人^_^)
  14. 通过IMAP方式迁移U-Mail邮件到Exchange 2013之Exchange 2007 系统搭建!
  15. 多少个程序员能出一个架构师_每个程序员或架构师都应该知道的9 + 7件事
  16. 【PR学习笔记】PR学习笔记之PR快捷键
  17. CRM IFD部署更换证书 - adfs证书更换
  18. java极光短信的集成
  19. Spoon系列-概要
  20. python处理word文档(docxtpl 中文说明文档)

热门文章

  1. iphone通过iTunes12.7怎么设置铃声
  2. android 闪屏动态界面,Android 实现闪屏
  3. 抖音新带货王诞生了:老把头和老解
  4. 获取指定年、月的具体天数
  5. 正则的replace方法详解
  6. 太一硅谷实验室合伙人杨虎成:区块链草莽时代进入倒计时,马太效应开始显现...
  7. RN android无线调试
  8. 《机器人操作系统ROS原理与应用》——2.3 大数据制度和流程规范
  9. iPhone/iPad各机型如何进入恢复模式 苹果进入恢复模式的方法
  10. 并查集及其优化(南昌理工学院ACM集训队)