canal部署

1.修改master节点mysql的配置文件开启Binlog

[mysqld]
skip-ssl
skip-host-cache
skip-name-resolve
default-time-zone = '+8:00'
server-id=1
log-bin=mysql-bin
binlog_format=row
binlog-do-db=ccs

修改完之后重启mysql

2、进入mysql赋权限

在 MySQL 中执行：

GRANT SELECT, REPLICATION SLAVE, REPLICATION CLIENT ON *.* TO'canal'@'%' IDENTIFIED BY 'canal' ;

重启mysql：

sudo systemctl restart mysqld

3、下载canal

下载地址：https://github.com/alibaba/canal/releases

下载后解压。

4、修改canal.properties配置文件

进入conf/目录下，修改canal.properties配置文件：

#################################################
#########       common argument     #############
#################################################
canal.id = 1001
canal.ip =
canal.port = 11111
canal.metrics.pull.port = 11112
# zookeeper集群
canal.zkServers =10.18.93.113:2181,10.18.93.111:2181,10.18.93.112:2181
# flush data to zk
canal.zookeeper.flush.period = 1000
canal.withoutNetty = false
# tcp, kafka, RocketMQ
canal.serverMode = tcp
# flush meta cursor/parse position to file
canal.file.data.dir = ${canal.conf.dir}
canal.file.flush.period = 1000
## memory store RingBuffer size, should be Math.pow(2,n)
canal.instance.memory.buffer.size = 16384
## memory store RingBuffer used memory unit size , default 1kb
canal.instance.memory.buffer.memunit = 1024
## meory store gets mode used MEMSIZE or ITEMSIZE
canal.instance.memory.batch.mode = MEMSIZE
canal.instance.memory.rawEntry = true## detecing config
canal.instance.detecting.enable = false
#canal.instance.detecting.sql = insert into retl.xdual values(1,now()) on duplicate key update x=now()
canal.instance.detecting.sql = select 1
canal.instance.detecting.interval.time = 3
canal.instance.detecting.retry.threshold = 3
canal.instance.detecting.heartbeatHaEnable = false# support maximum transaction size, more than the size of the transaction will be cut into multiple transactions delivery
canal.instance.transaction.size =  1024
# mysql fallback connected to new master should fallback times
canal.instance.fallbackIntervalInSeconds = 60# network config
canal.instance.network.receiveBufferSize = 16384
canal.instance.network.sendBufferSize = 16384
canal.instance.network.soTimeout = 30# binlog filter config
canal.instance.filter.druid.ddl = true
canal.instance.filter.query.dcl = false
canal.instance.filter.query.dml = false
canal.instance.filter.query.ddl = false
canal.instance.filter.table.error = false
canal.instance.filter.rows = false
canal.instance.filter.transaction.entry = false# binlog format/image check
canal.instance.binlog.format = ROW,STATEMENT,MIXED
canal.instance.binlog.image = FULL,MINIMAL,NOBLOB# binlog ddl isolation
canal.instance.get.ddl.isolation = false# parallel parser config
canal.instance.parser.parallel = true
## concurrent thread number, default 60% available processors, suggest not to exceed Runtime.getRuntime().availableProcessors()
#canal.instance.parser.parallelThreadSize = 16
## disruptor ringbuffer size, must be power of 2
canal.instance.parser.parallelBufferSize = 256# table meta tsdb info
canal.instance.tsdb.enable = true
canal.instance.tsdb.dir = ${canal.file.data.dir:../conf}/${canal.instance.destination:}
canal.instance.tsdb.url = jdbc:h2:${canal.instance.tsdb.dir}/h2;CACHE_SIZE=1000;MODE=MYSQL;
canal.instance.tsdb.dbUsername = canal
canal.instance.tsdb.dbPassword = canal
# dump snapshot interval, default 24 hour
canal.instance.tsdb.snapshot.interval = 24
# purge snapshot expire , default 360 hour(15 days)
canal.instance.tsdb.snapshot.expire = 360# aliyun ak/sk , support rds/mq
canal.aliyun.accesskey =
canal.aliyun.secretkey =#################################################
#########       destinations        #############
#################################################
canal.destinations = example,ccs
# conf root dir
canal.conf.dir = ../conf
# auto scan instance dir add/remove and start/stop instance
canal.auto.scan = true
canal.auto.scan.interval = 5canal.instance.tsdb.spring.xml = classpath:spring/tsdb/h2-tsdb.xml
#canal.instance.tsdb.spring.xml = classpath:spring/tsdb/mysql-tsdb.xmlcanal.instance.global.mode = spring
canal.instance.global.lazy = false
#canal.instance.global.manager.address = 127.0.0.1:1099
#canal.instance.global.spring.xml = classpath:spring/memory-instance.xml
#canal.instance.global.spring.xml = classpath:spring/file-instance.xml
canal.instance.global.spring.xml = classpath:spring/default-instance.xml##################################################
#########            MQ              #############
##################################################
canal.mq.servers = 127.0.0.1:6667
canal.mq.retries = 0
canal.mq.batchSize = 16384
canal.mq.maxRequestSize = 1048576
canal.mq.lingerMs = 1
canal.mq.bufferMemory = 33554432
canal.mq.canalBatchSize = 50
canal.mq.canalGetTimeout = 100
canal.mq.flatMessage = true
canal.mq.compressionType = none
canal.mq.acks = all

5、新建项目实例

conf/下的每一个 example 即是一个实例，每个实例下面都有独立的配置文件。默认只有一个实例 example，如果需要多个实例处理不同的MySQL 数据的话，直接拷贝出多个 example，并对其重新命名，命名和配置文件中指定的名称一致，然后修改canal.properties 中的 canal.destinations=实例 1，实例 2，实例 3。

6、进入项目实例目录下，修改instance.properties配置文件

#################################################
## mysql serverId , v1.0.26+ will autoGen
canal.instance.mysql.slaveId=1112# enable gtid use true/false
canal.instance.gtidon=false# position info
canal.instance.master.address=10.18.93.111:3306
canal.instance.master.journal.name=
canal.instance.master.position=
canal.instance.master.timestamp=
canal.instance.master.gtid=# rds oss binlog
canal.instance.rds.accesskey=
canal.instance.rds.secretkey=
canal.instance.rds.instanceId=# table meta tsdb info
canal.instance.tsdb.enable=true
#canal.instance.tsdb.url=jdbc:mysql://127.0.0.1:3306/canal_tsdb
#canal.instance.tsdb.dbUsername=canal
#canal.instance.tsdb.dbPassword=canal#canal.instance.standby.address =
#canal.instance.standby.journal.name =
#canal.instance.standby.position =
#canal.instance.standby.timestamp =
#canal.instance.standby.gtid=# username/password
canal.instance.dbUsername=root
canal.instance.dbPassword=123456
canal.instance.connectionCharset = UTF-8
#canal.instance.defaultDatabaseName =test_binlog
# enable druid Decrypt database password
canal.instance.enableDruid=false
#canal.instance.pwdPublicKey=MFwwDQYJKoZIhvcNAQEBBQADSwAwSAJBALK4BUxdDltRRE5/zXpVEVPUgunvscYFtEip3pmLlhrWpacX7y7GCMo2/JM6LeHmiiNdH1FWgGCpUfircSwlWKUCAwEAAQ==# table regex
canal.instance.filter.regex=.*\\..*
# table black regex
canal.instance.filter.black.regex=ccs.session_key,ccs.container_info,ccs.log_login,ccs.log_operation,ccs.statistics_crypto,ccs.statistics_system,ccs.statistics_tenant# mq config
canal.mq.topic=example
canal.mq.partition=0
# hash partition config
#canal.mq.partitionsNum=3
#canal.mq.partitionHash=mytest.person:id,mytest.role:id
#################################################

修改完之后，删除实例目录下除了instance.properties之外所有的文件，重启canal

到这里master节点的canal服务就部署好了

7、进入`canal/bin`目录下，执行命令启动canal

./startup.sh

出现一长串字符的画面后，查看日志，如果有显示- ---> find start position successfully则代表启动成功了

【Canal】canal部署相关推荐

mysql数据实时同步：Canal安装部署、kafka安装、zk安装、mysql安装、Canal Server+Canal Client HA，Canal+mysql+Kafka，相关验证（学习笔记）
目录 Canal安装部署 1.1. 服务器准备 1.2. 设置主机名并配置hosts 1.3. 免密设置 1.4. 设置ntp时间 1.5. 关闭防火墙 1.6. 关闭selinux 1.7. 安装J ...
canal.deployer部署
前面已经讲过MySQL 开启 Binlog 写入功能 canal.deployer部署 mkdir server tar -zxvf canal.deployer-1.1.5.tar.gz -C /u ...
Canal：部署Canal与Canal Admin
简介以下关于Canal的介绍来自Github官方介绍. canal [kə'næl],译意为水道/管道/沟渠,主要用途是基于MySQL数据库增量日志解析,提供增量数据订阅和消费. 工作原理 cana ...
canal+kafka部署测试全记录
canal地址:https://github.com/alibaba/canal 这里只介绍部署,简介原理参见开源介绍. 一.简介 canal1.1.1版本以后,默认支持将canal server接收 ...
监听mysql表内容变化使用canal,canal 监听同步指定数据库，所有表
canal 监听同步指定数据库,所有表 canal 监听同步指定数据库,所有表因为工作需求,需要用到数据库同步,又从网上找了一些发现都有些问题,所以自己弄好之后写一篇总结,及配置步骤吧先将 MyS ...
[Canal]canal安装和配置
1.安装 1.下载安装包:https://github.com/alibaba/canal/releases/download/canal-1.1.5/canal.deployer-1.1.5.tar ...
Binlog同步工具Canal部署使用
为什么80%的码农都做不了架构师?>>> Canal介绍早期,阿里巴巴 B2B 公司因为存在杭州和美国双机房部署,存在跨机房同步的业务需求.不过早期的数据库同步业务,主要是基 ...
mysql 集群运维_【MySQL运维】Canal集群模式与多数据库同步部署
一.Canal工作原理 Canal基于数据库的增量日志进行解析,然后提供增量数据的订阅和消费.Canal会将自己伪装成MySQL的 Slave去向主库进行同步请求,然后将获取到的binlog解析成特定 ...
Elasticsearch7.9集群部署，head插件，canal同步mysql数据到es，亲自测试，无坑
Elasticsearch集群部署 1.服务器规划 10.4.7.11 node1 10.4.7.12 node2 10.4.7.13 node3 1. 集群相关一个运行中的 Elastics ...

【Canal】canal部署

canal部署

1.修改master节点mysql的配置文件开启Binlog

2、进入mysql赋权限

3、下载canal

4、修改canal.properties配置文件

5、新建项目实例

6、进入项目实例目录下，修改instance.properties配置文件

7、进入`canal/bin`目录下，执行命令启动canal

【Canal】canal部署相关推荐

最新文章

热门文章

【Canal】canal部署

canal部署

1.修改master节点mysql的配置文件开启Binlog

2、进入mysql赋权限

3、下载canal

4、修改canal.properties配置文件

5、新建项目实例

6、进入项目实例目录下，修改instance.properties配置文件

7、进入canal/bin目录下，执行命令启动canal

【Canal】canal部署相关推荐

最新文章

热门文章

7、进入`canal/bin`目录下，执行命令启动canal