概述
mysql+canal+rabbitmq
转发:https://blog.csdn.net/qq_42025719/article/details/105527257
--------------------------Mysql-------------------------------
1、使用canal要先开启mysql的Binlog写入功能,配置 binlog-format 为ROW模式,故须使用如下命令修改mysql的my.cnf中配置
vi /etc/my.cnf
在my.cnf配置中加入以下配置 log-bin=mysql-bin # 开启 binlog binlog-format=ROW # 选择 ROW 模式 server_id=1 # 配置 MySQL replaction 需要定义,不要和 canal 的 slaveId 重复
2、重启mysql
service mysqld restart
3、新增并授权 canal 连接 mysql账号具有作为 mysql slave 的权限
(1)、禁用强密码的限制
SHOW VARIABLES LIKE 'vali%';validate_password_length 8 # 密码的最小长度,此处为8。
validate_password_mixed_case_count 1 # 至少要包含小写或大写字母的个数,此处为1。
validate_password_number_count 1 # 至少要包含的数字的个数,此处为1。
validate_password_policy MEDIUM # 强度等级,其中其值可设置为0、1、2。分别对应:
0/LOW:只检查长度。
1/MEDIUM:在0等级的基础上多检查数字、大小写、特殊字符。
2/STRONG:在1等级的基础上多检查特殊字符字典文件,此处为1。
validate_password_special_char_count 1 # 至少要包含的个数字符的个数,此处为1。(2)、关闭插件,并重启服务
# vim /etc/my.cnf
validate_password=off service mysqld restart
(3)、创建canal用户
如果后续canal启动报如下错误,则将该canal用户删除后,重新创建、
备注:Canal的原理是模拟自己为MySQL Slave,所以这里一定需要做为MySQL Slave的相关权限。
CREATE USER 'canal'@'%' IDENTIFIED BY '123456'; #GRANT ALL PRIVILEGES ON *.* TO 'canal'@'%' ; GRANT SELECT, REPLICATION SLAVE, REPLICATION CLIENT ON *.* TO 'canal'@'%'; FLUSH PRIVILEGES;
------------------------------Canal-----------------------------------
下载canal: https://github.com/alibaba/canal/releases , 解压到相应文件夹
git下载:canal.deployer-1.1.4.tar.gz
4、配置好mysql之后,进入到usr/local目录下,在该目录下使用如下命令新建canal文件夹
cd /usr/local mkdir canal //给local赋予读写权限 chmod 777 canal //给local及其以下子目录赋予读写权限 chmod -R 777 canal
5、解压
tar zxvf canal.deployer-1.1.4.tar.gz
6、修改配置
cd /usr/local/canal/conf/example vim instance.properties
配置文件如下:
################################################# ## mysql serverId , v1.0.26+ will autoGen canal.instance.mysql.slaveId=1234 # enable gtid use true/false canal.instance.gtidon=false # position info # 需要连接的数据库地址及端口 canal.instance.master.address=192.168.164.31:3306 # 需要读取的起始的binlog文件 canal.instance.master.journal.name= # 需要读取的起始的binlog文件的偏移量 canal.instance.master.position= # 需要读取的起始的binlog的时间戳 canal.instance.master.timestamp= canal.instance.master.gtid= # rds oss binlog canal.instance.rds.accesskey= canal.instance.rds.secretkey= canal.instance.rds.instanceId= # table meta tsdb info # v1.0.25版本新增,是否开启table meta的时间序列版本记录功能 canal.instance.tsdb.enable=false #canal.instance.tsdb.url=jdbc:mysql://127.0.0.1:3306/canal_tsdb #canal.instance.tsdb.dbUsername=canal #canal.instance.tsdb.dbPassword=canal #canal.instance.standby.address = #canal.instance.standby.journal.name = #canal.instance.standby.position = #canal.instance.standby.timestamp = #canal.instance.standby.gtid= # username/password # 授权后的canal账号 canal.instance.dbUsername=canal # 授权后的canal密码 canal.instance.dbPassword=123456 # 数据库库名 canal.instance.defaultDatabaseName=test canal.instance.connectionCharset = UTF-8 # enable druid Decrypt database password canal.instance.enableDruid=false #canal.instance.pwdPublicKey=MFwwDQYJKoZIhvcNAQEBBQADSwAwSAJBALK4BUxdDltRRE5/zXpVEVPUgunvscYFtEip3pmLlhrWpacX7y7GCMo2/JM6LeHmiiNdH1FWgGCpUfircSwlWKUCAwEAAQ== # table regex #正则匹配默认.*\..*,其中前面.*代表库名,后面.*代表表名 canal.instance.filter.regex=test\..* # table black regex canal.instance.filter.black.regex= # table field filter(format: schema1.tableName1:field1/field2,schema2.tableName2:field1/field2) #canal.instance.filter.field=test1.t_product:id/subject/keywords,test2.t_company:id/name/contact/ch # table field black filter(format: schema1.tableName1:field1/field2,schema2.tableName2:field1/field2) #canal.instance.filter.black.field=test1.t_product:subject/product_image,test2.t_company:id/name/contact/ch # mq config canal.mq.topic=example # dynamic topic route by schema or table regex #canal.mq.dynamicTopic=mytest1.user,mytest2\..*,.*\..* canal.mq.partition=0 # hash partition config #canal.mq.partitionsNum=3 #canal.mq.partitionHash=test.table:id^name,.*\..* #################################################
7、启动、停止
/usr/local/canal/bin/startup.sh 启动报错的话, rm -rf bin/canal.pid /usr/local/canal/bin/stop.sh
查看日志
tail -200 /usr/local/canal/logs/example/example.log
最后
以上就是大方白羊为你收集整理的linux centos 安装部署单例canalmysql+canal+rabbitmq转发:https://blog.csdn.net/qq_42025719/article/details/105527257 --------------------------Mysql-------------------------------------------------------------Canal-----------------------------------的全部内容,希望文章能够帮你解决linux centos 安装部署单例canalmysql+canal+rabbitmq转发:https://blog.csdn.net/qq_42025719/article/details/105527257 --------------------------Mysql-------------------------------------------------------------Canal-----------------------------------所遇到的程序开发问题。
如果觉得靠谱客网站的内容还不错,欢迎将靠谱客网站推荐给程序员好友。
发表评论 取消回复