canal 1.1.2 发布,阿里 MySQL Binlog 增量订阅&消费组件

栏目: 数据库 · Mysql · 发布时间: 7年前

内容简介:canal 1.1.2 已发布,更新内容如下:canal 是阿里巴巴 MySQL 数据库 Binlog 的增量订阅&消费组件。早期,阿里巴巴 B2B 公司因为存在杭州和美国双机房部署,存在跨机房同步的业务需求。不过早期的数据库同步业务,主要是基于 trigger 的方式获取增量变更,不过从2010年开始,阿里系公司开始逐步的尝试基于数据库的日志解析,获取增量变更进行同步,由此衍生出了增量订阅&消费的业务,从此开启了一段新纪元。

canal 1.1.2 已发布,更新内容如下:

功能新增

  1. 支持 mysql 8.0的binlog解析 【 BinlogChange(MySQL8)

  2. canal提供内置的客户端能力【 ClientAdapter

  • 同步到HBase wiki

  • 同步到Rdb(支持mysql/pg/oracle/sqlserver) wiki

  • 同步到ES wiki

  • 目前adapter为支持更多常见的目标存储,会处于快速迭代中,不同版本之间会有接口调整,请及时关注文档

  • RocketMQ消息支持直接投递至aliyun ons(RocketMQ云服务) #1169

  • 功能重构

    1. MQ消息发送的配置相关从mq.yml调整至canal.properties,支持了auto scan的能力,请关注最新的配置文档 wiki

    小需求&bugfix

    1. 修复mysql binlog文件名解析乱码问题 #1189

    2. 修复修复TableMeta TSDB在每天定时snapshot因filter变化导致失败 #1168

    3. 修复canal docker支持MQ模式启动失败问题 #1087

    4. 修复TableMeta TSDB支持int display width不一致问题 #1100

    5. 修复rocketmq&kafka 发送消息失败时回滚后继续提交的问题 #1104

    6. 修复alter rename 的ddl 类型解析错误的问题 #1103

    7. 修复FlatMessage 中data过滤掉了 value null的column #1120

    8. 优化aliyun rds oss binlog下载的能力,支持基于位点自动回溯 #1076

    canal 是阿里巴巴 MySQL 数据库 Binlog 的增量订阅&消费组件。

    早期,阿里巴巴 B2B 公司因为存在杭州和美国双机房部署,存在跨机房同步的业务需求。不过早期的数据库同步业务,主要是基于 trigger 的方式获取增量变更,不过从2010年开始,阿里系公司开始逐步的尝试基于数据库的日志解析,获取增量变更进行同步,由此衍生出了增量订阅&消费的业务,从此开启了一段新纪元。

    ps. 目前内部版本已经支持 mysql 和 oracle 部分版本的日志解析,当前的 canal 开源版本支持5.7及以下的版本(阿里内部 mysql 5.7.13, 5.6.10, mysql 5.5.18 和 5.1.40/48 )

    基于日志增量订阅&消费支持的业务:

    1. 数据库镜像

    2. 数据库实时备份

    3. 多级索引 (卖家和买家各自分库索引)

    4. search build

    5. 业务 cache 刷新

    6. 价格变化等重要业务消息


    以上所述就是小编给大家介绍的《canal 1.1.2 发布,阿里 MySQL Binlog 增量订阅&消费组件》,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对 码农网 的支持!

    查看所有标签

    猜你喜欢:

    本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

    电子商务:管理与社交网络视角(原书第7版)

    电子商务:管理与社交网络视角(原书第7版)

    (美)埃弗雷姆·特班(Efraim Turban)、戴维.金(David King)、李在奎、梁定澎、德博拉·特班(Deborrah Turban) / 时启亮、陈育君、占丽 / 机械工业出版社 / 2014-1-1 / 79.00元

    本书对电子学习、电子政务、基于web的供应链、协同商务等专题进行了详细的介绍,全书涵盖丰富的资料以及个案,讨论了Web 2.0环境内的产业结构、竞争变化以及对当今社会的影响。另外,本书在消费者行为、协同商务、网络安全、网络交易及客户管理管理、电子商务策略等内容上都有最新的改编,提供读者最新颖的内容,贴近当代电子商务的现实。 本书适合高等院校电子商务及相关专业的本科生、研究生及MBA学员,也可......一起来看看 《电子商务:管理与社交网络视角(原书第7版)》 这本书的介绍吧!

    JSON 在线解析
    JSON 在线解析

    在线 JSON 格式化工具

    Markdown 在线编辑器
    Markdown 在线编辑器

    Markdown 在线编辑器

    html转js在线工具
    html转js在线工具

    html转js在线工具