设为首页收藏本站

LUPA开源社区

 找回密码
 注册
文章 帖子 博客
LUPA开源社区 首页 业界资讯 软件追踪 查看内容

canal 1.1.1发布,阿里MySQL Binlog增量订阅&消费组件

2018-10-30 13:13| 发布者: joejoe0332| 查看: 401| 评论: 0|原作者: oschina|来自: oschina

摘要: 功能新增原生支持 RocketMQ 消息投递#695【Canal Kafka QuickStart】原生支持 hbase 的数据同步#849ClientAdapter新增 c#/go 多语言客户端的支持canal java 客户端:https://github.com/alibaba/canal/wiki/ClientExa ...

功能新增

  1. 原生支持 RocketMQ 消息投递 #695 【Canal Kafka QuickStart

  2. 原生支持 hbase 的数据同步 #849 ClientAdapter

  3. 新增 c#/go 多语言客户端的支持

  4. MQ 消息投递支持按 pk hash 到多个分区 partition ( Kafka/RocketMQ 均支持) #958

小需求&bugfix

  1. 修复单核环境下的 canal 启动异常问题 #873

  2. 修复 parse 并行解析模式 gtid 的并发问题 #881

  3. java client 内聚 guava 打包,解决和外部系统的版本冲突问题 #912

  4. 升级 proto2 为 proto3(3.6.1),支持更多的跨语言能力

  5. 支持配置中数据库密码加密处理 #990

  6. 并行解析下,数据库一直连不上导致 OOM 异常(线程数泄漏,出现暴涨) #968

  7. mysql set 类型8值情况解析越界 bugfix otter#617

  8. 支持 otter 使用 canal 的新特性,比如 rds ak/sk 配置、tsdb 配置

  9. 修复 docker 部署 canal-server 无法使用 docker-restart 命令 #1001

  10. 修复 mysql bit(8) 类型8值情况解析越界 bugfix

  11. tablemeta tsdb 数据增加过期清理能力 #1047

发行地址:https://github.com/alibaba/canal/releases

canal 是阿里巴巴 MySQL 数据库 Binlog 的增量订阅&消费组件。

早期,阿里巴巴 B2B 公司因为存在杭州和美国双机房部署,存在跨机房同步的业务需求。不过早期的数据库同步业务,主要是基于 trigger 的方式获取增量变更,不过从2010年开始,阿里系公司开始逐步的尝试基于数据库的日志解析,获取增量变更进行同步,由此衍生出了增量订阅&消费的业务,从此开启了一段新纪元。

ps. 目前内部版本已经支持 mysql 和 oracle 部分版本的日志解析,当前的 canal 开源版本支持5.7及以下的版本(阿里内部 mysql 5.7.13, 5.6.10, mysql 5.5.18 和 5.1.40/48 )

基于日志增量订阅&消费支持的业务:

  1. 数据库镜像

  2. 数据库实时备份

  3. 多级索引 (卖家和买家各自分库索引)

  4. search build

  5. 业务 cache 刷新

  6. 价格变化等重要业务消息


酷毙

雷人

鲜花

鸡蛋

漂亮
  • 快毕业了,没工作经验,
    找份工作好难啊?
    赶紧去人才芯片公司磨练吧!!

最新评论

关于LUPA|人才芯片工程|人才招聘|LUPA认证|LUPA教育|LUPA开源社区 ( 浙B2-20090187 浙公网安备 33010602006705号   

返回顶部