文件名称:mybus:MySQL数据库同redis以及hbase高速全量,增量同步工具
文件大小:26.22MB
文件格式:ZIP
更新时间:2024-06-02 08:50:25
C++
mybus 实现MySQL数据库到Redis,以及HBASE的全量,以及增量同步 支持通过正则表达式指定需要导出的db以及表 bus程序无状态,每一行有自己的位置点,位置点信息存储在下游db中 增量同步通过解析MySQL的行复制日志,完成增量数据的同步 通过编写so,实现转换的业务逻辑 上下游ip,端口,需要导出的schema信息都存储在configservice中,configservice是一个用redis作为存储的基于django的pythonweb程序 程序作为基础组件,在新浪以及微博的数据运维中,其可靠性得到了充分验证 使用方式如下: 一. 编译程序 代码中包含了链接mysql以及hbase的库,目前支持centos5/centos6,centos7暂不支持 进入mybus目录,执行make命令,如果make失败,请将结果贴出来 二. 启动configservice 2. red