文件名称:amazonriver:amazonriver是一个将postgresql的实时数据同步到es或kafka的服务
文件大小:301KB
文件格式:ZIP
更新时间:2024-02-26 16:30:05
go elasticsearch postgres sync kafka
亚马逊河 amazonriver是一个将postgresql的实时数据同步到es或kafka的服务 版本支持 Postgresql 9.4或更高版本 Kafka 0.8或更高版本 ElasticSearch 5.x 架构图 原理 amazonriver利用pg内部的逻辑复制功能,通过在pg创建逻辑复制槽,接收数据库的逻辑变更,通过解析test_decoding特定格式的消息,得到逻辑数据 安装使用 安装 $git clone https://github.com/hellobike/amazonriver $cd amazonriver $go install 使用 amazonriver
【文件预览】:
amazonriver-master
----conf()
--------conf.go(3KB)
----go.mod(894B)
----main.go(1KB)
----.github()
--------workflows()
----log()
--------log.go(807B)
----go.sum(13KB)
----river()
--------amazon.go(2KB)
--------stream.go(7KB)
----model()
--------decode_test.go(3KB)
--------wal.go(1KB)
--------wal_test.go(2KB)
--------decode.go(2KB)
--------consts.go(1KB)
----.circleci()
--------config.yml(1KB)
----doc()
--------es.md(2KB)
--------pg.md(466B)
--------test.md(2KB)
--------arch.png(136KB)
--------grafana.png(192KB)
--------prometheus.md(1KB)
--------kafka.md(1KB)
----.idea()
--------modules.xml(274B)
--------amazonriver.iml(281B)
--------vcs.xml(180B)
----monitor()
--------prometheus.go(2KB)
----util()
--------retry.go(935B)
--------hack_test.go(2KB)
--------wildcard.go(2KB)
--------hack.go(977B)
--------wildcard_test.go(13KB)
--------retry_test.go(1KB)
----LICENSE(11KB)
----dump()
--------parser_test.go(2KB)
--------parser.go(3KB)
--------dump.go(2KB)
----README_EN.md(1KB)
----README.md(2KB)
----handler()
--------handlerWrapper.go(3KB)
--------handler.go(1KB)
--------output()
----.gitignore(3KB)