Singer 学习七 运行&&开发taps、targets (二 targets 运行说明)

时间:2022-11-03 22:03:16

接上文: Singer 学习六 运行&&开发taps、targets (一 taps 运行说明)

说明target 需要tap 进行配合运行,所以需要了解tap 的使用

运行target

创建tap 可以参考上文
(1). 创建一个python3 的虚拟环境,并激活

 
python3 -m venv ~/.virtualenvs/<target-bar>
source ~/.virtualenvs/<target-bar>/bin/activate

(2). 安装target 依赖

pip install <target-bar>
 

(3). 便捷target 的配置
一般都是基本配置以及身份认证信息
(4). 运行tap 并pipe 到target,同时可以保存运行信息到一个状态文件

 
~/.virtualenvs/<tap-foo>/bin/<tap-foo> --config tap_config.json --catalog catalog.json | ~/.virtualenvs/<target-bar>/bin/<target-bar> --config target_config.json >> state.json
tail -1 state.json > state.json.tmp && mv state.json.tmp state.json

参考的例子

实际上可以直接参考我github 的代码 https://github.com/rongfengliang/singer-mysql2postges-demo 以及文章
https://www.cnblogs.com/rongfengliang/p/10239118.html

参考资料

https://github.com/singer-io/getting-started/blob/master/docs/RUNNING_AND_DEVELOPING.md
https://github.com/rongfengliang/singer-mysql2postges-demo
https://www.cnblogs.com/rongfengliang/p/10239118.html