文件名称:sample_etl_structure
文件大小:12KB
文件格式:ZIP
更新时间:2024-06-06 17:52:59
Python
ETL项目结构样本 /配置 所有配置文件,例如数据库连接,服务器凭据,项目配置等。通常以yaml格式显示 / src 所有的代码,所有的管道 /工具 所有连接器,通知,转换,生成器等-所有此类人员。 /测试 所有ETL测试,单元测试,集成等 / dwh_version 数据库版本控制(在我的情况下使用Alembic进行dwh版本控制) 运行 接受参数并运行特定管道或执行特定需求的运行程序,例如: python run.py --script=load_sales --env=dev
【文件预览】:
sample_etl_structure-master
----alembic.ini(2KB)
----requirements.txt(288B)
----run.py(1KB)
----src()
--------__init__.py(0B)
--------do_on_fail.py(267B)
--------second_etl_pipeline.py(267B)
--------first_etl_pipeline.py(260B)
----utils()
--------ftp_connector.py(90B)
--------__init__.py(53B)
--------logger.py(403B)
--------postgres_connector.py(96B)
----README.md(597B)
----config()
--------prod_config()
--------__init__.py(2KB)
--------your_new_config()
--------dev_config()
----db_version()
--------env.py(2KB)
--------script.py.mako(494B)
--------versions()
--------README(38B)