文件名称:airflow-boilerplate:用于使用Airflow的完整开发环境设置
文件大小:961KB
文件格式:ZIP
更新时间:2024-06-08 13:27:03
python boilerplate airflow pycharm apache-airflow
气流样板 根据,一个完整的开发环境设置可以与Airflow一起使用。 如果您有兴趣了解此设置背后的想法和过程,请阅读本文。 否则,如果您想立即动手操作,则可以跳过它,而只需按照以下说明进行操作即可。 该样板工具比本文中讨论的工具更多。 特别是,它具有以下文章中未讨论的内容: DAG示例 一个示例插件 插件的示例测试 示例帮助程序方法dags/common/stringcase.py ,可以在dags/common/stringcase.py dags/和plugins/ 辅助方法的样本测试 Docker构建步骤中包含的spark-conf/ ,您可以自己探索 .pre-commit-config.yaml 入门 在以下位置安装docker和docker-compose : 克隆这种回购和cd进去: git clone https://github.com/ninja-van/a
【文件预览】:
airflow-boilerplate-master
----env.sh(2KB)
----.gitignore(259B)
----setup.cfg(341B)
----README.md(6KB)
----requirements-dev.txt(46B)
----.pre-commit-config.yaml(398B)
----tests()
--------conftest.py(474B)
--------dags()
--------test_dags.py(510B)
--------__init__.py(0B)
--------plugins()
----LICENSE(1KB)
----variables()
--------dev()
----airflow.cfg(29KB)
----dags()
--------something_dag.py(763B)
--------__init__.py(0B)
--------common()
----docker()
--------Dockerfile(772B)
--------docker-compose.yml(1KB)
--------spark-conf()
--------entrypoint.sh(1KB)
----images()
--------run_env_sh.png(95KB)
--------mark_as_source.png(149KB)
--------custom_plugin_not_recognised.png(42KB)
--------setup_diagram.png(50KB)
--------run_debug_config.png(241KB)
--------pytest_template.png(256KB)
--------python_interpreter.png(148KB)
----plugins()
--------something()
--------__init__.py(0B)
----requirements-airflow.txt(151B)