文件名称:airflow_multi_dagrun:多次触发DAG运行
文件大小:15KB
文件格式:ZIP
更新时间:2024-05-28 03:42:38
airflow airflow-plugin Python
多人跑 该插件包含用于多次触发DAG运行的运算符,您可以动态指定创建多少DAG运行实例。 当您必须处理大数据并且想要将其拆分为多个块并并行运行同一任务的多个实例时,此功能很有用。 当您看到大量启动的目标DAG时,您可以设置更多的工作人员。 因此,这非常容易扩展。 安装 pip install airflow_multi_dagrun 例子 排程安排程式码 import datetime as dt from airflow import DAG from airflow_multi_dagrun . operators import TriggerMultiDagRunOperator def generate_dag_run (): for i in range ( 100 ): yield { 'index' : i } default_args = {
【文件预览】:
airflow_multi_dagrun-master
----setup.py(634B)
----.gitignore(1KB)
----Makefile(1KB)
----.travis.yml(140B)
----LICENSE(11KB)
----docker-compose.yml(2KB)
----examples()
--------common_target.py(643B)
--------__init__.py(0B)
--------simple_trigger.py(642B)
--------trigger_with_multi_dagrun_sensor.py(1KB)
--------trigger_with_external_sensor.py(902B)
--------trigger_returning_dagrun.py(648B)
--------trigger_with_context.py(736B)
----requirements.dev.txt(17B)
----README.md(2KB)
----airflow_multi_dagrun()
--------__init__.py(56B)
--------operators.py(2KB)
--------sensors.py(2KB)
----tox.ini(45B)