Airflow ExternalTaskSensor с различным интервалом планировщика

В настоящее время у меня есть две группы DAG: DAG_A и DAG_B. Оба работают с schedule_interval=timedelta(days=1)

У DAG_A есть задача 1, выполнение которой обычно занимает 7 часов. А DAG_B занимает всего 3 часа.

DAG_B имеет ExternalTaskSensor(external_dag_id=»DAG_A», external_task_id=»Task1″), но также использует некоторую другую информацию X, которая генерируется ежечасно.

Как лучше всего увеличить частоту DAG_B, чтобы он запускался не менее 4 раз в день? Насколько мне известно, обе группы DAG должны иметь одинаковый schedule_interval. Однако я хочу как можно больше обновить X на DAG_B.

Одна из возможностей — создать еще одну группу обеспечения доступности баз данных, которая имеет ExternalTaskSensor для DAG_B. Но я не думаю, что это лучший способ.

Источник: ledsshop.ru

Стиль жизни - Здоровье!