Apache Airflow - 如何在目标DAG中使用TriggerDagRunOperator设置execution_date以使用当前execution_date
创始人
2024-09-03 12:02:41
0

要在目标DAG中使用TriggerDagRunOperator设置execution_date以使用当前execution_date,可以按照以下步骤进行操作:

  1. 首先,确保你已经按照文档正确安装和配置了Apache Airflow。

  2. 在目标DAG文件中,导入所需的模块和操作符:

from airflow import DAG
from airflow.operators.dagrun_operator import TriggerDagRunOperator
from datetime import datetime
  1. 定义一个函数,用于获取当前的execution_date并将其传递给TriggerDagRunOperator的execution_date参数。这可以通过在函数内部使用datetime.now().strftime('%Y-%m-%d')来实现:
def get_current_execution_date(**context):
    return datetime.now().strftime('%Y-%m-%d')
  1. 创建一个DAG对象,并定义所需的参数,包括DAG的名称、运行时间表和默认参数:
dag = DAG(
    'target_dag',
    schedule_interval='0 0 * * *',  # 每天午夜运行一次
    default_args={
        'owner': 'airflow',
        'start_date': datetime(2022, 1, 1),
        'retries': 1,
        'retry_delay': timedelta(minutes=5)
    }
)
  1. 创建一个TriggerDagRunOperator对象,并将其添加到DAG中。确保将provide_context=True传递给TriggerDagRunOperator,以便可以在get_current_execution_date函数中访问上下文:
trigger_dag_run = TriggerDagRunOperator(
    task_id='trigger_dag_run',
    trigger_dag_id='target_dag',
    execution_date="{{ ti.xcom_pull(task_ids='get_execution_date') }}",
    provide_context=True,
    dag=dag
)
  1. 创建一个获取当前execution_date的任务,并将其添加到DAG中。将get_current_execution_date函数作为PythonOperator的参数传递,并将任务的task_id设置为get_execution_date
get_execution_date = PythonOperator(
    task_id='get_execution_date',
    python_callable=get_current_execution_date,
    provide_context=True,
    dag=dag
)
  1. 使用get_execution_date任务作为trigger_dag_run任务的依赖项:
get_execution_date >> trigger_dag_run
  1. 最后,保存并运行你的DAG。当DAG运行时,trigger_dag_run任务将使用当前的execution_date来触发目标DAG的运行。

请注意,如果你希望在目标DAG中使用当前execution_date,你还需要在目标DAG的任务中使用provide_context=True,以便可以从上下文中获取execution_date。

相关内容

热门资讯

前端-session、jwt 目录:   (1)session (2&#x...
linux入门---制作进度条 了解缓冲区 我们首先来看看下面的操作: 我们首先创建了一个文件并在这个文件里面添加了...
关于测试,我发现了哪些新大陆 关于测试 平常也只是听说过一些关于测试的术语,但并没有使用过测试工具。偶然看到编程老师...
前缀和与对数器与二分法 1. 前缀和 假设有一个数组,我们想大量频繁的去访问L到R这个区间的和,...
nodejs:本地安装nvm实... 一、背景-使用不同版本node的原因 vue3+ts、nuxt3版本,node...
JAVA集合知识整理 Java集合知识整理 HashMap相关 HashMap的底层数据结构:jdk1.8之...
无刷直流电机介绍及单片机控制实... 无刷直流电机介绍及单片机控制实例前言基本概念优势与劣势使用寿命基本结构使用单片机控制实例电子调速器&...
fwdiary(2) dp2 1.传纸条  AcWing 275. 传纸条 - AcWing 走两条路,走一条最大的...
常用的DOS命令 常用的DOS命令 DOS(Disk Operating System,磁...
<C++> 类和对象(下) 1.const成员函数将const修饰的“成员函数”称之为const成员函数,cons...