如果您想对Airflow进行真正的试驾,您应该考虑设置一个真正的数据库后端并切换到LocalExecutor。

由于Airflow是使用优秀的SqlAlchemy库与其元数据进行交互而构建的,因此您应该能够使用任何支持作为SqlAlchemy后端的数据库后端。 我们建议使用MySQLPostgres

注意

我们依赖更严格的MySQL SQL设置来获得合理的默认值。 确保在<cite>[mysqld]</cite>下的my.cnf中指定了<cite>explicit_defaults_for_timestamp = 1</cite>

注意

如果您决定使用Postgres ,我们建议您使用psycopg2驱动程序并在SqlAlchemy连接字符串中指定它。 另请注意,由于SqlAlchemy没有公开在Postgres连接URI中定位特定模式的方法,因此您可能希望使用类似于ALTER ROLE username SET search_path = airflow, foobar;的命令为您的角色设置默认模式ALTER ROLE username SET search_path = airflow, foobar;

将数据库设置为托管Airflow后,您需要更改配置文件$AIRFLOW_HOME/airflow.cfg的SqlAlchemy连接字符串。 然后,您还应该将“executor”设置更改为使用“LocalExecutor”,这是一个可以在本地并行化任务实例的执行程序。

 # initialize the database
airflow initdb

阅读全文/改进本文

Airflow 中文文档:初始化数据库后端相关推荐

  1. Airflow 中文文档:数据分析

    使用数据生产效率的一部分是拥有正确的武器来分析您正在使用的数据. Airflow提供了一个简单的查询界面来编写SQL并快速获得结果,以及一个图表应用程序,可以让您可视化数据. 临时查询 adhoc查询 ...

  2. Airflow 中文文档:概念

    Airflow Platform是用于描述,执行和监控工作流的工具. 核心理念 DAG的 在Airflow中, DAG (或定向非循环图)是您要运行的所有任务的集合,以反映其关系和依赖关系的方式进行组 ...

  3. Airflow 中文文档:时区

    默认情况下启用对时区的支持. Airflow在内部和数据库中以UTC格式存储日期时间信息. 它允许您使用时区相关的计划运行DAG. 目前,Airflow不会将其转换为用户界面中的最终用户时区. 它始终 ...

  4. Airflow 中文文档:用Celery扩大规模

    CeleryExecutor是您扩展工人数量的方法之一. 为此,您需要设置Celery后端( RabbitMQ , Redis ,-)并更改airflow.cfg以将执行程序参数指向CeleryExe ...

  5. Airflow 中文文档:API 参考

    运营商 运算符允许生成某些类型的任务,这些任务在实例化时成为DAG中的节点. 所有运算符都派生自BaseOperator ,并以这种方式继承许多属性和方法. 有关更多详细信息,请参阅BaseOpera ...

  6. Airflow 中文文档:常见问题

    为什么我的任务没有安排好? 您的任务可能无法安排的原因有很多. 以下是一些常见原因: 您的脚本是否"编译",Airflow引擎是否可以解析它并找到您的DAG对象. 要对此进行测试, ...

  7. Airflow 中文文档:安全

    默认情况下,所有门都打开. 限制对Web应用程序的访问的一种简单方法是在网络级别或使用SSH隧道执行此操作. 但是,可以通过使用其中一个提供的后端或创建自己的后端来打开身份验证. 请务必查看Exper ...

  8. Airflow 中文文档:用Dask扩展

    DaskExecutor允许您在Dask分布式群集中运行Airflow任务. Dask集群可以在单个机器上运行,也可以在远程网络上运行. 有关完整详细信息,请参阅分布式文档 . 要创建集群,首先启动调 ...

  9. Airflow 中文文档:保护连接

    默认情况下,Airflow将在元数据数据库中以纯文本格式保存连接的密码. 在安装过程中强烈建议使用crypto包. crypto包确实要求您的操作系统安装了libffi-dev. 如果最初未安装cry ...

最新文章

  1. 开始Hibernate介绍
  2. T1330 最少步数(#Ⅱ- 8)(广度优先搜索)
  3. 团队作业5-Alpha版本测试报告(彼岸芳华队)
  4. dp进阶之FFT加速+数据结构优化+不等式优化
  5. Eclipse设置项目默认编码和换行符类型
  6. 用html实现如下表格完整代码,HTML 表格实现
  7. 怎么成为抖音本地生活服务商家?需要哪些资质条件?
  8. Coolpad7296线刷/救砖(win8.1) 总结
  9. µTorrent中只使用ipv6连接
  10. matlab错误使用^
  11. WeOS 微信手机操作系统
  12. Result「?」 返回类型拼接
  13. 15天精读掌握《高德纳_具体数学》 第11天 2019.6.7
  14. 【期末测验】: 课程水平综合测验 (第10周)
  15. 完美世界国际版精炼必看
  16. 铁打的DeltaS=0.02,流水的HFSS版本
  17. 微信小程序 星座查询
  18. 【SQL Server】性能优化-索引
  19. 「转载」COLOR MIXC | 打开城市新书单Vol.3:我们邀请了8位女性主理人做了一期城市书单...
  20. 边缘计算那些事儿--网络切片技术(1)

热门文章

  1. (92)FPGA模块例化传递参数(parameter)
  2. FPGA时钟激励编写(方法二)
  3. 多层感知机和神经网络的区别_1.3 多层感知机
  4. fft 相位谱_基于级联FFT的广义互相关算法在声源定位中的应用
  5. 使用nutch爬取数据时出现的问题_在使用聚氨酯发泡机时出现问题的解决方法!...
  6. ubuntu下ffmpeg编译安装
  7. Linux线程属性及优先级设置
  8. ROS:定制自己的消息类型msg
  9. java中 银行存款取款_java银行存款取款
  10. 【LeetCode】剑指 Offer 43. 1~n 整数中 1 出现的次数