我使用气流连接从RDS SQL实例中提取和处理数据。问题是该进程正在生成超过21个连接(尽管我的并发性在cfg文件中设置为4),并且RAM正在重载。根据我如何设置这个过程,我一次不会有超过6-8个连接。是否有一个良好的cfg文件设置或管理面板选项,将允许我控制这种行为?我尝试过更新sql_alchemy_pool_recycle,但这并没有解决问题。

随着连接数量的增加和RDS实例上的RAM饱和,您可以在gant图表上看到系统性能开始下降的位置:

发布于 2017-10-12 19:22:01
在气流中,您可以通过池限制大量并发的东西,您可以设置池的大小,并且操作员不会超出池的大小。https://airflow.incubator.apache.org/concepts.html#pools
https://stackoverflow.com/questions/46716976
复制相似问题