- 综合排序
- 最热优先
- 最新优先
- 来自专栏大数据成神之路
大数据调度平台分类大对比(OozieAzkabanAirFlowXXL-JobDolphinScheduler)
大数据调度系统，是整个离线批处理任务和准实时计算计算任务的驱动器。这里我把几个常见的调度系统做了一下分类总结和对比。 XXL-Job XXL-JOB是一个开源的，具有丰富的任务管理功能以及高性能，高可用等特点的轻量级分布式任务调度平台，其核心设计目标是开发迅速、学习简单、轻量级、易扩展、开箱即用。 Apache DolphinScheduler是一个分布式、去中心化、易扩展的可视化DAG工作流任务调度系统，其致力于解决数据处理流程中错综复杂的依赖关系，使调度系统在数据处理流程中开箱即用。 类型支持 支持传统的shell任务，同时支持大数据平台任务调度：MR、Spark、SQL(mysql、postgresql、hive/sparksql)、python、procedure、sub_process 调度器使用分布式调度，整体的调度能力会随集群的规模线性正常，Master和Worker支持动态上下线，可以自由进行配置。 可以通过对用户进行资源、项目、数据源的访问授权。
12.7K20编辑于 2022-04-13 - 来自专栏程序猿的大杂烩
大数据平台 —— 调度系统之Azkaban
轻量级调度框架 AirFlow:基于Python开发的通用批处理调度框架 Zenus:阿里开源的基于Hadoop的工作流调度系统 EasyScheduler:国内开源的分布式工作流任务调度系统 开源调度框架对比 、管理任务 将Azkaban作为数据平台的- -部分，提供任务调度的能力 基于Azkaban的异常处理、监控报警、审计日志完善数据平台功能 ---- Azkaban架构与调度流程 Azkaban架构图如下 Azkaban有三种部署模式： Solo mode：内置数据库，Server和Executor在同一个 进程中 Two mode：基于Mysq|数据库，启动一个Server和一个Executor Multi 因为我们如果要开发自己的大数据平台，可能并不会使用Azkaban WebServer的可视化界面，而是希望在自己的大数据平台界面去与Azkaban进行交互，完成任务的调度管理。 所以Azkaban提供了HTTP Api的支持，让我们可以轻松实现与自研平台的整合。
5.8K70发布于 2020-11-16 - 来自专栏TASKCTL技术交流讨论
数据调度平台系统二大种类及其实现方法与流程
什么是调度系统 调度系统，更确切地说，作业调度系统（Job Scheduler）或者说工作流调度系统（workflow Scheduler）是任何一个稍微有点规模，不是简单玩玩的大数据开发平台都必不可少的重要组成部分 TASKCTL 作业系统的两大种类 现在市面上的调度系统根据功能性可以分为两类定时类作业调度系统&DAG工作流类作业调度系统这两类系统的架构和功能实现通常存在很大的差异，下面就来跟大家普及一下这两种作业系统的不同之处 DAG工作流类调度系统所服务的通常是作业繁多，作业之间的流程依赖比较复杂的场景； 如：大数据开发平台的离线数仓报表处理业务，从数据采集，清洗，到各个层级的报表的汇总运算，到最后数据导出到外部业务系统，一个完整的业务流程 一个完整的数据分析任务最少执行一次，在数据量较少，依赖关系较为简单的低频数据处理过程中，这种调度方式完全可以满足需求。 etl批量作业集群统一调度平台搭建 随着大数据应用需求的不断膨胀，数据处理的复杂度和实时性要求越来越高。
2K81发布于 2020-07-03 - 来自专栏Lansonli技术博客
大数据调度平台Airflow（五）：Airflow使用
python脚本，使用代码方式指定DAG的结构一、Airflow调度Shell命令下面我们以调度执行shell命令为例，来讲解Airflow使用。 002022-03-28，00:00:00+00:002022-03-28，00:00:00+00:002022-03-29，00:00:00+00:00... ...... ...以上表格中以第一条数据为例解释 ，Airflow正常调度是每天00:00:00 ，假设当天日期为2022-03-24，正常我们认为只要时间到了2022-03-24 00:00:00 就会执行，改调度时间所处于的调度周期为2022-03 当然除了自动调度外，我们还可以手动触发执行DAG执行，要判断DAG运行时计划调度（自动调度）还是手动触发，可以查看“Run Type”。 DAG可以有或者没有调度执行周期，如果有调度周期，我们可以在python代码DAG配置中设置“schedule_interval”参数来指定调度DAG周期，可以通过以下三种方式来设置。
13.6K54编辑于 2022-07-17 - 来自专栏用户6296428的专栏
有赞大数据平台的调度系统演进
概述 2017年，我们引入Airflow搭建了有赞大数据平台（DP）的调度系统，并完成了全量离线任务的接入。 3、DolphinScheduler能力补齐 对于DP现有调度系统的一些定制化能力，我们计划后续在DS侧进行针对性的补齐，下面列举几个目前对于DP平台相对核心的功能以及对应的改造方案设计。 任务类型适配 目前DP平台的任务类型主要有16种，主要包含数据同步类的任务和数据计算类的任务，因为任务的元数据信息会在DP侧维护，因此我们对接的方案是在DP服务端构建任务配置映射模块，将DP维护的Task 跨Dag全局补数 跨Dag全局补数的使用场景一般出现在核心上游表产出异常导致下游商家展示数据异常，一般这种情况下都需要能快速重跑整个数据链路下的所有任务实例来恢复数据正确性。 现状&规划 1、接入现状 DP平台目前已经在测试环境中部署了部分DS服务，并迁移了全量工作流，实现QA环境的调度任务双跑。
2.9K20编辑于 2021-12-27 - 来自专栏Lansonli技术博客
大数据调度平台Airflow（三）：Airflow单机搭建
4、配置Airflow使用的数据库为MySQL打开配置的airflow文件存储目录，默认在$AIRFLOW_HOME目录“/root/airflow”中，会有“airflow.cfg”配置文件，修改配置如下 ：[core]dags_folder = /root/airflow/dags#修改时区default_timezone = Asia/Shanghai# 配置数据库sql_alchemy_conn=mysql Default to 5 minutes.dag_dir_list_interval = 305、安装需要的python依赖包初始化Airflow数据库时需要使用到连接mysql的包，执行如下命令来安装 python37) [root@node4 ~]# pip install mysqlclient -i https://pypi.tuna.tsinghua.edu.cn/simple6、初始化Airflow 数据库
5.4K45编辑于 2022-09-20 - 来自专栏Lansonli技术博客
大数据调度平台Airflow（一）：什么是Airflow
什么是AirflowApache Airflow是一个提供基于DAG有向无环图来编排工作流的、可视化的分布式任务调度平台，与Oozie、Azkaban等任务流调度平台类似。 Airflow采用Python语言编写，提供可编程方式定义DAG工作流，可以定义一组有依赖的任务，按照依赖依次执行， 实现任务管理、调度、监控功能。 Airflow官网：http://airflow.apache.org/，Airflow支持的任务调度类型如下：如何获取栏目资源包通过下面的资源链接进行下载，希望对你的学习有帮助https://download.csdn.net
6.3K44编辑于 2022-09-17 - 来自专栏Lansonli技术博客
大数据调度平台Airflow（二）：Airflow架构及原理
Scheduler:调度器，负责周期性调度处理工作流，并将工作流中的任务提交给Executor执行。 DaskExecutor:动态任务调度，支持远程集群执行airflow任务。 metadata database:Airflow的元数据库，用于Webserver、Executor及Scheduler存储各种状态数据，通常是MySQL或PostgreSQL。 二、Airflow术语DAGDAG是Directed Acyclic Graph有向无环图的简称，描述其描述数据流的计算过程。 Scheduler会间隔性轮询元数据库（Metastore）已注册的DAG有向无环图作业流，决定是否执行DAG，如果一个DAG根据其调度计划需要执行，Scheduler会调度当前DAG并触发DAG内部task
7.9K33编辑于 2022-09-18 - 来自专栏Lansonli技术博客
大数据调度平台Airflow（四）：Airflow WebUI操作介绍
Landing Times Landing Times显示每个任务实际执行完成时间减去该task定时设置调度的时间，得到的小时数，可以通过这个图看出任务每天执行耗时、延迟情况。 Task Reschedules Task 重新调度的实例情况。 SLA Misses 如果有一个或者多个实例未成功，则会发送报警电子邮件，此选项页面记录这些事件。
2.7K44编辑于 2022-03-29 - 来自专栏Lansonli技术博客
大数据调度平台Airflow（六）：Airflow Operators及案例
depends_on_past(bool,默认False):是否依赖于过去，如果为True,那么必须之前的DAG调度成功了，现在的DAG调度才能执行。 如下： 二、SSHOperator及调度远程Shell脚本 在实际的调度任务中，任务脚本大多分布在不同的机器上，我们可以使用SSHOperator来调用远程机器上的脚本任务。 SSHOperator调度远程节点脚本案例 按照如下步骤来使用SSHOperator调度远程节点脚本： 1、安装“apache-airflow-providers-ssh ”provider package score_info(id int,name string,score int) row format delimited fields terminated by '\t'; 向表 person_info加载如下数据 ： 1 zs 18 2 ls 19 3 ww 20 向表score_info加载如下数据： 1 zs 100 2 ls 200 3 ww 300 2、在node4节点配置Hive 客户端 由于Airflow
9.4K55编辑于 2022-09-21 - 来自专栏TASKCTL技术交流讨论
数据仓库ETL管理平台TASKCTL调度计划控制原理
可使用连串数据：成功返回值 0-10，警告返回值 11-30 等。注意：用户自定义的返回值只能是在 0-100 之间。 v 7.0 + 新增支持返回信息匹配作业程序的输出信息。 远程调度与负载均衡 运程调度指当作业程序未部署在相应调度服务上时，调度服务器需要通过执行代理控制相应程序。 就拿以上调度示例为例，只需在 agent3 下级联从代理并与上级代理做相同的作业程序部署即可完成负载均衡调度。 如下图所示： 利用 hostuser 实现远程调度 从 v6.0+开始，TASKCTL 为用户提供统一的无代理远程调度机制。 相对于代理模式来讲，无代理由于无需在受控目标机器部署相应的软件，即可调度控制相应的作业程序。这种变化，让调度控制空间格局，得到彻底的延展变化，极大拓展了调度的应用场景。这种场景适合运维管理自动化。
1.4K20编辑于 2022-05-10 - 来自专栏数据社
从0到1搭建大数据平台之调度系统
目前大数据平台经常会用来跑一些批任务，跑批处理当然就离不开定时任务。比如定时抽取业务数据库的数据，定时跑hive/spark任务，定时推送日报、月报指标数据。 任务调度系统已经俨然成为了大数据处理平台不可或缺的一部分。 一、原始任务调度 ? 记得第一次参与大数据平台从无到有的搭建，最开始任务调度就是用的Crontab，分时日月周，各种任务脚本配置在一台主机上。crontab 使用非常方便，配置也很简单。 将调度行为抽象形成“调度中心”公共平台，而平台自身并不承担业务逻辑，“调度中心”负责发起调度请求；将任务抽象成分散的JobHandler，交由“执行器”统一管理，“执行器”负责接收调度请求并执行对应的JobHandler 被调度运行的任务会发送到消息队列中，然后等待任务协调计算平台消费并运行任务，这时调度平台只需要等待任务运行完成的结果消息到达，然后对作业和任务的状态进行更新，根据实际状态确定下一次调度的任务。
3.5K21发布于 2020-07-22 - 来自专栏JavaWeb
任务调度-分布式任务调度平台XXL-JOB
任务调度-单体应用定时任务解决方案（存在性能、扩展、容错等问题） 任务调度-第三方库Quartz实现分布式任务管理与调度（存在更新任务要同时配置部署多个应用的问题） 如果上述二种方式都不满足你的需求，我建议你尝试使用 XXL-JOB或其他开源调度平台。 XXL-JOB功能： 拥有集群任务管理平台，统一管理任务调度平台上调度任务，负责触发调度执行，提升调度系统容灾和可用性，可通过nginx为调度中心集群做负载均衡，分配域名。 可自定义开发执行器（实际业务代码开发），负责接收“调度中心”的调度并执行；可直接部署执行器，也可以将执行器集成到现有业务项目中，同业务执行器可无限水平扩展（部署多份），通过调度中心设置策略进行负载调度。 ，实时查看调度情况 执行器还有自动注册到调度中心的功能 开源，有项目源码，完全可以自定义开发调度中心Web端（Bootstrap+ftl） .....
3K20发布于 2019-06-19 - 来自专栏暴走大数据
Apache DolphinScheduler之有赞大数据开发平台的调度系统演进
这位来自浙江杭州的 90 后年轻人自 2019 年 9 月加入有赞，在这里从事数据开发平台、调度系统和数据同步组件的研发工作。 这是一个大数据离线开发平台，提供用户大数据任务开发所需的环境、工具和数据。 有赞大数据开发平台架构 有赞大数据开发平台主要由基础组件层、任务组件层、调度层、服务层和监控层五个模块组成。 调度层架构设计 有赞大数据开发平台调度层架构设计 2017 年，我们团队在17年的时候调研了当时的主流的调度系统，最终决定采用 Airflow（1.7）作为 DP 的任务调度模块。 调度系统升级选型 自 2017 年有赞大数据平台 1.0 版本正式上线以来，我们已经在 2018 年 100% 完成了数据仓库迁移的计划，2019 年日调度任务量达 30000+，到 2021 年，平台的日调度任务量已达到 总结起来，最重要的是要满足以下几点： 用户使用无感知，平台目前的用户数有 700-800，使用密度大，希望可以降低用户切换成本； 调度系统可动态切换，生产环境要求稳定性大于一切，上线期间采用线上灰度的形式
3.4K20编辑于 2021-12-15 - 来自专栏大数据和云计算技术
大数据分析处理平台的调度应该具备什么能力？
本文想讨论下大数据分析处理平台的调度从架构上看应该起到一个什么样的作用，达到一个什么样的能力。 谈调度之前，先说说大数据分析处理平台的定义：集成数据采集/导入/存储、高效统计分析/挖掘分析、结果数据可视化呈现等功能的一体化系统，它具有简单易用、高度管理、平滑扩展、定向定制、算法丰富、支持迁移、 一般来说，大数据分析处理平台有以下几个显著特点： 1、规模大，集群化。百度，腾讯，阿里的大数据分析平台目前都在几千甚至上万台X86服务器的规模。 2、复杂度高，多个子系统异构。 3、系统负载高，压力大，从腾讯公布的数据来看，每天完成上百万个任务的执行。 4、可靠性要求高，容易维护。 那么调度在整个大数据分析处理平台中起到什么作用？ 2、从系统整合角度，整个系统一定是异构的系统，所以调度要支持异构，能整合异构系统来一起完成整个数据的计算，流转，存储以及提供服务。
1.7K70发布于 2018-03-08 - 来自专栏TASKCTL技术交流讨论
TASKCTL调度平台服务节点管理
TASKCTL调度管理平台系统Admin给具有管理员权限的用户，提供了平台级的调度节点管理，系统工程管理，作业类型管理，用户（组）权限管理，常量管理等功能；另外还提供了短信、邮件等平台消息接口配置维护 ，强制签入（流程）维护，以及平台调度元信息的导出导入等维护功能。 节点管 平台节点用于管理整个平台的调度控制节点。通过调度服务节点和主代理服务节点，能够部署分布式调度架构；通过主代理以及其下属的从代理，能够部署集群调度架构。 在节点管理的拓扑图页面中，展示了整个平台的网络拓扑结构。如下图所示： 最上层唯一的调度服务节点：svrnode，用于管理和控制作业的调度策略和指令。 调度服务节点停止后，Web客户端将不用获取应用数据。若长时间停止，建议设置节点为禁用状态。 节点启动成功后，状态图标展示为“绿色”。停止后的状态图标展示为“灰色”。
82560编辑于 2022-04-01 - 来自专栏我们一无所有，我们巍然矗立
搭建分布式任务调度平台
只在一台机器添加定时任务 缺点：任务量大的时候，不能满足需求 在数据库能插入数据成功的可以执行 缺点：效率太低，且，很low 使用redis分布式锁，能够成功获取锁的才能够执行定时job 缺点：没有重试补偿机制，不能支持集群不支持路由策略 使用zk分布式锁，和redis原理相同 缺点：没有重试补偿机制，不能支持集群不支持路由策略 使用分布式任务调度平台 有点：具有重试补偿机制 ，具有路由策略，支持集群部署 分布式任务调度平台的原理： 分布式调度平台分为两个模块： 执行器注册中心: 执行器在启动时将自己的ip和端口信息上报到执行器注册中心 执行器管理中心：管理执行器的执行 1. XXL-Job Admin平台搭建 任务调度中心 1. 官方下载XXL-Job Admin的源代码 2. 将xxl-job依赖的sql放入数据库中跑一道，添加相应的数据库以及数据库表 ? 3. 这样，我们的任务调度平台的管理后台就搭建成功了。
1.4K41发布于 2020-09-17 - 来自专栏JVMGC
开源基于开源Kettle自研的大数据调度服务监控平台
本产品是基于开源Kettle自研的Kettle核心接口调用基础组件，其实早在5年前就想搞了，构思了很久，拖到现在，不过还行，现在也不晚吧 最初的想法是启蒙于当年给烟草做过的一个数据交换平台的项目，数据的抽取是基于 同时，kettle自身也有很多的问题，比如 只能使用客户端配置作业、转换 跨平台移植困难 数据安全性较差，系统一旦崩溃，文件库的内容容易丢失 客户端非常耗内存、CPU，只适合配置，不适合做业务 Web界面极其简单 、丑陋，生产环境无法投入使用 基于上述几个企业痛点，我才决定工作之余，每天借用一点休息时间，慢慢积累，坚持不懈，才有了今天Smart Kettle调度平台的出世，也希望能切实 帮助到企业解决数据抽取、调度 ，bat及shell脚本切换繁杂 kettle客户端迁移麻烦，每次都要安装一遍，耗费精力 它是一款超轻量级的kettle web端调度监控平台 支持作业、转换的自定义模板设置 支持作业、转换的多任务模板复制 支持资源库目录树查看 支持作业、转换的集群调度（远程子服务器调用） 支持作业、转换的GUI端配置同步到web端 支持作业、转换的调度配置 支持作业、转换的监控管理 支持作业、转换的本地执行 支持作业、
3.3K10编辑于 2023-03-10 - 来自专栏数栈技术分享
大巧不工，袋鼠云正式开源大数据任务调度平台——Taier（太阿）
我们希望通过技术分享，帮助更多人探索大数据平台的业务场景，同时也由衷欢迎更多开发者参与到社区中来，Committer虚位以待！ ｜缘起：太阿出鞘 Taier的命名，源自中国十大名剑太阿。 ，还能有效保障大数据平台的平稳运行，功能强大，一如太阿剑威力无穷。 ｜亮点：Taier功能优势 作为一个分布式可视化的DAG任务调度系统，太阿Taier脱胎于袋鼠云的一站式大数据开发平台——数栈DTinsight，技术实现来源于数栈分布式调度引擎DAGScheduleX ，DAGScheduleX是数栈产品的重要基础设施之一，负责大数据平台所有任务实例的调度运行。 调度能力随集群线性增长 ｜终端：Taier用户界面 ｜展望：未来迭代计划 Taier调度平台是数据平台框架中的一个组件，可以满足企业日常数据分析、处理、展示需要。
1.6K40编辑于 2022-04-14 - 来自专栏数据魔术师
产品|智能仓储AGV调度仿真优化平台
针对此问题，数据魔术师团队耗费将近一年的时间，开发了这款智能仓储AGV调度优化仿真平台，其可以对输入的仓库布局、AGV 数量与速度，结合实际生产的订单产生情况及调度策略，进行仓储管理系统运行过程的可视化仿真模拟 协助研究人员测试算法 同时，平台也解决了智能调度算法领域研究人员的测试痛点，为其开发、检验算法效率提供了可能。 基于平台搭建的可视化界面，研究人员可以调用不同类型的算法进行测试，改进存在的缺陷，并基于此进一步开发新的 AGV 调度算法，以更直观的方式将设计的模型呈现给涉众。 现有功能 目前阶段，团队研发的 AGV 调度仿真平台已经能够实现以下基本功能： 01 模型建立阶段 可自定义的仓库布局 平台提供了可自定义的仓库布局，目前已经能够满足货架数量在上千量级仓库 AGV 调度的模拟 派送效率可评估 在数据面板，平台提供有派送路线总长度、每笔订单平均派送时间以及平均空闲时间等一系列指标，为使用者分析仓储物流的派送效率提供了便利。 ?
3K33发布于 2020-05-20
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号