Apache DolphinScheduler(目前处在孵化阶段)是一个分布式、去中心化、易扩展的可视化DAG工作流任务调度系统,其致力于解决数据处理流程中错综复杂的依赖关系,使调度系统在数据处理流程中开箱即用。
* 以DAG图的方式将Task按照任务的依赖关系关联起来,可实时可视化监控任务的运行状态
* 支持丰富的任务类型:Shell、MR、Spark、SQL(mysql、postgresql、hive、sparksql),Python,Sub_Process、Procedure等
* 支持工作流定时调度、依赖调度、手动调度、手动暂停/停止/恢复,同时支持失败重试/告警、- 从指定节点恢复失败、Kill任务等操作
* 支持工作流优先级、任务优先级及任务的故障转移及任务超时告警/失败
* 支持工作流全局参数及节点自定义参数设置
* 支持资源文件的在线上传/下载,管理等,支持在线文件创建、编辑
* 支持任务日志在线查看及滚动、在线下载日志等
* 实现集群HA,通过Zookeeper实现Master集群和Worker集群去中心化
* 支持对Master/Worker cpu load,memory,cpu在线查看
* 支持工作流运行历史树形/甘特图展示、支持任务状态统计、流程状态统计
* 支持补数
* 支持多租户
* 其他....
通过本教程的学习,可以掌握Apache DolphinScheduler的安装和基本使用。
课程介绍
课程目录
往期学员作品
用户评论
课程介绍
课程目录
往期学员作品
用户评论
你将获得
- 掌握工作流任务调度系统
教学服务
提供学习资料
讲师介绍
黄埔课堂
架构师
10年软件开发经验,曾在中国联通、Motorola等先后做Javaweb开发、手机开发、大数据开发,有丰富的大数据和GO语言实战经验。 培训过的课程有:《大数据hadoop开发》、《大数据spark开发》、《Go语言重写大数据日志收集器》 企业内训:中石化(上海,齐鲁,北京),济南联通研究院。
课程详情
温馨提示
- 请勿私下交易请勿在平台外交易。与机构和老师私下交易造成的任何损失及纠纷,腾讯课堂不承担任何责任
- 听课说明
1、电脑:访问腾讯课堂官网 ke.qq.com 查看我的课表或下载win/mac客户端听课
2、手机/平板:下载腾讯课堂APP, 进入学习页面听课