架构设计:数据平台调度系统从Azkaban 到 Apache DolphinScheduler的实践

本文分享了Fordeal数据平台从Azkaban迁移到Apache DolphinScheduler的实践经验,包括面临的问题、系统架构、详细实践、特性增强及未来规划。在实践中,为解决用户、技术和运维层面的问题,进行了内部系统对接、Azkaban兼容性改造、功能优化等,提升了用户体验和系统稳定性。未来,将继续跟进社区特性,完善数据同步和与其他系统连接。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >


简介

Fordeal 的数据平台调度系统之前是基于 Azkaban 进行二次开发的,但是在用户层面、技术层面都存在一些痛点问题难以被解决。比如在用户层面缺少任务可视化编辑界面、补数等必要功能,导致用户上手难体验差。在技术层面,架构过时,持续迭代难度大。基于这些情况,经过竞品对比和调研后,Fordeal 数据平台新版系统决定基于 Apache DolphinScheduler 进行升级改造。那整个迁移过程中开发人员是如何让使用方平滑过渡到新系统,又做出了哪些努力呢?

01 项目背景

在这里插入图片描述
Fordeal 数据平台调度系统最早是基于 Azkaban 进行二次开发的。支持机器分组,SHELL 动态参数、依赖检测后勉强可以满足使用,但在日常使用中依然存在以下三个问题,分别是在用户、技术和运维的层面。

首先在用户层面,缺乏可视化的编辑、补数等必要的功能。只有技术的同学才能使用该调度平台,而其他没有基础的同学如果使用就非常容易出错,并且 Azkaban 的报错模式导致开发人员对其进行针对性地进行修改。

第二在技术层面,Fordeal 数据平台调度系统的技术架构非常陈旧,前后端并不分离,想要增加一个功能,二开的难度非常高。

第三在运维层面,也是最大的问题。系

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Freedom3568

技术域不存在英雄主义,不进则退

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值