数仓项目建设的难点

项目难点一般包括:技术难点、协助难点、业务难点

一、指标、业务难点

难点:数据表繁多,部分业务指标与细节业务环节理解起来比较困难,同时针对特殊事业部还需定制不同ads内容,业务方频繁修改指标口径。

解决办法:

(1)指标定制

  与leader,mentor业务方最终敲定集团侧看板展示内容信息以及业务/技术口径,如hrbp侧需特殊定制指标(非集团人力通用)则单独部署指标内容,并在看板侧通过权限进行管控。

(2)指标管理

   通过指标平台将本次敲定的最终指标进行统一录入,并与mentor,leader沟通,确定指标上线及变更流程,业务口径由数分收口,指标是否重复建设/技术实现/变更由数仓收口,并统一由leader进行审批。

二、基线,技术难点

难点:基线错综复杂,任务交错相互依赖导致数据延迟产出,虽然由数仓夜间值班同学看问题,但360任务夜间起夜率过高(周均67%)会导致数据仓库人效较低,且部分情况 SLA破线。

解决办法:根据DAG确定破线/预警依赖的任务,找出依赖部分晚产出(1-3小时运行时长)任务,联系上游进行沟通,协助优化,如上游夜间任务值班缺少及时运维及定位能力,则对这块任务调整或依赖t-2降低时效保障产出优化延迟产出任务15+,降低cpu/memory 消耗37.2%,任务链路产出时间缩短1小时

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值