
作业帮Doris:实时数仓实践与业务优化
版权申诉
1.15MB |
更新于2024-07-05
| 137 浏览量 | 举报
收藏
"作业帮Doris在数仓中的实践报告详细探讨了作业帮公司在构建实时数仓系统时采用的创新解决方案和实践经验。该报告由糜利敏撰写,重点关注了业务需求、架构设计、以及Doris技术在其中的作用。
首先,报告介绍了业务与背景,强调了原有的业务支持模式存在问题,如开发成本高、重复建设、接口非标准化,以及使用Spark和ES时存在的学习曲线陡峭、性能不佳和稳定性问题。这促使公司转向寻求更高效、可复用的解决方案。
Doris的引入解决了这些问题。DorisOnES作为一种关键组件,将数据摄入、实时查询和数据清洗整合在统一的平台上,通过OpenAPI和Flink-Sql提供强大的查询能力。Flume和Canal被用于数据传输,确保数据的实时性。Doris的优势在于其易运维、社区活跃以及对Mysql接口的支持,这显著提升了开发效率和查询性能。
报告还展示了从过去到现在的转变,包括技术选型的变化,如放弃API和ES,转而专注于Doris和DorisOnES。通过基础数据的Doris写入,业务线可以基于SQL进行高效查询,查询速度得到了显著提升。例如,处理千万级数据的查询时间从原来的小时级别缩短到了分钟甚至秒级别,极大地提高了数据分析的响应速度。
此外,报告指出Doris的稳定性和社区支持使得公司的运维成本降低,且在半年内成功应用于7个以上的业务线,处理了近1TB的数据,期间未发生重大故障(P2及以上级别)。这表明Doris在实际生产环境中表现出色,成为推动作业帮业务增长的关键工具。
总结来说,这份报告深入展示了作业帮如何通过Doris技术优化数仓架构,解决传统方法的痛点,并实现显著的性能提升和运维效率改善,是值得其他企业借鉴的最佳实践案例。"
相关推荐







AI方案2025
- 粉丝: 1666
最新资源
- 深入理解Spring框架与SSH整合教程
- 掌握SSH开发基础:移动业务管理系统源码解析
- Java聊天室套接字编程入门教程
- Dreamweaver网站美工高级培训教程精讲
- C#初学者必备:深入学习资料及控件教程
- 深入学习VHDL:开发板源程序实战指南
- DOS操作系统基础与进阶教程完整下载
- VB.net实现Mp3文件属性提取与修改技巧
- DreamWeaver 8中文版实用网页设计教程源文件解析
- 基于Flash的3D饼图控件源码发布,兼容ASP.NET和PHP
- VC环境下基于对话框MFC程序的串口通信源代码分析
- P2PSim模拟器下载指南及资料收集
- EmbeddedWB v14.68.0 完整源码发布 - 支持Delphi D5至D2009
- 深入浅出DWR3.0:一个完整的实例教程
- Aglet技术全解:Java移动代理API与安全模型
- Dreamweaver网页设计艺术与实例教程
- 轻便HTML编辑器推荐:小巧而实用的工具集
- 东北大学编译原理课件分享
- xmllite环境下XMLParser实现解析技术研究
- PostgreSQL 8.0.0 中文版官方文档精要
- 全维度软件需求规格说明书模板解析
- 梦幻网页创意设计第二版深度讲解与实践
- ARM9平台下ptpcam软件的应用与驱动移植
- 基于JAVA开发的简易仿QQ聊天应用教程