数据管理知识库

DAMA 与 DevOps

DAMA & DevOps

本文基于 DAMA 体系资料整理,约 1504 字。

一、DAMA视角下DevOps的核心目标

在传统的数据管理中,也存在类似开发与运维的脱节:

数据开发团队/人员:负责设计数据模型、开发ETL/ELT流程、构建数据仓库和数据集市。他们的目标是快速交付新的数据资产和分析功能。

数据运维团队/人员:负责管理数据库、调度平台、服务器等数据基础设施,确保数据平台的稳定性、高性能和安全。他们的目标是维持系统稳定,避免变更带来的风险。

这种脱节会导致:

新的数据需求响应缓慢。

数据管道部署困难,容易失败。

环境不一致导致的数据质量问题。

开发和运维团队相互指责。

因此,DAMA体系引入DevOps的核心目标,就是打破数据开发与数据运维之间的壁垒,实现数据产品的持续交付。

二、DevOps在数据管理中的关键实践(与DAMA领域的结合)

三、一个数据管道开发的DevOps/DataOps流程示例

为了更直观地理解,我们可以通过一个数据管道开发的流程示例,来展示DevOps理念如何融入数据管理的各个环节:

四、总结:DAMA体系中DevOps的精髓

在DAMA体系下理解DevOps,可以总结为以下几点:

文化先于工具:它首先是一种促进协作、共享责任的文化,而不仅仅是自动化工具的集合。

数据管理的敏捷化:它将敏捷开发、持续交付的理念引入数据管理领域,使数据工作能够快速响应业务需求。

质量内建:通过自动化测试、监控和反馈循环,将数据质量管理左移,在开发阶段就发现问题,而不是等到生产环境。

提升数据资产的价值流动效率:其最终目标是优化从数据需求提出到最终产生业务价值的整个流程,减少瓶颈,提高效率。

总而言之,在DAMA框架中,DevOps不是一颗孤立的银弹,而是一种赋能和优化的思想,它通过改进流程、技术和协作方式,让整个数据管理生命周期变得更加高效、可靠和敏捷。

什么是DevOps、Development和Operation

一、总览:什么是DevOps?

DevOps 是 Development(开发) 和 Operations(运维) 两个词的组合。它不是一种工具或一个职位,而是一种文化理念、一组实践和一场运动。

核心目标:打破开发团队和运维团队之间的传统壁垒(部门墙),通过自动化、协作和共享责任,实现更快速、更可靠、更高质量的软件交付。

可以把它想象成:

传统模式:开发团队是“设计并制造汽车”的工厂,运维团队是“负责修路和交通管理”的交警。工厂造好车就扔给交警,不管路况如何;交警抱怨工厂造的车总出问题,影响交通。

DevOps模式:工厂的工程师和交警坐在同一个办公室里,共同规划道路、设计汽车,并使用自动化工具来管理交通。他们共同对“交通畅通”这个最终目标负责。

二、分解:Development 与 Operation 的传统角色

要理解DevOps为什么出现,首先要看这两个团队传统的目标和冲突。

这种目标冲突导致了一个恶性循环:开发团队快速交付的代码,在运维环节遇到瓶颈,部署缓慢且频繁失败,双方互相指责

三、融合:DevOps如何连接两者?

DevOps通过以下关键实践,在Development和Operation之间架起桥梁,形成一个闭环:

1. 文化与协作

共享责任:开发和运维对软件的整个生命周期(从设计到退役)共同负责。

打破壁垒:组建跨职能团队,鼓励沟通和透明。

2. 自动化一切(核心手段)

持续集成:开发人员频繁地将代码合并到主干,并自动进行构建和测试。

持续交付/部署:通过自动化流水线,将通过测试的代码自动、安全地发布到生产环境。

基础设施即代码:用代码来管理和配置服务器、网络等基础设施,使其可重复、可版本化。

3. 度量与反馈

监控与日志:全面监控应用和基础设施的性能,出现问题快速定位。

数据管理也需要工程化。昱珩将 DevOps 理念引入工业数据管道建设。

联系昱珩团队