本文基于 DAMA 体系资料整理,约 1504 字。
一、DAMA视角下DevOps的核心目标
在传统的数据管理中,也存在类似开发与运维的脱节:
数据开发团队/人员:负责设计数据模型、开发ETL/ELT流程、构建数据仓库和数据集市。他们的目标是快速交付新的数据资产和分析功能。
数据运维团队/人员:负责管理数据库、调度平台、服务器等数据基础设施,确保数据平台的稳定性、高性能和安全。他们的目标是维持系统稳定,避免变更带来的风险。
这种脱节会导致:
新的数据需求响应缓慢。
数据管道部署困难,容易失败。
环境不一致导致的数据质量问题。
开发和运维团队相互指责。
因此,DAMA体系引入DevOps的核心目标,就是打破数据开发与数据运维之间的壁垒,实现数据产品的持续交付。
二、DevOps在数据管理中的关键实践(与DAMA领域的结合)
三、一个数据管道开发的DevOps/DataOps流程示例
为了更直观地理解,我们可以通过一个数据管道开发的流程示例,来展示DevOps理念如何融入数据管理的各个环节:
四、总结:DAMA体系中DevOps的精髓
在DAMA体系下理解DevOps,可以总结为以下几点:
文化先于工具:它首先是一种促进协作、共享责任的文化,而不仅仅是自动化工具的集合。
数据管理的敏捷化:它将敏捷开发、持续交付的理念引入数据管理领域,使数据工作能够快速响应业务需求。
质量内建:通过自动化测试、监控和反馈循环,将数据质量管理左移,在开发阶段就发现问题,而不是等到生产环境。
提升数据资产的价值流动效率:其最终目标是优化从数据需求提出到最终产生业务价值的整个流程,减少瓶颈,提高效率。
总而言之,在DAMA框架中,DevOps不是一颗孤立的银弹,而是一种赋能和优化的思想,它通过改进流程、技术和协作方式,让整个数据管理生命周期变得更加高效、可靠和敏捷。
什么是DevOps、Development和Operation
一、总览:什么是DevOps?
DevOps 是 Development(开发) 和 Operations(运维) 两个词的组合。它不是一种工具或一个职位,而是一种文化理念、一组实践和一场运动。
核心目标:打破开发团队和运维团队之间的传统壁垒(部门墙),通过自动化、协作和共享责任,实现更快速、更可靠、更高质量的软件交付。
可以把它想象成:
传统模式:开发团队是“设计并制造汽车”的工厂,运维团队是“负责修路和交通管理”的交警。工厂造好车就扔给交警,不管路况如何;交警抱怨工厂造的车总出问题,影响交通。
DevOps模式:工厂的工程师和交警坐在同一个办公室里,共同规划道路、设计汽车,并使用自动化工具来管理交通。他们共同对“交通畅通”这个最终目标负责。
二、分解:Development 与 Operation 的传统角色
要理解DevOps为什么出现,首先要看这两个团队传统的目标和冲突。
这种目标冲突导致了一个恶性循环:开发团队快速交付的代码,在运维环节遇到瓶颈,部署缓慢且频繁失败,双方互相指责
三、融合:DevOps如何连接两者?
DevOps通过以下关键实践,在Development和Operation之间架起桥梁,形成一个闭环:
1. 文化与协作
共享责任:开发和运维对软件的整个生命周期(从设计到退役)共同负责。
打破壁垒:组建跨职能团队,鼓励沟通和透明。
2. 自动化一切(核心手段)
持续集成:开发人员频繁地将代码合并到主干,并自动进行构建和测试。
持续交付/部署:通过自动化流水线,将通过测试的代码自动、安全地发布到生产环境。
基础设施即代码:用代码来管理和配置服务器、网络等基础设施,使其可重复、可版本化。
3. 度量与反馈
监控与日志:全面监控应用和基础设施的性能,出现问题快速定位。
数据管理也需要工程化。昱珩将 DevOps 理念引入工业数据管道建设。
联系昱珩团队