Thought Leaders
工程分析:提升数据运营的弹性互补

数据工程与业务分析之间的根本性割裂,使得组织在快速演进的数字环境中运营变得复杂。企业管理者来自无数源头的前所未有的结构化和非结构化数据,然而许多企业却难以从中提取有意义的商业价值。核心问题在于,构建和维护数据基础设施的团队与依赖及时、准确的数据驱动洞察的团队之间,存在持续且代价高昂的脱节。为了有效整合支持数据工程和业务分析的解决方案,领导层必须理解这种割裂如何形成,以及它如何在技术和运营维度上体现。应对这一挑战需要一种涵盖技术、流程和组织文化的综合方法。这项努力并非简单的工具升级,而是一场由数据工程和业务分析职能引导的跨职能转变。
数据工作的谱系——从分析到工程
根据IBM的定义,业务分析是指通过统计方法和计算技术来处理、挖掘和可视化数据,以揭示支持更佳商业决策的模式、关系和洞察。当分析通过可操作的洞察来提升绩效、降低风险或提高效率时,其价值便得以证明。分析团队通过一系列持续监控的指标(通常是一组关键绩效指标)来追踪这些关系和模式。INFORMS分析框架将其描述为一个始于业务问题并延伸至解决方案生命周期管理的循环。分析过程由问题界定引导,并由技术支持。
由业务需求驱动的分析团队面临着快速交付洞察的压力,并依赖于“新鲜”的数据来支持其工作流程。陈旧的数据只能带来过时的洞察。团队需要能够访问支持数据短时或近实时处理、转化为能带来真正商业价值的洞察的数据基础设施。
数据工程代表了谱系的另一端,由基础设施和技术需求驱动。IBM将数据工程定义为“设计和构建用于大规模数据聚合、存储和分析系统的实践”。尽管这项工作支持洞察交付,但数据工程工作流程与分析框架截然不同,其重点在于数据的物流和仓储。
错位的张力与互补
数据工程团队与分析团队之间的紧张关系,最常源于不同的时间尺度和相互竞争的工作流需求。工程团队的基础设施和工具决策取决于系统采用率、技术创新、IT容量以及受限人才市场中的资源约束。分析任务依赖于已摄取的数据作为中间产品来推动洞察交付。这要求分析团队在数据工程已开发的现有基础设施内工作,同时预测并沟通未来的需求。
这些差异创造了一个连续体,数据运营(DataOps)职能在其中以不同单位时长的时间框架运作。这种错位的交换有时是互补的,有时则容易发生冲突。整合这些时间框架需要组织具备跨职能沟通和业务流程协调的能力。如果分析团队受制于过时的基础设施,那么遗留系统的技术债务会降低洞察交付速度并削弱竞争优势。如果数据工程团队始终受制于快速周转的期望,那么合规性、业务连续性、安全性、质量和市场风险就会受到威胁。
对于DataOps而言,成功取决于持续识别跨团队间特定情境下的弹性互补。近期研究发现,业务战略与数据分析战略的协调一致,能增强大数据分析能力,使其作为市场响应敏捷性得以发挥。进一步的研究也支持,业务与数据科学战略的协调对于成功捕获数据价值至关重要。
共同的痛点
新兴技术要求数据基础设施快速变革。随着信息系统日益复杂,团队正在开发更先进的模型和架构表示来应对这些挑战。同样重要的是技术设计与组织及社会需求的协调。使大型数据基础设施系统适应运营需求通常需要进行流程发现,由工程团队分析事件日志,根据实际使用情况确定系统需求。
这些自反式的流程改进实践会争夺稀缺的工程和IT时间,并反映了数据工程师所面临的时间延迟的累积。由于DataOps谱系中的每个团队监控不同的指标,将性能要求转化为管道开发可能导致错位和代价高昂的错误。
为何要重复造轮子?
一份Gartner报告指出,专门的数据与分析架构学科对于实现运营战略和资源分配至关重要。协调业务架构与技术架构对于技术驱动的商业环境日益重要。
流程协调是一个古老的运营挑战,如今其发生的速度和规模暴露了组织协调中的缺陷。有几种技术可以支持跨部门流程协调。业务流程管理(BPM)和数据治理(DG)是两个成熟的框架,可帮助组织应对这一需求。技术战略对业务成果影响力的增加,提升了支持技术与业务流程协调的学科的重要性。
主数据管理(MDM)和DG已成为协调业务流程与数据运营的有效学科。已建立MDM和DG的DataOps团队最具备应用弹性互补原则以提高运营效率的条件。清晰的数据所有权角色和已建立的架构学科,可以加强流程协调和跨职能沟通,以支持技术和业务战略成果的实现。协调一致的DataOps能够利用数据价值链的完整谱系来服务于业务战略。
数据质量和数据完整性反馈的解读是数据工程和分析团队共同的痛点。工程师和分析师之间的翻译鸿沟反映了架构层面一个更广泛的问题,涉及技术战略与业务模型的协调。由于基础设施开发常常滞后于业务需求,沟通的韧性成为组织实现数据价值捕获的速率限制因素。人员流动、市场不确定性、技术债务和内部资源竞争,都对跨职能沟通过程在压力下的表现提出了疑问。通过在高压力情境下加强实施、精确性和可靠执行来强化分析与工程团队之间的联系,代表着向弹性数据运营的重要转变。


