Kyligence Copilot - AI 数智助理,以 AI 变革企业经营与管理! 立即了解更多

企业指标管理:DataOps 实践的新尝试

Author
Kyligence
2023年 4月 14日

在讨论数据治理时,DataOps 和指标治理具有相似的目标。在本文中,我们将分享什么是 DataOps 和指标平台,以及为什么企业应该考虑将 DataOps 实践应用于业务指标管理。

1.什么是 DataOps?

Gartner 认为 DataOps 是一种协作性的数据管理实践,旨在改善整个组织的数据管理者和消费者之间数据流的沟通、集成和自动化。Ventana Research 指出,DataOps 是一套用于确保数据和分析项目的质量、灵活性和可靠性的工具、实践和理念,强调可持续、可度量的改进、敏捷性、协作和自动化。

DataOps 汲取了 DevOps 的灵感,后者则是一套用于在变化的情况下支持软件应用程序的持续交付的工具、实践和理念。

2.为什么企业需要 DataOps?

采用 DataOps 方法处理数据开发流程可以为企业带来以下价值:

  • 首先,DataOps 使企业的数据开发更加灵活和敏捷,能够快速响应不断变化的业务需求和市场条件。这是通过简化数据工程程序来实现的,因此可以更快地生成和交付数据洞察力。
  • 其次,DataOps 可以帮助企业减少开发、测试和部署数据分析解决方案所需的时间和成本。这意味着企业可以更有效地利用资源,最终有助于增加盈利能力。
  • 第三,通过提高数据洞察的准确性和可靠性,企业可以做出更明智的业务决策,也将带来更好的结果和更成功的项目。

总之,采用 DataOps 方法可以帮助企业节省时间和金钱,更加灵活和敏捷,并且有助于企业做出更好的决策。

3.将 DataOps 实践扩展到业务指标管理

理解了 DataOps 的价值,实践 DataOps 方法论对于企业的必要性就不言而喻了。因此,企业可以尝试通过以下两个步骤将 DataOps 应用于业务指标管理:

第一步:在您的数据基础设施之上构建指标平台

  • 为什么需要统一的指标平台?

指标是业务的通用数据语言,有助于企业不同团队基于可度量的业务目标上达成共识。这也是为什么统一跨业务的指标口径对于企业来说至关重要,因为可以帮助企业建立对数据的信任、可观测性,从而提高生产力。

  • 为什么不使用  BI  来作为统一的指标层?

作为数据领域的从业者,大家都知道使用 BI 来保存指标定义的方法存在一定的局限性。分散在 BI 或其他应用中的指标往往缺乏统一的口径,并且 BI 将可视化与业务指标的耦合在一起。如果没有统一的指标存储,指标逻辑将在不同的工具中重复定义,仍会导致指标口径的不一致。

独立的指标平台/指标层解耦了数据建模与数据可视化,提供了统一语义层,将技术语言转换为业务语言,方便给下游数据消费者使用,非技术用户也可以轻松获取数据洞察,有助于企业数据资产的沉淀。

  • 构建指标平台的价值
  1. 实现指标口径的一致性:指标平台将指标层和 BI 系统解耦,创建一个独立的指标存储,为所有下游系统提供统一的指标定义,从而确保各业务单元之间的指标口径的一致性。
  2. 实现指标的可复用性:仅在 BI 中定义和分析指标无法满足超出 BI 仪表板的场景的需求,例如将指标提供给 CRM 系统等业务应用。指标平台可以扩展使用场景的边界,使已定义的指标在各种业务应用程序中实现复用。
  3. 提供自助式指标定义:用户友好型的界面使得不了解技术的业务用户也能定义和分析业务指标,真正实现人人都是数据分析师。
  4. 指标计算的可扩展性:理想的指标平台解决方案不仅可用于预定义的 BI 仪表板,还可为探索性的数据科学提供服务。随着用户和查询体量的增加,指标平台能够提供更强大的计算能力来实现业务指标消费的可扩展性和并发性。
第二步:将 DataOps 实践应用于业务指标管理

要将 DataOps 的实践应用于业务指标管理,还需要将指标转换为可管理的代码片段,比如使用人和机器都可读的配置文件来定义指标。这些配置文件集成到版本控制系统中来实现跟踪、审核和监控更改。企业还可以使用 CI/CD 平台和测试工具,自动化集成和测试环节,从而以更高的质量和更低的错误率将指标部署给终端用户。

我们将这个理念称为「指标即代码」即把指标作为代码来管理,把 DataOps 扩展到您的业务指标管理中。

指标即代码的好处很明显:您可以实现自动化、协作和敏捷的数据管理,并且以前用于构建软件的开发最佳实践现在都可以用于管理指标。

  • 指标即代码为数据开发人员带来以下价值:
  1. 指标的版本控制:支持对整个指标解决方案及其中的每个指标进行版本控制,使您能够跟踪、审核和监控指标随时间发生的变化。
  2. 指标测试自动化:实现自动化测试指标,确保在将其部署到最终用户之前,指标是准确可靠的。
  3. 环境部署及管理:通过简单传输代码,指标可以轻松地从一个环境迁移到另一个环境。即使在不同环境,指标也能保持一致性。
  • 对于业务人员的价值
  1. 指标模板使得构建一组指标作为可管理的代码变得容易,还可以打包成可重复使用和共享的模板。这有助于企业快速打造其指标平台,相较从 0 构建指标平台节省了 80% 的工作量。
  2. 指标血缘使企业能够轻松跟踪数据血缘关系,在指标文件中用户可以获得有关用于创建指标的数据源、创建日期以及执行的任何转换或计算等信息作为元数据。
SaaS 指标的指标血缘示意图

4.Kyligence Zen 助力企业实现业务指标的高效管理

Kyligence Zen 通过将 DataOps 实践扩展到业务指标,帮助企业提高其指标交付效率。

ZenML (Zen Metrics Language) 是由 Kyligence Zen 提供的类 YAML 描述性语言,可以让工程师像写代码一样去定义和管理指标,通过将技术语言转换为业务语言,非技术用户也可以轻松获取数据洞察。同时,ZenML 解耦了数据建模与数据可视化,提供了一个统一语义层给下游数据消费者,有助于企业数据资产的沉淀。

Kyligence Zen 使用 ZenML 存储所有指标的定义,以及指标之间、指标和数据模型之间的关系。借助这些元数据,Kyligence Zen 能够自动将各种业务需求和任务转换为 SQL 执行,并围绕 ZenML 提供各种数据服务,包括:

  • 基于 SQL 的指标查询和 BI 集成,通过开放的 API,如 JDBC/ODBC/RestAPI
  • 基于业务领域知识的指标模板
  • 归因分析、异动检测
  • 目标管理、进度跟踪、预警
  • 指标血缘
  • 更多…

您还可以在 git 中维护 ZenML 文件以进行版本控制,并将特定版本的指标定义发布(或回滚到)Kyligence Zen 服务以进行业务运营。

如果您有兴趣将 DataOps 扩展到业务指标中,欢迎您点击「l链接」免费体验 Kyligence Zen,按照入门指南构建您的第一个指标体系!

关于 Kyligence

跬智信息(Kyligence)由 Apache Kylin 创始团队于 2016 年创办,是领先的大数据分析和指标平台供应商,提供企业级 OLAP(多维分析)产品 Kyligence Enterprise 和一站式指标平台 Kyligence Zen,为用户提供企业级的经营分析能力、决策支持系统及各种基于数据驱动的行业解决方案。

Kyligence 已服务中国、美国、欧洲及亚太的多个银行、证券、保险、制造、零售、医疗等行业客户,包括建设银行、招商银行、平安银行、浦发银行、北京银行、宁波银行、太平洋保险、中国银联、上汽、长安汽车、星巴克、安踏、李宁、阿斯利康、UBS、MetLife 等全球知名企业,并和微软、亚马逊云科技、华为、安永、德勤等达成全球合作伙伴关系。Kyligence 获得来自红点、宽带资本、顺为资本、斯道资本、Coatue、浦银国际、中金资本、歌斐资产、国方资本等机构多次投资。

添加企微

kyligence
关注我们

kyligence