数据中台产品的一些思路

Posted 2021-11-29

数据中台系统的一些思路。

* 引言*
企业借助于大数据/数据湖项目，一般同时需要完善对企业数据的梳理：对企业数据资产数据盘点，完善数据治理相关流程。对内便于数据用户使用数据。对外满足部监管对多种数据口径要求。

基本解决思路**
这类问题的基本解决思路是从元数据管理（包括业务，技术）角度完善数据生命周期管理。这里的元数据包含：

• 传统意义的数据字典 （表单，字段的含有）
• 业务元数据梳理，包括业务指标，统计口径等 （通常对应 维度数据，业务描述数据code table, mapping table 的梳理）
• 数据 data lineage, audit

* 挑战及现有问题
这类工具市场上比较多，传统的数仓产品都有元数据管理工具。但多数存在些问题如：

• 对数据用户不友好。这里数据用户包括a)数据分析人员 b) 数据维护操作人员
• 落地困难：不能很好的融合到企业现有的开发流程中
• 传统企业有大量遗留系统，这些系统本身的元数据（数据描述）由于历史原因不太完善。在遗留系统数据集成到大数据/数据湖的过程中，这些元数据需要在项目过程中完善，但缺乏工具，或现有工具不友好。

** 产品化及切入点选择***
基于以上分析，数据平台（中台）产品中元数据管理部分可以采用以下设计思路：

• 借助图数据库提升前端数据展示
• 借助NLP及传统元数据数据管理提升数据关联关系分析
• 开发定制工具针对遗留系统及项目开发流程元数据进行维护。（进一步解释以下，在多数数仓，大数据项目中，业务数据分析人员均需准备Mapping 文档。目前mapping 文档多以 excel 形式存在，不利于维护，共享，进一步挖掘。可以开发定制在线mapping文档工具作为一个切入点）
• 参照（逻辑）架构图：

目前市场上已经用一些类似产品，也可以做个参照：

• http://www.stargraph.cn/ 金融智能 BDP
• https://memect.cn/ 知识图谱技术
• http://www.primeton.com/ 元数据平台
• https://www.topquadrant.com/