浅谈数据仓库建设中的数据建模方法

Posted 南方IT界

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了浅谈数据仓库建设中的数据建模方法相关的知识,希望对你有一定的参考价值。

所谓水无定势,兵无常法。不同的行业,有不同行业的特点,因此,从业务角度看,其相应的数据模型是千差万别的。目前业界较为主流的是数据仓库厂商主要是IBM和NCR,这两家公司的除了能够提供较为强大的数据仓库平台之外,也有各自的针对某个行业的数据模型。‍

例如,在银行业,IBM 有自己的BDWM(Banking data warehouse model),而NCR有自己的FS-LDM模型。在电信业,IBMTDWMTelecom Data warehouse model),而NCR有自己的TS-LDM模型。不同的公司有自己针对某个行业的理解,因此会有不同的公司针对某个行业的模型。而对于不同的行业,同一个公司也会有不同的模型,这主要取决于不同行业的不同业务特点。虽然每个行业有自己的模型,但是,不同行业的数据模型,在数据建模的方法上,却都有着共通的基本特点。

本文的主要目的之一,就是希望读者能够通过对本文的阅读,同时,结合自己对数据仓库建设的经验,在建设数据仓库的时候能够总结出一套适合自己的建模方法,能够更好的去发挥数据仓库的作用。

本文主要的主线就是回答下面三个问题:1、什么是数据模型;2、为什么需要数据模型;3、如何建设数据模型。

一、什么是数据模型

数据模型是抽象描述现实世界的一种工具和方法,是通过抽象的实体及实体之间联系的形式,来表示现实世界中事务的相互关系的一种映射。在这里,数据模型表现的抽象的是实体和实体之间的关系,通过对实体和实体之间关系的定义和描述,来表达实际的业务中具体的业务关系。

数据仓库模型是数据模型中针对特定的数据仓库应用系统的一种特定的数据模型,一般的来说,数据仓库模型分为以下几个层次:

浅谈数据仓库建设中的数据建模方法

业务建模,生成业务模型,主要解决业务层面的分解和程序化。

逻辑建模,生成逻辑模型,主要是将领域模型的概念实体以及实体之间的关系进行数据库层次的逻辑化。

物理建模,生成物理模型,主要解决,逻辑模型针对不同关系型数据库的物理化以及性能等一些具体的技术问题。

二、为什么要数据模型

一般来说,数据模型的建设主要能够帮助我们解决以下的一些问题:

1、进行全面的业务梳理,改进业务流程。在业务模型建设的阶段,能够帮助我们的企业或者是管理机关对本单位的业务进行全面的梳理。通过业务模型的建设,我们应该能够全面了解该单位的业务架构图和整个业务的运行情况,能够将业务按照特定的规律进行分门别类和程序化,同时,帮助我们进一步的改进业务的流程,提高业务效率,指导我们的业务部门的生产。

2、建立全方位的数据视角,消灭信息孤岛和数据差异。通过数据仓库的模型建设,能够为企业提供一个整体的数据视角,不再是各个部门只是关注自己的数据,而且通过模型的建设,勾勒出了部门之间内在的联系,帮助消灭各个部门之间的信息孤岛的问题,更为重要的是,通过数据模型的建设,能够保证整个企业的数据的一致性,各个部门之间数据的差异将会得到有效解决。

3、解决业务的变动和数据仓库的灵活性。通过数据模型的建设,能够很好的分离出底层技术的实现和上层业务的展现。当上层业务发生变化时,通过数据模型,底层的技术实现可以非常轻松的完成业务的变动,从而达到整个数据仓库系统的灵活性。

4、帮助数据仓库系统本身的建设。通过数据仓库的模型建设,开发人员和业务人员能够很容易的达成系统建设范围的界定,以及长期目标的规划,从而能够使整个项目组明确当前的任务,加快整个系统建设的速度。

三、如何建设数据模型

一个好的数据模型,不仅仅是对业务进行抽象划分,而且对实现技术也进行具体的指导,它应该涵盖了从业务到实现技术的各个部分。

目前业界较为流行的数据仓库的建模方法非常多,这里主要介绍范式建模法,维度建模法这两种常用方法,每种方法其实从本质上讲就是从不同的角度看我们业务中的问题,下面给大家详细介绍一下这些建模方法。

范式建模法

范式建模法其实是我们在构建数据模型常用的一个方法,该方法的主要由Inmon所提倡,主要解决关系型数据库的数据存储,利用的一种技术层面上的方法。目前,我们在关系型数据库中的建模方法,大部分采用的是三范式建模法。由于范式是基于整个关系型数据库的理论基础之上发展而来的,因此,在这里不多做介绍。

上图的这个设计是典型的一个三范式设计模型,范式建模法的最大优点就是从关系型数据库的角度出发,结合了业务系统的数据模型,能够比较方便的实现数据仓库的建模。但其缺点也是明显的,由于建模方法限定在关系型数据库之上,在某些时候反而限制了整个数据仓库模型的灵活性,性能等,特别是考虑到数据仓库的底层数据向数据集市的数据进行汇总时,需要进行一定的变通才能满足相应的需求。

维度建模法‍

维度建模法,Kimball最先提出这一概念。其最简单的描述就是,按照事实表,维表来构建数据仓库、数据集市。这种方法的最被人广泛知晓的名字就是星型模式(Star-schema)以及雪花模式。

上图的这个架构中是典型的星型架构。星型模式之所以广泛被使用,在于针对各个维作了大量的预处理,如按照维进行预先的统计、分类、排序等。通过这些预处理,能够极大的提升数据仓库的处理能力。特别是针对3NF的建模方法,星型模式在性能上占据明显的优势。

同时,维度建模法的另外一个优点是,维度建模非常直观,紧紧围绕着业务模型,可以直观的反映出业务模型中的业务问题。不需要经过特别的抽象处理,即可以完成维度建模。这一点也是维度建模的优势。

但是,维度建模法的缺点也是非常明显的,由于在构建星型模式之前需要进行大量的数据预处理,因此会导致大量的数据处理工作。而且,当业务发生变化,需要重新进行维度的定义时,往往需要重新进行维度数据的预处理。而在这些与处理过程中,往往会导致大量的数据冗余。

另外一个维度建模法的缺点就是,如果只是依靠单纯的维度建模,不能保证数据来源的一致性和准确性,而且在数据仓库的底层,不是特别适用于维度建模的方法。

维度建模的领域主要适用数据集市层,它的最大的作用其实是为了解决数据仓库建模中的性能问题。维度建模很难能够提供一个完整地描述真实业务实体之间的复杂关系的抽象方法。

因此,在创建自己的数据仓库模型的时候,可以参考使用上述两种数据仓库的建模方法,在各个不同阶段采用不同的方法,从而能够保证整个数据仓库建模的质量。

总之,在整个数据仓库模型的设计和架构中,既涉及到业务知识,也涉及到了具体的技术,我们既需要了解丰富的行业经验,同时,也需要一定的信息技术来帮助我们实现我们的数据模型,最重要的是,我们还需要一个非常适用的方法论,来指导我们自己针对我们的业务进行抽象,处理,生成各个阶段的模型。

 

以上是关于浅谈数据仓库建设中的数据建模方法的主要内容,如果未能解决你的问题,请参考以下文章

数据仓库建设中的数据建模方法(转)

数据仓库建设中的数据建模方法

大数据数据仓库-独一无二的数据仓库建模指

数据仓库多维数据模型设计

数据仓库的两种建模方法

维度建模数据仓库生命周期简介