首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏大数据学习与分享

    数据建模-维度建模-维度设计

    导读: 在Kimball维度建模中,通常将度量称为“事实”,将环境描述为“维度”,维度是用于分析事实所需要的多样环境。维度和维度属性是维度的两个核心概念,如何构建维度的属性是维度设计中需要关注的。 作为维度建模的核心,我们在企业级的数据仓库中必须保证维度的唯一性。以淘宝商品维度为例,我们有且只允许有一个维度定义。 第二步:确定主维度表。 二、第二部分 在Kimball维度建模中,通常将度量称为“事实”,将环境描述为“维度”,维度是用于分析事实所需要的多样环境。 表4:变化前商品表和订单表 商品 Key 商品 ID 商品标题 所属新类目 所属旧类目 其它属性 1000 item1 title1 类目 1 类目 1 ... 02 快照维表 维度的基本概念中介绍了自然键和代理键的定义,在Kimball的维度建模中,必须使用代理键作为每个维度表的主键,用于处理缓慢变化维度。

    2K31编辑于 2023-09-06
  • 来自专栏木东居士的专栏

    详解维度建模

    而维度建模解决了模式过分复杂的问题。 我们换一种方式来解释什么是维度建模。学过数据库的童鞋应该都知道星型模型,星型模型在数据仓库的设计中可以为是一种典型的维度模型。 我们在进行维度建模的时候会建一张事实表,这个事实表就是星型模型的中心,然后会有一堆维度表,这些维度表就是向外发散的星星。那么什么是事实表、什么又是维度表吗,下面会专门来解释。 0x02 基本概念 维度建模中有一些比较重要的概念,理解了这些概念,基本也就理解了什么是维度建模。 为了便于理解,我们先假设一个业务场景:聊天! 比如短信聊天、软件聊天这些聊天场景。 0x03 实践 下面我们将以聊天场景为例,详细讲一下维度建模的建模方式,并举例如果使用这个模型(这点还是很重要的)。 维度模型在很多开源的系统都中都有支持,比如Kylin,在建模的时候就是用的维度建模中的星型模型,当然在最新版本中也支持了雪花模型。

    9.1K121发布于 2018-05-25
  • 来自专栏鸿的学习笔记

    维度建模已死?

    ,维度数据建模更是其数据分析和建模的核心理念。 感兴趣的同学可以读下《数据仓库工具箱:维度建模权威指南》和阿里巴巴的《大数据之路》,从这两本书可以了解到维度数据建模的理论和工程实践。 维度数据建模起源于数据仓库权威专家 Ralph Kimball,虽然很多人说维度数据建模有很多种优点,但是作者认为其核心的优点有三个:优化计算、按主题组织数据和优化存储。 这些优点在历史上推动了维度数据建模在数据仓库领域的发展,吸引了很多人,但是站在此时此刻(2022年),我们需要重新审视为什么维度数据建模会存在和它是如何从根本上满足我们的需求的。 检索成本更高的值存储在维度表中,可以有选择地检索,从而节省处理成本。 那么为什么维度数据建模会消失呢?

    65831编辑于 2022-04-14
  • 来自专栏小晨讲Flink

    最新维度建模学习笔记

    01 为什么要维度建模? 提高数据访问效率,空间换时间 拆解复杂的处理过程,分层加工 降低原系统变更影响,层次化让模型更具有弹性 04 维度建模的三种方法? 维度建模:维度建模是从分析的角度,将业务数据重新按照事实和维度的形式进行组合,用于度量某个业务过程 朴素维度建模方法 面向原系统维度建模方法 面向业务看流程维度建模方法 05 常用名词? ,可以进行聚合和计算,例如下单金额 06 维度建模四个步骤? ,常见的有类目,部门组织结构等,通常的做法是将其打平,转化为固定深度 (3)规范化与反规范化 (4)维度的整合与拆分 垂直整合:维度的不同信息来源多个表 水平整合:维度来源不同数据源 水平拆分:维度可以按照类型进行拆分

    66150编辑于 2022-03-09
  • 来自专栏有关SQL

    最新维度建模学习笔记

    01 为什么要维度建模? 提高数据访问效率,空间换时间 拆解复杂的处理过程,分层加工 降低原系统变更影响,层次化让模型更具有弹性 04 维度建模的三种方法? 维度建模:维度建模是从分析的角度,将业务数据重新按照事实和维度的形式进行组合,用于度量某个业务过程 朴素维度建模方法 面向原系统维度建模方法 面向业务看流程维度建模方法 05 常用名词? ,可以进行聚合和计算,例如下单金额 06 维度建模四个步骤? ,常见的有类目,部门组织结构等,通常的做法是将其打平,转化为固定深度 (3)规范化与反规范化 (4)维度的整合与拆分 垂直整合:维度的不同信息来源多个表 水平整合:维度来源不同数据源 水平拆分:维度可以按照类型进行拆分

    83342发布于 2020-10-10
  • 来自专栏Spark学习技巧

    聊聊维度建模的灵魂所在——维度表设计

    前言 维度表是维度建模的灵魂所在,在维度表设计中碰到的问题(比如维度变化、维度层次、维度一致性、维度整合和拆分等)都会直接关系到维度建模的好坏,因此良好的维表设计就显得至关重要,今天就让我们就一起来探究下关于维表设计的相关概念和一些技术 因此在维度建模中,这一现象称为缓慢变化的维度,简称 缓慢变化维(slowly changing dimension, SCD)。 该技术适用于维度建模中不需要保留此维度属性历史变化的情况,常用于错误订正或者维度属性改变无关紧要的场景,比如用户的生日之前发生输入错误,不需要保留之前的生日历史数据。 那么维度建模如何处理这些层次结构呢? 在维度建模中,我们采用第一种来处理维度的层级问题,这样反规范化的处理牺牲了部分存储,但是给用户使用带来了便捷,也降低了学习使用成本。

    2.3K40发布于 2021-07-27
  • 来自专栏数据库

    论道数据仓库维度建模和关系建模

    维度建模以分析决策的需求为出发点构建模型,一般有较好的大规模复杂查询的响应性能,更直接面向业务,典型的代表是我们比较熟知的星形模型,以及在一些特殊场景下适用的雪花模型。 ,主要是简单的报表系统;后期数据量越来越大,系统越来越多,尝试用ER建模的数据仓库,但是在实践中发现快速变化的业务之下,构建ER模型的风险和难度都很高,现在则主要采用基于维度建模的模型方法了。” 但Inmon和kimball关于关系建模和维度建模的争论其实也没什么值得探讨的,没有谁更好,在企业内,这两种建模方式往往同时存在,底层用关系建模合适一点,技术的优雅换来了数据的精简,往上维度建模更合适一些 ,靠数据的冗余带来了可用性,优势互补,都说关系建模不易,概念模型是个坎,其实维度建模也不易,维度的梳理和运营是艰巨的,否则就是烂摊子的活。 在数据建模上,很多人纠结于如何建模,用关系建模、维度建模亦或其它?

    2.5K80发布于 2018-02-24
  • 来自专栏Lansonli技术博客

    数仓基础(四):维度建模理论之维度表

    ​维度建模理论之维度表一、维度表概述维度表是维度建模的基础和灵魂。前文提到,事实表紧紧围绕业务过程进行设计,而维度表则围绕业务过程所处的环境进行设计。 维度表主要包含一个主键和各种维度字段,维度字段称为维度属性。二、维度表设计步骤1、确定维度(表)在设计事实表时,已经确定了与每个事实表相关的维度,理论上每个相关维度均需对应一张维度表。 另外,如果某些维度表的维度属性很少,例如只有一个XX名称,则可不创建该维度表,而把该表的维度属性直接增加到与之相关的事实表中,这个操作称为维度退化。 维度表的粒度通常与主维表相同。3、确定维度属性确定维度属性即确定维度表字段。维度属性主要来自于业务系统中与该维度对应的主维表和相关维表。维度属性可直接从主维表或相关维表中选择,也可通过进一步加工得到。 4、多值属性维表中的某个属性同时有多个值,称之为“多值属性”,例如商品维度的平台属性和销售属性,每个商品均有多个属性值。针对这种情况,通常有可以采用以下两种方案。

    1.4K21编辑于 2024-10-27
  • 来自专栏大数据解决方案

    数仓建模 - 维度 vs 关系

    发展至今以维度建模和关系建模为主,而随着互联网的发展,数据从GB到PB的裱花,企业业务迭代更新亦是瞬息万变,对维度模型的偏爱渐渐有统一互联网数仓建模标准的趋势。 维度模型以实体与实体之间发生的事务/实为切入,而关系建模则以实体与实体之间的关系来组织数据。在当前的环境下,互联网更倾向于维度建模,而传统行业则较多沿用关系建模。 模型理念 维度建模 以事实表为核心,多个维度表作为手臂形成的星型模型,是维度建模的典型实现方式。 建模实现的对比 维度建模:从实际的需求出发进行数据建设,一般面向部门/业务形成独立的数据集市,这样的方式带来鲜明的特点,高效。 从建模风格上看,它采用了一种由第三范式方法与维度建模方法混合而成的方式,以二者的独特组合来满足企业需求。

    1.3K31编辑于 2022-02-17
  • 来自专栏Spark学习技巧

    浅谈数仓模型(维度建模)

    维度建模的主要是4个主要决策: 1、选择业务过程 业务过程是通常表示的是业务执行的活动,与之相关的维度描述和每个业务过程事件关联的描述性环境。 通常由某个操作型系统支持,例如:订单系统。 3、确认维度 健壮的维度集合来粉饰事实表。 维度表示承担每个度量环境中所有可能的单值描述符。 4、确认事实 不同粒度的事实必须放在不同的事实表中。 事实表的设计完全依赖物理活动,不受最终报表的影响。 如果只是依靠单纯的维度建模,不能保证数据来源的一致性和准确性,而且在数据仓库的底层,不是特别适用于维度建模的方法。 ; 3、宽表的涉及不依赖具体的业务需求而是根据整体业务线相匹配; 4、尽量用维度建模代替宽表; 为什么说尽量用维度建模代替宽表,就算字段和数据会冗余,维度建模的方式也会表全量数据的宽表模式较好,原因: ; 3、新增维度完全可以按照星型模型或者雪花模型动态添加新维度; 4、维度模型可以作为宽表的基础,一旦确定全部的数据流程,可以通过维度模型再生成对应宽表进行快速的业务支撑; 指标管理 数仓模型中,最重要的模块可能就是数据治理

    2.6K40发布于 2021-07-27
  • 来自专栏五分钟学大数据

    通俗易懂数仓建模—Inmon范式建模与Kimball维度建模

    今天我们就来聊下这两种建模方式——范式建模和维度建模。 本文开始先简单理解两种建模的核心思想,然后根据一个具体的例子,分别使用这两种建模方式进行建模,大家便会一目了然! 可以看出,在 Kimball 的维度建模中,不需要单独维护数据关系表,因为关系已经冗余在事实表和维度表中。 在限定的维度条件上,计算商品单价的总和,也就是 sum 度量值,即可得到我们想要的结果。 ---- 维度建模,就是依靠维度进行建模,但是如果维度设计的不合理,会不会带来问题呢? 所以,互联网公司更多场景下趋向于使用 Kimball 维度-事实的设计反而可以更快地完成任务。 四、两种建模混合场景 通过以上几个小节我们已经理解了范式建模与维度建模的思想以及它们之间的异同,优缺点。 利用维度建模方法建设数据集市。

    3.4K11发布于 2021-04-15
  • 来自专栏小黎子数据分析

    数据仓库系列之维度建模

    按照一般书籍的介绍,维度建模还会分为星型模型、雪花模型等,各有优缺点,但很少直接回答一个问题,也就是数据仓库为什么要采用维度建模? ? 星型模型 ? 2、各种数据建模方法:如维度建模、范式建模法、实体建模法。 3、辅助系统:调度系统、元数据系统、ETL系统、可视化系统这类辅助系统。 接下来具体来了解维度建模 一、什么是维度建模 维度模型是数据仓库领域大师Ralph Kimball 所倡导,他的《数据仓库工具箱》,是数据仓库工程领域最流行的数仓建模经典。 星型模型 二、维度建模的基本要素 维度建模中有一些比较重要的概念,理解了这些概念,基本也就理解了什么是维度建模。 1. 1、数据冗余小(因为很多具体的信息都存在相应的维度表中了,比如客户信息就只有一份) 2、结构清晰(表结构一目了然) 3、便于做OLAP分析(数据分析用起来会很方便) 4、增加使用成本,比如查询时要关联多张表

    1.7K30发布于 2019-08-26
  • 来自专栏腾讯大讲堂的专栏

    维度建模和指标体系构建

    01 数仓建模综述 数据建模是数据开发工作中的核心与基石,好的模型体系好处很多: 降低成本:优秀的模型设计能够提升数据复用性,减少计算/存储资源浪费 提升开发效率:优秀的模型设计能够降低数据使用门槛,减少工作量 目前业界使用最多的模型是Ralph Kimball 在《数据仓库工具》中提出的维度建模模型,其中典型的代表如星型模型,雪花模型。 一个典型的维度建模一般需要经过如下几个步骤: 业务调研:调研需要建模的业务形态,划分基本的业务线/数据域 层次设计:定义数仓层级,保证各层级之间职责明确,划分清晰 规范设计:定义数仓中表/字段的命名规范 05 模型实施 业务调研和架构设计 在构建数仓模型之前首先要分析建模的业务过程,主要包含以下三块工作: 调研业务场景和数据需求,划分业务板块和数据域 设计数仓架构:构建总线矩阵,抽象数据域下的业务过程和维度主体 因此在数仓建模的时候应该考虑将两者维护在同一个数据仓库之下,减少重复开发。

    4.9K41发布于 2020-11-23
  • 来自专栏Spark学习技巧

    维度建模技术实践——深入事实表

    事实表是维度建模的核心表和基本表。 它存储了业务过程中的各种度量和事实,而这些度量和事实正是下游数据使用人员所要关心和分析的对象。 理解概念的最佳途径无疑是实际的例子,因此下面将结合超市零售业务以及维度建模的四个环节来说明事务事实表。 (4)确定事实 维度设计的最后一步,是确定哪些事实和度量应该在事实表中出现。对于本例,商品销售数量、销售价格和销售金额很容易确定下来。 (3)确认维度 对于超市零售库存,相应的维度为周期(天 周、月等) 商品、仓库(总仓、分仓或者门店等)。 (4)确定事实 这里的事实很容易确定,即库存量。 以学生在各门课程中的出席情况为例给出无事实的事实表的维度设计方案: ? 总结 在经典的维度建模事实表设计中,事实表将仅存储维度表外键、选定的度量以及退化维度等,例如我们前面提到的超市零售事务事实表。

    2K20发布于 2021-07-27
  • 来自专栏架构师修炼

    漫谈数据仓库之维度建模

    详细介绍维度建模的基本概念以及相关理论。 为了能更真切地理解什么是维度建模,我将模拟一个大家都十分熟悉的电商场景,运用前面讲到的理论进行建模。 一、什么是维度建模 维度模型是数据仓库领域大师Ralph Kimall所倡导,他的《数据仓库工具箱》,是数据仓库工程领域最流行的数仓建模经典。 维度建模以分析决策的需求出发构建模型,构建的数据模型为分析需求服务,因此它重点解决用户如何更快速完成分析需求,同时还有较好的大规模复杂查询的响应性能。 我们换一种方式来解释什么是维度建模。 学过数据库的童鞋应该都知道星型模型,星型模型就是我们一种典型的维度模型。我们在进行维度建模的时候会建一张事实表,这个事实表就是星型模型的中心,然后会有一堆维度表,这些维度表就是向外发散的星星。 那么什么是事实表、什么又是维度表吗,下面会专门来解释。 二、维度建模的基本要素 维度建模中有一些比较重要的概念,理解了这些概念,基本也就理解了什么是维度建模。 1.

    1.1K20发布于 2021-01-05
  • 来自专栏数据派THU

    数仓建模——维度表详细讲解

    来源:菜鸟数据之旅 本文约2100字,建议阅读5分钟 维度表是一种数据建模技术,用于存储与数据中心的各个业务领域相关的维度信息。 一、 维度表是什么 维度表是一种数据建模技术,用于存储与数据中心的各个业务领域相关的维度信息。它通常用于构建数据仓库、数据集市等决策支持系统,以便进行多维数据分析和报告。 在数据仓库中,维度表是与事实表相对应的表。维度表是维度建模的基础和灵魂。 4、多值属性 维表中的某个属性同时有多个值,称之为“多值属性”,例如商品维度的平台属性和销售属性,每个商品均有多个属性值。 针对这种情况,通常有可以采用以下两种方案。 维度表的粒度通常与主维表相同。 3)确定维度属性 确定维度属性即确定维度表字段。维度属性主要来自于业务系统中与该维度对应的主维表和相关维表。

    1.9K10编辑于 2023-05-11
  • 数据仓库建模基石:维度建模与范式建模深度对比与选型指南

    通过实施统一的数据建模标准,该企业建立了企业级数据模型,实现了以下改进: 数据一致性提升85%,消除了部门间的数据争议 报表生成时间从平均4小时缩短到30分钟 决策效率提升60%,管理层能够基于统一数据快速做出判断 这种趋势使得维度建模在当前的商业智能项目中获得了更广泛的应用。 实战案例分析:不同场景下的建模选择 电商分析场景:维度建模的典型应用 在电商行业的数据分析中,维度建模展现出了显著优势。 业务需求维度: 查询性能要求:高并发查询场景优先维度建模 分析复杂度:多维度分析需求适合维度建模 数据一致性要求:严格一致性需求倾向范式建模 技术环境维度: 团队技术能力:维度建模更易理解和维护 现有技术栈 检查查询模式: 简单聚合需求 → 维度建模;复杂关联逻辑 → 范式建模。 考虑团队资源: 团队熟悉维度设计 → 倾向维度建模;具备范式设计经验 → 倾向范式建模。 建模方法的融合与演进 维度建模正在向更加动态化的方向发展。传统的静态维度正在被可动态调整的智能维度所取代,这些维度能够根据业务变化自动调整粒度级别。

    98210编辑于 2025-11-29
  • 来自专栏区块链入门

    【总结】维度数据建模过程及举例

    摘要 本文介绍数据仓库中维度数据建模的过程描述,并举一个示例以加深对相关概念的理解。 2. 维度建模以分析决策的需求出发构建模型,构建的数据模型为分析需求服务,因此它重点解决用户如何更快速完成分析需求,同时还有较好的大规模复杂查询的响应性能。 2.2 维度建模过程 第一步:选择业务过程 1、通过对业务需求以及可用数据源的综合考虑,确定对哪种业务过程开展建模工作 2、建立的第一个维度模型应该是一个最有影响的模型——它应该对最紧迫的业务问题作出回答 在考虑可能存在的事实时,可能会发现仍然需要调整早期的粒度声明和维度选择 2.3 维度建模的基本要素 维度建模中有一些比较重要的概念,理解了这些概念,基本也就理解了什么是维度建模。 1. 2.4 维度建模过程举例 下面我们将以电商为例,详细讲一下维度建模的建模方式,并举例如果使用这个模型(这点还是很重要的)。 一、业务场景 假设我们在一家电商网站工作,比如某宝、某东。

    2.9K30编辑于 2022-05-13
  • 来自专栏数据仓库

    数据仓库(03)数仓建模之星型模型与维度建模

    维度建模是一种将数据结构化的逻辑设计方法,也是一种广泛应用的数仓建模方式,它将客观世界划分为度量和上下文。 它与实体-关系建模有很大的区别,实体-关系建模是面向应用,遵循第三范式,以消除数据冗余为目标的设计技术。维度建模是面向分析,为了提高查询性能可以增加数据冗余,反规范化的设计技术。 这些一个一个具体的维度聚集而成的二维表就是维度表,一般维度都是有限的。  下面是一个具体的维度建模的例子,以订单为例。 图片基于上面的理解,我们就可以比较好的了解我们的维度建模了。 维度建模,就是将我们的每一个业务过程,拆分为事实表和维度表,事实表对应着具体的指标度量,维度表对应着事实的描述,状态,也就事实对应的环境。    需要数据仓库资料可以点击这个领取数据仓库(13)大数据数仓经典最值得阅读书籍推荐** 参考文章:数据仓库(01)什么是数据仓库,数仓有什么特点数据仓库(02)数仓、大数据与传统数据库的区别数据仓库(03)数仓建模之星型模型与维度建模数据仓库

    1.2K11编辑于 2022-09-21
  • 来自专栏五分钟学大数据

    数据仓库:详解维度建模之事实表

    事实表特征 事实表作为数仓维度建模的核心,紧紧围绕着业务过程来设计,通过获取描述业务过程的度量来表达业务过程,包含了引用的维度和业务过程有关的度量。 直接通过退化维度实现对事实表的过滤查询、控制聚合层次、排序数据以及定义主从关系等 三、事实表设计方法 Kimball的四步维度建模方法:选择业务过程、声明粒度、确定维度、确定事实。 Step 3:确定维度。 完成粒度声明以后,也就意味着确定了主键,对应的维度组合以及相关的维度字段就可以确定了,应该选择能够描述清楚业务过程所处的环境的维度信息。 Step 4:确定事实。 Step 5:冗余维度。 冗余维度是在kimball维度建模方法基础上新增的步骤。主要是因为在大数据的事实表模型设计中,需要考虑更多的是提高下游用户的使用效率,降低数据获取的复杂性,减少关联的表数量。 多源过程 针对多源业务建模,主要考虑事实表的粒度问题。

    4.5K11编辑于 2022-12-29
领券