- 综合排序
- 最热优先
- 最新优先
- 来自专栏韩锋频道
数据建模1,2,3
1.何为建模？ 数据几乎总是用于两种目的：操作型记录的保存和分析型决策的制定。简单来说，操作型系统保存数据，分型型系统使用数据。 由于采用预计算、索引策略和其他优化方法，多维数据库可实现高性能查询。 在这三种方式中，星型模型使用较多，下面也着重对这种方式进行说明。 2. 维度建模 1).基本概念 在建模过程中，涉及到很多概念。 【业务过程】：下订单 【粒度】：每笔订单（拆分为单个物品） 【维度】：地域、年龄、渠道等（可供分析的角度） 【事实/度量】：订单金额等（可用于分析的数据） 2).建模步骤 收集业务需求与数据实现 在开始维度建模工作之前 既可以选择星型模型，部署在关系数据库上，通过事实表及通过主外键关联的维度表；也可以选择多维模型，落地于多维数据库中。 3).建模规范 以维度建模为理论基础，定义一系列术语来描述建模对象。 2).事实表设计 事实表作为数据仓库维度建模的核心，紧紧围绕着业务过程来设计，通过获取描述业务过程的度量来表达业务过程，包含了引用的维度和与业务过程有关的度量。
1.6K51发布于 2019-06-06 - 来自专栏Spark学习技巧
第2篇：数据库关系建模
第二篇：数据库关系建模 前言 ER建模环节完成后，需求就被描述成了ER图。之后，便可根据这个ER图设计相应的关系表了。 但从ER图到具体关系表的建立还需要经过两个步骤：1. 逻辑模型设计 2. 2. 列(column) 列就是字面意义上表的列。但是它也有时被称作属性，或者域。 3. 行(row) 行就是字面意义上表的行。但是它也有时被称作元祖，或者记录。 4. 2. 将具有复合属性的实体映射为关系 这类映射中，复合属性的各子属性会映射到的新的关系中，但是复合属性名本身不会。 如下实体： ? 将映射为关系： ? 我们首先可以认为概念模型建模和ER建模，需求可视化表达的是一个意思。在这个环节中，数据开发人员绘制ER图，并和项目各方人员协同需求，达成一致。 逻辑模型设计好后，就可以开始着手数据库的物理实现了。数据库的物理实现也被称为物理模型建模，这个阶段不但需要参照逻辑模型，还应当参照ER图。
2.3K61发布于 2018-03-20 - 来自专栏好好学习
【UML建模】（2） UML建模之用例图
用例图主要用来描述软件的使用者是谁，软件提供哪些功能，它用来表示一个系统中用例与参与者及其关系的图，主要用于需求分析阶段
1.5K11编辑于 2022-03-31 - 来自专栏大数据学习与分享
数据建模-维度建模-维度设计
作为维度建模的核心，我们在企业级的数据仓库中必须保证维度的唯一性。以淘宝商品维度为例，我们有且只允许有一个维度定义。 第二步：确定主维度表。 二、第二部分 在Kimball维度建模中，通常将度量称为“事实”，将环境描述为“维度”，维度是用于分析事实所需要的多样环境。 （3）同一类数据基于范式建模，拆分成同一类型数据库中多张的物理表，比如商品，有商品主表和商品扩展表，商品主表存商品基本信息；商品扩展表存储商品特殊信息，如不同产品线定制化的信息等；比如会员，有会员主表和会员扩展表 02 快照维表 维度的基本概念中介绍了自然键和代理键的定义，在Kimball的维度建模中，必须使用代理键作为每个维度表的主键，用于处理缓慢变化维度。 但在阿里巴巴数据仓库建设的实践过程中，虽然我们使用的是Kimball的维度建模的理论，但实际并未使用代理键。我们是如何处理缓慢变化维度，如何记录变化历史的呢？为什么不使用代理键呢？
2K31编辑于 2023-09-06 - 来自专栏波波烤鸭
PowerDesigner数据建模
PowerDesigner安装 云盘地址:https://pan.baidu.com/s/1MZnQhPZ6ityza9N9nAD3bw 提取码：8qpi 傻瓜式安装 E-R图 E-R图(实体关系图) 1.创建模型 2.创建E-R图 2.1创建 ? 2.2编辑 双击Entity_1 ? ? ? ? 2.3解决主键问题 问题提示 ? 解决方式 ? ? ? 2.4配置关联关系 1对多 ? ? ? 2.生成物理模型图 ? ? ? 3.修改不恰当的描述 ? ? 生成数据库脚本 ? ? ? ? ?
91841发布于 2019-04-02 - 来自专栏大数据与微服务架构
数据挖掘与建模
数据挖掘是基于统计学原理，利用机器学习中的算法工具实现价值信息的发现。机器学习是一种实现人工智能的方法，深度学习是实现机器学习的一种技术。 ? 非线性分类经典算法包括K近邻（KNN）、支持向量机（SVM）、决策树（D Tree）、朴素贝叶斯（NB） 2、回归分析：反映事务数据属性在时间上的特征，预测数据间的相关关系，与分类区别在于，分类是预测目标的离散变量 二、无监督学习（事先没有任何训练数据样本，需要直接对数据进行建模，即不提供经验和训练样本，完全靠自己摸索） 1、关联分析：描述数据库中数据之间存在关系的规则。 2、聚类分析：训练样本标签信息未知，通过学习揭示数据内在性质及规律。 典型算法：K均值算法（K-means）、DBSCAN（具有噪声的基于密度的聚类方法）。 三、沃尔玛经典营销案例：啤酒与尿布 ? 模型发现：20世纪90年代的美国沃尔玛超市中，管理人员分析销售数据时发现了一个令人难于理解的现象：在某些特定的情况下，“啤酒”与“尿布”两件看上去毫无关系的商品会经常出现在同一个购物篮中。
1.2K30发布于 2020-04-11 - 来自专栏斑斓
MongoDB的数据建模
MongoDB是一种面向Document的NoSQL数据库，如果我们还是按照RDB的方式来思考MongoDB的数据建模，则不能有效地利用MongoDB的优势；然而，我们也不能因为Document的灵活性 适度的建模是非常有必要的，尤其对于相对复杂的关联关系。因为在MongoDB中，处理这种关联关系既可以使用Link，也可以使用Embedded。 这种建模方式还带来另一种可能，就是原本Person->Tasks的one-to-N关系就可以变为N-to-N关系，因为一个Task可以被多个Person所拥有。 如果采用Embedded方式，则会导致Task数据的冗余。 one-to-few one-to-many one-to-squillions 但我认为该怎么实现关联，应该从Entity之间的领域关系来判断，我们可以引入DDD的Aggregation设计概念作为建模的依据
1.3K60发布于 2018-03-07 - 来自专栏大数据解决方案
ETL和数据建模
一、什么是ETL ETL是数据抽取（Extract）、转换（Transform）、加载（Load ）的简写，它是将OLTP系统中的数据经过抽取，并将不同数据源的数据进行转换、整合，得出一致性的数据，然后加载到数据仓库中 二、数据仓库的架构 数据仓库（Data Warehouse \ DW）是基于OLTP系统的数据源，为了便于多维分析和 多角度展现将其数据按特定的模式进行存储而建立的关系型数据库，它不同于多维数据库，数据仓库中的数据是细节的 2、缓慢变化维度第二种类型：历史数据保留，新增数据也要保留。这时要将原数据更新，将新数据插入，需要使用UPDATE / INSERT，比如某一员工2005年在A部门，2006年时他调到了B部门。 2. ETL是DW系统的基础： DW系统以事实发生数据为基础，自产数据较少。 一个企业往往包含多个业务系统，均可能成为DW数据源。 业务系统数据质量良莠不齐，必须学会去伪存真。 增量数据文件：数据文件的内容为数据表的增量信息，包含表内新增及修改的记录。 全量数据文件：数据文件的内容为数据表的全量信息，包含表内的所有数据。
1.9K20发布于 2021-11-19 - 来自专栏飞鸟的专栏
MongoDB的数据建模
MongoDB是一个基于文档模型的NoSQL数据库，它的数据建模与传统的关系型数据库有很大的不同。在MongoDB中，数据是以文档的形式存储的，文档是一种类似于JSON的数据格式，非常灵活和扩展。 以下是一个简单的文档示例：{ "_id": ObjectId("60a8e03c8f61b9423fe2a303"), "name": "John", "age": 30, "email // 用户集合{ "_id": ObjectId("60a8e03c8f61b9423fe2a303"), "name": "John", "age": 30, "email": "john product": "Macbook Pro", "quantity": 1 } ]}// 订单集合{ "_id": ObjectId("60a8e03c8f61b9423fe2a304 "), "user_id": ObjectId("60a8e03c8f61b9423fe2a303"), "product": "iPhone", "quantity": 1}在这个示例中，
1.4K40编辑于 2023-05-09 - 来自专栏喵叔's 专栏
RavenDB数据建模--总结
只需将数据存储进去并通过键访问数据即可。同时我们还学习了使用过期功能来存储与时间相关的数据。 从键/值存储的简单模型开始，我们开始考虑真实的文档模型，学习了如何构建嵌入值来存储本质上是文档一部分的数据，还研学习了如何对关系和集合、多对一和多对多关联进行建模。 然后，我们介绍了更高级的建模技术，例如如何处理引用和配置数据，以及如何处理时态信息和分层结构。 接下来，我们讨论了建模时必须考虑的一些约束，例如如何处理文档的增长以及RavenDB中文档的良好大小。 我们学习了并发控制以及变化向量如何用于乐观并发和缓存，并且学习了为什么我们应该避免在模型中缓存聚合数据。 然后我们学习了如何处理带有附件的二进制数据，以及使用修订功能进行审计和更改跟踪，并且了解了我们可以在 RavenDB 中如何让文档数据过期。简要介绍了索引和查询时的引用处理。
76130编辑于 2022-05-25 - 来自专栏文渊之博
数据仓库建模
三、两种经典的数据仓库建模方法 前面的分层设计中你会发现有两种设计方法，关系建模和维度建模，下面分别简单介绍其特点和适用场景。 （2）建模方法 通常需要选择某个业务过程，然后围绕该过程建立模型，其一般采用自底向上的方法，从明确关键业务过程开始，再到明确粒度，再到明确维度，最后明确事实，非常简单易懂。 （3）优缺点 优点：技术要求不高，快速上手，敏捷迭代，快速交付；更快速完成分析需求，较好的大规模复杂查询的响应性能 缺点：维度表的冗余会较多，视野狭窄 2、关系建模 （1）定义 是数据仓库之父Inmon （2）建模方法 关系建模常常需要全局考虑，要对上游业务系统的进行信息调研，以做到对其业务和数据的基本了解，要做到主题划分，让模型有清晰合理的实体关系体系，以下是方法的示意： 以下是中国移动的概念模型的一种示例 2、数据及关系的理解：各个域的系统建设的时候没有统一文档和规范，要梳理出逻辑模型不容易，比如运营商的事件主题下的逻辑模型就非常复杂。
2K31发布于 2020-06-19 - 来自专栏数据库
论道数据仓库维度建模和关系建模
为什么要数据仓库建模呢？ Inmon的ER建模优点体现在规范性较好，冗余小，数据集成和数据一致性方面得到重视，适用于较为大型的企业级、战略级的规划，但缺点是需要全面了解企业业务、数据和关系，对于建模人员要求很高，实施周期非常长， 但Inmon和kimball关于关系建模和维度建模的争论其实也没什么值得探讨的，没有谁更好，在企业内，这两种建模方式往往同时存在，底层用关系建模合适一点，技术的优雅换来了数据的精简，往上维度建模更合适一些 在数据建模上，很多人纠结于如何建模，用关系建模、维度建模亦或其它？ 很多企业花了巨大的代价建设了一套数据模型，周期长达1-2年，几年后却推倒重来，问题的根子不在于当初的项目完成的情况如何，包括建模方式是否合理，而在于项目完成了成鸟兽散，缺乏持续的运营。
2.5K80发布于 2018-02-24 - 来自专栏学习成长指南
数学建模Python必知必会（2）
我们一般选择自己熟悉的这个方法就可以了，不然如果一个方法在不同的模块里面的这个名字是一样的，这个时候你有同时导入多个模块，这个时候就会冲突；关于第三方库的说明：内置模块直接导入，第三方库，需要使用这个pip包管理器进行这个库的安装；2. 面向对象编程基础面向对象这个思想在编程里面是常见的：java,C++都是这种思想；但是这个思想很难理解他的精髓，对于非科班同学，你如果只是使用这个python去解决这个国赛的数据题目，其实也不需要过于去理解这个思想 我们进行这个对象的实例化，传参数，三个参数（进一步证明构造方法里面的self不是参数，参数是我么自己加的）；3.面向对象---继承我觉得这个部分的内容不是很常用，但是可以了解一下，可能会遇到，因为我认为国赛考察我们的是这个数据的分析处理
24310编辑于 2025-03-22 - 来自专栏数据饕餮
数据仓库专题（2）-Kimball维度建模四步骤
一、前言 四步过程维度建模由Kimball提出，可以做为业务梳理、数据梳理后进行多维数据模型设计的指导流程，但是不能作为数据仓库系统建设的指导流程。本文就相关流程及核心问题进行解读。 二、数据仓库建设流程 以下流程是根据业务系统、组织结构、团队结构现状设定的数据仓库系统建设流程，适合系统结构复杂，团队协作复杂，人员结构复杂的情况，并且数据仓库建设团队和业务系统建设团队不同的情况。 图1 数据仓库系统建设流程 三、四步维度建模 Kimball四步建模流程适合上述数据仓库系统建设流程中模型设计环节，重点解决数据粒度、维度设计和事实表设计问题。四步建模流程如下图所示： ? 3.1 如何标识维度 标识维度解决的是业务人员如何描述来自业务过程的数据，维度用来表示“谁、什么、何时、何处、为何、如何”的问题。 四、未完待续 数据仓库专题作为项目笔记，持续更新中，敬请关注。
2K40发布于 2019-01-14 数据建模怎么做？一文讲清数据建模全流程
今天我就不跟你扯教科书上的理论了，就从实际应用的角度，把数据建模的全流程拆解开，重点说说这四个核心问题：需求该怎么接模型该怎么设计落地时要避开哪些坑后续怎么跟着迭代一、需求分析数据建模第一步，80%人都会踩坑 2. 明确数据边界：哪些数据该要，哪些不该要？业务方说“用户行为数据”，可能在他们看来，默认就包括APP、小程序、H5三端的点击记录，但技术这边就得问清楚：PC端的算不算？机器人的流量要不要过滤掉？ 数据建模的方法不少，像维度建模、实体关系建模、数据湖建模等等。但实际干活的时候，最常用的还是维度建模，特别是星型模型和雪花模型。为啥呢？ 可以借助数据集成与治理一体化平台FineDataLink，使用 JSON 生成算子，生成 JSON 格式数据，满足复杂业务场景下的数据清洗、转换和同步等需求。2. 2. 迭代有啥策略？迭代不能拍脑袋决定，得看数据反馈进行策略调整：结语数据建模是把业务价值和技术实现连起来的“结合点”，一个好的模型：让业务的人看得懂、用着顺，让技术的人改起来方便、跑起来顺畅。
1.2K10编辑于 2025-08-22数据仓库建模基石：维度建模与范式建模深度对比与选型指南
数据仓库建模概述：为何建模是数据基石 在数字化浪潮席卷各行各业的今天，数据已成为企业最宝贵的资产之一。 数据建模：构建数据世界的蓝图 如果说数据仓库是企业数据的"容器"，那么数据建模就是设计这个容器内部结构的"蓝图"。数据建模是通过定义数据结构、关系、约束和规则，将业务需求转化为具体数据模型的过程。 AI技术的普及也为数据建模带来了新的可能性。机器学习算法可以辅助建模过程，自动识别数据特征和关系，推荐最优的建模方案。同时，数据建模还需要考虑隐私保护和合规要求，特别是在处理个人敏感数据时。 类型1直接覆盖历史数据，类型2保留历史版本，类型3新增历史字段，每种策略都有其适用的场景。在2025年的数据环境中，随着实时分析需求的增加，缓慢变化维的处理策略需要更加灵活和高效。 以典型的销售分析查询为例，维度建模可能只需要2-3次表连接，而范式建模往往需要5次以上的复杂连接。这种差异在数据量增大时表现得更为明显。
98210编辑于 2025-11-29- 来自专栏飞鸟的专栏
MongoDB的数据关系建模
简介MongoDB是一种面向文档的数据库，因此在进行数据建模时，其与传统的关系型数据库有所不同。MongoDB支持多种数据关系建模方法，包括嵌入式数据模型和引用式数据模型。 数据关系建模MongoDB中的数据关系建模方法包括嵌入式数据模型和引用式数据模型。嵌入式数据模型在嵌入式数据模型中，一个文档可以包含另一个文档。这种关系称为嵌入式关系。 下面是一个使用嵌入式数据模型的示例，其中一个订单文档包含了一组产品文档：{ "_id": ObjectId("615c24da614b1fde2c9ccdf1"), "orderNumber": " 12345", "customerId": ObjectId("615c24da614b1fde2c9ccdf2")}在这个示例中，订单文档包含了一个名为“customerId”的字段，该字段是一个客户文档的 使用MongoDB数据关系建模的最佳实践以下是在使用MongoDB数据关系建模时的一些最佳实践：使用嵌入式数据模型时，考虑嵌套层数的问题。通常情况下，不建议超过嵌套3层，否则可能会影响查询性能。
1.1K20编辑于 2023-05-09 - 来自专栏Python与算法之美
图片数据建模流程范例
使用Pytorch实现神经网络模型的一般流程包括： 1，准备数据 2，定义模型 3，训练模型 4，评估模型 5，使用模型 6，保存模型。 对新手来说，其中最困难的部分实际上是准备数据过程。 我们在实践中通常会遇到的数据类型包括结构化数据，图片数据，文本数据，时间序列数据。 我们将分别以titanic生存预测问题，cifar2图片分类问题，imdb电影评论分类问题，国内新冠疫情结束时间预测问题为例，演示应用Pytorch对这四类数据的建模方法。 本篇我们示范cifar2图片数据建模流程。 cifar2数据集为cifar10数据集的子集，只包括前两种类别airplane和automobile。
2.1K10发布于 2020-07-20 scrapy数据建模与请求
学习目标：应用 在scrapy项目中进行建模应用 构造... 请注意，本文编写于 1724 天前，最后修改于 993 天前，其中某些信息可能已经过时。 学习目标： 应用 在scrapy项目中进行建模 应用 构造Request对象，并发送请求 应用 利用meta参数在不同的解析函数中传递数据 1. 数据建模 通常在做项目的过程中，在items.py中进行数据建模 1.1 为什么建模 定义item即提前规划好哪些字段需要抓，防止手误，因为定义好之后，在运行过程中，系统会自动检查 配合注释一起可以清晰的知道要抓取哪些字段 ，没有定义的字段不能抓取，在目标字段少的时候可以使用字典代替 使用scrapy的一些特定组件需要Item做支持，如scrapy的ImagesPipeline管道类，百度搜索了解更多 1.2 如何建模 在 文件中定义对数据处理的管道、在settings.py文件中注册启用管道 2.
80320编辑于 2023-05-17- 来自专栏大数据文摘
用户画像数据建模方法
本文将用户数据划分为静态信息数据、动态信息数据两大类。 ? 静态信息数据 用户相对稳定的信息，如图所示，主要包括人口属性、商业属性等方面数据。 这类信息，自成标签，如果企业有真实信息则无需过多建模预测，更多的是数据清洗工作，因此这方面信息的数据建模不是本篇文章重点。 3.3 数据建模方法 下面内容将详细介绍，如何根据用户行为，构建模型产出标签、权重。一个事件模型包括：时间、地点、人物三个要素。 上述模型权重值的选取只是举例参考，具体的权重值需要根据业务需求二次建模，这里强调的是如何从整体思考，去构建用户画像模型，进而能够逐步细化模型。 内容地址、行为类型、时间衰减，决定了权重模型是关键，权重值本身的二次建模则是水到渠成的进阶。模型举例偏重电商，但其实，可以根据产品的不同，重新定义接触点。
2.4K60发布于 2018-05-22
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号