首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏好好学习

    【UML建模】(5) UML建模之活动图

    活动图的建模技术 对业务流程建模 选择一个将要描述的重要过程,过程中尽量涉及数量少但是关键的对象或参与者,将无关或关联很小的对象排除在外。 把局部的过于复杂的动作序列加以总结,绘制成一个活动节点;如果需要,把这个动作序列使用另外的活动图进行建模。 找出连接这些动作和活动节点的控制流,并且准确找到过程中的分支、分叉、合并与结合节点。 对用例交互建模 选择概念用例--即从系统对客户提供的各种服务中确定出一个关键业务,这个关键业务可能是在多个相同或者不同的情况下反复出现,或者是系统需要提供的一个关键服务或进行的关键操作。

    4.4K20编辑于 2022-03-31
  • 来自专栏PowerBI入门100例

    2.35 PowerBI数据建模-字段参数的5种妙用

    操作步骤 STEP 1 点击菜单栏建模下的新建参数,选择字段。 举例模型度量值Sales = SUM('Fact_Sales'[SalesVolume])#Product_Sold = DISTINCTCOUNT(Fact_Sales[Product])字段参数的5种用法 用户就可以按需选择字段,非常适合按需下载明细数据,如下:5 全动态透视表/透视图如果同时使用多个维度字段参数和一个度量值参数,就能实现全动态的自定义分析了,类似于透视表/透视图。

    77310编辑于 2025-02-25
  • 来自专栏大数据学习与分享

    数据建模-维度建模-维度设计

    作为维度建模的核心,我们在企业级的数据仓库中必须保证维度的唯一性。以淘宝商品维度为例,我们有且只允许有一个维度定义。 第二步:确定主维度表。 二、第二部分 在Kimball维度建模中,通常将度量称为“事实”,将环境描述为“维度”,维度是用于分析事实所需要的多样环境。 (3)同一类数据基于范式建模,拆分成同一类型数据库中多张的物理表,比如商品,有商品主表和商品扩展表,商品主表存商品基本信息;商品扩展表存储商品特殊信息,如不同产品线定制化的信息等;比如会员,有会员主表和会员扩展表 表5:变化后商品表和订单表 商品 Key 商品 ID 商品标题 所属新类目 所属旧类目 其它属性 1000 item1 title1 类目 2 类目 1 ... 但在阿里巴巴数据仓库建设的实践过程中,虽然我们使用的是Kimball的维度建模的理论,但实际并未使用代理键。我们是如何处理缓慢变化维度,如何记录变化历史的呢?为什么不使用代理键呢?  

    2K31编辑于 2023-09-06
  • 来自专栏JavaEdge

    5-基础构建模块

    2 并发容器 Java5提供了多种并发容器来改进同步容器的性能。 同步容器将所有对容器状态的访问都串行化,以实现他们的线程安全性。 在Java 5中增加了 ConcurrentHashMap,用来替代同步且基于散列的Map,增加了对一些常见符合操作的支持,例如“若没有则添加”、替换以及有条件删除等。

    51720编辑于 2022-11-29
  • 来自专栏波波烤鸭

    PowerDesigner数据建模

    PowerDesigner安装 云盘地址:https://pan.baidu.com/s/1MZnQhPZ6ityza9N9nAD3bw 提取码:8qpi 傻瓜式安装 E-R图 E-R图(实体关系图) 1.创建模型 生成数据库脚本 ? ? ? ? ?

    91841发布于 2019-04-02
  • 来自专栏大数据与微服务架构

    数据挖掘与建模

    数据挖掘是基于统计学原理,利用机器学习中的算法工具实现价值信息的发现。机器学习是一种实现人工智能的方法,深度学习是实现机器学习的一种技术。 ? 非线性分类经典算法包括K近邻(KNN)、支持向量机(SVM)、决策树(D Tree)、朴素贝叶斯(NB) 2、回归分析:反映事务数据属性在时间上的特征,预测数据间的相关关系,与分类区别在于,分类是预测目标的离散变量 二、无监督学习(事先没有任何训练数据样本,需要直接对数据进行建模,即不提供经验和训练样本,完全靠自己摸索) 1、关联分析:描述数据库中数据之间存在关系的规则。 2、聚类分析:训练样本标签信息未知,通过学习揭示数据内在性质及规律。 典型算法:K均值算法(K-means)、DBSCAN(具有噪声的基于密度的聚类方法)。 三、沃尔玛经典营销案例:啤酒与尿布 ? 模型发现:20世纪90年代的美国沃尔玛超市中,管理人员分析销售数据时发现了一个令人难于理解的现象:在某些特定的情况下,“啤酒”与“尿布”两件看上去毫无关系的商品会经常出现在同一个购物篮中。

    1.2K30发布于 2020-04-11
  • 来自专栏斑斓

    MongoDB的数据建模

    MongoDB是一种面向Document的NoSQL数据库,如果我们还是按照RDB的方式来思考MongoDB的数据建模,则不能有效地利用MongoDB的优势;然而,我们也不能因为Document的灵活性 适度的建模是非常有必要的,尤其对于相对复杂的关联关系。因为在MongoDB中,处理这种关联关系既可以使用Link,也可以使用Embedded。 这种建模方式还带来另一种可能,就是原本Person->Tasks的one-to-N关系就可以变为N-to-N关系,因为一个Task可以被多个Person所拥有。 如果采用Embedded方式,则会导致Task数据的冗余。 one-to-few one-to-many one-to-squillions 但我认为该怎么实现关联,应该从Entity之间的领域关系来判断,我们可以引入DDD的Aggregation设计概念作为建模的依据

    1.3K60发布于 2018-03-07
  • 来自专栏大数据解决方案

    ETL和数据建模

    一、什么是ETL ETL是数据抽取(Extract)、转换(Transform)、加载(Load )的简写,它是将OLTP系统中的数据经过抽取,并将不同数据源的数据进行转换、整合,得出一致性的数据,然后加载到数据仓库中 二、数据仓库的架构 数据仓库(Data Warehouse \ DW)是基于OLTP系统的数据源,为了便于多维分析和 多角度展现将其数据按特定的模式进行存储而建立的关系型数据库,它不同于多维数据库,数据仓库中的数据是细节的 主题要体现某一方面的各分析角度(维度)和统 计数值型数据(量度),确定主题时要综合考虑,一个主题在数据仓库中即为一个数据集市,数据集市体现了某一方面的信息,多个数据集市构成了数据仓库。 增量数据文件:数据文件的内容为数据表的增量信息,包含表内新增及修改的记录。 全量数据文件:数据文件的内容为数据表的全量信息,包含表内的所有数据。 带删除的增量:数据文件的内容为数据表的增量信息,包含表内新增、修改及删除的记录,通常删除的记录以字段DEL_IND='D'标识该记录。 5.

    1.9K20发布于 2021-11-19
  • 来自专栏飞鸟的专栏

    MongoDB的数据建模

    MongoDB是一个基于文档模型的NoSQL数据库,它的数据建模与传统的关系型数据库有很大的不同。在MongoDB中,数据是以文档的形式存储的,文档是一种类似于JSON的数据格式,非常灵活和扩展。 集合中的每个文档都可以有不同的结构,不同于传统数据库中表中的行,它们可以有不同的列和数据类型。 以下是一些关键的设计考虑因素:数据的一致性在MongoDB中,数据的一致性需要通过应用程序来保证。在设计文档模式时,需要确保每个文档都包含完整的数据,以避免应用程序在查询时需要多次访问数据库。 在将数据分布到多个节点时,需要确保数据的相关性。通常可以将数据根据其相关性分组到同一个集合中,这样可以避免在查询时需要访问多个集合。此外,还可以考虑使用分片(sharding)来分散数据负载。 这种设计方式可以减少重复数据,同时也可以提高查询性能和数据一致性。

    1.4K40编辑于 2023-05-09
  • 来自专栏喵叔's 专栏

    RavenDB数据建模--总结

    只需将数据存储进去并通过键访问数据即可。同时我们还学习了使用过期功能来存储与时间相关的数据。 从键/值存储的简单模型开始,我们开始考虑真实的文档模型,学习了如何构建嵌入值来存储本质上是文档一部分的数据,还研学习了如何对关系和集合、多对一和多对多关联进行建模。 然后,我们介绍了更高级的建模技术,例如如何处理引用和配置数据,以及如何处理时态信息和分层结构。 接下来,我们讨论了建模时必须考虑的一些约束,例如如何处理文档的增长以及RavenDB中文档的良好大小。 我们学习了并发控制以及变化向量如何用于乐观并发和缓存,并且学习了为什么我们应该避免在模型中缓存聚合数据。 然后我们学习了如何处理带有附件的二进制数据,以及使用修订功能进行审计和更改跟踪,并且了解了我们可以在 RavenDB 中如何让文档数据过期。简要介绍了索引和查询时的引用处理。

    76130编辑于 2022-05-25
  • 来自专栏文渊之博

    数据仓库建模

    应用层模型由各应用按需自行建设,其中基础数据模型一般采用ER模型,融合数据模型采用维度建模思路。 三、两种经典的数据仓库建模方法 前面的分层设计中你会发现有两种设计方法,关系建模和维度建模,下面分别简单介绍其特点和适用场景。 维度建模以分析决策的需求出发构建模型,构建的数据模型为分析需求服务,因此它重点解决用户如何更快速完成分析需求,同时还有较好的大规模复杂查询的响应性能,更直接面向业务。 运营商以前都是关系建模,现在其实边界越来越模糊,很多大数据业务变化很快,采用维度建模也比较方便,不需要顶层设计。 四、企业建模的三点经验 维度建模就不说了,只要能理解业务过程和其中涉及的相关数据、维度就可以,但自顶向下的关系建模难度很大,以下是关系建模的三个建设要点。

    2K31发布于 2020-06-19
  • 来自专栏数据库

    论道数据仓库维度建模和关系建模

    为什么要数据仓库建模呢? 但这个问题又很重要,因为有标杆认识到差距才能进步,有伙伴邀笔者去讲讲数据建模,说实话,笔者也不知道怎么讲,因为这个跟企业自己的业务和数据太相关了,所谓的业界的标准建模理论和方法也变得无足轻重。 Inmon的ER建模优点体现在规范性较好,冗余小,数据集成和数据一致性方面得到重视,适用于较为大型的企业级、战略级的规划,但缺点是需要全面了解企业业务、数据和关系,对于建模人员要求很高,实施周期非常长, 但Inmon和kimball关于关系建模和维度建模的争论其实也没什么值得探讨的,没有谁更好,在企业内,这两种建模方式往往同时存在,底层用关系建模合适一点,技术的优雅换来了数据的精简,往上维度建模更合适一些 在数据建模上,很多人纠结于如何建模,用关系建模、维度建模亦或其它?

    2.5K80发布于 2018-02-24
  • 数据建模怎么做?一文讲清数据建模全流程

    其实数据建模这事儿,就是把业务需求和技术实现连起来的那根线,看着基础,却藏着不少坑。 今天我就不跟你扯教科书上的理论了,就从实际应用的角度,把数据建模的全流程拆解开,重点说说这四个核心问题:需求该怎么接模型该怎么设计落地时要避开哪些坑后续怎么跟着迭代一、需求分析数据建模第一步,80%人都会踩坑 明确数据边界:哪些数据该要,哪些不该要?业务方说“用户行为数据”,可能在他们看来,默认就包括APP、小程序、H5三端的点击记录,但技术这边就得问清楚:PC端的算不算?机器人的流量要不要过滤掉? 所以跟业务方沟通需求的时候,拿着“5W1H”清单去问细节:Who(谁用)What(具体要啥指标)When(时间范围是啥)Where(数据从哪儿来)Why(业务上要解决啥问题)How(输出成啥样)二、模型设计需求分析清楚了 数据建模的方法不少,像维度建模、实体关系建模、数据湖建模等等。但实际干活的时候,最常用的还是维度建模,特别是星型模型和雪花模型。为啥呢?

    1.2K10编辑于 2025-08-22
  • 数据仓库建模基石:维度建模与范式建模深度对比与选型指南

    数据仓库建模概述:为何建模是数据基石 在数字化浪潮席卷各行各业的今天,数据已成为企业最宝贵的资产之一。 数据建模:构建数据世界的蓝图 如果说数据仓库是企业数据的"容器",那么数据建模就是设计这个容器内部结构的"蓝图"。数据建模是通过定义数据结构、关系、约束和规则,将业务需求转化为具体数据模型的过程。 AI技术的普及也为数据建模带来了新的可能性。机器学习算法可以辅助建模过程,自动识别数据特征和关系,推荐最优的建模方案。同时,数据建模还需要考虑隐私保护和合规要求,特别是在处理个人敏感数据时。 以典型的销售分析查询为例,维度建模可能只需要2-3次表连接,而范式建模往往需要5次以上的复杂连接。这种差异在数据量增大时表现得更为明显。 主要问题包括: 复杂查询响应时间超过5分钟 业务人员无法自主进行数据探索 系统维护成本超出预算30% 数据更新与查询需求存在严重冲突 这个案例提醒我们,建模方法的选择必须与具体业务场景深度匹配,任何脱离实际需求的技术决策都可能带来严重后果

    98210编辑于 2025-11-29
  • 来自专栏飞鸟的专栏

    MongoDB的数据关系建模

    简介MongoDB是一种面向文档的数据库,因此在进行数据建模时,其与传统的关系型数据库有所不同。MongoDB支持多种数据关系建模方法,包括嵌入式数据模型和引用式数据模型。 数据关系建模MongoDB中的数据关系建模方法包括嵌入式数据模型和引用式数据模型。嵌入式数据模型在嵌入式数据模型中,一个文档可以包含另一个文档。这种关系称为嵌入式关系。 使用MongoDB数据关系建模的最佳实践以下是在使用MongoDB数据关系建模时的一些最佳实践:使用嵌入式数据模型时,考虑嵌套层数的问题。通常情况下,不建议超过嵌套3层,否则可能会影响查询性能。 当数据需要在多个文档中共享时,使用引用式数据模型可以更好地管理数据。例如,一个订单可能需要关联到多个客户和产品,这时使用引用式数据模型会更加方便。在使用引用式数据模型时,需要仔细考虑引用文档的结构。 引用文档的结构应该尽量简单,以便于使用简单的查询来检索相关数据。在使用引用式数据模型时,可以使用MongoDB的聚合框架来联接多个文档。

    1.1K20编辑于 2023-05-09
  • 来自专栏Python与算法之美

    图片数据建模流程范例

    使用Pytorch实现神经网络模型的一般流程包括: 1,准备数据 2,定义模型 3,训练模型 4,评估模型 5,使用模型 6,保存模型。 对新手来说,其中最困难的部分实际上是准备数据过程。 我们在实践中通常会遇到的数据类型包括结构化数据,图片数据,文本数据,时间序列数据。 我们将分别以titanic生存预测问题,cifar2图片分类问题,imdb电影评论分类问题,国内新冠疫情结束时间预测问题为例,演示应用Pytorch对这四类数据的建模方法。 本篇我们示范cifar2图片数据建模流程。 5] 0 Dropout2d-5 [-1, 64, 5, 5] 0 AdaptiveMaxPool2d

    2.1K10发布于 2020-07-20
  • scrapy数据建模与请求

    学习目标:应用 在scrapy项目中进行建模应用 构造... 请注意,本文编写于 1724 天前,最后修改于 993 天前,其中某些信息可能已经过时。 学习目标: 应用 在scrapy项目中进行建模 应用 构造Request对象,并发送请求 应用 利用meta参数在不同的解析函数中传递数据 1. 数据建模 通常在做项目的过程中,在items.py中进行数据建模 1.1 为什么建模 定义item即提前规划好哪些字段需要抓,防止手误,因为定义好之后,在运行过程中,系统会自动检查 配合注释一起可以清晰的知道要抓取哪些字段 ,没有定义的字段不能抓取,在目标字段少的时候可以使用字典代替 使用scrapy的一些特定组件需要Item做支持,如scrapy的ImagesPipeline管道类,百度搜索了解更多 1.2 如何建模 在 : # scrapy发送的每一个请求的默认UA都是设置的这个User-Agent USER_AGENT = 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_12_5)

    80320编辑于 2023-05-17
  • 来自专栏大数据文摘

    用户画像数据建模方法

    这类信息,自成标签,如果企业有真实信息则无需过多建模预测,更多的是数据清洗工作,因此这方面信息的数据建模不是本篇文章重点。 3.3 数据建模方法 下面内容将详细介绍,如何根据用户行为,构建模型产出标签、权重。一个事件模型包括:时间、地点、人物三个要素。 如,同样一瓶矿泉水,超市卖1元,火车上卖3元,景区卖5元。商品的售卖价值,不在于成本,更在于售卖地点。标签均是矿泉水,但接触点的不同体现出了权重差异。这里的权重可以理解为用户对于矿泉水的需求程度不同。 标签 权重 矿泉水 1 // 超市 矿泉水 3 // 火车 矿泉水 5 // 景区 类似的,用户在京东商城浏览红酒信息,与在品尚红酒网浏览红酒信息,表现出对红酒喜好度也是有差异的。 如,购买权重计为5,浏览计为1 红酒 1 // 浏览红酒 红酒 5 // 购买红酒 综合上述分析,用户画像的数据模型,可以概括为下面的公式:用户标识 + 时间 + 行为类型 + 接触点(网址+内容),某用户因为在什么时间

    2.4K60发布于 2018-05-22
  • 来自专栏企鹅号快讯

    Python数据建模-回归分析

    主题 数据建模 我还是一次性将一些理论的知识整理完呗,大家可以选择性地看看就好,后续会找一些实例来练练。 一、分类与预测 分类与预测是预测问题的2种主要实现类型。 5)支持向量机 指的是一种通过某种非线性映射,把低维的非线性可分转化为高维的线性可分,在高维空间进行线性分析的算法。 2. (是不是勾起了使用python建模的兴趣了哈哈哈) 这里是使用Scikit-Learn对数据进行逻辑回归分析,最重要的特征筛选有很多方法,主要包含在scikit-learn的feature_selection 3)稳定性选择(stability selection) 是一种基于二次抽样和选择算法相结合的方法,主要的思想就是在不同的数据子集和特征子集上运行特征选择算法,不断重复,最终汇总特征选择结果。 小节: 1)因篇幅有限,本文只是讲一下逻辑回归建模的一些算法,后续还会继续讲一下决策树、人工神经算法等的一些python实例; 2)本文的使用到的Scikit-Learn,是一种机器学习的建模方法,我从网上也找到了一些栗子

    2.9K90发布于 2018-02-26
  • 来自专栏铭毅天下

    干货 | Elasticsearch 数据建模指南

    5 个数据节点集群(5 个分片,1 个副本),微博数据每日增量 5000W+(增量存储 150GB),核心数据磁盘 10TB 左右,很明显该系统面临存储上限问题。 从以上两个反例,以及这条招聘信息中便可以窥探出数据建模的重要性。下面我们具体说说如何做数据建模。 2、Elasticsearch 如何数据建模? 如果需要全量遍历或者全量导出数据,推荐 scroll 查询方式。 问题四:管道预处理怎么用? 管道预处理的好处很多,虽然 5.X 版本就有了这个功能,但实战环境用起来还不多。 我们再来分析一下数据建模的流程,如下图所示。 数据建模的流程图 首先,根据业务选择合适的数据类型。 注意:5.X 之前版本叫父子文档(多 type 实现),6.X 之后高版本是 join 类型(单 type 类型)。

    1.5K10编辑于 2022-05-23
领券