首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏韩锋频道

    数据建模1,2,3

    1.何为建模? 数据几乎总是用于两种目的:操作型记录的保存和分析型决策的制定。简单来说,操作型系统保存数据,分型型系统使用数据。 针对这两种不同的数据用途,如何组织数据,更好地满足数据使用需求。这里就涉及到数据建模问题。即设计一种数据组织方式(模型),来满足不同场景。 【业务过程】:下订单 【粒度】:每笔订单(拆分为单个物品) 【维度】:地域、年龄、渠道等(可供分析的角度) 【事实/度量】:订单金额等(可用于分析的数据) 2).建模步骤 收集业务需求与数据实现 在开始维度建模工作之前 既可以选择星型模型,部署在关系数据库上,通过事实表及通过主外键关联的维度表;也可以选择多维模型,落地于多维数据库中。 3).建模规范 以维度建模为理论基础,定义一系列术语来描述建模对象。 3. 设计要点 1).维度表设计 维度是维度建模的基础和灵魂。在维度建模中,将度量称为"事实",将环境描述为"维度",维度是用于分析事实所需要的多样环境。维度所包含的表示维度的列,称为维度属性。

    1.6K51发布于 2019-06-06
  • 来自专栏好好学习

    【UML建模】(3) UML建模之类图

    在这里插入图片描述 综合例子 在这里插入图片描述 1、企鹅与气候是关联关系 2、鸭与唐老鸭是继承关系 3、大雁与飞翔是实现的关系 4、雁群与大雁是聚合关系 5、动物与氧气,水是依赖关系 6、鸟与翅膀是组成关系

    2.3K12编辑于 2022-03-31
  • 来自专栏PowerBI入门100例

    2.22 PowerBI数据建模-3种平均值

    按样本个数的不同统计口径,有3种平均值,以月均XX为例:1 取有值的样本个数,有几个月有数字,样本个数就是几个月;2取所选的样本个数,不管这些样本有没有值,时间段选择了一年,样本个数就是12;3取开始有值的第一个月及它以后的所选样本个数 举例 计算3种月均销量。模型销量表度量值Sales = SUM(Fact_Sales[销量])1 取有值的样本个数,使用现成的平均值函数AVERAGEX。 Average_Divide = DIVIDE([Sales], DISTINCTCOUNT('Date'[YearMonth]))3 取开始有值的第一个月及它以后的所选样本个数。 YearMonth]), FILTER('Date','Date'[Date]>=_vm_StartDate ))RETURNDIVIDE([Sales], _vm_NumberOfMonth)选择2023年整年,3种平均值的结果如下

    63910编辑于 2025-02-24
  • 来自专栏PowerBI入门100例

    2.38 PowerBI数据建模-数字单位的3种方案

    解决方案在保持数字格式的前提下,数字单位有如下3种方案:方案1 增加单位表,通过切片器切换单位,不同量级的数字按照所选的单位一刀切。操作步骤STEP 1 点击菜单栏主页下的输入数据,创建一个单位表。 STEP 3 修改度量值公式,将原有的度量值公式写在“_vm_Figure=”后。 .0" & " Bn")STEP 3 如果是图表,需要在图表的格式中,将Y轴值的单位和数据标签值的单位设置为无单位,不要设置为固定的千、百万等,不然反而会有显示问题。 在画布中显示如下:报告发布后,在网页中导出数据时选择.xlsx格式,导出后仍然是数字格式。如果选择.csv或者在PowerBI桌面版中导出(也是csv),就不是数字格式了。 方案3 使用动态格式字符串,按照中国用户习惯,不同量级的数字强制中文动态显示为千、万、亿等。

    1.1K10编辑于 2025-02-25
  • 来自专栏大数据学习与分享

    数据建模-维度建模-维度设计

    作为维度建模的核心,我们在企业级的数据仓库中必须保证维度的唯一性。以淘宝商品维度为例,我们有且只允许有一个维度定义。 第二步:确定主维度表。 (3)同一类数据基于范式建模,拆分成同一类型数据库中多张的物理表,比如商品,有商品主表和商品扩展表,商品主表存商品基本信息;商品扩展表存储商品特殊信息,如不同产品线定制化的信息等;比如会员,有会员主表和会员扩展表 (3)易用性:模型可理解性高、访问复杂度低。用户能够方便的从模型中找到对应的数据表,并能够方便查询和分析。   但对前台应用的要求是数据库的物理删除只有在归档时才执行,应用中的删除只是逻辑删除。 (3)数据仓库自定义归档策略。 针对此问题,采用类型3处理方式,保留历史,可以使用任何一个属性列。同上面的例子,采用方法3处理方式,变化前后的数据记录如下。

    2K31编辑于 2023-09-06
  • 来自专栏3D可视化

    3D建模之建筑建模工作流程

      我们都知道建模是为了研究某种现实或事物而建立相应的模型。但在thingjs开发平台来说,建模是为了让可视化更好展现。 每个工程师的建模水平不同,做出来的模型也各有千秋,在平台上运行起来效果就会不一样,可从外形、运行速度、实际应用程度来考量,不过thingjs平台有免费海量模型以及3D建模服务、建模团队,当然我们更多的是鼓励大家自己动手操作 (3)打开渲染面版,滤镜设置为Catmull-Rom。   (4)渲染尺寸为720*576或720*404,高清画面为1920*1080,比例为1.067。    (3)材质不设,根据制作物体来设,有趣、远景分别最终生成一个复合文件,单独镜头根据镜头本身而定,起名明确。   (4)调入CAD地形,中心位于MAX空间中轴位置,与地平线高度统一Z轴为0。    有3D建模基础相信建筑建模难不倒你的对不对,thingjs平台http://www.thingjs.com/支持大家上传自己的模型,进行可视化开发,具体可以上平台运行起来试一试哦~

    1.5K11发布于 2019-12-13
  • 来自专栏Mac资源随时更新

    建模神器:Rhino 7 3D建模工具「winmac」

    Rhino 7是一款强大的建模神器,提供精准的曲面工具用于渲染表现、动画、工程图、分析评估以及生产用的模型并兼容3dmax、Softimage模型。 Rhino 7建模神器 MacRhino 7建模神器 Win图片特点1、可以创建,编辑,分析,记录,渲染,动画和翻译NURBS曲线,曲面和实体,点云和多边形网格。 对硬件的复杂程度,程度或大小没有任何限制2、不受限制的自由形式的3D建模工具,只有在产品成本高出20到50倍的产品中才能使用。 模拟你可以想象的任何形状3、从飞机到珠宝设计,原型,工程,分析和制造任何东西所需的精度4、与所有其他设计,绘图,CAM,工程,分析,渲染,动画和插图软件兼容5、读取和修复网格和极具挑战性的IGES文件6 不需要特殊的硬件8、数百种专业建模产品的开发平台9、与您所有其他设计、绘图、CAM、工程、分析、渲染、动画和插图软件的兼容性

    1.2K20编辑于 2022-08-27
  • 来自专栏波波烤鸭

    PowerDesigner数据建模

    PowerDesigner安装 云盘地址:https://pan.baidu.com/s/1MZnQhPZ6ityza9N9nAD3bw 提取码:8qpi 傻瓜式安装 E-R图 E-R图(实体关系图 ) 1.创建模型 ? 3.修改不恰当的描述 ? ? 生成数据库脚本 ? ? ? ? ?

    91841发布于 2019-04-02
  • 来自专栏北山啦的博客

    Scrapy从入门到放弃3--数据建模与请求

    scrapy数据建模与请求 学习目标: 应用 在scrapy项目中进行建模 应用 构造Request对象,并发送请求 应用 利用meta参数在不同的解析函数中传递数据 ---- 1. 数据建模 通常在做项目的过程中,在items.py中进行数据建模 1.1 为什么建模 定义item即提前规划好哪些字段需要抓,防止手误,因为定义好之后,在运行过程中,系统会自动检查 配合注释一起可以清晰的知道要抓取哪些字段 /h3/text()').extract_first() item['title'] = node.xpath('. requests模块是如何实现翻页请求的: 找到下一页的URL地址 调用requests.get(url) scrapy实现翻页的思路: 找到下一页的url地址 构造url地址的请求对象,传递给引擎 3. /td[3]/text()').extract_first() item['type'] = node.xpath('.

    1.2K40编辑于 2022-11-27
  • 来自专栏宜信技术实践

    程序员笔记|3个问题带你入门数据建模

    一、何为建模? 数据几乎总是用于两种目的:操作型记录的保存和分析型决策的制定。简单来说,操作型系统保存数据,分型型系统使用数据。 针对这两种不同的数据用途,如何组织数据,更好地满足数据使用需求。这里就涉及到数据建模问题。即设计一种数据组织方式(模型),来满足不同场景。 由于采用预计算、索引策略和其他优化方法,多维数据库可实现高性能查询。 在这三种方式中,星型模型使用较多,下面也着重对这种方式进行说明。 二、维度建模 1、基本概念 在建模过程中,涉及到很多概念。 【业务过程】:下订单 【粒度】:每笔订单(拆分为单个物品) 【维度】:地域、年龄、渠道等(可供分析的角度) 【事实/度量】:订单金额等(可用于分析的数据) 2、建模步骤 收集业务需求与数据实现 在开始维度建模工作之前 既可以选择星型模型,部署在关系数据库上,通过事实表及通过主外键关联的维度表;也可以选择多维模型,落地于多维数据库中。 3、建模规范 以维度建模为理论基础,定义一系列术语来描述建模对象。

    82440发布于 2019-06-28
  • 来自专栏大数据与微服务架构

    数据挖掘与建模

    数据挖掘是基于统计学原理,利用机器学习中的算法工具实现价值信息的发现。机器学习是一种实现人工智能的方法,深度学习是实现机器学习的一种技术。 ? 非线性分类经典算法包括K近邻(KNN)、支持向量机(SVM)、决策树(D Tree)、朴素贝叶斯(NB) 2、回归分析:反映事务数据属性在时间上的特征,预测数据间的相关关系,与分类区别在于,分类是预测目标的离散变量 二、无监督学习(事先没有任何训练数据样本,需要直接对数据进行建模,即不提供经验和训练样本,完全靠自己摸索) 1、关联分析:描述数据库中数据之间存在关系的规则。 2、聚类分析:训练样本标签信息未知,通过学习揭示数据内在性质及规律。 典型算法:K均值算法(K-means)、DBSCAN(具有噪声的基于密度的聚类方法)。 三、沃尔玛经典营销案例:啤酒与尿布 ? 模型发现:20世纪90年代的美国沃尔玛超市中,管理人员分析销售数据时发现了一个令人难于理解的现象:在某些特定的情况下,“啤酒”与“尿布”两件看上去毫无关系的商品会经常出现在同一个购物篮中。

    1.2K30发布于 2020-04-11
  • 来自专栏斑斓

    MongoDB的数据建模

    MongoDB是一种面向Document的NoSQL数据库,如果我们还是按照RDB的方式来思考MongoDB的数据建模,则不能有效地利用MongoDB的优势;然而,我们也不能因为Document的灵活性 适度的建模是非常有必要的,尤其对于相对复杂的关联关系。因为在MongoDB中,处理这种关联关系既可以使用Link,也可以使用Embedded。 这种建模方式还带来另一种可能,就是原本Person->Tasks的one-to-N关系就可以变为N-to-N关系,因为一个Task可以被多个Person所拥有。 如果采用Embedded方式,则会导致Task数据的冗余。 one-to-few one-to-many one-to-squillions 但我认为该怎么实现关联,应该从Entity之间的领域关系来判断,我们可以引入DDD的Aggregation设计概念作为建模的依据

    1.3K60发布于 2018-03-07
  • 来自专栏大数据解决方案

    ETL和数据建模

    一、什么是ETL ETL是数据抽取(Extract)、转换(Transform)、加载(Load )的简写,它是将OLTP系统中的数据经过抽取,并将不同数据源的数据进行转换、整合,得出一致性的数据,然后加载到数据仓库中 二、数据仓库的架构 数据仓库(Data Warehouse \ DW)是基于OLTP系统的数据源,为了便于多维分析和 多角度展现将其数据按特定的模式进行存储而建立的关系型数据库,它不同于多维数据库,数据仓库中的数据是细节的 3、缓慢变化维度第三种类型:新增数据维度成员改变了属性。 业务系统数据纷繁复杂,要整合进数据模型。 源数据之间关系也纷繁复杂,源数据在加工进DW系统时,有些必须遵照一定的先后次序关系; 3. 增量数据文件:数据文件的内容为数据表的增量信息,包含表内新增及修改的记录。 全量数据文件:数据文件的内容为数据表的全量信息,包含表内的所有数据。

    1.9K20发布于 2021-11-19
  • 来自专栏飞鸟的专栏

    MongoDB的数据建模

    MongoDB是一个基于文档模型的NoSQL数据库,它的数据建模与传统的关系型数据库有很大的不同。在MongoDB中,数据是以文档的形式存储的,文档是一种类似于JSON的数据格式,非常灵活和扩展。 集合中的每个文档都可以有不同的结构,不同于传统数据库中表中的行,它们可以有不同的列和数据类型。 以下是一些关键的设计考虑因素:数据的一致性在MongoDB中,数据的一致性需要通过应用程序来保证。在设计文档模式时,需要确保每个文档都包含完整的数据,以避免应用程序在查询时需要多次访问数据库。 在将数据分布到多个节点时,需要确保数据的相关性。通常可以将数据根据其相关性分组到同一个集合中,这样可以避免在查询时需要访问多个集合。此外,还可以考虑使用分片(sharding)来分散数据负载。 这种设计方式可以减少重复数据,同时也可以提高查询性能和数据一致性。

    1.4K40编辑于 2023-05-09
  • 来自专栏喵叔's 专栏

    RavenDB数据建模--总结

    只需将数据存储进去并通过键访问数据即可。同时我们还学习了使用过期功能来存储与时间相关的数据。 从键/值存储的简单模型开始,我们开始考虑真实的文档模型,学习了如何构建嵌入值来存储本质上是文档一部分的数据,还研学习了如何对关系和集合、多对一和多对多关联进行建模。 然后,我们介绍了更高级的建模技术,例如如何处理引用和配置数据,以及如何处理时态信息和分层结构。 接下来,我们讨论了建模时必须考虑的一些约束,例如如何处理文档的增长以及RavenDB中文档的良好大小。 我们学习了并发控制以及变化向量如何用于乐观并发和缓存,并且学习了为什么我们应该避免在模型中缓存聚合数据。 然后我们学习了如何处理带有附件的二进制数据,以及使用修订功能进行审计和更改跟踪,并且了解了我们可以在 RavenDB 中如何让文档数据过期。简要介绍了索引和查询时的引用处理。

    76130编辑于 2022-05-25
  • 来自专栏文渊之博

    数据仓库建模

    (3)优缺点 优点:技术要求不高,快速上手,敏捷迭代,快速交付;更快速完成分析需求,较好的大规模复杂查询的响应性能 缺点:维度表的冗余会较多,视野狭窄 2、关系建模 (1)定义 是数据仓库之父Inmon 推崇的、从全企业的高度设计一个3NF模型的方法,用实体加关系描述的数据模型描述企业业务架构,在范式理论上符合3NF,站在企业角度面向主题的抽象,而不是针对某个具体业务流程的实体对象关系抽象。 ,如果没有自顶向下的视野,基本是总结不出来的: (3)优缺点 优点:规范性较好,冗余小,数据集成和数据一致性方面得到重视,比如运营商可以参考国际电信运营业务流程规范(ETOM),有所谓的最佳实践。 3、建模方法比较 一般来讲,维度模型简单直观,适合业务模式快速变化的行业,关系模型实现复杂,适合业务模式比较成熟的行业,阿里原来用关系建模,现在基本都是维度建模的方式了。 3、标准化的推进:数据仓库建模的任何实体都需要标准化命名,否则未来的管理成本巨大,也是后续数据有效治理的基础,以下是我们的一个命名规范示例: 总而言之,你可以把我的文章当成一个指引,具体还是要结合企业的实际去推进

    2K31发布于 2020-06-19
  • 来自专栏数据库

    论道数据仓库维度建模和关系建模

    为什么要数据仓库建模呢? 关系建模又叫ER建模,是数据仓库之父Inmon推崇的,其从全企业的高度设计一个3NF模型的方法,用实体加关系描述的数据模型描述企业业务架构,在范式理论上符合3NF,其是站在企业角度进行面向主题的抽象,而不是针对某个具体业务流程的 Inmon的ER建模优点体现在规范性较好,冗余小,数据集成和数据一致性方面得到重视,适用于较为大型的企业级、战略级的规划,但缺点是需要全面了解企业业务、数据和关系,对于建模人员要求很高,实施周期非常长, 但Inmon和kimball关于关系建模和维度建模的争论其实也没什么值得探讨的,没有谁更好,在企业内,这两种建模方式往往同时存在,底层用关系建模合适一点,技术的优雅换来了数据的精简,往上维度建模更合适一些 在数据建模上,很多人纠结于如何建模,用关系建模、维度建模亦或其它?

    2.5K80发布于 2018-02-24
  • 来自专栏python3

    优化3DS MAX的建模

      通常我们总是希望3DS MAX的文件越小越好,一是文件太大3DS MAX本身运行速度就会受影响,二是导出的文件需要在TerraExplorer里面使用,超过1000K的文件也会成为影响TP速度的重要原因 ,必须优化建模方法。    3 同样的物体对象一旦转化为可编辑样条线或者多边形,也会增加文件的大小并且影响系统读取速度。   4 即使在可编辑样条线的情况下,尽可能地减少顶点数。   

    86510发布于 2020-01-14
  • 来自专栏往期博文

    数学建模暑期集训3:排队论

    排队模型数量指标 3. 排队系统基本组成 1.输入过程——顾客到达规律 2.排队规则——顾客按照一定规则排队等待服务 3.服务机构——服务机构的设置,服务台的数量,服务的方式,服务时间分布等 2. 排队模型数量指标 3.

    72020编辑于 2022-06-14
  • 来自专栏算法工程师的学习日志

    Simulink建模与仿真(3)-Simulink 简介

    3. 与MATLAB工具箱的集成 由于Simulink可以直接利用MATLAB的诸多资源与功能,因而用户可以直接在Simulink下完成诸如数据分析、过程自动化、优化参数等工作。 (3) 图形与可视化。 (4) 工具箱提供面向具体应用领域的功能。 (5) 丰富的数据 I/O 工具。 (6) 提供与其它高级语言的接口。 (3) 生物系统。 (4) 船舶系统。 (5) 汽车系统。 (6) 金融系统。 此外,Simulink在生态系统、社会和经济等领域也都有所应用。 3、Simulink在MATLAB家族中的位置 MATLAB是一个包含数值计算、高级图形与可视化、高级编程语言的集成化科学计算环境。

    2.4K20编辑于 2023-09-05
领券