首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏Flink实战剖析

    OLAP介绍

    OLAP概念 OLAP(On-Line Analytical Processing)即联机分析处理,通过对数据大量分析,得出分析报告,提供决策支持,其侧重数据分析能力,比喻说用户行为分析。 OLAP/OLATP对比 OLAP 功能型分类 ROLAP: 关系型OLAP 特点:基于原始数据灵活的查询分析,但是其性能差 代表:Hive、Spark、Impala、Presto、Clickhouse 、Hologres MOLAP: 多维型OLAP 特点:基于预聚合数据分析,性能高,灵活性差 代表:Kylin、Druid HOLAP: 混合型OLAP 混合型OLAP同时具有ROLAP、MOLAP的特点 OLAP 选择 在当前面对大数据量、低延时、灵活查询的场景下,没有一个OLAP引擎能够完全满足所有场景,需要根据特定的场景做tradeoff. ----

    2.3K20编辑于 2022-11-21
  • 来自专栏一个会写诗的程序员的博客

    主流的 OLAP 引擎介绍 - OLAP极简教程

    什么是OLAP ? 在做数据分析时有OLAP、OLTP是我们必定会遇到的技术,在介绍OLAP引擎技术选型之前,我们先看看这两个技术分别是什么意思? OLAP系统则强调数据分析,强调SQL执行时长,强调磁盘I/O,强调分区。 OLAP 分类 OLAP 是一种让用户可以用从不同视角方便快捷的分析数据的计算方法。 主流的 OLAP 可以分为3类: 1.多维OLAP ( Multi-dimensional OLAP )、 2.关系型OLAP ( Relational OLAP ) 3.混合OLAP ( Hybrid 4.Others 除此之外,还包含一些其他分类,包括启用Web的OLAP(WOLAP),桌面OLAP(DOLAP),移动OLAP(MOLAP)和空间OLAP(SOLAP)。

    9.7K22编辑于 2021-12-24
  • 来自专栏数据库

    OLAP 与 OLTP

    OLAP是数据仓库系统的主要应用,支持复杂的分析操作,侧重决策支持,并且提供直观易懂的查询结果。 在OLAP系统中,常使用分区技术、并行技术: 【1】分区技术在OLAP系统中的重要性主要体现在数据库管理上,比如数据库加载,可以通过分区交换的方式实现,备份可以通过备份分区表空间实现,删除数据可以通过分区进行删除 但有时候对于OLAP系统,我们又有分页的情况下,我们可以考虑在每条SQL中用hint。 但是,在OLAP环境中,可能会因为其特有的特性,提高OLAP的查询速度。 3.OLAP系统的重点是通过数据提供决策支持,所以查询一般都是动态,自定义的。所以在OLAP中,维度的概念特别重要。一般会将用户所有关心的维度数据,存入对应数据平台。

    61710编辑于 2024-09-16
  • 来自专栏全栈程序员必看

    OLAP组件选型

    OLAP组件选型 一、OLAP简介 1、olap准则 2、OLAP场景的关键特征 3、与oltp比较 二、开源引擎 1、Hive 2、spark SQL 3、presto 4、kylin 5、impala 简介 说起 OLAP 要追溯到 1993 年。 1、olap准则 准则1 OLAP模型必须提供多维概念视图 准则2 透明性准则 准则3 存取能力准则 准则4 稳定的报表能力 准则5 客户/服务器体系结构 准则6 维的等同性准则 准则7 动态的稀疏矩阵处理准则 OLAP系统则强调数据分析,强调SQL执行时长,强调磁盘I/O,强调分区。 传统OLAP根据数据存储方式的不同分为ROLAP(relational olap)以及MOLAP(multi-dimension olap) ROLAP 以关系模型的方式存储用作多为分析用的数据,优点在于存储体积小

    3.5K30编辑于 2022-11-17
  • 来自专栏数仓建模

    OLAP引擎

    时序型数据的实时OLAP分析:a.明细数据产生速率快b.原始数据量大,以简单(sum/count/min/max)为主,c.去重指标不多(1~2个)doris1、运维成本低,无外部依赖,部署简单。 多维过滤场景下性能较低2、同时负责数据导入, compaction, 查询, 这些操作之间会相互影响基于MPP高性能计算,提供灵活高的分析(主要依靠现场计算):a.明细查询b.主键更新的场景c.百毫秒的高性能灵活d.OLAP 二、行业情况调研公司业务特点引擎使用阿里查询场景丰富、规模大、服务内部也对外提供云服务自研OLAP引擎为主、基于MPP架构和自研存储系统支持需求闭源。 典型系统:Doris腾讯查询场景丰富、大业务线有自己的OLAP团队;开源和自研OLAP都有不同业务线采用、典型系统:Clickhouse、PivotEngine(广点通自研OLAP引擎)头条查询场景集中

    1.1K50编辑于 2022-09-08
  • OLAP 是什么?一文讲清 OLAP 和 OLTP 的区别

    在数据处理领域,OLAP (联机分析处理) 和 OLTP (联机事务处理) 是两个非常关键又常常被对比的概念。那么,OLAP 到底指的是什么?它跟 OLTP 具体有哪些不同? 一、OLAP 基础概念解读1.OLAP 的定义说白了,OLAP 就是一种专门用来对大量历史数据进行多角度分析的技术。 四、OLAP 和 OLTP 的应用场景1.OLAP 的应用场景说白了,凡是要做深入分析、辅助决策的地方,就需要OLAP。零售业: 分析销售趋势(什么产品在哪儿卖得好?销售旺季是什么时候?) 用过来人的经验告诉你,没有OLTP持续产生准确的数据,OLAP就没有分析的基础;没有OLAP的深度分析,OLTP产生的数据价值就难以充分释放。 Q:企业实施 OLAP 和 OLTP 系统,最该注意什么?A:我重点强调几点:实施 OLAP:数据质量是基础。

    2.4K00编辑于 2025-07-04
  • 什么是 OLAP?一文搞懂 OLAP 定义及特点

    接下来,咱就详细聊聊OLAP到底是怎么回事,它都有哪些真本事。​​一、OLAP基础概念解读​​​​1.OLAP的定义​​简单来说,OLAP就是一种专门用来“分析”数据的工具。 三、OLAP的四大看家本领​​说白了,OLAP能帮你把数据“掰开了、揉碎了”看透。​​甭管数据量多大、维度多杂,用好这四招,关键信息基本都能揪出来。​​ 四、OLAP的三种实现方式,各有利弊​​​​1.MOLAP(多维OLAP)​​​​优点​​:查询飞快。数据提前按多维结构算好存着,查的时候直接拿结果。​​缺点​​:数据更新慢。 OLAP的“信息性”,核心就是​​把散装数据拧成一股绳​​,让你做判断时心里有底,而不是在“数据迷雾”里瞎撞。​​六、OLAP在企业里怎么用? 解法​​:用OLAP关联基站流量+时间段+用户套餐+地理位置,发现晚高峰商圈4G流量溢出,精准扩容或引导用户连WiFi。​​Q&A 常见问答​​​​Q:OLAP和数据挖掘有什么区别?​​

    73800编辑于 2025-07-04
  • 来自专栏SmartSi

    OLAP vs OLTP

    OLAP定义 OLAP 是 Online Analytical Processing system 的简称,是一个联机分析处理系统,主要目标是数据分析而不是数据处理。 OLAP 数据库存储的是 OLTP 输入的历史数据。可以允许用户查看不同纬度的数据。使用 OLAP,我们可以从大型数据库中提取信息并进行分析来做决策。 OLAP 还允许用户执行复杂的查询以提取多维数据。在 OLAP 中,即使事务在中间过程中失败,也不会损害数据完整性,因为用户使用 OLAP 系统只是从大型数据库中检索数据进行分析。 OLAP 中的事务很长,因此需要花费更多的时间以及更大的空间。与 OLTP 相比,OLAP 中的事务较少。甚至 OLAP 数据库中的表也可能不规范。 参考:Difference Between OLTP and OLAP

    2K20发布于 2019-11-26
  • 来自专栏Apache IoTDB

    OLTP + OLAP -> HTAP

    OLAP OLAP:On-Line Analytical Processing,联机(线上)分析处理。指处理分析型应用的场景。 OLAP 与 DSM:OLAP 的查询模式一般是同时查很多对象的几个属性。 列存数据库等就是面向 OLAP 的,因此,列式存储在大数据时代这种分析型场景中火了一把,如数据仓库 HBase。 NSM 不适用于 OLAP,因为会额外读取很多不需要的列。 HTAP 就是 OLAP 和 OLTP 两种场景的结合。在对新旧数据进行 OLAP 分析的情况下增加事务的处理来对数据进行更新。 一种构造 HTAP DBMS 的方式就是分别针对新旧数据构建两套引擎,一套负责 OLTP,一套负责 OLAP,相当于将关系数据库和列存数据库进行结合。

    3.4K30发布于 2020-09-27
  • 来自专栏码字搬砖

    常见OLAP分类

    1.OLAP分类 2.OLAP常见的一些操作 1.上卷(Roll Up)/聚合:选定某些维度,根据这些维度来聚合事实,如果用SQL来表达就是select dim_a, aggs_func(fact_b

    1.3K20发布于 2021-11-02
  • 来自专栏数据计算

    我们需要怎样的 OLAP

    OLAP 这个词从字面上理解是在线分析的意思,也就是由人员面对数据进行各种交互式的分析操作。但是,现在的OLAP 概念被 BI 软件给严重狭义化了。 面向业务分析时说到 OLAP,在技术上经常就只有多维分析的功能,也就是针对一个事先建设好的数据立方体,按指定维度层次进行汇总并呈现成表格或图形,再辅以钻取、聚合、旋转、切片等操作以变换维度层次及汇总范围 近年来流行的敏捷 BI 产品在操作的流畅性和界面的炫丽度都较早期 OLAP 产品有较大的提升,但本质计算功能并没有增长多少,还是在做多维分析,该不能算的还是不能算。 那么,用于规律发现(更确切地说是规律验证)的 OLAP/BI 软件应当是什么样的呢? 这时候 OLAP 软件要做的事就不是让业务人员自己实现过程计算,而是要提高业务人员获取技术资源的效率,以及技术人员实现需求的开发效率。

    35810编辑于 2024-04-28
  • 来自专栏做数据的二号姬

    简单理解olap引擎

    18 2023-07 简单理解OLAP引擎 尝试用最简单的方式解释一下OLAP和OLTP的区别。毕竟对于一个走业务线的数据分析师而言,一些技术问题也没有必要过分深究。 ,OLAP就是为了数据分析而生的,分析这个大字已经明晃晃的写出来了。 对OLTP而言,支持业务是主业,而分析就是副业;而对OLAP而言,分析才是专业,所以在分析领域,OLTP完全不是OLAP的对手。 前面已经说过了,OLAP和OLTP是在不同的场景上的应用。实际对企业而言,OLAP和OLTP两种常见都需要的,那么我们在采购数据库产品的时候岂不是要选择两种? 除了市场需求以外,还有一个数据分析师都需要关注的地方,那就是如果用来OLTP和OLAP两套东西,就一定会面临一个问题,那就是数据从OLTP到OLAP的同步问题。

    48020编辑于 2023-09-06
  • 来自专栏指标建设

    OLAP数据库

    OLAP数据库图片ClickHouseClickHouse 是基于 MPP 架构的分布式 ROLAP分析引擎,真正的列式数据库管理系统。

    1.7K60编辑于 2022-09-20
  • 来自专栏大数据技术栈

    大数据OLAP框架对比

    大数据OLAP常用的技术 大规模并行处理: 可以通过增加机器的方式来扩容处理速度, 在相同的时间里处理更多的数据。 目前还没有一个OLAP系统能够满足各种场景的查询需求。 其本质原因是, 没有一个系统能同时在数据量、性能、和灵活性三个方面做到完美, 每个系统在设计时都需要在这三者间做出取舍。 image.png 数据组织方式 传统OLAP根据数据存储组织方式的不同分为 ROLAP(relational olap)以及 MOLAP(multi-dimension olap) ROLAP 但是其缺点也很明显, 内存资源需求大, MPP的OLAP一般都是基于内存的, 所以对于机器内存要求很大, 对于过大的数据量,会极大的影响性能. image.png OLAP测评报告 前两份主要是针对基于MPP方式的OLAP框架的测评, HAWQ、Presto、ClickHouse HAWQ 性能大部分情况下是低于 Presto和 ClickHouse

    4.3K72发布于 2020-03-20
  • 来自专栏开源部署

    Hive OLAP多维聚合函数

    OLAP多维聚合函数 Hive OLAP多维聚合函数是增强版的Group By语句。一般和Group By同时使用,用来进行多维分析。

    95410编辑于 2022-08-17
  • 来自专栏数据仓库践行者

    OLAP | 基础知识梳理

    他为OLAP产品建立了12条评估规则: OLAP的发展历史 到现在为止,OLAP技术发展了20多年,正处于群雄逐鹿阶段,不知道未来有没有一统江湖的完美技术出现。 传统OLAP 根据Codd的关于OLAP的十二条准则,OLAP技术有了很大的发展,市场上的各种OLAP产品层出不穷。 在1980‘s年代,电子表格在OLAP应用中占绝对主导地位;而1990’s年代以后,越来越多的基于数据库的OLAP应用开始出现: 大数据OLAP 大数据方向OLAP相关技术的发展: OLAP的基本内容 OLAP的分类 按建模类型分类 一般来说OLAP根据建模方式可分为MOLAP、ROLAP和HOLAP 3种主流类型,另外还有混合事务/分析处理(HTAP)、网络OLAP(WOLAP),桌面OLAP(DOLAP ),移动OLAP(MOLAP)和空间OLAP(SOLAP)。

    1.9K20编辑于 2021-12-27
  • 来自专栏木东居士的专栏

    OLAP数据库初探

    OLAP数据库初探 |0x00 OLAP简介 OLAP的标准概念叫作“联机分析处理系统”,与之对应的是OLTP“联机事务处理系统”。 可以说,OLAP的核心特点是“多维”,OLAP技术也可以称之为“多维度数据分析工具”。 |0x01 OLAP的特点 Codd提出了关于OLAP的12条准则: 1:Multidimensional conceptual view OLAP 模型必须提供多维概念视图; 2:Transparency 综上所述,OLAP系统强调了数据分析在系统中的重要性,对于速度等要求有着极高的要求。 |0x02 Hive Hive是基于HDFS的OLAP应用,一般只用于分析计算,不用于CRUD操作。

    3.5K20发布于 2020-07-27
  • 如何搭建 OLAP 系统?OLAP与数据仓库有什么关系?

    为了挖掘数据里的价值,很多企业开始考虑搭建 OLAP(联机分析处理) 系统。但在这之前,咱们得先弄明白数据仓库是啥。 那么,数据仓库到底是什么?它跟OLAP 系统又是什么关系? 三、数据仓库与 OLAP 的关系(核心联系)数据仓库和OLAP关系非常紧密,相互依赖:1.数据仓库是 OLAP 的基础说白了,没有高质量、整合好的数据,再强大的分析工具也没用武之地。 2.OLAP 是数据仓库价值的体现数据仓库存了那么多整理好的历史数据,怎么把里面的价值真正挖出来?OLAP 就是核心手段之一。 我一直强调, OLAP让沉睡在仓库里的数据活起来,变成洞察力。 3.两者相互促进数据仓库的提升让OLAP更强大: 仓库里的数据质量越高、模型设计越合理、整合的数据源越全面,OLAP分析就能做得越深入、结果越准确。

    25400编辑于 2025-07-04
  • 来自专栏韩曙亮的移动开发专栏

    【DBMS 数据库管理系统】OLTP 联机事务处理 与 OLAP 联机分析处理 ( 数据仓库 与 OLAP | OLAP 联机分析处理 | OLTP 与 OLAP 区别 )

    文章目录 一、数据仓库 和 联机分析处理 技术 简介 二、OLAP 联机分析处理 引入 三、OLAP 联机分析处理 概念 四、OLAP 联机分析处理 特点 五、OLAP 与 OLTP 区别 一、数据仓库 ) 联机分析处理 ; 三、OLAP 联机分析处理 概念 ---- "OLAP ( On-Line Analytical Processing ) 联机分析处理" 概念 : OLAP 是使 分析人员 管理人员 联机分析处理 特点 ---- "OLAP 联机分析处理" 特点 : 快速性 : OLAP 查询分析 , 系统要 在很短的时间内 反应并给出结果 ; 可分析性 : OLAP 应该有能力 处理 与应用先关的各种 总能及时获取信息 ; OLAP 特点 总结 : 使用者 : 企业管理人员 ; 物理特点 : 对 用户 提出的复杂查询 快速响应 ; 逻辑特点 : 具备 多维建模 能力 ; 五、OLAP 与 OLTP 和 数据访问方式 比 OLAP 友好 ; 系统使用者 : OLAP 使用者大部分是 非数据处理的专业人员 ; OLTP 操作人员一般都是专业的人员 , 对前端界面要求不高 ; OLAP 前端界面 :

    1.3K00编辑于 2023-03-28
  • 来自专栏宗恩

    HTAP 能够取代 OLAP 吗?

    因此在实际应用中,为了面对各种需求,OLTP、OLAP 在技术上分道扬镳,在很多企业架构中,这两类任务处理由不同团队完成,同时部署的OLAP和OLTP通过ETL进行衔接。 为了提升OLAP的性能,需要在ETL过程中进行大量的预计算,包括数据结构的调整和业务逻辑处理。这样的好处是可以控制OLAP的访问延迟,提升用户体验。 我们了解了OLAP 数据库和 OLTP 数据库之后,我们再来考虑:HTAP=OLTP+OLAP,是这样吗? 现实情况是,对HTAP的需求,日常还是以OLTP为主,但也需要对数据进行加工,以保证偶尔的OLAP工作负载,这里说的OLAP场景并不是真正意义上的OLAP,它只为了提升在OLTP系统中执行复杂查询的性能 如何满足当今的OLAP业务在大数据不断高速发展的时代,当您的企业发现传统的数据库已经不能满足业务需求,需要选型OLAP或者HTAP来解决OLAP需求时,重要考虑哪些影响数据使用的因素呢?

    59120编辑于 2023-05-08
领券