首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 时序数据基础:什么是时序数据

    时序数据,即时间序列数据(Time-Series Data),它们是一组按照时间发生先后顺序进行排列的序列数据。日常生活中,设备、传感器采集的数据就是时序数据,证券交易的记录也是时序数据。 因此时序数据的处理并不陌生,特别在是工业自动化以及证券金融行业,专业的时序数据处理软件早已存在,比如工业领域的 PI System 以及金融行业的 KDB。 从手环、共享出行、智能电表、环境监测设备到电梯、数控机床、挖掘机、工业生产线等都在源源不断的产生海量的实时数据时序数据的体量正指数级的增长。 由于数据量指数级的增长,而且对分析和实时计算的需求越来越多,特别是在人工智能的时代,传统的时序数据处理工具难以满足需求,对每天高达 10TB 级别的海量时序数据如何进行实时的存储、分析和计算,成为一个技术挑战 ,因此海量时序数据的高效处理在过去的十年获得全球工业界的高度关注。

    47010编辑于 2025-09-28
  • 时序数据基础时序数据的典型应用场景

    时序数据应用的细分场景有很多,这里简单列举一些电力能源领域:电力能源领域范围较大,不论是在发电、输电、配电、用电还是其他环节中,各种电力设备都会产生大量时序数据,以风力发电为例,风电机作为大型设备,拥有可能高达数百的数据采集点 ,因此每日所产生的时序数据量极其之大,对这些数据的监控分析是确保发电环节准确无误的必要工作。 IT 运维领域:IT 领域中,基础设施(如服务器、网络设备、存储设备)、应用程序运行的过程中会产生大量的时序数据。 通过对这些时序数据的监控,可以很快地发现基础设施/应用的运行状态和服务可用性,包括系统是否在线、服务是否正常响应等;也能看到具体到某一个具体的点位的性能指标:如 CPU 利用率、内存利用率、磁盘空间利用率 在金融领域中,量化交易平台是最能凸显时序数据处理重要性的革命性应用之一:通过对大量时序行情数据的读取分析来及时响应市场变化,帮助交易者把握投资机会,同时规避不必要的风险,实现资产的稳健增长。

    37910编辑于 2025-09-28
  • 时序数据基础时序数据的十大特征

    相对于普通的互联网的应用数据时序数据有着很多明显的特征。 涛思数据的创始人陶建辉先生早在 2017 年,就对此进行了充分地归纳分析,总结了时序数据本身以及时序数据应用的十大特征:数据时序的,一定带有时间戳:联网的设备按照设定的周期,或受外部的事件触发,源源不断地产生数据 数据是结构化的:物联网、工业设备产生的数据以及证券交易数据往往是结构化的,而且绝大多数都是数值型的,比如智能电表采集的电流、电压就可以用 4 字节的标准的浮点数来表示。 但对于物联网、工业时序数据,每个数据点与数据点的变化并不大,大家关心的更多是一段时间,比如过去五分钟、一小时数据变化的趋势,不会只针对一个时间点进行。 上述的特征使时序数据的处理具有着独特的需求和挑战。但是反过来说,对于一个高效的时序数据处理平台,它也必然充分利用这十大特征来提升它的处理能力。

    30010编辑于 2025-09-28
  • 时序数据基础:处理时序数据所需要的工具

    如果想要高效地处理时序数据,一个完整的时序数据处理平台一定要准备好以下几个核心模块。数据库(Database):数据库提供时序数据的高效存储和读取能力。 在工业、物联网场景,由设备所产生的时序数据量是十分惊人的。从存储数据的角度来说,数据库需要把这些数据持久化到硬盘上并最大程度地压缩,从而降低存储成本。 同时,由于数据的隐私以及安全,你只能允许应用订阅他有权限访问的数据。因此,一个时序数据处理平台一定需要具备数据订阅的能力,帮助应用实时获取最新数据。 处理时序数据需要一系列模块的协同作业,从数据采集到存储、计算、分析与可视化,再到专用的时序数据算法库,每个环节都有相应的工具支持。 这些工具的选择取决于具体的业务需求和数据特点,合理地选用和搭配才能做到高效地处理各种类型的时序数据,挖掘数据背后的价值。

    28310编辑于 2025-09-28
  • 时序数据基础:选择时序数据处理工具的标准

    毫无疑问,我们需要一个优秀的时序数据平台来处理设备、交易产生的海量数据。那么,这个大数据平台需要具备哪些能力?与通用的大数据平台相比,它需要具备什么样的特征呢? 所以,对于时序数据工具的选型,一定要看它的架构模型能否撑得起你的业务基数。一个能够通过分布式的架构来处理“高基数”难题,才能让平台足以支撑业务的增长,才可以说是一个真正意义上的时序数据平台。 如果专用的时序数据处理平台不能在存储、读取、分析这些方面做到“高性能”,那么为什么不采用通用的大数据平台呢? 因此时序数据系统需要一个灵活的机制增加某个维度的分析。需要支持即席分析和查询。 近年来,众多企业纷纷将时序数据从传统大数据平台或关系型数据库迁移到专用时序数据平台,以保障海量时序数据得到快速和有效处理,支撑相关业务的持续增长。

    25010编辑于 2025-09-28
  • 时序数据基础:专用时序数据处理工具的必要性

    时序数据的十大特征一节中提到,对于一个优秀的时序数据处理平台来说,必然需要具备处理时序数据十大特征的能力。在处理时序数据所需要的工具一节中介绍了时序数据平台处理时序数据所需要的主要模块/组件。 因此很自然,在工业、物联网大数据兴起后,大家仍然想到的是使用这套通用的大数据处理平台来处理时序数据。 现在市场上流行的物联网、车联网等大数据平台几乎无一例外是这类架构,这套方法被证明完全可以工作,但效果仍然有很多不足:开发效率低:因为不是单一软件,需要集成至少 4 个以上模块,而且很多模块都不是标准的 由于数据量巨大且应用方式特殊,对时序数据的处理具有相当大的技术挑战,因此要使用专业的大数据平台。 对实时时序数据的科学合理地高效处理能够帮助企业实时监控生产与经营过程,对历史时序数据的分析有助于对资源的使用和生产配置做出科学的决策。

    22710编辑于 2025-09-28
  • 来自专栏全栈程序员必看

    时序数据 mysql存储_【时序数据库】时序数据库介绍

    例1(单域):对温度的时间序列监测值 温度(temperature)作为一个度量(metric),共4数据点,每个数据点由如下组成: timestamp:时间戳 三个tag:每个tag都是一个key-value 一个field:温度值 其中4数据点使用的metric、tag是相同的,所以是同一个时间序列。 如host:host4,port:51514,timestamp从02:00 到02:30的时间段内,bytes_in 从 37.937上涨到38.089,bytes_out从2897.26上涨到3009.86 4.TSDB核心特性 总结起来TSDB需要关注的技术点主要有这么几个: 4.1 高吞吐量写入能力 这是针对时序业务持续产生海量数据这么一个特点量身定做的,当前要实现系统高吞吐量写入,必须要满足两个基本技术点要求 这样的聚合实际上就是简单的count以及max,问题是如何能高效的在那么大的数据量的基础上将满足条件的原始数据查询出来并聚合,要知道统计的原始值可能因为时间比较久远而不在内存中哈,因此这可能是一个非常耗时的操作

    5.4K10编辑于 2022-11-10
  • 来自专栏TechBlog

    时序电路建模基础

    ⭐本专栏针对FPGA进行入门学习,从数电中常见的逻辑代数讲起,结合Verilog HDL语言学习与仿真,主要对组合逻辑电路与时序逻辑电路进行分析与设计,对状态机FSM进行剖析与建模。 在时序电路的设计中,建议采用非阻塞型赋值语句。 事件控制语句 用always语句描述硬件电路的逻辑功能时,在always语句中@符号之后紧跟着“事件控制表达式”。 在同步时序逻辑电路中,触发器状态的变化仅仅发生在时钟脉冲的上升沿或下降沿,Verilog HDL中用关键词posedge(上升沿)和 negedge(下降沿)进行说明,这就是边沿触发事件。

    48910编辑于 2023-02-24
  • 来自专栏开源FPGA

    时序逻辑电路基础

    建立时间Tsu(setup):触发器在时钟上升沿到来之前,其数据输入端的数据必须保持不变的最小时间。 保持时间Th(hold):触发器在时钟上升沿到来之后,其数据输入端的数据必须保持不变的最小时间。 clock output delay,时钟触发到数据输出的最大延迟时间 最小时钟周期:Tmin = Tco + Tdata + Tsu - Tskew。 时钟偏移(Clock Skew):是由于布线长度及负载不同引起的,导致同一个时钟信号到达相邻两个时序单元的时间不一致。 题目:谈谈对Retiming技术的理解   Retiming就是重新调整时序,例如电路中遇到复杂的组合逻辑,延迟过大,电路时序不满足,这个时候采用流水线技术,在组合逻辑中插入寄存器加流水线,进行操作,面积换速度思想

    1.3K20发布于 2018-10-22
  • 来自专栏全栈程序员必看

    mysql时序数据库_时序数据库入门

    数据库的模型包含关系型、key-value 型、Document 型等很多种,那么为什么新型的时序数据库成为监控数据存储的新宠呢? 下面就会从 为什么需要时序数据库? 时序数据库的数据结构 两个方面来介绍一下时序数据库。 1. 为什么需要时序数据库 1.1 时序数据特点 时序数据有如下几个特点: 基本上是插入操作较多且无更新的需求 数据带有时间属性,且数据量随着时间递增 插入数据多,每秒钟插入需要可到达千万甚至是上亿的数据量 查询、聚合等操作主要针对近期插入的数据 时序数据能够还原数据的变化状态 可以通过分析过去时序数据的变化、检测现在的变化,以达到预测未来如何变化的目的 时序数据使用需求: 能够按照指标筛选数据 能够按照区间 1.3 场景选择 是否所有的数据都适合用时序数据库来存储? 答案:是否定的,时序数据库提供了针对大量数据的插入操作,但同时数据的读取延迟也相对增加。而且时序数据库不支持 SQL 的数据查询。

    3K30编辑于 2022-11-09
  • 来自专栏明丰随笔

    运行时序列化 4

    通过SerializationInfo info对象可以获取流中的数据。 我们写一个例子,把一个本地时间的DateTime对象序列化到流中,并保存为UTC时间。

    56920发布于 2019-07-22
  • 来自专栏全栈程序员必看

    时序数据库介绍_时序数据库公司

    目录 1 .什么是InfluxDB 2.那么时序数据有什么特点呢? 3.对于时序数据,我们总结了以下特点: 4.业务方常见需求 5.时序数据库为了解决什么问题? 时序数据以时间作为主要的查询纬度,通常会将连续的多个时序数据绘制成线,制作基于时间的多纬度报表,用于揭示数据背后的趋势、规律、异常,进行实时在线预测和预警,时序数据普遍存在于IT基础设施、运维监控系统和物联网中 原因很明显,计算机虚拟世界,如数据库、网络、容器、系统、应用程序等,和物理世界,如家用设备、城市基础设施、工厂机器、电力设施等,正在创建海量的时序数据数据量大,每秒钟需要写入千万、上亿条数据 4.业务方常见需求 1. 获取最新状态,查询最近的数据(例如传感器最新的状态) 2. 传统数据库通常记录数据的当前值,时序数据库则记录所有的历史数据,在处理当前时序数据时又要不断接收新的时序数据,同时时序数据的查询也总是以时间为基础查询条件,并专注于解决以下海量数据场景的问题: 专为时序存储和高性能读写而设计

    3.1K20编辑于 2022-11-10
  • Python数据挖掘编程基础4

    b.需要特别指出的是,Python一般不使用花括号({}),也没有end语句,可使用缩进对齐作为语句的层次标记。同一层次的缩进量要一一对应,否则会报错。以下是一个错误的缩进实例,如代码清单2-9所示。

    15710编辑于 2025-05-09
  • 来自专栏全栈程序员必看

    时序数据库应用_tsdb时序数据

    版本为基础的对象关系型数据库管理系统。 dnS 列出所有模式 S代表各个schema \d tablename 列出表详情 类似于mysql的show create table 3.时序分片 — 建表语句 CREATE TABLE NULL, CONSTRAINT info_ukey UNIQUE (type, info, ts) ) WITH (OIDS = FALSE) TABLESPACE default; — 时序 TIMESTAMPTZ 类型)、时间间隔】 add_dimension函数在info表的type字段上添加5个分区的维度 两个语句共同作用的感觉可以抽象一下,像是切豆腐,横着按照1厘米切了N刀后,再竖着切了5刀 4. ,在时序处理上表现是比较出色的,如果有针对于时间维度的比较重的表需要做一些优化,可以考虑引入时序数据库的选型,而且大体DML语句与mysql类似,只是部分DDL语句有些区别,希望文章对您有所帮助 原创,

    2.7K20编辑于 2022-11-10
  • 来自专栏好好学习

    【UML建模】(4) UML建模之时序

    时序图的介绍 时序图是按照时间顺序显示对象交互的图。它显示了参与交互的对象和所交互信息的先后顺序,用来表示用例图中的行为,用例图是一种交互图。 在UML中,时序图将交互关系表示为一张二维图。 基本元素 时序图中包含如下几个元素:对象,生命线,激活,消息,结构化控制 对象 时序图中的对象其实就是功能需求的各个参与者,在时序图中可以被激活的参与者都可以作为对象。 结构化控制 结构化控制主要用于表示代码中判断,循环,终止等情况,在时序图中的结构化控制有如下几种: Alternative fragment(denoted “alt”) 标示 if…then…else >0 时执行accept()方法,否则执行 reject()方法 Option fragment (denoted “opt”) 标示Switch, 表示一种单条件分支 当参数校验正确时则调用 保存数据的接口 画时序

    3.1K20编辑于 2022-03-31
  • 来自专栏仙士可博客

    时序数据库学习一:什么是时序数据

    时序数据时序数据库全称为时间序列数据库。时间序列数据库指主要用于处理带时间标签(按照时间的顺序变化,即时间序列化)的数据,带时间标签的数据也称为时间序列数据。 :每条数据都带有时间戳 3:数据不可变,只会一直添加 4:高效的存储压缩效率 5:时序唯一性:某一个时刻的某一个指标只会有一条(一组也视为一条)数据 6:单条数据没有意义,看某一个时间段的所有数据才有意义 时序数据库的基本概念 Time series (时间序列,简称时序或者时序数据):根据wiki百科[2],其数学定义是这样:In mathematics, a time series is a series 翻译过来的要点就是 1)源于数学学科; 2)是按时间顺序索引的一系列数据点。因此也多翻译为“时序数据”。3)最常见的是在连续的相等间隔时间点上获取的序列。4)是一个离散时间的数据序列。 时序数据库的项目 事实上,业界流行的ClickHouse、Apache IoTDB等也属于时序数据库范畴。

    3.7K20编辑于 2022-05-27
  • 来自专栏侯哥的Python分享

    Mysql基础4-数据查询

    一、DQL介绍 DQL全称:Data Query Language(数据查询语言),用来查询数据库中表的记录。 字段1  [as 别名1], 字段2 [as 别名2] ... from 表名;     对查询结果设置别名   4、去重查询 语法:select distinct 字段列表 from 表名;   非 1、查询年龄等于18的所有人的姓名 2、查询年龄小于21的人的姓名  3、查询年龄大于18,小于20的 4、查询地址不为空的人的姓名和地址信息  5、查询年龄小于20并且地址在西安的人的姓名和地址 :统计数量     max: 最大值     min:最小值     avg:平均值     sum:求和   3、语法     select 聚合函数(字段列表) from 表名;   4、示例      3.2 查询第二页数据,每页展示5条数据,因为每页的数据是5条,所以第二页的索引其实位置是(2-1)*5 = 5,第三页的起始位置是(3-1)*5=10       又因为一共只有6条数据,所以第二页只有一条数据可以展示

    43310编辑于 2023-07-24
  • 时序数据

    时序数据库的核心特点 时序数据库专门存储按时间顺序生成的数据(如监控指标、传感器数据),其核心特点是高写入吞吐和时间范围查询。数据通常带有时间戳,写入后极少更新,但需支持高效的时间区间聚合分析。 DATA节点:存储时序数据,需高吞吐和水平扩展(AP模型),允许最终一致性,通过多副本、Hinted-handoff等机制平衡性能与可靠性。 最终一致性保障 反熵(Anti-entropy):周期性地对比副本数据差异,以缺失数据为准修复不一致。时序数据的不可变性简化修复逻辑——仅需补全缺失记录。 时序数据库的写入密集型特性决定了DATA节点采用AP模型,而元数据管理需CP保证。 权衡的艺术:强一致性(如Raft)牺牲性能,最终一致性(如反熵)需容忍短暂不一致。 通过InfluxDB的案例可见,分布式系统的实现是理论与工程妥协的结果,需综合算法特性(如Raft)、业务场景(时序数据特点)和运维需求(如故障恢复速度)进行设计。

    21010编辑于 2025-12-18
  • 来自专栏莫浅子的学习笔记

    数据库-MySQL-基础4)-DQL(基础查询)

    前言 本篇文章参考黑马程序员的网课,做的笔记,如果你感觉写的好,不妨一键三连,感谢你的支持  ---- 目录 DQL-介绍 DQL-语法 DQL- 基础查询 1、查询多个字段  2、设置别名 3 、去出重复记录 DQL- 条件查询 1、语法  2、条件  3、案例集合 ---- DQL-介绍 DQL,数据查询语言,用来数据库中标的记录 查询关键字 SELECT DQL-语法 SELLECT                 HAVING                分组后条件列表 ORDER BY                排序字段列表 LIMIT               分页参数 ---- DQL- 基础查询

    63730编辑于 2022-11-18
  • 来自专栏Python数据结构与算法

    数据结构与算法基础-(4)

    线性结构(Linear Structure)的概念 线性结构:是一种有序数据项的集合,其中每个数据项都有唯一的前驱和后继 ​ ​ 两端称呼并非关键,不同的数据结构的关键区别在于数据的增减方式 有的数据结构只允许数据项从一端添加 ,而有的数据结构则允许数据项从两端移除! ​ ​ 栈Stack 一种有次序的数据项集合,在栈中,数据项的加入和移除都仅发生在同一端 这一端叫栈“顶top”,另一端叫栈“底base” ​ 日常生活中有很多栈的应用 盘子、托盘、书堆等 ​ 距离栈底越近的数据项 抽象数据类型(ADT - Abstract Data Types) ------------> " 栈 " 是一个有次序的数据集,每个数据仅从" 栈顶 " 一端加入到数据集中,从数据集中移除,栈具有后进先出 peak ( ) : "窥视" 栈顶数据项, 返回栈顶的数据项但不移除, 栈不被修改. isEmpty ( ) : 返回栈是否为空栈 size ( ) : 返回栈中有多少个数据项 考点1: ​ 用Python

    25010编辑于 2024-01-18
领券