首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 时序数据基础:什么是时序数据

    时序数据,即时间序列数据(Time-Series Data),它们是一组按照时间发生先后顺序进行排列的序列数据。日常生活中,设备、传感器采集的数据就是时序数据,证券交易的记录也是时序数据。 因此时序数据的处理并不陌生,特别在是工业自动化以及证券金融行业,专业的时序数据处理软件早已存在,比如工业领域的 PI System 以及金融行业的 KDB。 从手环、共享出行、智能电表、环境监测设备到电梯、数控机床、挖掘机、工业生产线等都在源源不断的产生海量的实时数据时序数据的体量正指数级的增长。 由于数据量指数级的增长,而且对分析和实时计算的需求越来越多,特别是在人工智能的时代,传统的时序数据处理工具难以满足需求,对每天高达 10TB 级别的海量时序数据如何进行实时的存储、分析和计算,成为一个技术挑战 ,因此海量时序数据的高效处理在过去的十年获得全球工业界的高度关注。

    47010编辑于 2025-09-28
  • 时序数据基础时序数据的典型应用场景

    时序数据应用的细分场景有很多,这里简单列举一些电力能源领域:电力能源领域范围较大,不论是在发电、输电、配电、用电还是其他环节中,各种电力设备都会产生大量时序数据,以风力发电为例,风电机作为大型设备,拥有可能高达数百的数据采集点 ,因此每日所产生的时序数据量极其之大,对这些数据的监控分析是确保发电环节准确无误的必要工作。 IT 运维领域:IT 领域中,基础设施(如服务器、网络设备、存储设备)、应用程序运行的过程中会产生大量的时序数据。 通过对这些时序数据的监控,可以很快地发现基础设施/应用的运行状态和服务可用性,包括系统是否在线、服务是否正常响应等;也能看到具体到某一个具体的点位的性能指标:如 CPU 利用率、内存利用率、磁盘空间利用率 在金融领域中,量化交易平台是最能凸显时序数据处理重要性的革命性应用之一:通过对大量时序行情数据的读取分析来及时响应市场变化,帮助交易者把握投资机会,同时规避不必要的风险,实现资产的稳健增长。

    37910编辑于 2025-09-28
  • 时序数据基础时序数据的十大特征

    相对于普通的互联网的应用数据时序数据有着很多明显的特征。 涛思数据的创始人陶建辉先生早在 2017 年,就对此进行了充分地归纳分析,总结了时序数据本身以及时序数据应用的十大特征:数据时序的,一定带有时间戳:联网的设备按照设定的周期,或受外部的事件触发,源源不断地产生数据 一个数据采集点就是一个数据流:一个设备采集的数据、以及一支股票的交易数据,与另外一个设备采集的数据或股票是完全独立的。一台设备的数据一定是这台设备产生的,不可能是人工或其他设备产生的。 但对于物联网、工业时序数据,每个数据点与数据点的变化并不大,大家关心的更多是一段时间,比如过去五分钟、一小时数据变化的趋势,不会只针对一个时间点进行。 上述的特征使时序数据的处理具有着独特的需求和挑战。但是反过来说,对于一个高效的时序数据处理平台,它也必然充分利用这十大特征来提升它的处理能力。

    30010编辑于 2025-09-28
  • 时序数据基础:处理时序数据所需要的工具

    如果想要高效地处理时序数据,一个完整的时序数据处理平台一定要准备好以下几个核心模块。数据库(Database):数据库提供时序数据的高效存储和读取能力。 在工业、物联网场景,由设备所产生的时序数据量是十分惊人的。从存储数据的角度来说,数据库需要把这些数据持久化到硬盘上并最大程度地压缩,从而降低存储成本。 同时,由于数据的隐私以及安全,你只能允许应用订阅他有权限访问的数据。因此,一个时序数据处理平台一定需要具备数据订阅的能力,帮助应用实时获取最新数据。 处理时序数据需要一系列模块的协同作业,从数据采集到存储、计算、分析与可视化,再到专用的时序数据算法库,每个环节都有相应的工具支持。 这些工具的选择取决于具体的业务需求和数据特点,合理地选用和搭配才能做到高效地处理各种类型的时序数据,挖掘数据背后的价值。

    28310编辑于 2025-09-28
  • 时序数据基础:选择时序数据处理工具的标准

    毫无疑问,我们需要一个优秀的时序数据平台来处理设备、交易产生的海量数据。那么,这个大数据平台需要具备哪些能力?与通用的大数据平台相比,它需要具备什么样的特征呢? 所以,对于时序数据工具的选型,一定要看它的架构模型能否撑得起你的业务基数。一个能够通过分布式的架构来处理“高基数”难题,才能让平台足以支撑业务的增长,才可以说是一个真正意义上的时序数据平台。 如果专用的时序数据处理平台不能在存储、读取、分析这些方面做到“高性能”,那么为什么不采用通用的大数据平台呢? 因此时序数据系统需要一个灵活的机制增加某个维度的分析。需要支持即席分析和查询。 近年来,众多企业纷纷将时序数据从传统大数据平台或关系型数据库迁移到专用时序数据平台,以保障海量时序数据得到快速和有效处理,支撑相关业务的持续增长。

    25010编辑于 2025-09-28
  • 时序数据基础:专用时序数据处理工具的必要性

    时序数据的十大特征一节中提到,对于一个优秀的时序数据处理平台来说,必然需要具备处理时序数据十大特征的能力。在处理时序数据所需要的工具一节中介绍了时序数据平台处理时序数据所需要的主要模块/组件。 因此很自然,在工业、物联网大数据兴起后,大家仍然想到的是使用这套通用的大数据处理平台来处理时序数据。 运行效率低:现有的这些开源软件主要用来处理互联网上的非结构化数据,比如文本、视频、图片数据等,但是通过物联网采集来的数据都是时序的、结构化的。 由于数据量巨大且应用方式特殊,对时序数据的处理具有相当大的技术挑战,因此要使用专业的大数据平台。 对实时时序数据的科学合理地高效处理能够帮助企业实时监控生产与经营过程,对历史时序数据的分析有助于对资源的使用和生产配置做出科学的决策。

    22710编辑于 2025-09-28
  • 来自专栏全栈程序员必看

    时序数据 mysql存储_【时序数据库】时序数据库介绍

    1.基本概念 时序数据库(Time Series Database)是用于存储和管理时间序列数据的专业化数据库。时序数据库特别适用于物联网设备监控和互联网业务监控场景。 下面介绍下时序数据库的一些基本概念(不同的时序数据库称呼略有不同)。 1.1 度量(metric) 监测数据的指标,例如风力和温度。相当于关系型数据库中的table。 这样的聚合实际上就是简单的count以及max,问题是如何能高效的在那么大的数据量的基础上将满足条件的原始数据查询出来并聚合,要知道统计的原始值可能因为时间比较久远而不在内存中哈,因此这可能是一个非常耗时的操作 5.传统关系型数据库存储时序数据的问题 很多人可能认为在传统关系型数据库上加上时间戳一列就能作为时序数据库。数据量少的时候确实也没问题。 5.3 时序数据库需要解决以下几个问题: 时序数据的写入:如何支持每秒钟上千万上亿数据点的写入。 时序数据的读取:如何支持在秒级对上亿数据的分组聚合运算。 成本敏感:由海量数据存储带来的是成本问题。

    5.4K10编辑于 2022-11-10
  • 来自专栏TechBlog

    时序电路建模基础

    ⭐本专栏针对FPGA进行入门学习,从数电中常见的逻辑代数讲起,结合Verilog HDL语言学习与仿真,主要对组合逻辑电路与时序逻辑电路进行分析与设计,对状态机FSM进行剖析与建模。 在时序电路的设计中,建议采用非阻塞型赋值语句。 事件控制语句 用always语句描述硬件电路的逻辑功能时,在always语句中@符号之后紧跟着“事件控制表达式”。 在同步时序逻辑电路中,触发器状态的变化仅仅发生在时钟脉冲的上升沿或下降沿,Verilog HDL中用关键词posedge(上升沿)和 negedge(下降沿)进行说明,这就是边沿触发事件。

    48910编辑于 2023-02-24
  • 来自专栏开源FPGA

    时序逻辑电路基础

    建立时间Tsu(setup):触发器在时钟上升沿到来之前,其数据输入端的数据必须保持不变的最小时间。 保持时间Th(hold):触发器在时钟上升沿到来之后,其数据输入端的数据必须保持不变的最小时间。 clock output delay,时钟触发到数据输出的最大延迟时间 最小时钟周期:Tmin = Tco + Tdata + Tsu - Tskew。 时钟偏移(Clock Skew):是由于布线长度及负载不同引起的,导致同一个时钟信号到达相邻两个时序单元的时间不一致。 题目:谈谈对Retiming技术的理解   Retiming就是重新调整时序,例如电路中遇到复杂的组合逻辑,延迟过大,电路时序不满足,这个时候采用流水线技术,在组合逻辑中插入寄存器加流水线,进行操作,面积换速度思想

    1.3K20发布于 2018-10-22
  • 来自专栏莫浅子的学习笔记

    数据库-MySQL基础9)-多表关系

    目录 概述 1、一对多 2、多对多 3、一对一 多表查询概述 多表查询分类 1、连接查询 2、子查询 ---- 概述 项目开发中,在进行数据库表结构关系设计时,会根据业务需求及业务模块之间的关系,分析设计表结构 ,1,2),(null,1,3),(null,2,2),(null,2,3),(null,3,4); ---- 3、一对一 案例:用户与用户详情的关系 关系:一对一关系,多用于单表拆分,,将一张表的基础字段放在一张表中 杭州市第一小学','杭州市第一中学','杭州师范大学',3), (null,'本科','应用数学','阳泉第一小学','阳泉区第一中学','清华大学' ,4); ---- 多表查询概述 概述:指从多张表中查询数据  解决方案 select * from emp,dept where emp.dept_id = dept.id; ---- 多表查询分类 1、连接查询     内连接:相当于查询A、B交集的部分数据     外连接:左外连接:查询左表所有数据,以及俩张表交集部分的数据                    右外连接:查询右表所有数据,以及俩张表交集部分的数据    自连接:当前表与自身表的连接查询

    1.4K20编辑于 2022-11-18
  • 来自专栏技术杂记

    Codis 基础9

    添加 Redis Server Group 准备配置文件 [root@h102 codis]# grep -v "^#" extern/redis-2.8.21/redis.conf | grep -v "^$" > /etc/codis/redis_s.conf [root@h102 codis]# grep -v "^#" extern/redis-2.8.21/redis.conf | grep -v "^$" > /etc/codis/redis2.conf [root@h102 codis

    35620编辑于 2022-03-22
  • 来自专栏技术杂记

    Snort 基础9

    解决方法 : 安装 pcre.x86_64 和 pcre-devel.x86_64 软件包

    38120编辑于 2022-05-03
  • 来自专栏技术杂记

    fio基础9

    randrepeat=boolForrandomIOworkloads,seedthegeneratorinapredictablewaysothatresultsarerepeatableacrossrepetitions.Defaultstotrue.randseed=intSeedtherandomnumbergeneratorsbasedonthisseedvalue,tobeabletocontrolwhatsequenceofoutputisbeinggenerated.Ifnotset,therandomsequencedependsontherandrepeatsetting.fallocate=strWhetherpre-allocationisperformedwhenlayingdownfiles.Acceptedvaluesare:noneDonotpre-allocatespaceposixPre-allocateviaposix_fallocate()keepPre-allocateviafallocate()withFALLOC_FL_KEEP_SIZEset0Backward-compatiblealiasfor'none'1Backward-compatiblealiasfor'posix'Maynotbeavailableonallsupportedplatforms.'keep'isonlyavailableonLinux.IfusingZFSonSolaristhismustbesetto'none'becauseZFSdoesn't support it. Default: 'posix'. fadvise_hint=bool By default, fio will use fadvise() to advise the kernel on what IO patterns it is likely to issue. Sometimes you want to test specific IO patterns without telling the kernel about it, in which case you can disable this option. If set, fio will use POSIX_FADV_SEQUENTIAL for sequential IO and POSIX_FADV_RANDOM for random IO. fadvise_stream=int Notify the kernel what write stream ID to place these writes under. Only supported on Linux. Note, this option may change going forward. size=int The total size of file io for this job. Fio will run until this many bytes has been transferred, unless runtime is limited by other options (such as 'runtime', for instance, or increased/decreased by 'io_size'). Unless specific nrfiles and filesize options are given, fio will divide this size between the available files specified by the job. If not set, fio will use the full size of the given files or devices. If the files do not exist, size must be given. It is also possible to give size as a percentage between 1 and 100. If size=20% is given, fio will use 20% of the full size of the given files or devices. io_size=int io_limit=int Normally fio operates within the region set by 'size', which means that the 'size' option sets both the region and size of IO to

    70250编辑于 2022-04-24
  • 来自专栏技术杂记

    SQLite 基础9

    分离数据库 无法分离 main 和 temp 数据库 sqlite> .databases seq name file /usr/local/sqlite3.11/bin/test.db sqlite> Tip: 可以使用 attach 的方法来创建数据库别名

    24310编辑于 2021-12-01
  • 来自专栏技术杂记

    memcached基础9

    stats查看状态statsSTAT pid 8917STAT uptime 1183STAT time 1442996635STAT version 1.4.24STAT libevent 1.4.13-stableSTAT pointer_size 64STAT rusage_user 0.014997STAT rusage_system 0.105983STAT curr_connections 12STAT total_connections 14STAT connection_structures

    21410编辑于 2022-06-26
  • 来自专栏技术杂记

    Logstash 基础9

    打开本地的 tcp udp 5000端口 标记类型为 syslog filter中作判断如果类型是 syslog 拆分解析信息 添加 received_at received_from 字段 使用 syslog_pri { } 来处理 定义 syslog_timestamp 的格式 输出到ES 以 rubydebug 的格式输出到终端 启动 Logstash [root@h102 etc]# /opt/logstash/bin/logstash -f logstash-syslog.conf Setti

    28110编辑于 2022-02-10
  • 来自专栏技术杂记

    etcd 基础9

    刷新目录过期时间 [root@docker ~]# date +%s ;curl http://127.0.0.1:2379/v2/keys/testdir -XPUT -d ttl=10 -d dir=true 1454394195 {"action":"set","node":{"key":"/testdir","dir":true,"expiration":"2016-02-02T06:23:25.962070512Z","ttl":10,"modifiedIndex":85,"createdInde

    25910编辑于 2022-01-20
  • 来自专栏全栈程序员必看

    mysql时序数据库_时序数据库入门

    数据库的模型包含关系型、key-value 型、Document 型等很多种,那么为什么新型的时序数据库成为监控数据存储的新宠呢? 下面就会从 为什么需要时序数据库? 时序数据库的数据结构 两个方面来介绍一下时序数据库。 1. 为什么需要时序数据库 1.1 时序数据特点 时序数据有如下几个特点: 基本上是插入操作较多且无更新的需求 数据带有时间属性,且数据量随着时间递增 插入数据多,每秒钟插入需要可到达千万甚至是上亿的数据量 查询、聚合等操作主要针对近期插入的数据 时序数据能够还原数据的变化状态 可以通过分析过去时序数据的变化、检测现在的变化,以达到预测未来如何变化的目的 时序数据使用需求: 能够按照指标筛选数据 能够按照区间 1.3 场景选择 是否所有的数据都适合用时序数据库来存储? 答案:是否定的,时序数据库提供了针对大量数据的插入操作,但同时数据的读取延迟也相对增加。而且时序数据库不支持 SQL 的数据查询。

    3K30编辑于 2022-11-09
  • 来自专栏技术杂记

    Tengine基础9

    upstream 是nginx 负载均衡的主要模块,它提供了一个简单方法来轮询后端的服务器

    44220编辑于 2022-05-03
  • 来自专栏技术杂记

    UnrealIRCd 基础9

    error: /root/unrealircd/conf/unrealircd.conf:378: set::cloak-keys: (key 2) Keys should be mixed a-zA-Z0-9, error: /root/unrealircd/conf/unrealircd.conf:379: set::cloak-keys: (key 3) Keys should be mixed a-zA-Z0-9, IRCd configuration failed to pass testing 分别为: 1.要求修改操作员角色的用户名和密码 2.cloak-keys 必须得相互不一样,并且由 a-zA-Z0-9

    42820编辑于 2021-11-29
领券