首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏桥路_大数据

    实时数仓:流式数据建模

    流式数据模型 架构设计 数据模型设计是贯穿数据处理过程的,在实时流式数据处理中也一样。实时建模与离线建模类似,数据模型整体上分为5层(ODS、DWD、DWS、ADS、DIM)。 ? ODS层实时进入的数据,会进行去重、清洗等任务,适度做一些维度退化工作,清洗后的数据会存放到DWD层中,DWD数据明细层的数据会回流到消息队列中,从而实时同步到下游实时任务中,同时会持久化到数据库中供离线系统使用 DWS、ADS层数据会存储到实时读写的数据库系统中,供前端业务进行实时访问。 DWS、ADS的数据表类型和离线系统一样,分为事实表和维度表。 但在进行指标计算时,事实数据实时进行订阅,使用到的维度表数据不会进行实时更新获取,而使用的是T-2的离线数据。且维度表数据会存储在DIM层中,在计算时进行获取。 这里的计算流向是:Kafka作为ODS层,存储实时数据;实时流计算任务从ODS获取数据进行计算,计算结果作为DWD层数据,写入到Kafka中存储,供下游实时计算,并且为了与离线系统保持一致,也会推送到离线系统中进行存储

    2.1K20发布于 2021-01-06
  • 来自专栏《C++与 AI:个人经验分享合集》

    怎样利用 MATLAB 进行实时系统的建模与仿真?

    要利用MATLAB进行实时系统的建模与仿真,您可以按照以下步骤进行操作: 确定系统的建模方法:根据实际情况,选择适合的建模方法,如:微分方程、状态空间模型、传递函数模型等。 编写系统模型的MATLAB代码:利用MATLAB的建模工具,编写系统的模型代码。您可以使用ODE函数求解微分方程,使用tf函数创建传递函数模型,使用ss函数创建状态空间模型等。 需要注意的是,MATLAB可以进行离散时间仿真和连续时间仿真,对于实时系统的仿真,通常采用离散时间仿真。在进行离散时间仿真时,需要注意设置适当的采样时间,以保证仿真结果的准确性。

    74310编辑于 2024-12-09
  • 来自专栏Hadoop数据仓库

    Greenplum 实时数据仓库实践(6)——实时数据装载

    创建实时装载规则 6.3.4 启动实时装载 6.3.5 测试 1. 生成测试数据 2. 6. 启动MySQL复制,自动开始实时ETL。 停止MySQL复制期间的增量变化数据自动同步,并触发rule自动执行实时装载。 销售订单数据仓库模型设计 我们使用2.2.1 维度数据模型建模过程介绍的四步建模法设计星型数据仓库模型。 (1)选择业务流程。在本示例中只涉及一个销售订单的业务流程。 表6-2汇总了本示例的这些信息。 实时增量 唯一订单号 sales_order_fact 实时增量 N/A N/A N/A date_dim N/A 预装载 表6-2 销售订单实时装载类型

    3.4K20编辑于 2021-12-29
  • 来自专栏iSharkFly

    Confluence 6 使用 JMX 界面实时监控

    使用 JMX 界面(Java Management Extensions API ),你可以实时的查看你 Confluence 运行实例的状态。 https://www.cwiki.us/display/CONF6ZH/Live+Monitoring+Using+the+JMX+Interface

    82440发布于 2019-01-31
  • 来自专栏王的机器

    信用风险建模 in Python 系列 6 - 阈值模型校正

    完整代码和数据 链接:https://pan.baidu.com/s/1FVku6WefSBfhRwWILiaCrw 提取码:vx4p 本文是「信用风险建模 in Python」系列的第六篇,其实在之前的

    1.4K20发布于 2020-08-20
  • 视频孪生的前世今生:技术演进、体系架构与应用价值研究

    该技术基于其在三维GIS引擎与视频融合领域的长期研发积累,将视频流实时映射至三维空间场景之中,形成统一的时空表达体系。 该阶段主要特点是: 强调物理实体的数字镜像关系 以仿真建模为核心 缺乏实时数据闭环能力 4.2 计算机视觉驱动阶段(2010–2018) 深度学习的发展推动视频理解能力显著提升: 目标检测模型(YOLO 5.3 认知解析层 目标检测与跟踪(MOT) 行为识别与事件检测 多模态语义融合 5.4 孪生应用层 实时态势映射 数字实体同步 空间推演与预测分析 6、视频孪生的应用价值分析 6.1 提升动态感知能力 6.2 构建空间智能基础设施 通过统一时空映射机制,视频孪生可支撑: 城市级实时态势感知 交通流动态建模 工业过程可视化推演 6.3 补齐数字孪生实时性短板 传统数字孪生依赖低频数据更新,而视频孪生提供高频连续数据流 视频孪生平台研发与应用[EB/OL]. [6] 智汇云舟. 国内自主可控3D引擎发展观察:从静态可视化到实时孪生[EB/OL]. [7] 李清泉,杨必胜。三维地理信息系统理论与技术 [M].

    27310编辑于 2026-07-03
  • 来自专栏HT

    倾斜摄影实景三维在智慧工厂 Web 3D GIS 数字孪生应用

    实现价值 基于 HT for Web 和 GIS 技术的数字钢铁厂建设主要有以下三部曲: ? 数据获取: Ø 钢铁厂三维场景数据获取方式主要有两种:一种是通过航拍建模;一种是通过人工建模。 除了上述特点之外,航拍建模的成果数据具有地理坐标系信息,可以准确的和GIS 匹配,人工建模要和 GIS 匹配需要人工进行空间矫正配准。 现今,大部分钢铁厂对厂区的环境监控都布设了相应的监控点位,通过对接设备上的实时数据,可以对厂区的环境进行全面的监测把控。 同时,针对影响环境的因素,如,车辆尾气的排放,也可以进行厂区的车辆分布及具体信息进行实时监控。 ? ? 2019 我们也更新了数百个工业互联网 2D/3D 可视化案例集,在这里你能发现许多新奇的实例,也能发掘出不一样的工业互联网:https://mp.weixin.qq.com/s/ZbhB6LO2kBRPrRIfHlKGQA

    2.3K31发布于 2020-12-08
  • 来自专栏别先生

    Elasticsearch 6.x版本全文检索学习之数据建模

    1、什么是数据建模。   答:数据建模,英文为Data Modeling,为创建数据模型的过程。 3、Elasticsearch的数据建模,es是基于lucene以倒排索引为基础实现的存储体系,不遵循关系型数据库中的范式约定。 ? 4、Elasticsearch的数据建模中Mapping字段的相关设置。   答:a、enabled,值包含true、false。仅存储,不做搜索或者聚合分析。      6、Mapping字段属性的设定流程,是何种类型的。   答:a、字符串类型,需要分词则设定为text类型的,否则设置为keyword类型的。      一般字段过多的原因是由于没有高质量的数据建模导致的,比如dynamic设置为true。也可以考虑拆分多个索引来解决问题。

    1.3K20发布于 2019-11-14
  • 来自专栏ATYUN订阅号

    AI系统DeepRay实时处理视频,重建模糊的镜头帧

    研发公司Cambridge Consultants的研究人员表示,他们利用AI可以实时重建镜头中受损或模糊的帧。在一次关于机场的视频测试中,它能够准确地再现跑道上的飞机。 但与大多数AI不同,DeepRay能够处理实时视频。

    1.3K10发布于 2018-12-24
  • 来自专栏hightopo

    图扑数字孪生北京故宫,推进旅游业元宇宙进程

    现代化景区在吸纳了信息革命(5G/6G)、互联网革命(Web 3.0)、人工智能革命以及 VR、AR、MR 在内的虚拟现实技术革命的成果后将为游客带来更多的沉浸式互动体验。 标准的组件库,可以无缝结合 HTML5 各项多媒体功能,支持集成各类视频资源形成统一的视频流,可在 2D、3D 态势地图上标注摄像头对象并关联其视频信号源,通过场景交互来调取相应监控视频,满足运维人员对场景进行实时态势感知 实际入园人次历史 渐变色三角形柱状图实现日均入园人次的同比、环比、实时数据展示。图扑运用图形化的手段清晰有效地将数据信息进行解读和传达,帮助我们发现其中的规律和特征,挖掘数据背后的价值。 GIS 开关 HT for Web 和 GIS 的结合,能让三维景区内地面物体展现更多细节。三维场景数据获取可通过航拍建模或者人工建模。航拍建模即倾斜摄影实景三维。 航拍建模的成果数据具有地理坐标系信息,可以准确的和 GIS 匹配,人工建模要和 GIS 匹配需要人工进行空间矫正配准。

    1.1K20编辑于 2022-09-21
  • 来自专栏工业数字孪生

    图扑数字孪生北京故宫,推进旅游业元宇宙进程

    现代化景区在吸纳了信息革命(5G/6G)、互联网革命(Web 3.0)、人工智能革命以及 VR、AR、MR 在内的虚拟现实技术革命的成果后将为游客带来更多的沉浸式互动体验。 标准的组件库,可以无缝结合 HTML5 各项多媒体功能,支持集成各类视频资源形成统一的视频流,可在 2D、3D 态势地图上标注摄像头对象并关联其视频信号源,通过场景交互来调取相应监控视频,满足运维人员对场景进行实时态势感知 实际入园人次历史渐变色三角形柱状图实现日均入园人次的同比、环比、实时数据展示。图扑运用图形化的手段清晰有效地将数据信息进行解读和传达,帮助我们发现其中的规律和特征,挖掘数据背后的价值。 GIS 开关HT for Web 和 GIS 的结合,能让三维景区内地面物体展现更多细节。三维场景数据获取可通过航拍建模或者人工建模。航拍建模即倾斜摄影实景三维。 人工建模,主要是根据一定范围内的场景图或者 CAD 图纸结合实景照片进行人工建模。航拍建模的成果数据具有地理坐标系信息,可以准确的和 GIS 匹配,人工建模要和 GIS 匹配需要人工进行空间矫正配准。

    1K20编辑于 2022-07-22
  • FME在AEC行业能完成哪些数据集成任务?

    BIM、GIS、IoT和实时数据。 FMEPlatform更适合作为现有设计、GIS和业务系统之间的数据集成与自动化层,而不是替代BIM建模、GIS分析或资产管理软件。 在实际AEC项目中,可以根据业务时效要求选择:定时批处理文件更新后处理API触发业务事件触发实时或流式处理并非所有AEC数据都需要实时同步。 任务七:数字孪生数据准备与集成数字孪生通常需要多类数据共同工作,例如:BIM+GIS+资产数据+IoT+实时数据SafeSoftware的AEC资料明确提出,可以通过集成BIM、IoT和实时数据流构建数字孪生相关数据体系 FME主要是数据集成平台,因此通常不替代以下专业软件能力:BIM建模FME不会替代Revit等BIM设计和建模工具。CAD设计不会替代专业CAD制图环境。

    9810编辑于 2026-09-17
  • 来自专栏AI科技大本营的专栏

    抗击新冠肺炎,如何进行实时动态时序图谱建模与分析?

    我们使用AbutionGraph依据真实场景建模,由于详细数据不公开,本文中均使用模拟数据进行分析。 ? ? 新冠肺炎数据建模 了解了图形的多种存储形式后,接下来我们使用模拟数据依次建模,并详细介绍每个实体与关系的数据映射关系。 ? <<--按天分区汇总(预聚合-即图库自动计算的) select "结束时间" execute "<2020.01.24" 结果: 北京市(2020.01.20):2例 北京市(2020.01.21):6例 北京市(2020.01.22):13例 北京市(2020.01.23):8例 深圳市(2020.01.20):4例 深圳市(2020.01.21):6例 深圳市(2020.01.22):18例 深圳市 场景6、找出所有超级传播者 Ps:假定传染人数超过4个即为超级传播者。 查询: use ["患新冠肺炎"] toEdge [“传染”] count >= 5 ; 结果: ?

    1.2K10发布于 2020-02-24
  • 来自专栏视频孪生技术

    视频孪生技术TOP5企业:重塑虚实融合的产业格局,引领数字化变革

    自主研发的DTS数字孪生平台拥有多源数据治理、物理实时渲染、AI仿真融合等核心技术,全面适配国产化软硬件生态。公司开创性地将空间智能技术融入数字孪生平台,解决了行业底层技术瓶颈6。 其自研的ThingJS WebGL引擎通过中国信通院认证,支持实时数据驱动的三维场景动态更新。行业地位:注册企业超6万家,客户覆盖30个省市及海外地区,市占率持续领先。 其平台可无缝集成BIM、GIS、倾斜摄影等多源数据,构建高精度三维场景,并实时渲染物理环境(如天气、光照)。 五、镜像视界:智慧城市的三维建模专家镜像世界在城市级视频孪生领域展现出卓越的技术实力,其核心优势在于视频流与激光雷达点云数据的融合建模技术。 从智汇云舟的实时实景映射,到飞渡科技的三维数据治理,从优锘科技的“真孪生”运维,到51WORLD的全球化空间智能,再到镜像视界的建模专家,它们共同绘制出虚实交织的未来图景,为数字化转型注入新动能。

    98710编辑于 2025-09-02
  • 来自专栏点点GIS

    GIS 学生如何帮助应对洪水(以2019年美国洪水为例)

    前言 这是美国有记录以来最潮湿的春季,1 月至 6 月期间,多场风暴袭击和河流泛滥,淹没了中西部、高平原和南部,影响了 1400 万人。密西西比河沿岸的 42 个不同地点创造了新的高水位记录。 “我们使用无人机来提供实时态势感知能力。我们连续 16 天每天工作 14 小时。” 在沿河的许多小社区中,洪水经常发生,但没有达到这些事件的程度和持续时间。 美国陆军工程兵团和国家气象局使用水力预报和 GIS 进行预测建模所运行的模型,该堤坝将失败。 市民们用推土机将城镇周围农田的泥土推开,建造了自己的后备堤坝。 团队团队的一种观点 不同机构和 GIS 学生收集的实时数据被输入ArcGIS Dashboards并在全州共享。 “我们会收到添加一些东西的请求,比如雷达的天气覆盖,学生们会研究并找到最好的实时数据添加到仪表板” 3 难忘的体验 学生们从这些活动中获得了丰富的学习经验,沉浸在各种 GIS 工具的使用中,并且需要在危机期间快速提供答案

    77430发布于 2021-08-18
  • 来自专栏未来先知

    YOLO-ELA 高效的局部注意建模,用于高性能实时缺陷检测 !

    为解决这一问题,本文提出了一种基于局部注意力建模的新注意力基础架构,即YOLO-ELA。 这些模型在保持高精度的同时显著提高了检测速度,使其更适合实时应用。例如,阿杜等人(2019年)使用YOLOv3检测绝缘子并识别缺陷,实现了每秒45帧(FPS)的检测速度,满足了实时检测需求。 具有更高 FPS 的模型在实时应用中更受欢迎,因为它可以更高效地处理更多的帧,确保更快的检测或处理。 这表明所提出的模型在实时部署中表现更好,既提高了速度,也提高了准确性。 如图6所示,YOLOv8+ELA在复杂背景条件下呈现了一些检测结果。图像中包括各种物体,如树木、塔检查行人、道路网络、汽车和房屋等。

    1.3K10编辑于 2024-10-29
  • 来自专栏点点GIS

    今日GIS大事件!星图地球刚刚官宣1.5小时完成100平方公里城市建模

    近年来,随着我国“数字城市”向“智慧城市”的不断转型升级,以二维矢量数据为主的 GIS 应用已经难以满足当前的需求,一种所见即所得、更加直观的城市三维实景模型逐渐成为大众热衷的表达方式。 因此,如何快速构建城市三维实景模型成为当前 GIS 应用领域研究的热点问题。 在构建城市三维实景模型技术方案中,目前已有城市数据集将所有建筑物视为单一类别,但在当前城市结构布局复杂、建筑风格多样的多种环境下,相关技术难以满足大规模复杂城市的三维建模与发展规划的需求。 ▼ 在实景三维城市、数字孪生城市、新型智慧城市建设如火如荼的当下,建筑物的提取与建模对城市规划管理、城市形象展示等具有重要作用,为构建数字孪生、打造三维数字地球提供基础资源支撑。 图5 典型功能类型示例1 图6 典型功能类型示例2 1.3 多模态与国产化 目前数据集覆盖光学、红外和SAR三种模态数据,并且所有卫星影像均来自高分二号、高分三号和高景卫星等国产卫星。

    1.6K30编辑于 2022-09-27
  • 来自专栏HT

    智慧城市大数据运营中心 IOC 之 Web GIS 地图应用

    最终将分出来的每个区块都会附带一个较大的 AO 贴图,再对 AO 贴图进行烘焙,就需要对模型进行展UV,最终完成城市级建筑群建模工作。 ? 生态预警 界面还展示了台风路径图的实时动画并且提供了实时信息交互功能,HT 的 3D 引擎支持画面的动态矢量数据,客户只需要轻轻点击路径图,便可以获取实时台风动态信息。 实现价值 IOC 智慧城市智能运行中心以城市数字基础设施、通过数据汇聚和分析,结合 GIS 地图的可视化展现形式,以生态化的服务为运营模式,利用“实时、全样、精准”的城市数据建立全程在线、全域覆盖、实时反馈的 结合 HT for Web 强大的可视化引擎技术,实现不同的地图瓦片数据、倾斜摄影实景、三维精细化人工建模模型、POI 等数据的叠加展示;结合 HT for Web BIM 产品,实现 BIM 模型和 GIS 结合的可视化展现;结合 HT for Web 三维视频融合产品,实现 GIS 场景中的实时视频融合展示。

    1.9K20发布于 2021-04-14
  • 来自专栏行业科技知识分享

    智慧城市大数据运营中心 IOC 之 Web GIS 地图应用

    最终将分出来的每个区块都会附带一个较大的 AO 贴图,再对 AO 贴图进行烘焙,就需要对模型进行展UV,最终完成城市级建筑群建模工作。 10_副本.png 生态预警 界面还展示了台风路径图的实时动画并且提供了实时信息交互功能,HT 的 3D 引擎支持画面的动态矢量数据,客户只需要轻轻点击路径图,便可以获取实时台风动态信息。 人脸1.gif 实现价值 IOC 智慧城市智能运行中心以城市数字基础设施、通过数据汇聚和分析,结合 GIS 地图的可视化展现形式,以生态化的服务为运营模式,利用“实时、全样、精准”的城市数据建立全程在线 结合 HT for Web 强大的可视化引擎技术,实现不同的地图瓦片数据、倾斜摄影实景、三维精细化人工建模模型、POI 等数据的叠加展示;结合 HT for Web BIM 产品,实现 BIM 模型和 GIS 结合的可视化展现;结合 HT for Web 三维视频融合产品,实现 GIS 场景中的实时视频融合展示。

    2.1K30发布于 2021-05-07
  • 三维GIS平台架构:从数据到场景的四层体系

    传统二维GIS受限于平面表达,难以还原城市、园区等立体空间的真实面貌。随着智慧城市与数字孪生的发展,三维GIS平台正在成为空间信息可视化的核心底座。 三维GIS需要融合多源异构数据:遥感影像、数字高程模型(DEM)、倾斜摄影模型、BIM模型、矢量要素以及IoT实时数据。 四、架构演进趋势当前三维GIS架构正从“展示型”向“分析决策型”演进。 另一方面,BIM与GIS的深度融合推动道路、桥梁等基础设施的参数化建模,通过算法自动生成桥墩、边坡等结构,大幅降低人工建模成本。 未来,结合AI的空间语义理解与实时IoT数据接入,三维GIS平台将成为城市运行管理不可或缺的“数字底座”。

    23210编辑于 2026-08-22
领券