首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏桥路_大数据

    实时数仓:流式数据建模

    流式数据模型 架构设计 数据模型设计是贯穿数据处理过程的,在实时流式数据处理中也一样。实时建模与离线建模类似,数据模型整体上分为5层(ODS、DWD、DWS、ADS、DIM)。 ? ODS层实时进入的数据,会进行去重、清洗等任务,适度做一些维度退化工作,清洗后的数据会存放到DWD层中,DWD数据明细层的数据会回流到消息队列中,从而实时同步到下游实时任务中,同时会持久化到数据库中供离线系统使用 DWS、ADS层数据会存储到实时读写的数据库系统中,供前端业务进行实时访问。 DWS、ADS的数据表类型和离线系统一样,分为事实表和维度表。 但在进行指标计算时,事实数据实时进行订阅,使用到的维度表数据不会进行实时更新获取,而使用的是T-2的离线数据。且维度表数据会存储在DIM层中,在计算时进行获取。 这里的计算流向是:Kafka作为ODS层,存储实时数据;实时流计算任务从ODS获取数据进行计算,计算结果作为DWD层数据,写入到Kafka中存储,供下游实时计算,并且为了与离线系统保持一致,也会推送到离线系统中进行存储

    2.2K20发布于 2021-01-06
  • 来自专栏好好学习

    【UML建模】(4) UML建模之时序图

    时序图是按照时间顺序显示对象交互的图。它显示了参与交互的对象和所交互信息的先后顺序,用来表示用例图中的行为,用例图是一种交互图。

    3.5K20编辑于 2022-03-31
  • 来自专栏《C++与 AI:个人经验分享合集》

    怎样利用 MATLAB 进行实时系统的建模与仿真?

    要利用MATLAB进行实时系统的建模与仿真,您可以按照以下步骤进行操作: 确定系统的建模方法:根据实际情况,选择适合的建模方法,如:微分方程、状态空间模型、传递函数模型等。 编写系统模型的MATLAB代码:利用MATLAB的建模工具,编写系统的模型代码。您可以使用ODE函数求解微分方程,使用tf函数创建传递函数模型,使用ss函数创建状态空间模型等。 需要注意的是,MATLAB可以进行离散时间仿真和连续时间仿真,对于实时系统的仿真,通常采用离散时间仿真。在进行离散时间仿真时,需要注意设置适当的采样时间,以保证仿真结果的准确性。

    77610编辑于 2024-12-09
  • 来自专栏机器学习AI算法工程

    【LDA数学八卦-4】文本建模

    4. 文本建模 我们日常生活中总是产生大量的文本,如果每一个文本存储为一篇文档,那每篇文档从人的观察来说就是有序的词的序列 d=(w1,w2,⋯,wn)。 包含M 篇文档的语料库 统计文本建模的目的就是追问这些观察到语料库中的的词序列是如何生成的。 所以在统计文本建模中,我们希望猜测出上帝是如何玩这个游戏的,具体一点,最核心的两个问题是 上帝都有什么样的骰子; 上帝是如何抛掷这些骰子的; 第一个问题就是表示模型中都有哪些参数,骰子的每一个面的概率都对应于模型中的参数

    1.3K30发布于 2018-03-12
  • 来自专栏OpenFPGA

    数字硬件建模SystemVerilog-组合逻辑建模(4)组合逻辑决策优先级

    下面的代码片段演示了一个以if-else-if决策链建模的4-2优先级编码器,其中高阶位优先于低阶位。 同样的优先级编码器也可以通过使用case语句来建模。 这可以通过在case关键字之前添加一个unique的决策修饰符来实现,如下例所示: 示例7-4:具有unique并行编码逻辑的状态解码器 //`begin_keywords "1800-2012" / current_state[2]: get_going = '1; endcase end endmodule: case_with_unique0_decode //`end_keywords 图7-4显示了综合该示例的结果 图7-4:示例7-4的综合结果:使用unique 使用unique会指示综合编译器可以并行计算case项。与图7-3所示的优先级实现相比,这显著减少了该独热码解码器的门数和传播路径的数量。 示例7-3和7-4中所示的reverse case语句编码风格是综合编译器需要决策修饰符以实现最佳结果质量(QoR)的少数例外之一。

    1.9K10编辑于 2023-02-14
  • 来自专栏数字孪生

    【技术篇】数字孪生项目为什么需要UE、Unity、GIS、BIM等多技术协同?

    BIM解决工程模型,GIS解决空间数据,UE/Unity解决实时三维应用,IoT负责实时数据,业务系统负责业务逻辑,数字孪生平台负责组织和承载。因此,数字孪生项目真正需要的是技术协同能力。 一、BIM、GIS、UE、Unity到底分别解决什么问题?可以用一句话理解:BIM管工程信息,GIS管空间关系,UE/Unity管实时三维表现,IoT管实时数据。 技术主要解决的问题常见项目BIM建筑和工程信息建筑、工厂、基础设施GIS地理空间关系城市、园区、水利UE高质量实时三维大型场景、工业、园区Unity交互应用开发Web/PC/移动端应用IoT实时设备数据工厂 不同项目可以采用数字孪生平台、WebGL、Unity、UE、GIS等不同路线。Q4:有了数字孪生平台,还需要开发人员吗?需要。平台解决技术底座,模型制作、业务开发、数据接口和现场实施仍然需要专业人员。 从三维建模到数据联动的完整流程。

    14910编辑于 2026-11-03
  • 来自专栏webpack@4.46.0源码分析

    4. 创建模块实例,为模块解析准备

    2. webpack构建的基石: tapable@1.1.3源码分析 3. webpack构建整体流程的组织:webpack -> Compiler -> Compilation 4. 创建模块实例,为模块解析准备 5. 路径解析:enhanced-resolve@4.5.0源码分析 6. 模块构建之loader执行:loader-runner@2.4.0源码分析 7. ---- 上一节说到normalModuleFactory.create来创建模块实例,下面从该方法开始分析创建模块实例需要哪些准备工作。 hooks.factory钩子的目的是创建模块实例 注意这两个订阅函数的执行结果是返回一个函数:factroy()、resolver() resolver(): 收集各种模块构建过程中需要的信息 该部分有大量代码解析 this.ruleSet匹配所有的非内联loader 解析非内联loader路径为本地路径 获取parser、generator:hooks.createParser、hooks.createGenerator 创建模块实例

    1.3K40编辑于 2022-11-16
  • 来自专栏写代码和思考

    SRS(简单实时视频服务) 笔记(4)- 截图

    这个服务可以接收来自 SRS 的HTTP回调 2、启动SRS, 3、当客户端发布流时SRS触发回调事件 on_publish,on_unpublish ,会发送 HTTP请求到第一步的“HTTP服务” 4、 4. 参考 https://gitee.com/winlinvip/srs.oschina/wikis/v4_CN_Snapshot?sort_id=3298613

    2K20发布于 2021-05-10
  • 来自专栏王的机器

    信用风险建模 in Python 系列 4 - 混合模型概述

    本文含 1491 字,8 图表截屏 建议阅读 10 分钟 0 引言 本文是「信用风险建模 in Python」系列的第四篇,其实在之前的 Cufflinks 那篇已经埋下了信用风险的伏笔, 信用组合可视化

    1.2K10发布于 2020-07-14
  • 来自专栏ATYUN订阅号

    AI系统DeepRay实时处理视频,重建模糊的镜头帧

    研发公司Cambridge Consultants的研究人员表示,他们利用AI可以实时重建镜头中受损或模糊的帧。在一次关于机场的视频测试中,它能够准确地再现跑道上的飞机。 但与大多数AI不同,DeepRay能够处理实时视频。

    1.3K10发布于 2018-12-24
  • 视频孪生的前世今生:技术演进、体系架构与应用价值研究

    摘要 随着数字孪生技术从概念验证走向规模化应用,面向高动态场景的实时感知与空间映射需求日益增强,视频孪生(Video Twin)作为一种融合计算机视觉、三维GIS与数字孪生体系的新型技术路径逐渐兴起。 该技术基于其在三维GIS引擎与视频融合领域的长期研发积累,将视频流实时映射至三维空间场景之中,形成统一的时空表达体系。 该阶段主要特点是: 强调物理实体的数字镜像关系 以仿真建模为核心 缺乏实时数据闭环能力 4.2 计算机视觉驱动阶段(2010–2018) 深度学习的发展推动视频理解能力显著提升: 目标检测模型(YOLO 实现像素级空间对象绑定 支持动态实体实时更新 融合AI识别与三维GIS引擎 该阶段标志着视频系统从“感知工具”向“空间计算基础设施”的跃迁。 6.2 构建空间智能基础设施 通过统一时空映射机制,视频孪生可支撑: 城市级实时态势感知 交通流动态建模 工业过程可视化推演 6.3 补齐数字孪生实时性短板 传统数字孪生依赖低频数据更新,而视频孪生提供高频连续数据流

    36310编辑于 2026-07-03
  • 来自专栏AI科技大本营的专栏

    抗击新冠肺炎,如何进行实时动态时序图谱建模与分析?

    我们使用AbutionGraph依据真实场景建模,由于详细数据不公开,本文中均使用模拟数据进行分析。 ? ? (常见的图形存储结构,如:JanusGraph、Neo4J等技术中使用) 多维图谱: ? 静态图谱+动态图谱是AbutionGraph特有形式,即可以保持历史数据不变,又可无需人为干预实时根据历史数据统计出指标。 4.时序图谱: ? 新冠肺炎数据建模 了解了图形的多种存储形式后,接下来我们使用模拟数据依次建模,并详细介绍每个实体与关系的数据映射关系。 ? 场景7、查找患者传播链 Ps:假定传染人数超过4个即为超级传播者。

    1.3K10发布于 2020-02-24
  • 来自专栏zaking's

    《JavaScript 模式》读书笔记(5)— 对象创建模式4

    可以使您能够一个接一个的调用对象的方法,而无需将前一个操作返回的值赋给变量,并且无需将您的调用分割成多行: myobj.method1("hello").method2().method3("world").method4( 对象创建模式的内容到这里就告一段落了,这一整章文章讲解了命名空间模式、声明依赖、私有模式、模块模式以及沙箱模式、对象常量、链模式等一系列有用的创建对象的方法。那么下一章,我们会学习下代码复用模式。

    75310发布于 2020-04-03
  • 来自专栏一行数据

    4行Python代码实时获取股市数据

    毕竟这社会毒打实践课经历一次就少一次 社会毒打实践课 Tushare介绍 获取token值 数据获取-以茅台为例 1.初始化 2.股票列表 3.上市公司基本信息 4.日线行情 5.其它数据 最后 Tushare token值获取方式如下 1、登录成功后,点击右上角->个人主页 2、 在“用户中心”中点击“接口TOKEN” 3、 可以点击右侧复制按钮复制token 4、或者点击右侧睁开眼睛来获取token明文,复制并保存 .SH", exchange='SSE', fields='ts_code,chairman,manager,secretary,reg_capital,setup_date,province') 4.

    4.7K40发布于 2020-07-14
  • 来自专栏人员定位系统

    复杂多径环境下 UWB 人员定位误差建模与实时补偿技术

    关键词:UWB;多径效应;误差建模;NLOS;实时补偿;自适应EKF;CIR0引言UWB依靠纳秒窄脉冲具备天然抗多径能力,但在金属构件密集的工业场景,反射信号能量强、多径簇密集,首径容易被淹没,造成TOA 1多径条件下分层误差建模将UWB测距观测统一建模:\(\hat{r}=r+\varepsilon_g+\varepsilon_s+\varepsilon_d\)r为真实距离;\(\varepsilon_g 2链路级实时补偿流程补偿分为离线标定与在线实时校正两个阶段。离线阶段采集厂区不同位置、不同遮挡状态下的样本,拟合静态偏移查找表,建立场景基础误差先验;在线阶段为逐帧链路补偿,分为三步。 该方案区别于单纯的滤波平滑:滤波只抑制误差扩散,而误差建模与补偿是从观测源头修正测距偏差,二者形成前置校正+后端鲁棒融合的双层抑制机制,对持续多径干扰的改善效果明显优于单一滤波。 4实验验证与工程讨论实验场景为钢结构化工车间,存在管道、设备遮挡,8台锚点组网,标签刷新率10Hz,模拟人员行走、转身、跨遮挡区域移动。

    8010编辑于 2026-11-11
  • FME在AEC行业能完成哪些数据集成任务?

    BIM、GIS、IoT和实时数据。 FMEPlatform更适合作为现有设计、GIS和业务系统之间的数据集成与自动化层,而不是替代BIM建模、GIS分析或资产管理软件。 在实际AEC项目中,可以根据业务时效要求选择:定时批处理文件更新后处理API触发业务事件触发实时或流式处理并非所有AEC数据都需要实时同步。 任务七:数字孪生数据准备与集成数字孪生通常需要多类数据共同工作,例如:BIM+GIS+资产数据+IoT+实时数据SafeSoftware的AEC资料明确提出,可以通过集成BIM、IoT和实时数据流构建数字孪生相关数据体系 FME主要是数据集成平台,因此通常不替代以下专业软件能力:BIM建模FME不会替代Revit等BIM设计和建模工具。CAD设计不会替代专业CAD制图环境。

    15310编辑于 2026-09-17
  • 来自专栏未来先知

    YOLO-ELA 高效的局部注意建模,用于高性能实时缺陷检测 !

    为解决这一问题,本文提出了一种基于局部注意力建模的新注意力基础架构,即YOLO-ELA。 这些模型在保持高精度的同时显著提高了检测速度,使其更适合实时应用。例如,阿杜等人(2019年)使用YOLOv3检测绝缘子并识别缺陷,实现了每秒45帧(FPS)的检测速度,满足了实时检测需求。 图4展示了YOLOv8+ELA在SIoU和CIoU损失函数下的训练损失曲线对比。从视觉分析来看,随着迭代次数的增加,训练损失逐渐减小,表明模型正在调整其权重和参数以适应绝缘体数据集。 如表4所示,YOLOv8+ELA模型的mAP在训练输入尺寸为320和640时,分别提高了14.5%和10.9%。 这表明所提出的模型在实时部署中表现更好,既提高了速度,也提高了准确性。

    1.4K10编辑于 2024-10-29
  • 来自专栏HT

    倾斜摄影实景三维在智慧工厂 Web 3D GIS 数字孪生应用

    实现价值 基于 HT for Web 和 GIS 技术的数字钢铁厂建设主要有以下三部曲: ? 数据获取: Ø 钢铁厂三维场景数据获取方式主要有两种:一种是通过航拍建模;一种是通过人工建模。 航拍建模,也称倾斜摄影实景三维,是近年来快速发展的一项 GIS 技术。利用飞机或无人机搭载多台传感器,从前后左右以及垂直五个方向对地物进行拍摄采集,快速高效获取真实反映地面情况的数据信息。 除了上述特点之外,航拍建模的成果数据具有地理坐标系信息,可以准确的和GIS 匹配,人工建模要和 GIS 匹配需要人工进行空间矫正配准。 现今,大部分钢铁厂对厂区的环境监控都布设了相应的监控点位,通过对接设备上的实时数据,可以对厂区的环境进行全面的监测把控。 同时,针对影响环境的因素,如,车辆尾气的排放,也可以进行厂区的车辆分布及具体信息进行实时监控。 ? ?

    2.3K31发布于 2020-12-08
  • 来自专栏媒矿工厂

    4K4D:对4K分辨率实现实时4D视角合成

    对这项技术的实用性至关重要的是它能够以高保真度实时渲染,使其能够应用于VR/AR、体育广播和艺术表演。最近,隐式神经表示在通过可微分渲染从 RGB 视频重建动态 3D 场景方面取得了巨大成功。 在本文中,作者提出了一种新的神经表示,称为 4K4D,用于建模和渲染动态 3D 场景。4K4D 在渲染速度方面显著优于已有的动态视图合成方法,同时在渲染质量方面也具有可比性。 本方法的核心创新在于 4D 点云表示和混合外观模型。具体来说,对于动态场景,作者使用空间雕刻算法获得粗略的点云序列,并将每个点的位置建模为可学习向量。 基于4K4D,作者还开发了一种可微分深度剥离算法,该算法利用硬件光栅化器实现了前所未有的渲染速度。 算法 给定一个捕捉动态 3D 场景的多视图视频,本文的目标是重建目标场景并实时进行新视图合成。 为了将特征向量 f 赋给帧 t 上任意点 x ,作者采用 K-Planes 算法中的策略,利用这六个平面来建模一个 4D 特征场 \Theta(x,t) : f=\Theta(x,t)=\theta

    1.8K60编辑于 2023-11-02
  • 来自专栏点点GIS

    今日GIS大事件!星图地球刚刚官宣1.5小时完成100平方公里城市建模

    近年来,随着我国“数字城市”向“智慧城市”的不断转型升级,以二维矢量数据为主的 GIS 应用已经难以满足当前的需求,一种所见即所得、更加直观的城市三维实景模型逐渐成为大众热衷的表达方式。 因此,如何快速构建城市三维实景模型成为当前 GIS 应用领域研究的热点问题。 在构建城市三维实景模型技术方案中,目前已有城市数据集将所有建筑物视为单一类别,但在当前城市结构布局复杂、建筑风格多样的多种环境下,相关技术难以满足大规模复杂城市的三维建模与发展规划的需求。 ▼ 在实景三维城市、数字孪生城市、新型智慧城市建设如火如荼的当下,建筑物的提取与建模对城市规划管理、城市形象展示等具有重要作用,为构建数字孪生、打造三维数字地球提供基础资源支撑。

    1.7K30编辑于 2022-09-27
领券