首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏EAWorld

    数据核心架构解析(PPT)

    数据管理起源于传统数仓,逐渐扩大到大数据管理,再到服务管理,不断地突破传统管理范畴,实现广义数据管理。 在这个过程中,稳定可扩展的管理架构数据实施的保障。 模型是定义数据属性及关系的,一般来讲,模型存储有两种方式。 第二步,基于MOF设计模型,例如将CWM(公共仓库模型)/CMM内置到模型列表中。 第三步,按照扩展后的模型,采集数据,纳入到数据系统,从而驱动数据管理和服务。 在数据管理三层管理架构的支持下,通常只需要做模型定义和数据采集,就能够实现不同数据管理。 例如:将表与字段数据要采集到数据管理系统。 、稳定方面有更高要求; 2、调用关系优化:简化调用流程;服务优先级控制; 3、问题追踪:辅助问题定位等 ………… 在普数字化云平台中也规划了数据服务,用数据驱动微服务架构

    4.2K92发布于 2018-04-02
  • 来自专栏EAWorld

    数据新型存储架构的探索

    数据产品从最初主要支持关系型的数据管理到现在的大数据平台、数据湖、微服务这种新的数据架构形态的管理。原有的存储架构从分析数据关系效率、检索速度都不能满足应用的需求了。 目录: 一、国内主流数据产品发展现状 二、当前数据存储架构存在的问题 三、新型存储架构的探索 四、新型存储架构的应用 五、新型存储架构的优点 一、国内主流数据产品发展现状 国内主流的数据产品主要有 在显示一个数据的基本信息的时候,需要通过至少4张表才能显示出来。 三、新型存储架构的探索 说到数据存储架构,有人会很自认想到有分布存储分散管理,分布式存储集中管理、统一存储集中管理之分。 这种属于宏观的存储架构,我们不展开讨论。这里是在统一存储集中管理的假设下来讨论数据微观的存储架构。 我们把数据管理系统的表划分为三类: 一类是数据系统管理表例如模型管理表之类的。 答:这个问题,我的理解是某系统使用的关系型数据库存储的数据,现在要迁移到新的数据存储架构上。这种场景是有的,我们现在做的新的存储架构的探索就是为了进行底层存储架构的迁移。

    3.4K40发布于 2019-06-17
  • 来自专栏大数据杂货铺

    DataHub数据治理平台架构

    1.DataHub架构概述 DataHub 是第三代数据平台,支持为现代数据堆栈构建的数据发现、协作、治理和端到端可观察性。 下图描述了DataHub的高层架构。 要更详细地了解构成该架构的组件,请查看组件。 1.1.架构亮点 DataHub的架构主要有三个亮点。 联合服务使用 Kafka 与中央搜索索引和图进行通信,以支持全局搜索和发现,同时仍然实现数据所有权的解耦。这种架构非常适合实施数据网格的公司。 3.数据摄取架构 DataHub 支持极其灵活的摄取架构,可以支持推、拉、异步和同步模型。下图描述了将您喜爱的系统连接到 DataHub 的所有可能选项。 4.DataHub服务架构 下图显示了 DataHub 服务层的高级系统图。 主要组件称为数据服务,并公开 REST API 和 GraphQL API,用于对数据执行 CRUD 操作。

    3K10编辑于 2024-01-31
  • 来自专栏脑洞前端

    建立数据驱动的前端架构

    在这个大前提下,建立数据驱动的前端架构就变得很重要了。 本次分享的目标是希望从零开始,初步建立一个小小的数据驱动的原型系统(暂时只包括前端部分),并以此介绍这套系统与业务领域的可能结合方式。 类似这种字段配置,就是一种数据。它实际上是另外一个层面的类型信息,可以携带对业务模型的定义。 在软件架构中,一个很重要的过程是在抽象的基础上合并同类项。回到刚才的场景,我们会发现,对字段的描述,实际上是很通用的,这部分信息很大程度上并非来自前端,而是业务建模的一个体现。 小结 理想状态下,应用架构可以划分以下两个部分: 1. 业务:领域模型 2. 注:本文主要是为了说明基于数据思考的方式,本身的实现很简陋,也并不代表需要这样完全从底层建立应用架构,在一些环节,社区早已存在很多相关库可以使用了。

    1.3K30发布于 2021-06-09
  • 来自专栏EAWorld

    数据如何驱动微服务报文架构

    处理相同的事情,在微服务架构下服务被拆分成多个小粒度的微服务了,报文的个数随着服务的拆分而成指数增长。 但是在微服务架构下,服务就是最小的开发粒度,无法控制所有程序猿对变量名的定义都统一,这又是一个让人头痛的问题。 五、数据驱动的微服务报文 上面提到了微服务架构下报文面临着接口规范定义及方便使用的问题,通过数据如何解决这些问题呢? 既然报文结构规范定义是个问题,那就从规范入手解决。 我们在数据定义的部分提供了数据管理平台,在管理平台中通过配置界面去定义报文规范,并提交数据到集成编译环境,集成编译环境会将数据编译成Java Bean提交资源管理库。 关于作者: 姚重阳 普解决方方案中心架构师,6年金融行业软件产品研发工作,目前主要负责解决方案中心的产品维护和技术售前。 ?

    1.6K80发布于 2018-03-30
  • 来自专栏实时计算

    数据治理实践:数据管理架构的演变

    基于抽取的数据 下图描述了第一代数据架构。 优点 架构简单,只需一个存储、一个搜索引擎,就可以快速聚合数据并构建一个应用程序,使数据工作者提高工作效率。 由于架构简单,我们需要的开发人员成本也是很低的。 缺点 抽取数据的性能压力。 第二代架构:带有服务 API 的三层应用 很快,我们找到了第二代的架构升级。单体应用程序已拆分为位于数据存储数据库前面的服务。 第二代数据系统通常可以成为公司数据资产的可靠搜索和发现门户,它们确实满足了数据工作者的需求,Marquez拥有第二代数据架构。 第三代架构:基于事件的数据 第 1 步:面向日志的数据架构 数据提供者可以实时推送或基于 API推送数据变化日志。

    1.3K11发布于 2021-08-18
  • 来自专栏实时流式计算

    数据治理实践:数据管理架构的演变

    基于抽取的数据 下图描述了第一代数据架构。 优点 架构简单,只需一个存储、一个搜索引擎,就可以快速聚合数据并构建一个应用程序,使数据工作者提高工作效率。 由于架构简单,我们需要的开发人员成本也是很低的。 缺点 抽取数据的性能压力。 第二代架构:带有服务 API 的三层应用 很快,我们找到了第二代的架构升级。单体应用程序已拆分为位于数据存储数据库前面的服务。 第二代数据系统通常可以成为公司数据资产的可靠搜索和发现门户,它们确实满足了数据工作者的需求,Marquez拥有第二代数据架构。 第三代架构:基于事件的数据 第 1 步:面向日志的数据架构 数据提供者可以实时推送或基于 API推送数据变化日志。

    1.2K30发布于 2021-09-02
  • 来自专栏张善友的专栏

    使用信息架构视图访问数据库数据

    数据简介 数据 (metadata) 最常见的定义为"有关数据的结构数据",或者再简单一点就是"关于数据的信息",日常生活中的图例、图书馆目录卡和名片等都可以看作是数据。 在关系型数据库管理系统 (DBMS) 中,数据描述了数据的结构和意义。 信息架构视图基于 SQL-92 标准中针对架构视图的定义,这些视图独立于系统表,提供了关于 SQL Server 数据的内部视图。 常用的信息架构视图有以下一些: 信息架构视图 描述 INFORMATION_SCHEMA .CHECK_CONSTRAINTS 返回有关列或过程参数的信息,如是否允许空值,是否为计算列等。 由于这些信息架构都是以视图的方式存在的,因此我们可以很方便地获得并利用需要的信息。

    1.1K60发布于 2018-01-19
  • 来自专栏服务端思维

    数据驱动的 SaaS 架构与背后的技术思考

    数据驱动的多租户架构 ---- Salesforce 将 Force.com 定义为 PaaS 平台,Force.com 的基础就是数据驱动的软件架构来支撑多租户应用。 也就是通过存储在系统态的数据表中的数据记录作为虚拟用户的数据库结构。 三、数据驱动的多租户整体架构 我们先来大概了解下元数据驱动的多租户的整体架构,整体架构大概分为 5 个逻辑层次: 1. 其中,底层数据架构是最为关键的平台基石(The Corner Stone),其核心运行引擎也是基于强大的底层数据架构基础上构建的。本文则以数据驱动的多租户数据架构为核心来一一展开。 下面我按照普通应用设计思路方式来定义一个简单直观的多租户 SaaS 数据架构方案示例,作为数据驱动多租户数据架构方案的对比基准方案,用对比来更好的帮大家了解元数据驱动多租户数据模型及架构的设计逻辑。 6、数据驱动的多租户数据架构示例 同样采用普通多租户 SaaS 数据架构方案中相同的域模型和示例数据作为参照进行说明,只不过在这里域模型不再对应到数据库的物理模型,而是对应到数据所定义的虚拟数据库的逻辑模型

    4.5K21发布于 2021-01-28
  • 来自专栏EAWorld

    【超详解PPT】数据驱动的微服务架构(上)

    很高兴能与大家分享“数据驱动的微服务架构”。 本次分享有两个部分:1、微服务架构需要数据,2、介绍微服务与数据的关系。下期会分享:微服务中元数据的价值。 一、微服务架构需要数据 企业IT架构已经发展了多个阶段,一方面是服务化架构的发展,在SOA阶段主要解决应用间集成问题,但随着企业业务的发展,单个应用逐渐成为“巨石型”应用,难以扩展也难以维护。 服务化架构和模型化架构其实是统一的。在微服务架构中微服务的粒度小,数量多,微服务的设计与微服务之间的连接需要一套规范,同时需要一套可以对话的统一“语言”。 而微服务间的“语言”的目标与传统不同,用数据作为“语言”驱动整个微服务架构是不错的选择。 我们看看数据表示了什么内容,我在之前一篇文章中从心理学的角度详细说明了数据是什么。 关于作者: 王轩 EAII-企业架构创新研究院 专家委员 现任普软件产品部副总兼大数据产品线总经理,2010年加入普,全面主持普大数据产品的研发、拓展及团队管理工作。

    3.6K70发布于 2018-03-30
  • 鸿蒙实战高阶:Stage模型架构服务开发深度解析

    [鸿蒙2025领航者闯关]鸿蒙实战高阶:Stage模型架构服务开发深度解析 ——迈向纯鸿蒙应用的现代化工程实践 项目名称:SmartScheduler(智能日程管家) 技术栈:Stage 在近期的“智能日程管家”项目中,我全程基于 Stage 模型 + 服务(Meta Service)架构进行开发,不仅提升了应用性能与稳定性,也深刻体会到鸿蒙对现代应用生命周期、资源管理与跨端协同的全新设计哲学 本文将系统梳理 Stage 模型的核心机制、服务开发范式,并结合真实项目经验,为开发者提供一份可复用的高阶实战指南。 ️ 二、Stage 模型核心架构解析 1. 架构对比:FA vs Stage 维度 FA 模型(旧) Stage 模型(新) 能力单元 PageAbility / ServiceAbility UIAbility + ExtensionAbility 作为开发者,我们应主动拥抱这一变革,从架构设计之初就以“服务化、轻量化、智能化”为目标,共同构建真正属于万物互联时代的应用生态。

    10410编辑于 2026-02-09
  • Pulsar存储计算分离架构设计之数据管理

    一、前言 我们前面的Pulsar存储计算分离架构设计系列已经介绍过Broker无状态、存储层BookKeeper的文章了,这篇我们主要来说下元数据管理。 在分布式系统的设计哲学中,数据管理如同人体的神经系统,其架构选择直接决定了系统的扩展性、可靠性与性能边界。 Apache Pulsar作为云原生时代的消息中间件标杆,其数据管理架构的演进历程恰是分布式技术发展史的微观缩影——从早期单一依赖ZooKeeper的轻量级协调,到如今支持etcd、RocksDB等多存储引擎的混合架构 这种架构的多元化,既是对云原生时代基础设施多样化的适配,更是Pulsar从"能用"走向"好用"的关键一跃。 二、核心类图 Apache Pulsar的metadata模块采用了清晰的分层架构设计,为核心数据存储和分布式协调服务提供了统一的抽象接口。

    16810编辑于 2025-11-19
  • 来自专栏晓谈岩说

    2-05聚合架构第三十五讲:聚合架构模型与关键链条

    今天视频是模型,所以就想起来大家常聊的底层思维,模型号称模型的模型,当然,这东西可抽象,也可具象,反映的是你对事物的理解,没啥法律规定一定要去抽象到什么程度,方法不是律法。 模型的归纳能力也是底层思维的一种吧,思维穿透性,能不能在复杂的外表下,找到几个关键点形成运转模式,最近刘润老师分享的他自己那个“声誉、学识、作品”的轮子也挺好,如果没有这种能力,会怎么样?

    35970编辑于 2022-06-06
  • 来自专栏晓谈岩说

    2-04聚合架构第三十四讲:从模型看架构方法论

    周末接受公司小伙伴的采访,聊起了关于职场选择和个人职业规划的事情,想想自己也算一把年纪了,职业生涯说长不长,说短不短的,倒也可以分享下,聊一聊,打个小广告,等我们小伙伴整理好了,跟大家分享下完整的,不过,在此呢,我来点儿成年人的不地道,剧透个几百字,凑个原创。

    57840编辑于 2022-06-06
  • 来自专栏新零售项目实践

    前端架构实战:打造高可配、自描述的动态渲染引擎

    数据驱动的前端架构正是为了解决这一痛点而提出的解决方案,它通过将界面描述抽象为可配置的数据,实现"配置即开发"的高效开发模式。动态渲染引擎的核心价值在于将业务逻辑与界面实现分离。 在供应链这种多角色、多场景的复杂系统中,不同用户(供应商、采购商、物流商)需要看到不同的界面视图,传统开发方式需要维护多套代码,而架构方法只需调整数据配置即可快速适配。 前端架构通过统一的数据描述实现组件的标准化和可复用性。本文将深入探讨如何构建一个高可配、自描述的动态渲染引擎,为供应链系统提供坚实的前端架构基础。 这种数据驱动的方法不仅解决了当前面临的开发效率问题,更为未来的业务扩展奠定了坚实基础。开发效率的质的飞跃是架构最直接的价值体现。 随着技术的不断发展,架构驱动的供应链前端将呈现以下趋势:AI辅助Schema生成:机器学习技术可以分析业务需求,自动生成或优化Schema设计,进一步降低配置复杂度可视化Schema设计工具:为非技术背景的业务专家提供直观的可视化界面设计工具

    12120编辑于 2026-02-11
  • 来自专栏Metaverse元宇宙

    SecondLife 原首席架构师:宇宙尚未解决人们现实与虚拟社交二选择的问题

    Second Life 的首席架构师 Philip Rosedale 于 2009 年离开林登实验室,现在经营一家名为 High Fidelity 的新初创公司,该公司开始构建让人们设计和部署自己的虚拟现实世界的软件 作为早类宇宙项目的创建者以及十分擅长 VR 技术的人,Rosedale 对宇宙目前的参与者有很多简介,本篇文章为 IEEE Spectrum 与 Rosedale 相关交流内容,对话经过整理编辑。 IEEE Spectrum: 您一直在谈论宇宙,您认为这个想法为什么突然开始流行起来?    另外一件是 Facebook 声称宇宙是一件重要的事情,并且改名以尝试跟住宇宙节奏。   Spectrum:Second Life 像一个原始的宇宙,你认为它为什么没有突破到主流?    对于任何这些节想法的成功,内容、化身、建筑、体验、游戏,它们需要完全由大量的人构建,就像网站可以很多人并行构建一样。

    76210编辑于 2022-03-30
  • 探秘腾讯混大模型:技术架构、核心能力与实战应用

    随着AIGC技术爆发,腾讯逐步将部分模型能力开放为云产品,如“混生文”、“混生图”、“混视频创作引擎”等,均已在腾讯云平台上线4。 技术架构解析 ✅ Hunyuan-Video:中文优先的视频生成框架 Hunyuan-Video是目前开源社区中最先进的中文视频生成模型之一3。 其核心技术亮点如下: 特性 实现方式 优势说明 架构设计 原生ViT + 轻量级LLM 全局建模能力强,适合复杂排版 推理效率 经过深度优化的Transformer实现 可在边缘设备或移动端运行 多语言与鲁棒性 实现RPA自动化流程中的关键信息抽取 数字文旅 AI讲解员、虚拟导游 混生文 + 混生图 增强游客体验,打造沉浸式文化展示 值得注意的是,这些能力可以组合使用。 例如,在一个智能办公系统中: 使用HunyuanOCR识别上传的PDF合同; 由混大模型提取关键条款并生成摘要; 最后通过Aipy工具自动生成法律风险提示代码。

    1.2K40编辑于 2026-01-14
  • 来自专栏王清培的专栏

    .NETASP.NETMVC 大型站点架构设计—迁移Model数据设置项(自定义数据提供程序)

    (扩展Model数据提供程序) 2.1.实现数据提供程序(简单示例) 1.需求背景介绍(Model数据设置项应该与View绑定而非ViewModel) 使用ASP.NETMVC构建普通的中小型站点可以使用简单的 View不同而调用不同的数据设置项,简单的讲也就是我们不会直接在ViewModel上应用数据控制特性,而是通过将Model数据设置项与具体的View绑定的方式来控制它在不同的View中运用不同的数据控制项 ,这样我们才能将原来获取数据的方式改变成我们自己的获取策略;在数据提供程序对象模型中主要的功能分为两部分(这里我们只介绍获取数据过程): ? 这样我们就可以将一组强大的数据提供程序植入到ASP.NETMVC框架的内部; 通过CustomModelMetadataProviderFactory创建用于获取任何一个外部类型的数据提供程序对象, 我们自动设置的数据已经起到效果了;

    86150发布于 2018-01-08
  • 来自专栏AI绘画

    牛X 腾讯开源首个Sora同架构文生图大模型

    各位有商业想法的可以抢一杯羹了,这应该是首个开源的Sora同架构DiT架构文生图开源模型!!!! , TencentAIlabpothomaker,Ipadpter ,Faceid ,faceid — plus,ID-Animator,ESRGAN等都出自腾讯开源  AI lab     腾讯的混文生图大模型是业内首个中文原生的 DiT架构文生图开源模型。 DiT(Diffusion Transformer)架构是一种基于Transformer的扩散模型,它具备强大的可扩展性,能够在参数量增加的情况下,进一步提升视觉模型生成效果及效率。 AI图片无损放大16倍SD放大不香了腾讯文生图负责人芦清林表示:“腾讯混文生图的研发思路就是实用,坚持从实践中来,到实践中去。

    45210编辑于 2024-05-16
  • 来自专栏CreateAMind

    九次架构改进具身机器人,模拟镜像神经

    将此架构应用于运动学,我们可以实现具有多输出系统的分层模型,其中级别的内在隐藏状态 x) 编码单个 DoF 的一对关节角度和肢体长度。 该架构的模块化允许代理在 2D 投影平面、眼睛的 3D 参考系或简单的聚散调节角中定义动态吸引子。 从生物学角度来看,这两种情况可以解释为模拟镜像神经的功能,每当受试者执行自愿的目标导向动作或其他受试者执行该动作时,镜像神经就会放电[101]。 该架构可用于执行稀疏编码或主成分分析(PCA);然而,它无法考虑动态变量,例如反卷积问题或状态空间模型中的过滤。 虽然时间序列确实可以通过循环神经网络或变压器等深层架构轻松处理[125],但它们的被动生成机制仍然可以反映主动推理代理的行为。

    36810编辑于 2024-04-11
领券