首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏云云众生s

    不要以平台治理牺牲开发者体验

    这确保运维团队可以继续使用他们的首选 IaC 工具,而开发者可以从更直观的界面中受益。 IaC 开发者体验需要重新设计 当我们谈及 IaC 与开发者体验(DX)之间的脱节时,是指许多开发者从应用开发转向基础设施供应和管理时感受到的断层。传统的 IaC 工具虽然强大,但学习曲线往往很陡峭。 极大提升开发者体验的方法 让我们来探讨一下我们是如何通过基础设施即代码(IaC)模块制作一个平台工程工具的,它可以直接从代码中自动生成和实现资源规范。 对运维团队来说,这种集成意味着在不需要深入了解应用程序细节的情况下进行监督和治理,同时使用他们喜欢的基础设施即代码工具不会影响规模和性能。 对开发人员来说,这意味着简化的部署流程,他们只需定义自己的需求,Nitric 与基础设施即代码工具一起使其成为现实。

    61310编辑于 2024-03-28
  • 来自专栏泛互云原生

    数据开发治理平台Wedata之数仓建设实践

    1 背景介绍 1.1 概述 本案例基于腾讯云一站式开发治理平台Wedata、私有网络VPC、云数据库Mysql和弹性Mapreduce构建了全流程的离线数仓建设流程。 通过模拟业务数据的导入,分层ETL和数据应用全过程,演示了如何在Wedata上进行高效的数据开发治理。 示例如下: 至此,Wedata平台的环境准备工作完成。 3 数据开发 3.1 表结构创建 进入数据开发模块,选择对应的项目,点击右边的新建库和新建表,通过ddl的方式创建下图左边对应的库表。 1-新建数据同步任务完成ods层和ads层的开发,如:ods_user、ods_item 2-新建Hive SQL和Spark SQL完成dwd层和dwb层开发,包括任务节点有:dwd_user、dwd_item 基于Wedata数据开发治理平台开发,让数据工程师、运维、数据架构师和业务人员,能够在一个平台上闭环,独立完成各种的工作,极大的提高了数据开发和任务运维的效率。

    3.5K51编辑于 2022-05-09
  • 数据治理平台有哪些:2025 年数据治理平台深度解析

    开发模式上,它内置 DevOps 工具链,支持治理规则的版本管理、灰度发布,适配敏捷开发模式的 DataOps 全流程支撑。 在流程整合上,它整合数据开发治理、运维功能,支持 “开发治理”(开发阶段自动检查数据质量),缩短项目周期。 以某国有大型银行为例,普元为其构建的 “数据治理平台” 不仅实现了全信创环境部署,还通过实时数据脱敏技术,在保障客户信息安全的同时,支持业务人员正常查询数据,兼顾合规与业务效率。2. 2. 技术迭代:厂商是否有明确的技术 roadmap(如未来 2-3 年是否支持量子加密、多模态大模型深度集成),避免平台因技术落后被淘汰。

    98300编辑于 2025-08-27
  • 主流数据治理平台的有哪些,数据治理平台的核心优点​

    新一代数据治理平台将数据开发、运维与治理深度融合,在数据产生源头即嵌入治理规则,避免 “先污染后治理” 的困境,同时支持技术与业务人员协同操作。​ 主流数据治理平台介绍​1. 普元数据治理平台​作为 AI 驱动的数据资产治理领域领导者,普元数据治理平台依托公司二十余年在企业应用集成与数据整合领域的积累,以 “AI + 平台” 战略构建核心竞争力。 该平台深度融合智能集成、智能低代码与智能数据资产治理能力,打造 “连接 — 深度集成 — 治理” 的阶梯式基础架构,有效避免架构混乱与数据孤岛问题。​2. 2. 数据治理平台与数据集成工具的核心区别是什么?​ ,涉及多系统对接与规则重建,一般需要 1-2 年才能形成完整的数据资产体系与价值输出,但期间可通过阶段性验收(如核心系统数据打通、敏感数据识别落地)看到阶段性成果。​

    34610编辑于 2025-10-17
  • 大数据技术深度分析:平台治理开发与Hadoop组件对比

    本文将深入分析大数据平台、数据中台、数据治理、数据开发以及Hadoop平台的相关组件,包括HDFS、Spark、Hive、Iceberg、Flink和Hbase等,并探讨多租户、管控平台、大数据部署、大数据运维以及集群联邦等关键特性 大数据平台与数据中台 大数据平台是指一套完整的技术栈和服务,用于存储、处理和分析大规模数据集。数据中台则是企业内部的数据管理和服务平台,它提供了数据集成、数据治理、数据开发等功能。 数据治理 数据治理是确保数据质量、安全性和合规性的过程。它包括数据分类、数据质量管理、数据安全策略等。根据IDC的数据,有效的数据治理可以提高数据的可用性,减少数据滥用的风险^2。 数据开发 数据开发是指开发人员使用大数据技术构建数据管道和数据处理流程的过程。这一过程需要对Hadoop生态系统中的各种组件有深入的了解。 结论 大数据平台、数据中台、数据治理、数据开发以及Hadoop平台的组件都是构建现代数据驱动型企业的关键技术。企业在选择和部署这些技术时,需要考虑其业务需求、数据规模、性能要求和成本效益。

    37610编辑于 2025-07-28
  • 来自专栏实时流式计算

    DataHub——实时数据治理平台

    DataHub 首先,阿里云也有一款名为DataHub的产品,是一个流式处理平台,本文所述DataHub与其无关。 数据治理是大佬们最近谈的一个火热的话题。 数据治理要解决数据质量,数据管理,数据资产,数据安全等等。而数据治理的关键就在于元数据管理,我们要知道数据的来龙去脉,才能对数据进行全方位的管理,监控,洞察。 DataHub诞生 Github https://github.com/linkedin/datahub License Apache-2.0 支持数据源 LDAP, Hive, Kafka, MySQL, DB2, 主要问题是: 推送比拉动要好:虽然直接从源中拉动元数据似乎是收集元数据的最直接方法,但开发和维护集中的特定域爬网程序却很快成为噩梦。 前端提供三种交互类型:(1)搜索,(2)浏览和(3)查看/编辑元数据。

    8.1K20发布于 2020-05-18
  • 来自专栏木东居士的专栏

    数据治理平台工具前世今生

    信息标准化管理平台功能架构 4)第四代数据治理工具-数据治理时代(展望期,2018年-至今) 近年来,随着大数据平台和工业互联网兴起,数据治理平台主要采用数据中台技术和微服务架构初步替代传统架构、面向大数据架构下 数据治理平台技术架构 实现数据打通,业务融合协同,共享、共用的中台工具开发数据治理产品。 五数据治理管理工具与数据中心及信息系统关系 1)更丰富数据治理平台是企业数据规划、数据标准落地的载体,实现数据治理统一标准、统一规则的支撑 2)数据治理平台包含数据门户地图、主数据管理、数据指标、元数据管理 、数据模型、数据交换与服务、数据资产管理、数据开发、数据质量管理、数据安全等工具,提供规范统一的数据治理和服务的平台 3)数据治理平台是实现数据从产生到应用,分层协同、全面治理的核心 ? 数据治理平台与目标系统及数据资源中心的关系 数据治理平台是信息化架构中是基础性平台,为数据汇聚平台和数据存储平台提供基础层面数据标准化保障,进而为数据分析应用平台提供服务。

    5.4K78发布于 2019-09-29
  • 来自专栏京东技术

    分拣平台API安全治理实战

    Tech 导读 本文主要基于京东物流的分拣业务平台在生产环境遇到的一些安全类问题,进行定位并采取合适的解决方案进行安全治理,引出对行业内不同业务领域、不同类型系统的安全治理方案的探究,最后笔者也基于自己在金融领域的经验进行了关于 API网关治理方案的分享。 支付开放平台目前主流的两种签名算法: 开放平台签名算法名称 标准签名算法名称 备注 RSA2 sha256WithRSA 先使用sha256做摘要,再使用RSA对摘要做非对称加密(强烈推荐使用),强制要求 05 自身实践经历 5.1 背景介绍 笔者之前一直在金融支付相关业务领域从事研发工作,参与过2c的钱包app应用、2b的资金下发saas系统以及资金下发开放平台等相关系统的API设计与研发工作 先说一下何为开放平台:概括来讲就是企业基于自己的业务生态(或者说基于自己的业务sop)进行能力沉淀,以API的形式进行开放,供第三方开发者(个人或者企业)使用(开发者将能力集成到自己的应用之中,达到赋能的目的

    77020编辑于 2022-08-29
  • 主数据治理平台培训规程

    本文主要对公司MDM主数据管理平台进行产品培训说明,为后续项目、内部员工主数据产品培训提供培训规程,使主数据平台产品培训规范化、流程化,本文档同时也要按照产品的迭代升级而不断更新。 1.2涉及方案 主数据管理平台可以和数通畅联另一款产品企业服务总线组成基础数据治理解决方案,解决各个系统之间的数据分散、重复,未完全形成业务闭环,数据孤立不能互通,数据统计不一致,企业主数据(组织、人员 2培训说明 本章主要对培训的主要目的进行详细说明,并描述了具体的培训场景,包括数据全生命周期管理(数据录入、变更、归档、版本管理、导出、下发)。  2.1培训目的 主数据管理平台主要培训目的如下: 1.了解主数据管理平台以及基础数据治理方案; 2.了解主数据管理平台的全生命周期的管理过程; 3.了解主数据管理平台的四种功能模型(简单列表、主从管理、 树形表格、树形管理),并进行模型创建,包括分类数据建模; 4.了解主数据管理平台编码规则、校验规则的设置以及定义; 5.了解主数据管理平台的巡检以及数据的清洗; 6.了解主数据管理平台预制的openApi

    26610编辑于 2025-06-11
  • 来自专栏大数据学习与分享

    数据治理平台功能架构规划

    狭义上讲,数据治理是指对数据质量的管理、专注在数据本身。 广义上讲,数据治理是对数据的全生命周期进行管理,包含数据采集、清洗、转换等传统数据集成和存储环节的工作、同时还包含数据资产目录、数据标准、质量、安全、数据开发、数据价值、数据服务与应用等,整个数据生命期而开展开的业务 、技术和管理活动都属于数据治理范畴。 随着大数据平台和工业互联网兴起,数据治理平台主要采用数据中台技术和微服务架构初步替代传统架构、面向大数据架构下,为数据资源中心与外部数据系统提供数据服务。 下面概述了数据治理平台发展背景和平台架构需求分析,重点对数据治理平台功能架构的各个模块进行详细介绍,供企业规划建设数据治理平台时参考和借鉴。

    2.8K30编辑于 2022-05-19
  • 数据开发治理平台如何“省”到极致?腾讯云 WeData 给出答案

    本文聚焦2025年8月最新版腾讯云 WeData,横向对比业内主流平台在成本控制上的优化策略,并给出可直接落地的选型建议。 一、为什么“省”成了数据治理的头等大事? “会省钱”的平台,正在成为 CFO 与 CTO 的共同刚需。 二、五大平台成本控制策略横向对比(2025.08版) 维度 腾讯云 WeData 四、案例速读:某头部出行平台 3 个月节省 120 万 场景:日均 30 TB 轨迹数据离线入湖+实时风控。 按照“快速开始”5 分钟完成数据集成→开发→运维全流程。

    49710编辑于 2025-08-22
  • 来自专栏java架构计划训练营

    SpringCloud Feign服务治理(2)

    Feign是Netflix开发的声明式、模板化的HTTP客户端, Feign可以帮助我们更快捷、优雅地调用HTTP API。 2、在调用方和被调用方服务启动类入口添加注解,并配置扫描路径 @EnableDiscoveryClient //让注册中心能够发现这个服务 @EnableFeignClients(basePackages

    22710编辑于 2022-06-14
  • 来自专栏物流IT圈

    大数据平台下的数据治理

    数据治理是指从使用零散数据变为使用统一主数据、从具有很少或没有组织和流程治理到企业范围内的综合数据治理、从尝试处理主数据混乱状况到主数据井井有条的一个过程。 相比传统数仓时代,进入Hadoop集群的数据更加的多样、更加的复杂、量更足,这个数仓时代都没有处理好的事情,如何能够在大数据时代处理好,这是所有大数据应用者最最期盼的改变,也是大数据平台建设者最有挑战的难题 :数据治理难的不是技术,而是流程,是协同,是管理。 同时,数据治理将帮助组织更好的遵从内外部有关数据使用和管理的监管法规,如SOX法案,Basel II协议等。良好的数据治理必将为信息化时代的企业带来不可替代的竞争优势。 物流IT圈 泛物流行业IT知识分享传播、从业人士互帮互助,覆盖快递快运/互联网物流平台/城配/即时配送/3PL/仓配/货代/冷链/物流软件公司/物流装备/物流自动化设备/物流机器人等细分行业。

    2.2K20发布于 2019-10-09
  • 来自专栏云云众生s

    平台工程真的只是API治理吗?

    平台工程或 API 治理,叫什么重要吗?绘制并标准化您的 API,以便在内部轻松访问和重复使用。 他不会区分你的 API 治理工具包和你的平台工程策略。也许你也不应该区分。毕竟,两者都优先考虑相同的理想客户画像:你的内部开发人员同事。 通过平台或内部开发人员门户进行 API 治理可以实现服务和 API 的可重用性,而不是让团队从头开始构建所有内容。 平台工程的一个关键支柱是制定黄金路径,Boyd 称之为“商定的架构”。 但是,正如他所说,巨大的 API 格局正在不断扩展——特别是如果你遵循Boyd 的 API 治理平台工程重叠。迄今为止,它已收录了 2,159 个 API 工具。 从小处着手,跟踪开发人员的幸福感 通过询问开发人员他们的痛点,并从那里制定你的策略,来启动任何 API 治理平台工程计划。并跟踪数据,如四个黄金信号——延迟、流量、错误和饱和度。

    31510编辑于 2024-04-17
  • 来自专栏开发经验

    Spring Cloud Alibaba:Nacos服务治理平台

    使用Nacos进行服务注册与发现 服务注册 服务发现 负载均衡 分析与拓展 安全性 性能监控 日志记录 欢迎来到架构设计专栏~Spring Cloud Alibaba:Nacos服务治理平台 ☆* ❤️ 微服务架构已经成为现代软件开发的主流范式之一,它允许开发团队将应用程序拆分成小的、自治的服务,这些服务可以独立开发、部署和维护。 Spring Cloud Alibaba的Nacos服务治理平台是一个强大的工具,用于简化微服务的注册和发现,以及实现负载均衡,本文将深入探讨Nacos的使用和核心概念。 什么是Nacos? return "Response from other service: " + response.getBody(); } } 分析与拓展 使用Spring Cloud Alibaba的Nacos服务治理平台 总之,Spring Cloud Alibaba的Nacos是一个功能强大的服务治理平台,可以大大简化微服务架构中的服务注册、发现和负载均衡。

    54810编辑于 2023-12-13
  • 来自专栏大数据杂货铺

    DataHub元数据治理平台架构

    1.DataHub架构概述 DataHub 是第三代元数据平台,支持为现代数据堆栈构建的数据发现、协作、治理和端到端可观察性。 1.1.2.基于流的实时元数据平台 DataHub 的元数据基础设施是面向流的,允许元数据的更改在几秒钟内在平台内进行通信和反映。 2.DataHub组件概述 DataHub 平台由下图所示的组件组成。 2.1.元数据存储 元数据存储负责存储构成元数据图的实体和方面。 最值得注意的是,该 API 由用户界面(如下所述)使用,以实现搜索和发现、治理、可观察性等。

    3.2K10编辑于 2024-01-31
  • 来自专栏全栈程序员必看

    .NET(c#) 移动APP开发平台 – Smobiler(2) – 平台介绍

    看到大家很多人在后台问我一些问题,所以准备写一个系列了,下面给个目录 目录: .NET(c#) 移动APP开发平台 – Smobiler(1) 环境的搭建及上手第一个应用 类似开发WinForm的方式 ,使用C#开发Android和IOS的移动应用? 听起来感觉不可思议,但是实际上确实很强大,那么Smobiler平台到底是如何实现的呢,这里给大家介绍一下。 客户端   Smobiler分为两种客户端,一种是开发版,一种是打包版 开发版:顾名思义,就是用来做开发时候的版本,在上面一章节中,大家其实都用过了,就是扫描服务端的二维码,添加服务端后,就可以进行开发调试了 这种方式可能有人说好,有人说不好,不过考虑开发速度,开发成本,开发门槛(比如一个只会c#的简单开发的人,可以很快开发出一个应用出来,不用去学习Android或者IOS的复杂的知道,甚至也不用学习webapi

    2.9K30编辑于 2022-09-03
  • 来自专栏程序猿的大杂烩

    大数据平台 - 数据采集及治理

    数据源是整个大数据平台的上游,数据采集是数据源与数仓之间的管道。在采集过程中针对业务场景对数据进行治理,完成数据清洗工作。 rows selected (0.131 seconds) 0: jdbc:hive2://localhost:10000> ---- 数据治理简介 将数据采集到数仓后所面临的问题: 相比传统数仓大数据时代数据更加多样 : 建立统一数据标准与数据规范,保障数据质量 制定数据管理流程,把控数据整个生命周期 形成平台化工具,提供给用户使用 数据治理: 数据治理包括元数据管理、数据质量管理、数据血缘管理等 数据治理在数据采集 ,帮助业务人员便捷灵活的使用数据 数据治理与周边系统: ODS、DWD、DM等各层次元数据纳入数据治理平台集中管理 数据采集及处理流程中产生的元数据纳入数据治理平台,并建立血缘关系 提供数据管理的服务接口 ,数据模型变更及时通知上下游 ---- Apache Atlas数据治理 常见的数据治理工具: Apache Atlas:Hortonworks主推的数据治理开源项目 Metacat:Netflix开源的元数据管理

    4.2K11发布于 2020-11-16
  • 来自专栏技术开源分享

    go-admin在线开发平台学习-2

    简单安全的类型转换 casbin 轻量级开源访问控制框架,采用了元模型的设计思想,支持多种经典的访问控制方案,如基于角色的访问控制 RBAC、基于属性的访问控制 ABAC 等 gorm 一个神奇的,对开发人员友好的 run方法中 1、config.Setup(configYml),将yml配置文件转为不同的实体类 2、打印不同的分类内容 go-admin migrate 命令 数据库迁移指令 基于gorm的migrate api文件夹下的server.go文件,对应服务启动指令 Init方法 init() 方法中是对 命令行参数的解析和初始化路由方法的绑定 以上代码分为俩部门看 1、对server 指令的参数绑定 22、通过配置判断是否使用ssl加密,如果使用""注册tls处理中间件" 3、读取配置获取数据库类型,连接字符串获取gorm具体数据库的接口实现,自定义中间件设置数据库上下文,集成到gin使用 4、配置Sentinel 驱动位于/go-admin/common/database/_driver后缀 已集成mysql,pgsql,sqlites的驱动 配置接口控制全局,基于casbin RunE 启动配置 判断是否为开发环境

    1.1K40发布于 2021-02-18
  • 来自专栏技术开源分享

    go-admin在线开发平台学习-2

    简单安全的类型转换 casbin 轻量级开源访问控制框架,采用了元模型的设计思想,支持多种经典的访问控制方案,如基于角色的访问控制 RBAC、基于属性的访问控制 ABAC 等 gorm 一个神奇的,对开发人员友好的 run方法中 1、config.Setup(configYml),将yml配置文件转为不同的实体类 2、打印不同的分类内容 go-admin migrate 命令 数据库迁移指令 基于gorm的migrate image-20210205094215618 以上代码分为俩部门看 1、对server 指令的参数绑定 2、route.InitRouter方法添加到AppRouters中,等待后续执行 ---- router.InitRouter 2、通过配置判断是否使用ssl加密,如果使用""注册tls处理中间件" 3、读取配置获取数据库类型,连接字符串获取gorm具体数据库的接口实现,自定义中间件设置数据库上下文,集成到gin使用 4、配置Sentinel 驱动位于/go-admin/common/database/_driver后缀 已集成mysql,pgsql,sqlites的驱动 配置接口控制全局,基于casbin RunE 启动配置 判断是否为开发环境

    77730发布于 2021-03-02
领券