- 综合排序
- 最热优先
- 最新优先
- 来自专栏ET
什么是数据集成平台?数据集成平台推荐
数据集成平台的基础知识1. 什么是数据集成平台？数据集成平台是一种用于管理和协调数据流动的软件工具或服务。它的主要目标是将来自多个不同数据源的数据整合到一个统一的、易于访问和分析的数据存储库中。 数据集成平台的主要组件数据集成平台通常包括以下主要组件：连接器 连接器是用于与不同数据源通信的组件。每个数据源都有其自己的连接器，用于确保数据的顺利流动。 数据集成平台与ETL的区别数据集成平台和ETL（提取、转换、加载）是数据管理领域中的两个不同概念，它们虽然有一些重叠之处，但也存在一些关键区别。 数据集成平台则更加通用，可以应对多种不同的数据集成需求，包括批处理和实时数据处理。数据集成平台工具介绍选择适合企业需求的数据集成平台至关重要。以下是一些推荐的数据集成平台1. (数据集成工作流界面)(数据集成监控功能)市面还有很多其他数据集成平台，企业可以根据自身的需求选择不同的数据集成平台工具。
4.2K30编辑于 2023-09-19 - 来自专栏NLP/KG
数据开发平台
1 特征平台 2.DeepInsight
5.1K40编辑于 2023-03-17 - 来自专栏数据社
小米数据平台
作者 | 勇幸，小米计算平台负责人 导读： 业界一直希望统一元数据，从而实现多产品间的一致体验：无论是数据开发、数据消费还是数据治理，所有用户都能基于一套元数据体系，采用相同的资源描述方式，这无疑能极大地提升用户体验 得益于开源与组织时机，小米基于 HMS 与 Metacat 实现了元数据的统一，也借此实现了将 7 个数据平台统一为 1 个平台。 Gravitino 在小米数据平台中的位置 下图中 Gravitino 具有以下我们需要的特性（以绿色和黄色突出显示）： 统一的元数据湖：作为一个统一的数据目录，它支持多种数据源、计算引擎和数据平台，用于数据开发 我们期望通过利用 Gravitino 在我们的数据平台上实现这一点。 多系统集成的统一认证挑战 为了为用户提供无缝的数据开发体验，数据平台通常需要与各种存储和计算系统集成。 为了解决这个问题，简化不同账户系统的复杂性并建立统一的授权框架是构建一站式数据开发平台的关键一步，以提高数据开发的效率。
85610编辑于 2024-04-10 - 来自专栏Java架构师必看
数据运营平台-数据采集
今天说一说数据运营平台-数据采集[通俗易懂],希望能够帮助大家进步!!! 目录 行为数据采集 业务数据采集与转换 第三方系统API对接 用户数据关联 人工数据采集 数据输出 ---- 行为数据采集 1.埋点采集 ①跨平台打通 确定性方法识别 利用用户帐号体系中，可以是系统生成的 ，不计入平台数据统计 2：打开 Debug 模式，该模式下发送的数据可计入平台数据统计 iOS环境 AnalysysAgent setDebugMode:AnalysysDebugButTrack AnalysysDebugOff 数据管理 A.业务数据检查 接口应提供业务数据检查功能，即对接收的数据进行合法性检查，对非法数据和错误数据则拒绝接收，以防止外来数据非法入侵，减轻应用支撑平台系统主机处理负荷。 主要通过实现数据导入工具，来实现对人工处理数据的采集；比如定制好数据模板，当人工填写数据模板后，在数据工具中导入上传，再进入大数据平台的文件自动处理机制流程中。
6K31编辑于 2022-07-06 【能力比对】K8S数据平台VS数据平台
AllData大数据产品是可定义数据中台，以数据平台为底座，以数据中台为桥梁，以机器学习平台为中层框架，以大模型应用为上游产品，提供全链路数字化解决方案。 一、K8S数据平台VS数据平台能力对比 1.1 K8S数据平台（CloudEon）-功能描述 K8S数据平台基于开源项目CloudEon建设，简化Kubernetes上大数据集群的运维管理，一款基于Kubernetes 的开源大数据平台，旨在为用户提供一种简单、高效、可扩展的大数据解决方案。 K8S数据平台（CloudEon）将基于 Kubernetes 的资源安装部署开源大数据组件，实现开源大数据平台的容器化运行，可减少对于底层资源的运维关注。 四、 K8S数据平台VS数据平台-应用场景适配K8S数据平台（CloudEon）高实时性、弹性需求行业：互联网用户行为分析、金融反欺诈、AI模型推理等场景需支撑千万级QPS查询与GPU资源动态调度，其流批一体计算引擎
50210编辑于 2025-05-07- 来自专栏大数据开发
大数据平台架构：数据平台建设的几种方案
随着大数据在越来越多的企业当中落地，企业要开展大数据相关的业务，那么首先要搭建起自身的数据平台。而企业搭建大数据平台，往往需要结合成本、业务、人员等各方面的因素，来规划数据平台建设方案。 今天我们就来聊聊数据平台建设的几种方案。 9.jpg 数据平台其实在企业当中一直都是存在的，但是进入到数据爆发式增长的大数据时代，传统的企业级数据库，在满足数据管理应用上，并不能完全满足各项需求。 对于企业而言，基于大数据背景下的企业数据管理应用，也需要更加符合需求的数据平台建设方案。 主流数据平台建设方案 从市场主流选择来看，企业数据平台建设方案，目前大致有以下几种： 1、常规数据仓库 数据仓库的重点，是对数据进行整合，同时也是对业务逻辑的一个梳理。 15.jpg 关于大数据平台架构，数据平台建设的几种方案，以上就为大家做了一个简单的介绍了。
3.3K51发布于 2020-10-14 什么是数据集成平台？数据集成平台有哪些功能？
简单来说，数据集成平台就是一种专门用来收集、整合和管理来自不同源头的数据的工具。那么，数据集成平台究竟能干啥？它具体有什么本事？别急，咱们今天就一层层把它拆开讲清楚。 没有集成平台的时候，店长想决定该进多少货，可能得手动去比对这三套数据，费时费力还可能出错。但有了数据集成平台呢？平台就能自动地把销售数据、当前的库存情况、会员的消费习惯这些信息整合到一起。 二、 数据集成平台的主要功能数据集成平台的能耐，实实在在地体现在这四个核心功能上：1. 数据抽取这是第一步，好比是准备原材料。 这时候增量抽取就太有用了，平台只需要抽取当天的订单数据，同步到数据仓库或者分析平台，后面的分析用起来就顺手多了。2. 而数据仓库是个“大仓库”，核心工作是存储和管理这些被集成平台处理好的、规整的历史数据，主要服务于查询和分析。你可以理解为，集成平台是给数据仓库“备料”的前道工序。
1.4K10编辑于 2025-07-02- 来自专栏大数据开发
大数据平台搭建：基于Hadoop的数据分析平台
15.jpg 企业要进行大规模的数据分析，基于开源的Hadoop及其生态圈来搭建起大数据系统平台，无疑是一种低成本高效率的选择。 Hadoop大数据平台 Hadoop在大数据技术生态圈，经过这么多年的发展，基础核心架构的地位，依然稳固。 针对不同的具体需求，采用不同的数据分析架构和框架组件来解决实际问题。 大数据分析平台需求规划 按照数据分析的时效性需求，大数据分析可分为实时数据分析和离线数据分析两种。 对于大多数反馈时间要求不是那么严苛的应用，比如离线统计分析、机器学习、搜索引擎的反向索引计算、推荐引擎的计算等，可采用离线分析的方式，通过数据采集工具将日志数据导入专用的分析平台。 9.jpg 关于大数据平台搭建，基于Hadoop的数据分析平台，以上就是今天的分享内容了。
2.4K1410发布于 2020-10-10 - 来自专栏啄木鸟软件测试
大数据平台测试
来源：http://www.uml.org.cn 一.大数据平台测试简述 大数据平台测试包括2部分：基础能力测试和性能测试 Ⅰ).基础能力测试 大数据平台的基本功能和数据的导入导出对SQL任务、NoSQL b).是否能够进行细粒度的权限管理 c).是否能够提供审计和数据加密功能 大数据平台是否具备高可用的机制，防止机器的失效带来的任务失败以及数据丢失 大数据平台是否能够支持机器快速平滑地扩展和缩容时带来线性的计算能力 Ⅲ).测试指标 主要从性能、能耗、性价比和可用性4个维度来测试对比平台性能 ? 三.大数据平台测试工具 Ⅰ).平台单组件测试 测试应用单一、效率高、成本低，但无法全面衡量大数据平台性能 ? Ⅱ).综合平台测试 覆盖面广，可以较全面测试衡量大数据平台不同类型任务的性能，通用性好 ? ：结构化、半结构化、非结构化 四.大数据平台测试用例 Ⅰ).平台基准测试用例 主要是从性能的角度衡量大数据平台，包括数据生成、负载选择和明确测试指标等内容 ?
2.1K30发布于 2020-11-03 - 来自专栏祝威廉
运维=平台+数据
运维现有发展方向的问题 运维也越来越朝着平台化，自动化，自助化方向发展。这种发展方式虽然可以解决问题，但是会导致碎片化以及难以标准化，不可复制，对生态也是不利的。 运维发展新方向 之前我写过一篇文章，谈及如何用大数据思维做运维，当然这篇文章有他自己的局限性，只是谈及了运维监控，灌输一种 data based 的理念。 随着分布式相关应用慢慢成熟，尤其是大数据的崛起，对服务器有了更多的需求，以资源为粒度的管理需求也变得更加迫切，于是有了Google Borg,开源的则有Mesos,Yarn等。 前面讲的是基础平台层面的，我们其实更多的是要对应用进行更细致的观察。在Borg之上的应用可以是非常复杂的，应用的关联也是非常复杂的，微服务的兴起导致链路非常长，所以我们有了全链路追踪的需求。 一切服务都是为了帮助数据进行流转和变换，服务的状态也都反应在数据流上，这种瞬态和终态的量是非常大的，所以我们需要借助大数据的思维去做处理。 到这里就可以参考大数据思维做运维灌输的概念了。
4.2K50发布于 2018-08-27 - 来自专栏全栈程序员必看
大数据平台建设
数据仓库平台Hive Hive详细介绍 Hive是一个基于Hadoop的数据仓库平台。通过hive，我们可以方便地进行ETL的工作。 大规模数据分析平台Pig Pig详细介绍 Pig是一个基于Hadoop的大规模数据分析平台，它提供的SQL-LIKE语言叫Pig Latin，该语言的编译器会把类SQL的数据分析请求转换为一系列经过优化处理的 Impala采用与Hive相同的元数据、SQL语法、ODBC驱动程序和用户接口(Hue Beeswax)，这样在使用CDH产品时，批处理和实时查询的平台是统一的。 目前已经有包括阿里百度在内的数家大型互联网公司在使用该平台。 现在Kubenetes着重于不间断的服务状态（比如web服务器或者缓存服务器）和原生云平台应用（Nosql）,在不久的将来会支持各种生产云平台中的各种服务，例如，分批，工作流，以及传统数据库。
1.5K40编辑于 2022-08-12 - 来自专栏鸿的学习笔记
现代元数据平台
此时就需要一个现代元数据平台去管理现代数据技术栈，以防止公司的数据生态系统由于分散和增长而变成笨重的野兽。 领英希望 WhereHows 能够更加通用化，成为一个真正的元数据平台。 它是一个平台，可大规模集成、处理和提供丰富的元数据，以应对许多复杂的组织数据挑战。 为什么需要现代元数据平台？ “为什么传统的元数据管理解决方案不够好？” 那么，为什么需要现代元数据平台呢？因为您的元数据可能与您的数据一样大和一样复杂，因此应该受到同样的尊重。 如何构建出色的现代元数据平台？ 简而言之，一个优秀的元数据平台看起来与一个优秀的数据平台非常相似。
82431编辑于 2022-03-11 数据治理平台有哪些:2025 年数据治理平台深度解析
然而，当前市场上的数据治理平台功能参差不齐，有的侧重技术架构，有的聚焦行业场景，如何在纷繁复杂的选项中找到适配自身需求的平台，成为企业数字化转型的关键课题。 信创与合规深度绑定：超过 85% 的央国企将 “信创适配能力” 列为数据治理平台选型的首要指标，要求平台从底层数据库到上层应用全面兼容国产化软硬件体系，同时满足等保 2.0、数据分类分级等合规要求。 四、如何选择最适合的平台？5 步落地选型方法论数据治理平台的选型不是 “选最好的”，而是 “选最对的”。结合 2025 年市场特点，建议按以下 5 步推进：1. 六、总结：2025 年数据治理平台选型的核心逻辑随着数据成为企业核心资产，数据治理平台已从 “可选工具” 变为 “必备基础设施”。在 2025 年的市场环境中，选型的核心逻辑可总结为：1. 最终，数据治理的目标不是 “建设平台”，而是 “释放数据价值”。企业需以业务需求为导向，选择能支撑长期战略的平台，同时配套组织流程与管理机制，才能在数字经济时代真正实现 “数据驱动增长”。
81400编辑于 2025-08-27大数据平台深度分析：数据中台、数据治理与Hadoop平台组件对比
引言 在数字化转型的浪潮中，大数据平台、数据中台、数据治理及数据开发成为企业核心能力的重要组成部分。 本文将从技术角度深度分析大数据平台、数据中台、数据治理及Hadoop平台的组件，包括HDFS、Spark、Hive、Iceberg、Flink、Hbase、多租户、管控平台、大数据部署、大数据运维以及集群联邦等关键技术 大数据平台与数据中台 大数据平台和数据中台是企业处理和分析大规模数据集的关键基础设施。根据Gartner的报告，数据中台能够帮助企业实现数据的集中管理和服务化^1。 Hadoop平台组件 Hadoop平台是大数据处理的基石，其组件包括HDFS、Spark、Hive等。 管控平台 管控平台是管理和监控大数据平台运行的工具。腾讯云提供的管控平台支持集群管理、任务调度、资源监控等功能，确保大数据平台的稳定运行^12。
37810编辑于 2025-07-28- 来自专栏祝威廉
大数据平台和AI平台应该如何整合
大数据和AI两者最核心的部分都是数据。大数据的主要工作是对数据进行各种转换和存储。而AI的主要工作是学习数据并且得出模型。 AI天然需要大数据的基础，因为AI需要各种形态的数据，而我们得到这些形态的数据，必然离不开大数据。就此而言，他们两个合在一起，才是一个完整的工作流。 所以大数据平台要和AI进行整合，有两个核心点： 数据的交换 统一的语言 无论进程内还是进程间，数据交换最高效的方式是通过 Apache Arrow。那么数据交换的问题算是有了一个标准。 统一的语言呢？ echo 只是简单的对所有的数据的content字段进行填充。mock_data提供了mock数据。执行结果如下： 测试代码没问题了，现在我们希望真实加载HIve里的数据做处理。 ! 正如上面的示例，你可以给脚本设置mock数据，如果他运行在MLSQL中，则会使用实际SQL提供的数据，如果他是自己单独运行，则会使用mock数据。
1.6K20编辑于 2022-07-21 - 来自专栏TASKCTL技术交流讨论
大数据开发平台-数据同步服务
服务框架的功能侧重点往往不尽相同，因而大家也会用各种大同小异的名称来称呼这类服务，比如数据传输服务，数据采集服务，数据交换服务等等 至于大数据开发平台的数据同步服务，加上了限定词，那当然是进一步把业务的范围限定在了和数据平台业务相关的一些组件和应用场景之下了 大数据平台数据同步服务业务场景 讨论场景之前，先来看一下数据同步的目的，为什么我们需要在不同的系统之间进行数据的同步？ 然后，在开发平台中处理完毕的数据，有时候也并不能或者不适合在大数据开发平台的相关服务中直接使用，需要反馈回线上的业务系统中，这个过程我们称为数据的回写或导出。 数据交换服务管控平台 作为服务，不提供可视化的管控平台，只提供命令行交互方式，那就是耍流氓。 管控平台管什么？ 这些服务可以由数据交换服务平台独立提供，但最理想的，还是和开发平台的其它作业任务融合到同一个平台上进行管理，即使底层支撑对应服务的后台可能是独立的，在用户交互后台上，也要尽可能集成到一起。
3.3K40发布于 2020-07-22 - 来自专栏全栈程序员必看
大数据平台数据脱敏介绍
隐私数据脱敏技术 通常在大数据平台中，数据以结构化的格式存储，每个表有诸多行组成，每行数据有诸多列组成。 因此大数据脱敏平台的设计目标并不是实现工具算法用来完全抹去全部的用户标识信息，而是包括如下几个目标： 数据泄露风险可控。 结合大数据平台的用户认证体系，权限管理体系，以及隐私数据不同保护级别的权限管理体系，实现对隐私数据基于审批的数据访问机制。 大数据脱敏平台的设计方向一般包括静态大数据脱敏平台和动态大数据脱敏平台，所谓静态和动态之分，主要在于脱敏的时机不同。 总结 针对于大数据平台对于数据脱敏的需求，本文分析了数据泄露可能带来的风险，介绍了数据脱敏技术的理论基础与实现方式，同时简单分析了大数据平台的隐私数据脱敏技术方向。
2.8K40编辑于 2022-06-25 - 来自专栏程序猿的大杂烩
大数据平台 - 数据采集及治理
数据采集介绍 ETL基本上就是数据采集的代表，包括数据的提取（Extract）、转换（Transform）和加载（Load）。数据源是整个大数据平台的上游，数据采集是数据源与数仓之间的管道。 在采集过程中针对业务场景对数据进行治理，完成数据清洗工作。 在大数据场景下，数据源复杂、多样，包括业务数据库、日志数据、图片、视频等多媒体数据等。 常见的三个数据采集场景： 场景1：从支持FTP、SFTP、 HTTP等 协议的数据源获取数据 场景2：从业务数据库获取数据，数据采集录入后需支撑业务系统 场景3：数据源通过Kafka等消息队列，需要实时采集数据 ：数据之间的关系没有体现出来，数据深层价值无法体现 数据治理的目标： 建立统一数据标准与数据规范，保障数据质量 制定数据管理流程，把控数据整个生命周期 形成平台化工具，提供给用户使用 数据治理： 数据治理包括元数据管理 ，打通业务模型和技术模型 提升数据质量，实现数据全生命周期管理 挖掘数据价值，帮助业务人员便捷灵活的使用数据 数据治理与周边系统： ODS、DWD、DM等各层次元数据纳入数据治理平台集中管理 数据采集及处理流程中产生的元数据纳入数据治理平台
4.2K11发布于 2020-11-16 - 来自专栏斑斓
剖析大数据平台的数据存储
数据作为一种资产，若少了存储，就成了无根之木，失去了后续挖掘的价值。在小数据时代，受存储容量与CPU处理能力限制，在现在看来相当小的数据，在当时其实也可以认为是“大数据”了。 决定的因素包括： 数据源的类型与数据的采集方式 采集后数据的格式与规模 分析数据的应用场景 如果数据的采集是针对业务历史数据的同步与备份，那么HDFS可能就是最好的存储选择；如果数据的格式为文档型结构 这就引出了大数据平台数据存储的一个重要特征： 相同的业务数据会以多种不同的表现形式，存储在不同类型的数据库中，形成polyglot-db这种产生数据冗余的生态环境。 数据存储就是数据平台工程师手中的工具百宝箱，你需要熟悉各种工具的利弊，他们擅长处理的场景，然后再将好钢用在刀刃上，以求最大性的发挥工具的潜力。 记住，在大数据平台中，不是数据驱动而是业务场景驱动你对数据存储的技术决策。
1.4K90发布于 2018-03-07 - 来自专栏斑斓
剖析大数据平台的数据采集
数据采集的设计，几乎完全取决于数据源的特性，毕竟数据源是整个大数据平台蓄水的上游，数据采集不过是获取水源的管道罢了。 在转换的过程中，需要针对具体的业务场景对数据进行治理，例如进行非法数据监测与过滤、格式转换与数据规范化、数据替换、保证数据完整性等。 但是在大数据平台下，由于数据源具有更复杂的多样性，数据采集的形式也变得更加复杂而多样，当然，业务场景也可能变得迥然不同。下图展现了大数据平台比较典型的数据采集架构： ? 但是在大数据场景下，这些看似无用的历史数据又可能是能够炼成黄金的沙砾。因而需要实时将RDB的数据同步到HDFS中，让HDFS成为备份了完整数据的冗余存储。 如果数据源端可以控制，我们当然也可以侦听数据源的变更，然后执行Job来更新采集后存储的数据。
1.8K40发布于 2018-03-07
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号