- 综合排序
- 最热优先
- 最新优先
- 来自专栏超级架构师
【数据湖】塑造湖：数据湖框架
大数据和数据湖的风险和挑战 大数据带来的挑战如下： 容量——庞大的数据量是否变得难以管理？ 多样性——结构化表格？半结构化 JSON？完全非结构化的文本转储？ 准确性——当数据量不同、来源和结构不同以及它们到达湖的速度不同时，我们如何保持准确性和准确性？ 同时管理所有四个是挑战的开始。 很容易将数据湖视为任何事物的倾倒场。 这些数据可能都是完全相关和准确的，但如果用户找不到他们需要的东西，那么湖本身就没有价值。从本质上讲，数据淹没是指数据量如此之大，以至于您无法找到其中的内容。 框架 我们把湖分成不同的部分。关键是湖中包含各种不同的数据——一些已经过清理并可供业务用户使用，一些是无法辨认的原始数据，需要在使用之前进行仔细分析。 文件夹结构本身可以任意详细，我们自己遵循一个特定的结构： 原始数据区域是进入湖的任何文件的着陆点，每个数据源都有子文件夹。
1.3K20编辑于 2022-03-08 - 来自专栏超级架构师
【数据湖】在 Azure Data Lake Storage gen2 上构建数据湖
介绍 一开始，规划数据湖似乎是一项艰巨的任务——决定如何最好地构建数据湖、选择哪种文件格式、是拥有多个数据湖还是只有一个数据湖、如何保护和管理数据湖。 在之前的博客中，我介绍了数据湖和 Azure 数据湖存储 (ADLS) gen2 的重要性，但本博客旨在为即将踏上数据湖之旅的人提供指导，涵盖构建数据湖的基本概念和注意事项ADLS gen2 上的数据湖 数据湖结构——区域 这一定是数据湖社区中最常争论的话题，简单的答案是每个数据湖都没有单一的蓝图——每个组织都有自己独特的一组需求。 由于这一层通常存储的数据量最大，因此可以考虑使用生命周期管理来降低长期存储成本。在撰写本文时，ADLS gen2 支持以编程方式或通过生命周期管理策略将数据移动到酷访问层。 之后无法将标准 v2 存储帐户迁移到 ADLS gen2 — 必须在创建帐户时启用 HNS。
1.4K10编辑于 2022-03-08 - 来自专栏Lansonli技术博客
数据湖（一）：数据湖概念
数据湖概念一、什么是数据湖数据湖是一个集中式的存储库，允许你以任意规模存储多个来源、所有结构化和非结构化数据，可以按照原样存储数据，无需对数据进行结构化处理，并运行不同类型的分析对数据进行加工，例如：大数据处理 数据湖技术可以很好的实现存储层面上的“批流一体”，这就是为什么大数据中需要数据湖的原因。 三、数据湖与数据仓库的区别数据仓库与数据湖主要的区别在于如下两点：存储数据类型数据仓库是存储数据，进行建模，存储的是结构化数据；数据湖以其本源格式保存大量原始数据，包括结构化的、半结构化的和非结构化的数据 而对于数据湖，您只需加载原始数据，然后，当您准备使用数据时，就给它一个定义，这叫做读时模式（Schema-On-Read）。这是两种截然不同的数据处理方法。 因为数据湖是在数据使用时再定义模型结构，因此提高了数据模型定义的灵活性，可满足更多不同上层业务的高效率分析诉求。图片图片
2.7K94编辑于 2022-06-05 - 来自专栏大数据进阶
数据湖
语义能力方面比较吃力 >架构复杂，涉及多个系统协调，靠调度系统来构建任务依赖关系 2.Lambda 架构 >同时维护实时平台和离线平台两套引擎，运维成本高 >实时离线两个平台需要维护两套框架不同但业务逻辑相同代码 >支持实现分钟级到秒级的数据接入，实效性和Kappa 架构比略差 下面我们看下网上对于主流数据湖技术的对比 ? 从上图中我们可以看到hudi和iceberg的功能较齐全，下面我们将从如下几方面来 1.元数据打通 2.flink读写数据湖 3.增量更新 4.对事务的支持 5.对于写入hdfs小文件合并的支持 6.湖中的数据和仓中的数据的联通测试 7.高效的回缩能力 8.支持Schema变更 9.支持批流读写 9.支持批流读写 说完了技术体现，下面我们在简单说一下数据湖和数仓的理论定义 数据湖 其实数据湖就是一个集中存储数据库，用于存储所有结构化和非结构化数据 数据湖可用其原生格式存储任何类型的数据，这是没有大小限制。数据湖的开发主要是为了处理大数据量，擅长处理非结构化数据。 我们通常会将所有数据移动到数据湖中不进行转换。
1.2K30发布于 2021-07-01 - 来自专栏狗哥的专栏
大数据学习笔记2：现代数据湖之Iceberg
版本 日期 备注 1.0 2021.6.20 文章首发 从广义上来说数据湖系统主要包括数据湖村处和数据湖分析 现有数据湖技术主要由云厂商推动，包括基于对象存储的数据湖存储及在其之上的分析套件 基于对象存储 （S3，WASB）的数据湖存储技术，如Azure ADLS，AWS Lake Formation等 以及运行在其上的分析工具，如AWS EMR，Azure HDinsight，RStudio等等 2. （Hive、Spark）在向数据湖分析泛化，而数仓则向高性能架构演进 3. 现代数据湖的能力要求 支持流批计算 Data Mutation 支持事务 计算引擎抽象 存储引擎抽象 数据质量 元数据支持扩展 4.常见现代数据湖技术 Iceberg Apache Hudi Delta Lake 总的来说，这些数据湖都提供了这样的一些能力： 构建于存储格式之上的数据组织方式 提供ACID能力，提供一定的事务特性和并发能力 提供行级别的数据修改能力 确保schema的准确性
63010编辑于 2024-01-09 - 来自专栏超级架构师
【数据湖仓】数据湖和仓库：范式简介
博客系列 数据湖和仓库第 1 部分：范式简介 数据湖和仓库第 2 部分：Databricks 和雪花 数据湖和仓库第 3 部分：Azure Synapse 观点 两种范式：数据湖与数据仓库 基于一些主要组件的选择 ，云分析解决方案可以分为两类：数据湖和数据仓库。 数据湖：去中心化带来的自由 数据湖范式的核心原则是责任分散。借助大量工具，任何人都可以在访问管理的范围内使用任何数据层中的数据：青铜、白银和黄金。 集中式数据湖元数据管理工具越来越多，但使用它们取决于开发过程。技术很少强制这样做。 结论：数据湖和数据仓库 在这篇文章中，我们讨论了数据仓库和基于数据湖的解决方案的基本方法或范式的差异。 原则上，您可以纯粹在数据湖或基于数据仓库的解决方案上构建云数据分析平台。 我见过大量基于数据湖工具的功能齐全的平台。在这些情况下，可以使用特定于用例的数据库数据集市来提供信息，而根本不需要数据仓库。
1.2K10编辑于 2022-03-08 - 来自专栏QQ大数据团队的专栏
从数据湖到元数据湖——TBDS新一代元数据湖管理
所以在Data+AI 时代，面对AI非结构化数据和大数据的融合，以及更复杂跨源数据治理能力的诉求，TBDS开发了第三阶段的全新一代统一元数据湖系统。 02、新一代元数据湖管理方案 TBDS全新元数据湖系统按照分层主要有统一接入服务层、统一Lakehouse治理层、统一元数据权限层、统一Catalog模型连接层。 统一接入服务对外提供开放标准的API接口给用户或引擎对元数据湖的各种操作，提供JDBC、REST API和Thrift协议三种方式访问元数据。 【2】随着库表及策略数持续增加，Ranger Plugin占用本地内存也持续增加，TBDS的生产经验值是100万策略情况下消耗的内存在10～20G左右。 【2】实现Ranger Plugin Agent的代码实现。
1.9K10编辑于 2024-09-26 - 来自专栏宜信技术实践
漫谈“数据湖”
而这一切的数据基础，正是数据湖所能提供的。 二、数据湖特点 数据湖本身，具备以下几个特点： 1）原始数据 海量原始数据集中存储，无需加工。 也就是数据湖将不同种类的数据汇聚到一起。 2）按需计算 使用者按需处理，不需要移动数据即可计算。数据库通常提供了多种数据计算引擎供用户来选择。常见的包括批量、实时查询、流式处理、机器学习等。 3）延迟绑定 数据湖提供灵活的，面向任务的数据编订，不需要提前定义数据模型。 三、数据湖优缺点 任何事物都有两面性，数据湖有优点也同样存在些缺点。 优点包括： 数据湖中的数据最接近原生的。 这也主要是因为数据过于原始带来的问题。 四、数据湖与关联概念 4.1 数据湖 vs 数据仓库 数据湖建设思路从本质上颠覆了传统数据仓库建设方法论。 2）处理数据方式 如果需要加载到数据仓库中的数据，我们首先需要定义好它，这叫做写时模式（Schema-On-Write）。
2.2K30发布于 2019-07-04 - 来自专栏区块链入门
数据仓库、数据湖、数据中台一文读懂【2】
在这个阶段一个隐含的重要工作是借助数据摸底工作，进一步梳理企业的组织结构，明确数据和组织结构之间关系。为后续明确数据湖的用户角色、权限设计、服务方式奠定基础。 2） 模型抽象。 依然需要摸清楚数据的基本情况，包括数据来源、数据类型、数据形态、数据模式、数据总量、数据增量。但是，也就需要做这么多了。数据湖是对原始数据做全量保存，因此无需事先进行深层次的设计。 2） 技术选型。 但是，这里需要指出的是： 1）流式引擎依然需要能够很方便的读取数据湖的元数据； 2）流式引擎任务也需要统一的纳入数据湖的任务管理； 3）流式处理任务依然需要纳入到统一的权限管理中。 DLA的SQL与ADB的SQL语法上完全兼容，这意味着开发者使用一套技术栈即能同时开发数据湖应用和数仓应用。 2） 都内置了对于OSS的访问支持。 数据湖还提供了数据资产管理能力，商家除了能管理原始数据外，还能将处理过的过程数据和结果数据分门别类保存，极大的提升了埋点数据的价值。 2） 分析模型化能力。
1.6K30编辑于 2022-03-23 - 来自专栏ITBA有话说
数据湖浅谈
什么是数据湖？ 数据入湖的方式 有物理入湖和虚拟入湖，物理入湖是指将数据复制到数据湖中，包括离线数据集成和实时数据集成两种方式。如果你对报表实时性要求很高，比如支撑实时监控类报表，那就需要入实时区。 虚拟入湖指原始数据不在数据湖中进行物理存储，而是通过建立对应虚拟表的集成方式实现入湖，实时性强，一般面向小数据量应用。 DM-Data Mart 数据集市， DM层数据来源于DWR层，面向展现工具和业务查询需求。DM根据展现需求分领域，主题汇总。 数据出湖 数据入了湖，自然要出湖，出湖即数据消费。 自助获取数据资产到租户 在数据地图搜索数据资产，数据资产目录逐层检索(L1主题域分组->L2主题域->L3业务对象->L4逻辑实体->L5属性)，通过不同的搜索方式，最后定位到需要的逻辑实体，加入到租户或在租户内申请个人使用权限
4.6K11发布于 2021-03-12 - 来自专栏杨丝儿的小站
【数据湖】扫盲
什么是数据湖 数据湖是一种以原生格式存储各种大型原始数据集的数据库。您可以通过数据湖宏观了解自己的数据。 原始数据是指尙未针对特定目的处理过的数据。数据湖中的数据只有在查询后才会进行定义。 为什么出现了数据湖的概念 数据湖可为您保留所有数据，在您存储前，任何数据都不会被删除或过滤。有些数据可能很快就会用于分析，有些则可能永远都派不上用场。 数据从多种来源流入湖中，然后以原始格式存储。 数据湖和数据仓库的差别是什么？ 数据仓库可提供可报告的结构化数据模型。这是数据湖与数据仓库的最大区别。 数据湖架构 数据湖采用扁平化架构，因为这些数据既可能是非结构化，也可能是半结构化或结构化，而且是从组织内的各种来源所收集，而数据仓库则是把数据存储在文件或文件夹中。数据湖可托管于本地或云端。 他们还可以利用大数据分析和机器学习分析数据湖中的数据。 虽然数据在存入数据湖之前没有固定的模式，但利用数据监管，你仍然可以有效避免出现数据沼泽。
1.1K30编辑于 2022-03-20 - 来自专栏韩锋频道
漫谈“数据湖”
数据湖 数据湖这一概念，最早在2011年首次提出由CITO Research网站的CTO和作家Dan Woods提出的。 而这一切的数据基础，正是数据湖所能提供的。 1 数据湖特点 数据湖本身，具备以下几个特点： 原始数据 海量原始数据集中存储，无需加工。 延迟绑定 数据湖提供灵活的，面向任务的数据编订，不需要提前定义数据模型。 2 数据湖优缺点 任何事物都有两面性，数据湖有优点也同样存在些缺点。 优点：数据湖中的数据最接近原生的。 这也主要是因为数据过于原始带来的问题。 3 数据湖与关联概念 数据湖 vs 数据仓库 数据湖建设思路从本质上颠覆了传统数据仓库建设方法论。传统的企业数据仓库则强调的是整合、面向主题、分层次等思路。 数据湖 vs 数据安全 数据湖中存放有大量原始及加工过的数据，这些数据在不受监管的情况下被访问是非常危险的。这里是需要考虑必要的数据安全及隐私保护问题，这些是需要数据湖提供的能力。
1.3K30发布于 2019-07-04 - 来自专栏超级架构师
【数据湖仓】数据湖和仓库：Databricks 和 Snowflake
是时候将数据分析迁移到云端了。我们比较了 Databricks 和 Snowflake，以评估基于数据湖和基于数据仓库的解决方案之间的差异。 在这篇文章中，我们将介绍基于数据仓库和基于数据湖的云大数据解决方案之间的区别。我们通过比较多种云环境中可用的两种流行技术来做到这一点：Databricks 和 Snowflake。 数据库类型功能是专门使用 Delta 文件格式开发的。 Delta 文件格式是一种将数据库优势带入数据湖世界的方法。除其他外，该格式提供数据模式版本控制和数据库类型 ACID 事务。 根据数据湖范式，文件格式本身是开放的，任何人都可以免费使用。 这是 Snowflake 向数据湖范式方向扩展其解决方案的方式之一。如今，它提供了用于实时数据摄取的高效工具等。
3.3K10编辑于 2022-03-08 - 来自专栏超级架构师
【数据湖仓】数据湖和仓库：Azure Synapse 视角
是时候将数据分析迁移到云端了。我们将讨论 Azure Synapse 在数据湖和数据仓库范式规模上的定位。 具体来说，我们关注如何在其中看到数据仓库和数据湖范式的区别。 为了熟悉这个主题，我建议你先阅读本系列的前几篇文章。 数据湖和仓库第 1 部分：范式简介 数据湖和仓库第 2 部分：Databricks 和Showflake 数据湖和仓库第 3 部分：Azure Synapse 观点 我们现在考虑一个更新颖的解决方案，该解决方案与该主题的角度略有不同 这样一来，我们就有了多个云数据产品，一个品牌和一个界面，涵盖了云大数据分析平台的所有阶段。此外，Synapse 环境为数据仓库构建和数据湖开发提供了工具。 除 Synapse 专用 SQL 池数据仓库外，所有处理组件均按数据湖范例的典型使用量付费。所有工具甚至都有自动关机功能。
1.6K20编辑于 2022-03-08 什么是数据湖？一文搞懂数据湖、数据仓库、湖仓一体
对口径不统一或者质量低的数据，可以用FineDataLink来定时抽取并转化，完成对数据的快速处理工作，保障数据的一致性和完整性。2、数据仓库适合干什么？数据仓库最适合干的就是固定报表和商业智能分析。 于是数据湖的概念就火了。1、数据湖是什么？你可以把数据湖理解为一个企业的“原始数据集中存储库”。 数据湖的原则是“先存起来再说”。2、数据湖解决了什么问题？它就是为了应对数据仓库的“不灵活”而生的。 2、为什么湖仓一体现在是主流方向？很多公司既有数据仓库，又建了数据湖，结果同一份数据在两个地方存了两份，不仅成本高，还经常出现数据不一致的问题，团队之间也要频繁做数据同步。 等业务复杂了，有了明确的探索性分析或AI需求，再考虑向湖仓一体架构演进。Q2：我们已经有数据仓库和数据湖了，必须升级到湖仓一体吗？A：不一定。
53810编辑于 2026-03-05- 来自专栏超级架构师
【数据湖】Azure 数据湖分析（Azure Data Lake Analytics )概述
在本文中，我们将探索 Azure 数据湖分析并使用 U-SQL 查询数据。 Azure 数据湖分析 (ADLA) 简介 Microsoft Azure 平台支持 Hadoop、HDInsight、数据湖等大数据。 提取：从不同的数据源中提取数据 转换：将数据转换为特定格式 加载：将数据加载到预定义的数据仓库模式、表中 数据湖不需要严格的模式，并在分析之前将数据转换为单一格式。 数据湖的一些有用功能是： 它存储原始数据（原始数据格式） 它没有任何预定义的schema 您可以在其中存储非结构化、半结构化和结构化 它可以处理 PB 甚至数百 PB 的数据量 数据湖在读取方法上遵循模式 图片参考：微软文档 摄取：从各种数据源收集数据并以其原始格式存储到 Azure 数据湖中 存储：将数据存储到 Azure Data Lake Storage、AWS S3 或 Google 云存储 处理
1.5K20编辑于 2022-03-08 - 来自专栏超级架构师
【数据湖架构】Hitchhiker的Azure Data Lake数据湖指南
ADLS Gen2 何时是您数据湖的正确选择？ 设计数据湖的关键考虑因素 术语 组织和管理数据湖中的数据 我想要集中式还是联合式数据湖实施？ 如何组织我的数据？ Azure Data Lake Storage Gen2 (ADLS Gen2) 是用于大数据分析的高度可扩展且经济高效的数据湖解决方案。 ADLS Gen2 何时是您数据湖的正确选择？# 企业数据湖旨在成为大数据平台中使用的非结构化、半结构化和结构化数据的中央存储库。 设计数据湖的关键考虑因素# 当您在 ADLS Gen2 上构建企业数据湖时，了解您对关键用例的需求很重要，包括 我在数据湖中存储了什么？ 我在数据湖中存储了多少数据？ 如何管理我的数据湖成本？# ADLS Gen2 为您的分析场景提供数据湖存储，目标是降低您的总拥有成本。可以在此处找到 ADLS Gen2 的定价。
1.3K20编辑于 2022-03-08 数据湖与数据湖计算的主流技术深度分析
在大数据时代背景下，数据湖和数据湖计算成为企业数字化转型的关键技术。 统一元数据 统一元数据管理能够简化数据湖中的数据管理，提供一致的数据视图。 腾讯云数据湖计算DLC：提供了统一的元数据管理，支持跨数据源的数据视图。 湖仓一体 湖仓一体架构融合了数据湖和数据仓库的优势，提供了更高效的数据处理能力。 腾讯云数据湖计算DLC：支持湖仓一体架构，简化了数据管理。 Databricks Lakehouse：核心特性之一就是湖仓一体。 数据目录 数据目录提供了数据湖中数据的组织和管理。 腾讯云数据湖计算DLC：提供了数据目录功能，支持数据的分类和管理。 结论 数据湖和数据湖计算技术的发展为企业提供了强大的数据处理和分析能力。
28410编辑于 2025-07-28- 来自专栏暴走大数据
数据湖YYDS！ Flink+IceBerg实时数据湖实践
数据湖不是一个简单的技术，实现数据湖的方式多种多样，我们评价一个数据湖解决方案的成熟与否，关键在于其提供的数据治理、元数据管理、数据计算、权限管理的成熟程度。 湖仓一体才是未来？ 在数据湖的发展过程中，Data Lakehouse（湖仓一体）数据架构被推上了风口浪尖。湖仓一体架构的出现结合了传统数据仓库和数据湖的优势。 Flink+Iceberg构建数据湖实战 2.1 数据湖三剑客 在数据湖解决方案中有非常重要的一环，那就是数据存储和数据计算之间的格式适配。 accessToken=eyJhbGciOiJIUzI1NiIsImtpZCI6ImRlZmF1bHQiLCJ0eXAiOiJKV1QifQ.eyJhdWQiOiJhY2Nlc3NfcmVzb3VyY2UiLCJleHAiOjE2MzM5NzI0MjcsImciOiJrV0tXNmdRcnI4Z0pSUXRKIiwiaWF0IjoxNjMzOTcyMTI3LCJ1c2VySWQiOjE4NTAyMDc1fQ 总结 数据湖的发展方兴未艾，开源社区仍然在高速迭代中，但是可以预见的是，数据湖或者湖仓一体的数据架构未来一定会成为主流，是每个数据开发人员都需要掌握的知识。
2.1K20发布于 2021-10-25 - 来自专栏Lansonli技术博客
数据湖（七）：Iceberg概念及回顾什么是数据湖
Iceberg概念及回顾什么是数据湖一、回顾什么是数据湖数据湖是一个集中式的存储库，允许你以任意规模存储多个来源、所有结构化和非结构化数据，可以按照原样存储数据，无需对数据进行结构化处理，并运行不同类型的分析 二、大数据为什么需要数据湖当前基于Hive的离线数据仓库已经非常成熟，在传统的离线数据仓库中对记录级别的数据进行更新是非常麻烦的，需要对待更新的数据所属的整个分区，甚至是整个表进行全面覆盖才行，由于离线数仓多级逐层加工的架构设计 数据湖技术可以很好的实现存储层面上的“批流一体”，这就是为什么大数据中需要数据湖的原因。 ，Iceberg是一种数据湖解决方案。 2、特点Iceberg非常轻量级，可以作为lib与Spark、Flink进行集成Iceberg官网：https://iceberg.apache.org/Iceberg具备以下特点：Iceberg支持实时
7.7K62编辑于 2022-06-17
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号