- 综合排序
- 最热优先
- 最新优先
- 来自专栏大数据开发-王金绍
跨脚本步骤 复杂 SQL血缘识别
血缘抽取目标强依赖关系：识别sql执行结果保存[hive,mysql,hdfs]物理库表字段依赖链路，入库字段由哪些物理库表字段产生[select]。 血缘抽取对象公司内部POC脚本， 层级结构 { sciptMeta: 脚本基础信息 jobs: {//任务列表 jobid: [ //领域任务集合 E:{ 血缘抽取技术方法Antlr4： 抽取SQL语法结构，通过visitor 遍历出SQL树递归收敛：抽取模型通过递归最后收敛到 QueryDefault（sql依赖关系主体）与 TableName (表与字段信息主体 对象模型SQL树对象模型图片血缘实体模型图片六. 抽取效果效果HDFS.parquet. `job_4_t_2` as job_4_t_2;load json.
44160编辑于 2022-12-16 - 来自专栏MySQL技术
马哈鱼带你发现SQL中的数据血缘
那么到底什么是数据的血缘关系 (data lineage) 呢？ 维基百科上的定义是：数据从哪里来，往哪里去，中间发生了哪些变化。 马哈鱼数据血缘分析器通过分析 SQL 脚本，给出完整的数据血缘关系。 拥有自主研发的通用 SQL 解析器的强大 SQL 处理能力，马哈鱼是你分析 SQL 数据血缘的首选。 二、马哈鱼数据血缘分析器是怎样工作的 本视频介绍如何利用马哈鱼数据血缘分析器来快速发现 create view SQL 语句中各个表和字段的血缘关系，并用可视化的方式展现出来。 五、马哈鱼数据血缘分析器的组成 Backend, 后台由一系列 Java 程序组成。负责 SQL 的解析、数据血缘分析、可视化元素的布局、身份认证等。 负责 SQL 的递交、数据血缘关系的可视化展示。 Grabit 工具, 一个 Java 程序。负责从数据库、版本控制系统、文件系统中收集 SQL 脚本，递交给后台进行数据血缘分析。
3.2K20发布于 2021-09-17 - 来自专栏实时流式计算
数据血缘系列（10）—— 数据血缘3种实体之数据库血缘、数据表血缘和数据字段血缘
它主要涉及数据库血缘、数据表血缘和数据字段血缘三种实体。本文将深入探讨这三种实体的定义及其在数据治理中的作用，并结合具体实践原则进行阐述。 将数据血缘分为数据库血缘、数据表血缘和数据字段血缘三类，可以提供不同层次的精细化管理：数据库血缘帮助理解数据在全局系统间的流动路径，确保数据传输的透明性；数据表血缘关注数据在表级别的传输过程，确保表与表之间的数据准确性和一致性 数据库血缘、数据表血缘和数据字段血缘三者在数据流动和管理中紧密联系，但各有侧重。 数据库血缘、数据表血缘和数据字段血缘三者在数据血缘分析中各司其职，共同保障了数据的透明性、准确性和合规性。 这样，数据血缘三个实体，数据库血缘、数据表血缘、字段血缘已经了解了，下一章我们继续了解数据血缘的几种类型：逻辑血缘、物理血缘、时间血缘、操作血缘、业务血缘。 我们下一章再见！
1.2K10编辑于 2024-07-31 - 来自专栏实时计算
【开源项目推荐】通用SQL数据血缘分析工具——Sqllineage
SQLLineage 是一个使用 Python 开发的 SQL 血缘分析工具。它专注于提供 SQL 查询的血缘关系和依赖关系的深入分析。 一、概述 简单来说SQLLineage 是一SQL血缘分析工具，而由于SQL在数据分析中的通用性，SQLLineage 是一数据血缘分析工具。 详细血缘结果: 提供详细的血缘分析结果，每个 SQL 语句的血缘信息都可以显示出来。 方言意识: 支持不同的 SQL 方言，以适应不同的关键词和语法。 列级血缘 可以分析列级血缘，比如下面的sql。 <- col4 可视化 最后可以用下面的指令来启动一个web浏览器，进行血缘展示。
6.3K21编辑于 2023-12-06 - 来自专栏实时计算
【开源项目推荐】通用SQL数据血缘分析工具——Sqllineage
SQLLineage 是一个使用 Python 开发的 SQL 血缘分析工具。它专注于提供 SQL 查询的血缘关系和依赖关系的深入分析。 一、概述 简单来说SQLLineage 是一SQL血缘分析工具，而由于SQL在数据分析中的通用性，SQLLineage 是一数据血缘分析工具。 详细血缘结果: 提供详细的血缘分析结果，每个 SQL 语句的血缘信息都可以显示出来。 方言意识: 支持不同的 SQL 方言，以适应不同的关键词和语法。 列级血缘 可以分析列级血缘，比如下面的sql。 <- col4 可视化 最后可以用下面的指令来启动一个web浏览器，进行血缘展示。
1.9K20编辑于 2023-12-06 - 来自专栏实时计算
【开源项目推荐】通用SQL数据血缘分析工具——Sqllineage
SQLLineage 是一个使用 Python 开发的 SQL 血缘分析工具。它专注于提供 SQL 查询的血缘关系和依赖关系的深入分析。 一、概述 简单来说SQLLineage 是一SQL血缘分析工具，而由于SQL在数据分析中的通用性，SQLLineage 是一数据血缘分析工具。 详细血缘结果: 提供详细的血缘分析结果，每个 SQL 语句的血缘信息都可以显示出来。 方言意识: 支持不同的 SQL 方言，以适应不同的关键词和语法。 列级血缘 可以分析列级血缘，比如下面的sql。 <- col4 可视化 最后可以用下面的指令来启动一个web浏览器，进行血缘展示。
1.1K10编辑于 2023-12-06 - 来自专栏vivo互联网技术
Spark SQL 字段血缘在 vivo 互联网的实践
作者：vivo互联网服务器团队-Hao Guangshi 一、背景 字段血缘是在表处理的过程中将字段的处理过程保留下来。为什么会需要字段血缘呢？ 平台计划将 Hive 任务迁移到 Spark SQL 上，同时也需要实现字段血缘的功能。 ], "expression": "id", "edgeType": "PROJECTION" }, { "sources": [ 4, "id": 3, "vertexType": "COLUMN", "vertexId": "default.tab1.id" }, { "id": 4, 的字段血缘实现中，我们通过其自扩展，首先拿到了 insert 语句，在我们自己的检查规则中拿到 SQL 语句，通过SparkSqlParser、Analyzer、Optimizer、SparkPlanner
1.7K20编辑于 2022-04-25 - 来自专栏实时流式计算
数据血缘系列（6）—— 数据血缘与主数据
在当今数据驱动的商业环境中，数据治理成为企业成功的关键因素之一，而数据血缘正是数据治理成功的一个关键。 本文我们详细探讨下数据血缘与主数据有什么关系？他们之间又是如何配合实现数据治理的。 主数据与数据血缘 数据血缘是指数据在不同系统和过程中的流转和变更历史。了解主数据的数据血缘对于确保数据的质量和一致性具有重要意义。数据血缘的特征包括来源追溯、变更历史、影响分析和透明性与可追溯性。 数据血缘在主数据管理中的应用主要体现在数据质量管理、数据治理、合规性和审计以及业务决策支持等方面。通过数据血缘，可以识别和修正主数据中的错误和不一致，提高数据质量。 数据血缘为主数据的治理提供了基础，帮助制定和执行数据治理政策。合规性和审计方面，数据血缘记录了主数据的变更历史，有助于合规审计，确保数据管理符合相关法规和标准。 下一章我们继续来了解数据血缘与业务数据之间的联系。 我们下一章再见！
74510编辑于 2024-07-18 - 来自专栏韩锋频道
”数据血缘“入门
什么是数据血缘？ 数据的产生、加工融合、流转流通，到最终消亡，数据之间自然会形成一种关系。借鉴人类社会中类似的一种关系来表达数据之间的这种关系，称之为数据的血缘关系。数据血缘是元数据的组成部分之一。 它分析表和字段从数据源到当前表的血缘路径，以及血缘字段之间存在的关系是否满足，关注的数据一致性以及表设计的合理性。 可追溯性 数据的血缘关系，体现了数据的生命周期，体现了数据从产生到消亡的整个过程，具备可追溯性。 层次性 数据的血缘关系是有层次的。 其具体做法就是解析SQL语句、存储过程、ETL过程等文件。因为复杂代码和应用环境等原因，根据国际厂商的经验，自动解析可以覆盖到企业数据的70-95%，目前无法做到100%。 数据血缘分析 即数据“前向”血缘。通过指定表/字段，来追溯其前向多级对象。 数据影响分析 即数据“后向”血缘。通过指定表/字段，来关联其后向多级对象。
11.6K51发布于 2019-06-06 - 来自专栏实时流式计算
数据血缘系列（5）—— 数据血缘与元数据
在当今数据驱动的商业环境中，数据治理成为企业成功的关键因素之一，而数据血缘正是数据治理成功的一个关键。 本文我们详细探讨下数据血缘与元数据有什么关系？他们之间又是如何配合实现数据治理的。 本文为《数据血缘分析原理与实践 》一书读书笔记，部分观点参考自书中原文，如需更详细的了解学习，请大家支持原作者的辛苦付出。 元数据和数据血缘的联系 数据血缘（Data Lineage）是指数据从其来源到最终目的地的生命周期中所有变更的跟踪和记录。数据血缘包括数据的来源、流向、变换规则和依赖关系等。 在数据治理中，元数据和数据血缘紧密相关。元数据记录了数据的来源和目标，使数据血缘分析能够准确地追踪数据的流动路径。 通过元数据和数据血缘的结合，企业可以更好地理解和管理其数据资产，提升数据的价值和利用水平。元数据和数据血缘在数据治理中具有不可替代的重要作用。
1K10编辑于 2024-07-16 - 来自专栏生信修炼手册
IBD血缘同源简介
IBD全称Identity By Descent, 又叫做血缘同源，指的是两个个体中共有的等位基因来源于共同祖先；IBS全称Identity By State, 又叫做状态同源，指的是两个个体中共有的等位基因序列相同 3号和4号样本只有1个allel相同, IBS state的值为1，而IBD state的值为0， 因为3号样本的allel来自于父亲，4号样本的allel来自于母亲，不是共同祖先。
5.7K20发布于 2019-12-19 - 来自专栏HUMAN3.0
特征血缘不是数据血缘:厘清两个容易混淆的概念
关键在于,不同的对象需要不同的血缘体系。就像家族血缘追人与人,股权血缘追公司与股东,虽然都叫"血缘",但节点和边完全不同。 数据领域也一样。当你说"血缘"时,得先问清:在追溯什么对象? 三种血缘,各管各的事 数据血缘:表到表、字段到字段 关注对象:表(分区、文件)、字段、作业(SQL、Spark、Flink 任务)。 回答的问题: user_profile_daily 的上游是谁? 这个特征从 v3 到 v4 改了啥逻辑?哪些模型还在用 v3? 线上特征服务读的字段,和离线训练时用的是同一套定义吗(online/offline parity)? **第三,**特征逻辑常在代码里,不是纯 SQL。 很多特征是 Python、Scala 写的 UDF 或 DataFrame 操作,数据血缘工具解析 SQL 的能力再强,也抓不到这些黑盒逻辑的关键语义。
11810编辑于 2026-02-27 - 来自专栏实时计算
聊聊Hive数据血缘——从Atlas没有列级血缘的Bug讲起
前几天，Datahub提供了最新的字段级别数据血缘功能，很多朋友迫不及待想对比一下Datahub的字段级血缘与Atlas的区别。 正文开始： 通过本文档，可以快速的解决Hive在Altas字段级血缘没有生成的问题，并了解Hive数据血缘实现原理。更多元数据管理，数据血缘相关文章，可以关注后续的文章更新。 如果Hive通过MapReduce作为计算引擎为例，具体处理流程如下： HQL解析生成AST语法树 Antlr定义SQL的语法规则，完成SQL词法和语法解析，将SQL转化为抽象语法树AST Tree 语法分析得到 HiveOperation.CREATETABLE_AS_SELECT HiveOperation.ALTERVIEW_AS HiveOperation.CREATEVIEW 配置hook输出 vim ${HIVE_HOME}/conf/hive-log4j2 .properties og4j.logger.org.apache.hadoop.hive.ql.hooks.LineageLogger=INFO 输出位置在 hive-log4j2.properties
2.4K10编辑于 2022-11-23 - 来自专栏BigDataplus
数据血缘关系：图数据库Neo4j存储实现
生成数据血缘关系的数据可通过数据库服务端部署监听或钩子程序对各种版本sql方言如oracle、greenplumn、mysql、hive、presto、sparksql和flinksql等进行解析获取， 本篇会讲解数据血缘关系上功能应用和图数据Neo4j安装使用与实例讲解。 数据血缘关系与数据质量监控系统集成： 任务调度执行任务->细到字段数据血缘关系(存在变化)->数据质量监控系统->字段级别质量检测->数据血缘关系 安装Neo4j（Mac） Neo4j安装是Mac版安装相对简单 Cypher是由Neo Technology公司为Neo4j而创建的一种图数据库查询语言，类似SQL语法，下面进行实例简单讲解其语法。 没讲这些血缘关系的元数据是如何从SQL或应用中解析获取的，有机会笔者再另分享。 数据血缘关系在元数据管理中是非常重要的内容，其不仅展示数据来龙去脉，还定位异常数据影响范围。
11.6K41编辑于 2022-04-25 - 来自专栏数据库与编程
DBA常用SQL语句（4）- Top SQL
, decode(sqt.module, null, null, 'Module: ' || sqt.module) SQL_Module, nvl(st.sql_text, to_clob('** SQL , decode(sqt.module, null, null, 'Module: ' || sqt.module) SQL_Module, nvl(st.sql_text, to_clob('** SQL (' ** SQL Text Not Available ** ')) SQL_Text from (select sql_id, max(module) module, sum(elapsed_time_delta sql select substr(sql_text,1,40), count(*) from v$sqlarea group by substr(sql_text,1,40) having count (*) > 50; 再执行下面的语句,找出具体的 sql 代码 select sql_text from v$sqlarea where sql_text like 'insert into test
58010编辑于 2022-04-23 - 来自专栏Java架构师历程
sql必会基础4
（4）使用低隔离级别。 （5）使用绑定连接。 3.导出一个数据库结构 C:\Users\jack> mysqldump -uroot -pmysql -d sva_rec > e:\sva_rec.sql 4.导出一个表，只有表结构 mysqldump 4、文件备份，数据库可以由硬盘上的许多文件构成。如果这个数据库非常大，并且一个晚上也不能将它备份完，那么可以使用文件备份每晚备份数据库的一部分。 3) 如果两个关联表要做比较话，做比较的字段必须类型和长度都一致. 4) LIMIT语句尽量要跟order by或者 distinct.这样可以避免做一次full table scan. 4) 内存带宽。当CPU要将更多的数据存放到CPU的缓存中来的话,内存的带宽就成了瓶颈. 106 如何确定有哪些存储引擎可用？
1.5K20发布于 2018-09-26 - 来自专栏技术杂记
SQL 精编（4）
unix_timestamp(regsitered_at) < unix_timestamp(date_sub(now(),interval 30 day)) and qq is not null); Tip: 根据个人对 SQL
46810发布于 2021-10-19 - 来自专栏Spark学习技巧
第4篇：SQL
大数据技术中SQL的作用 SQL的全称为Structured Query Language，也即结构化查询语言。 在该公司的某个巨型大数据离线计算平台的元仓里，主要存放的元数据有各关系的基本信息(表名列名等)，数据血缘及调度依赖关系，数据权限关系，数据资产关系 ，数据监控关系等等，如下图所示： ? 所以为了顺利高效的在线发布数据分析结果，你需要熟练掌握SQL。 4. 其他 以上部分仅仅是SQL应用的冰山一角。对于从事数据研发的人来说，无论在什么环境框架下，都可能用到这门语言。 数据控制语言DCL：用来帮助实现数据库的存取控制； 4. 事务控制语言TCL：用于数据库中的事务管理； 接下来本文将对几大类的SQL进行讲解，采用回顾总结型的讲解方式，不会涉及过多细节。 4. 更新语句 更新语句的标准形式是UPDATE 表名 SET 列值='XX' WHERE 条件。 5. 删除语句 删除语句的标准形式DELETE FROM 表名 WHERE 条件。
88790发布于 2018-03-20 - 来自专栏用户6296428的专栏
Spark App 血缘解析方案
目前已经基于ANTLR 语法解析支持了 SQL 任务的血缘解析，而 Spark App 任务的血缘仍然是通过人工配置方式进行。我们希望能够将 Spark App 任务的解析做个补充，完善血缘逻辑。 基于动态监听：通过修改代码达到运行时收集血缘的目的的 Titian [2] 和 Pebble [3] ，或者通过插件方式在运行时收集血缘的 Spline [4] 和 Apache Atlas [5]。 通过--conf "spark.sql.queryExecutionListeners=za.co.absa.spline.harvester.listener.SplineQueryExecutionListener SparkLineageInitializer.enableLineageTracking(session); python demo from pyspark.sql import SparkSession from pyspark.sql import functions as F spark = SparkSession.builder \ .appName("spline_app"
3K30编辑于 2022-12-12 - 来自专栏实时计算
前瞻|Amundsen的数据血缘功能
目前，Amundsen并不支持表级别和列级别的数据血缘功能，也没有办法展示数据的来龙去脉。 作为Amundsen一项非常核心的功能，Lineage功能早已经提上日程，并进入设计与研发阶段。
1.8K20发布于 2021-03-29
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号