- 综合排序
- 最热优先
- 最新优先
致数仓架构师：别再用 Excel 维护数据字典，主动元数据才是正解
Gartner等权威机构已明确指出，主动元数据是数据管理现代化的核心。 二、核心差异对比：传统工具vs主动元数据平台Excel和传统血缘工具（表级/列级）在解析精度、颗粒度和管理模式上存在根本性缺陷，而基于算子级血缘的主动元数据平台实现了从“依赖关系”到“加工逻辑理解”的质变 2.主动风险防控vs事后救火传统模式：上游表结构或逻辑变更后，无法精准评估影响，常导致下游报表错误，每次上线如履薄冰。主动元数据模式：构建“事前事中变更协作机制”。 六、常见问题(FAQ)Q1:我们数仓里有大量存储过程和复杂嵌套SQL，主动元数据平台能准确解析吗？可以。 Q3:除了金融行业，其他行业的数仓治理也适用主动元数据吗？完全适用。“看不清依赖链路”是各行业数仓的共性痛点。
6410编辑于 2026-04-16数据治理新解法：基于算子级血缘的主动元数据如何破解数仓重构难题？
文章结合招商银行、浙江农商联合银行等标杆案例，展示了主动元数据平台在自动化盘点、DataOps协同及模型治理等场景下的落地路径与量化价值。 管理模式被动、静态的元数据管理。仅记录数据结构的静态快照，缺乏对数据流动、加工逻辑和变更影响的实时感知与主动干预能力，与 DataOps 所要求的自动化、协同化严重脱节。 四、 落地路径：从“看清”到“管好”的四步实践借助主动元数据平台，企业可以构建一套闭环的数据管理能力，让数仓重构从临时的“运动式”项目，转变为可持续的“常态化”机制。 五、 价值验证：标杆客户如何用“手术刀”完成高难度重构金融行业头部客户的实践，为算子级血缘与主动元数据的价值提供了最有力的量化证明。 主动元数据驱动治理闭环：从自动化盘点、主动风控到模型治理、DataOps协同，构建了可持续的、常态化的数据管理能力。
18310编辑于 2026-02-12一行代码改崩 20 张报表：主动元数据如何实现「事前感知」？
本文将深入剖析这一问题的根源，并介绍如何通过算子级血缘和主动元数据技术，实现变更风险的“事前感知”与精准防控。 、主动风险防控三、新范式：以算子级血缘为基石的主动风险防控破解困局的关键在于将元数据从“被动记录”升级为“主动驱动”。 事中（调度执行）：与调度系统集成，实时监控与拦截生产环境的元数据异常变更。事后（故障排查）：基于精准血缘图谱快速定位数据异常根因，将排查时间从“小时级”缩短至“分钟级”。 四、落地路径：四步构建主动管控体系企业可以遵循以下路径，逐步构建主动式数据变更管控体系：连接与解析：对接 Hive、Spark、Oracle、DB2、GaussDB 等全域数据平台，自动采集 SQL 与 全面推广与优化：将试点经验推广至更多业务线，并利用平台的主动模型治理能力，持续优化链路过长、重复计算等问题。
10310编辑于 2026-03-27- 来自专栏DeepHub IMBA
细胞图像数据的主动学习
主动学习是机器学习中的一种方法，它提供了一个框架，根据模型已经看到的标记数据对未标记的数据样本进行优先排序。如果想 细胞成像的分割和分类等技术是一个快速发展的领域研究。 就像在其他机器学习领域一样，数据的标注是非常昂贵的，并且对于数据标注的质量要求也非常的高。针对这一问题，本篇文章介绍一种对红细胞和白细胞图像分类任务的主动学习端到端工作流程。 使用主动学习——展示一个模拟使用主动学习和不使用主动学习的对比实验。 细胞图像预处理 我们将使用在MIT许可的血细胞图像数据集（GitHub和Kaggle）。 主动学习 我们现在已经有了训练需要的搜有数据，现在可以开始试验使用主动学习策略是否可以通过更少的数据标记获得更高的准确性。 如果我们使用所有数据，那么它们最终分数是相同的，但是我们的研究目的是在少量标注数据的前提下训练，所以只使用了数据集中的300个随机样本。 总结 本文展示了将主动学习用于细胞成像任务的好处。
76020编辑于 2022-11-11 - 来自专栏数据派THU
细胞图像数据的主动学习
为了解决这个问题，机器学习领域出现了一个叫做主动学习的领域。主动学习是机器学习中的一种方法，它提供了一个框架，根据模型已经看到的标记数据对未标记的数据样本进行优先排序。 就像在其他机器学习领域一样，数据的标注是非常昂贵的，并且对于数据标注的质量要求也非常的高。针对这一问题，本篇文章介绍一种对红细胞和白细胞图像分类任务的主动学习端到端工作流程。 使用主动学习——展示一个模拟使用主动学习和不使用主动学习的对比实验。 细胞图像预处理 我们将使用在MIT许可的血细胞图像数据集（GitHub和Kaggle）。 主动学习 我们现在已经有了训练需要的搜有数据，现在可以开始试验使用主动学习策略是否可以通过更少的数据标记获得更高的准确性。 如果我们使用所有数据，那么它们最终分数是相同的，但是我们的研究目的是在少量标注数据的前提下训练，所以只使用了数据集中的300个随机样本。 总结 本文展示了将主动学习用于细胞成像任务的好处。
53930编辑于 2022-08-29 - 来自专栏石云升
高效能的7个习惯 - 积极主动
所以，史蒂芬·柯维说，从依赖期，走向独立期，第一个必须建立的习惯，也是最重要的习惯，就是“积极主动”（Be Proactive）。 积极主动，就是从“环境决定论”手中一把夺回“选择权”，就算看上去再不可能，也相信自己可以做出积极的改变，哪怕是改变一点点，都是在浮出水面，游向岸边。 运用：如何积极地获得主动权？ 怎样才能不让外部环境，或者别人左右你，积极地获得主动权呢？史蒂芬在书中介绍了几个方法。 第一，在刺激和回应之间，给自己思考的时间。 别人提了一个大胆的提案，你脱口而出“不可能”。 怎么才能积极主动？把时间和精力，专注在影响圈上。 但只要每天一点点改进，就一定能做到面对任何事都”积极主动“。
41720编辑于 2022-08-25 - 来自专栏AI科技大本营的专栏
400名微软员工主动曝光薪资：28万元到228万元不等！
这份电子表格详细介绍了部分微软员工的薪酬情况，收集的数据包括工作年限、在微软工作的年限、基于绩效的加薪百分比、基本工资，以及股票和现金奖励。有些员工还注明了特殊的股票分配、签约奖金或里程碑成就。 这名员工的数据还表明，微软的职级对薪酬的影响力最大，超过了整体的经验或工作时间。虽然有些62级的员工（只比高级工程师低一级）的薪酬超过了某位65级的首席工程师，但这只是个例。 根据该电子表格的数据，虽然现金奖励在微软员工职业生涯中保持相对稳定的工资百分比，但股票收入可以涨到年收入的20%。 虽然这份数据无法表明这种策略，但常常有经验较少的人跳到更高的职级。 虽然关于在印度工作的微软工程师的数据非常少，但这份收集到的数据显示，他们的薪酬远低于位于华盛顿的同行们。 “大部分因素都是利他主义，”在谈起人们为什么会为Levels.fyi贡献数据时，Musa表示， “我认为，大家之所以很支持只是因为我们需要这些信息。”
3.1K10发布于 2019-09-26 金融数据治理新范式：如何用算子级血缘与主动元数据 10分 钟定位 EAST 报送异常？
本文探讨如何通过基于AST深度解析的算子级血缘（>99%准确率）与主动元数据能力，结合行级裁剪与实时监控，将异常定位从“天”级缩短至“分钟”级，实现从事后“救火”到事中“防火”的数据治理与DataOps 三、新范式：基于算子级血缘的主动根因定位以 Aloudata BIG 为代表的主动元数据平台，通过 >99% 解析准确率的算子级血缘为基座，结合主动监控与智能分析，从根本上改变了游戏规则。1. 主动监控与智能关联：从被动响应到主动预警主动元数据能力体现在：实时监控：任务调度状态、数据产出时效、关键表的数据质量规则。 五、实施建议：构建主动数据风险防控体系企业可遵循以下三步路径，在 EAST 等关键场景中快速落地主动元数据能力：基座先行：优先接入核心数仓（Hive, Oracle, GaussDB）、ETL/ELT 三是流程配合：将主动元数据平台的预警与定位能力，与运维值班、数据研发团队的处置流程相结合，形成闭环。
16510编辑于 2026-02-03- 来自专栏云计算教程系列
如何在CentOS 7上使用Pacemaker建立Apache主动 - 被动群集
在主动 - 被动群集中，所有服务都在主系统上运行。如果主系统发生故障，则所有服务都将移至备份系统。主动 - 被动群集可以在不中断的情况下进行维护工作。 在本教程中，您将学习如何构建高可用性Apache主动 - 被动群集。Web群集将通过其虚拟IP地址进行寻址，并在节点发生故障时自动进行故障转移。 资源级别防护主要通过配置资源来确保在发生中断时不会出现数据损坏。例如，您可以使用资源级别防护，使用DRBD（分布式复制块设备）将通信链路断开时节点上的磁盘标记为过时。 资源可以具有元属性和实例属性。元属性不依赖于资源类型; 实例属性是特定于资源代理的。 ---- 参考文献：《How To Set Up an Apache Active-Passive Cluster Using Pacemaker on CentOS 7》
1.8K01发布于 2018-10-19 - 来自专栏大数据&分布式
统一元数据：元模型定义、元数据采集
背景 元数据管理可分为如下5个流程步骤：元模型定义、元数据采集、元数据加工、元数据存储、元数据应用。其中，元模型定义是整个元数据管理的前提和规范，用于定义可管理的元数据范式。 元数据采集是元数据来源的重要途径，提供可管理的元数据原料，而如何进行可扩展且高效的元数据采集也是元数据管理的难点之一。本文将主要针对元模型定义、元数据采集两个模块进行详细说明。 ，元数据采集可分为两种类型： 元数据推断：通过读取并解析存储系统的数据文件，自动识别和推断该数据文件对应的Schema信息； 元数据Crawler：主要通过PULL方式主动定时的周期性拉取元数据信息；同时也支持引擎以 ，获取元数据信息； 对于特殊组件，如Hive，可实现组件Hook，基于PUSH主动上报 业务元数据支持PUSH主动上报 异构采集触发：基于消息中间件，解耦元数据的采集过程和处理过程； 元数据推断 元数据推断 PULL主动采集：元数据管理系统定时周期性采集，采集周期应支持设定，以适配数据源差异化的更新频率； PUSH被动采集：由人工发起或外部系统通过API主动上报，人工发起时，可以采用手动上传元数据文件或主动启动采集任务的方式来完成
4.1K43编辑于 2024-05-14 Python教程第7章 | 元类
可是我们到现在还不知道元类是什么鬼东西。 我们创建类的时候，大多数是为了创建类的实例对象。 那么元类呢？ 元类就是用来创建类的。也可以换个理解方式就是：元类就是类的类。 一开始也提到了，元类就是类的类。 也就是元类就是负责创建类的一种东西。 你也可以理解为，元类就是负责生成类的。 而 type 就是内建的元类。也就是 Python 自带的元类。 四、自定义元类 到现在，我们已经知道元类是什么鬼东西了。 那么，从始至终我们还不知道元类到底有啥用。 只是了解了一下元类。 在了解它有啥用的时候，我们先来了解下怎么自定义元类。 但是如果你这样做的话： guy = Person(name='bob', age='35') print guy.age 这并不会返回一个 IntegerField 对象，而是会返回一个 int，甚至可以直接从数据库中取出数据 这是有可能的，因为 models.Model 定义了 __metaclass__ ， 并且使用了一些魔法能够将你刚刚定义的简单的Person类转变成对数据库的一个复杂 hook。
62310编辑于 2024-01-24- 来自专栏文渊之博
探索SQL Server元数据（三）：索引元数据
背景 在第一篇中我介绍了如何访问元数据，元数据为什么在数据库里面，以及如何使用元数据。介绍了如何查出各种数据库对象的在数据库里面的名字。 本篇我将会介绍元数据中的索引，不仅仅是因为它们本身很重要，更重要的是它们是很好的元数据类型，比如列或者分布统计，这些不是元数据中的对象。 索引对于任何关系数据库表都是必不可少的。 JOIN sys.Extended_Properties ep ON i.Object_Id = ep.Major_Id AND i.Index_Id = Minor_Id AND Class = 7; sys.Extended_Properties ep ON ic.Object_Id = ep.Major_Id AND ic.Index_Id = Minor_Id AND Class = 7 元数据中还有其他类型的索引吗? 还有两种比较特殊的索引，一是空间索引，其信息在sys.spatial_index_tessellations 和 sys.spatial_indexes表中。
1.4K10发布于 2018-08-03 - 来自专栏java编程那点事
合并元数据
如同ProtocolBuffer，Avro，Thrift一样，Parquet也是支持元数据合并的。用户可以在一开始就定义一个简单的元数据，然后随着业务需要，逐渐往元数据中添加更多的列。 在这种情况下，用户可能会创建多个Parquet文件，有着多个不同的但是却互相兼容的元数据。Parquet数据源支持自动推断出这种情况，并且进行多个Parquet文件的元数据的合并。 因为元数据合并是一种相对耗时的操作，而且在大多数情况下不是一种必要的特性，从Spark 1.5.0版本开始，默认是关闭Parquet文件的自动合并元数据的特性的。 可以通过以下两种方式开启Parquet数据源的自动合并元数据的特性： 1、读取Parquet文件时，将数据源的选项，mergeSchema，设置为true 2、使用SQLContext.setConf // 一个是包含了name和age两个列，一个是包含了name和grade两个列 // 所以， 这里期望的是，读取出来的表数据，自动合并两个文件的元数据，出现三个列，name、age、grade /
1.3K10编辑于 2023-02-25 - 来自专栏别先生
Spark的Streaming + Flume进行数据采集（flume主动推送或者Spark Stream主动拉取）
sources = r1 a1.channels = c1 a1.sinks = k1 # Describe/configure the source 描述和配置source组件：r1 #类型, 从网络端口接收数据 ,在本机启动, 所以localhost, type=spoolDir采集目录源,目录里有就采 #type是类型，是采集源的具体实现，这里是接受网络端口的，netcat可以从一个网络端口接受数据的。 wctotal.log a1.sources.r1.shell = /bin/bash -c # Describe the sink 描述和配置sink组件：k1 #type，下沉类型，使用logger，将数据打印到屏幕上面 #下沉的时候是一批一批的, 下沉的时候是一个个eventChannel参数解释： #capacity：默认该通道中最大的可以存储的event数量，1000是代表1000条数据。
1.5K50发布于 2018-05-16 - 来自专栏大数据架构师成长之路
元数据解读
元数据应用领域较广，种类甚多， 按照不同应用领域或功能，元数据分类有很多种方法或种类，元数据一般大致可为三类：业务元数据、技术元数据和操作元数据。 元数据架构 元数据战略是关于企业元数据管理目标的说明，也是开发团队的参考框架。元数据战略决定了企业元数据架构。 元数据架构可分为三类：集中式元数据架构、分布式元数据架构和混合元数据架构。 集中式元数据架构： 集中式架构包括一个集中的元数据存储，在这里保存了来自各个元数据来源的元数据最新副本。 保证了其独立于源系统的元数据高可用性；加强了元数据存储的统一性和一致性；通过结构化、标准化元数据及其附件的元数据信息，提升了元数据数据质量。集中式元数据架构有利于元数据标准化统一管理与应用。 混合式元数据架构： 这是一种折中的架构方案，元数据依然从元数据来源系统进入存储库。但是存储库的设计只考虑用户增加的元数据、高度标准化的元数据以及手工获取的元数据。
1.6K51发布于 2020-06-10 - 来自专栏学习笔记持续记录中...
JDBC 利用反射及 JDBC 元数据编写通用的查询方法（7）
public class MyTest { public static void test01() throws ClassNotFoundException, SQLException, IllegalAccessException, InstantiationException { String driverClass = "com.mysql.jdbc.Driver"; String jdbcUrl = "jdbc:mysql://localhost:3306/
48520发布于 2020-03-17 数据管理最容易混淆的3个概念：元数据、数据元、元模型
做数据这行的，肯定常听到“元数据”“数据元”“元模型”这三个词。开会时有人说“元数据管理”，转头又有人提“数据元标准”，偶尔还穿插“元模型设计”，但真要问它们仨到底啥区别，估计不少人说不清楚。 一、元数据：描述“数据”本身的信息说白了，元数据就是“关于数据的数据”。 那么元数据到底有啥用？简单说，元数据就是帮你解决“数据从哪儿来、能干啥、怎么用”这三个问题的：实际工作中怎么用元数据的？ 比如FineDataLink中要管理“表元数据”和“字段元数据”，元模型就会规定：每个“表元数据”必须关联多个“字段元数据”，每个“字段元数据”必须包含“名称”“类型”“长度”这些信息。 4.治理数据时通过元数据监控表的变更，用数据元校验数据质量，按元模型检查模型是否合规，比如事实表没加外键。总结元数据、数据元、元模型这三个概念，看着有点绕，但其实都是数据治理的基础。
3.4K11编辑于 2025-08-19- 来自专栏大数据和云计算技术
元数据概念
刘耀铭同学元数据系列作品的第一篇，大家支持！ 其他元数据相关系列文章： 基于元数据驱动的ETL Hive 元数据表结构详解 1、 元数据是描述其他数据的数据（data about other data）,用于提供某种资源有关信息的结构化数据（structed 字面上看无法看出所以然，但其实看对应的英文含义就明确了，Meta指“对······的描述”类似Meta tag，所以元数据就是对数据的解释和描述。 2、 这里主要将数据仓库的元数据分为3类：DBMS数据字典、ETL处理流程产生的日志、BI建模等。 DBMS数据字典 数据库管理系统（DBMS）中的元数据一般在所有的数据仓库都会包含，因为数据仓库一般都是基于数据库搭建的，而数据库本身的管理系统就会自动维护一套数据字典供用户查询。
1.5K110发布于 2018-03-08 - 来自专栏iOS打包，上架知识大全
MySQL 元数据
数据库和数据表的信息： 包含了数据库及数据表的结构信息。 MySQL服务器信息： 包含了数据库服务器的当前状态，版本号等。 在MySQL的命令提示符中，我们可以很容易的获取以上服务器信息。 mysqli_affected_rows ($conn_id) : 0); print ("$count 条数据被影响\n"); ---- 数据库和数据表列表 你可以很容易的在MySQL服务器中获取数据库和数据表列表 你也可以使用 SHOW TABLES 或 SHOW DATABASES 语句来获取数据库和数据表列表。 PERL 实例 # 获取当前数据库中所有可用的表。 ： 查看所有数据库 <? > ---- 获取服务器元数据 以下命令语句可以在 MySQL 的命令提示符使用，也可以在脚本中 使用，如PHP脚本。
82310编辑于 2023-05-05 - 来自专栏阮一峰的网络日志
元数据（MetaData）
元数据是用来描述数据的数据（Data that describes other data）。单单这样说，不太好理解，我来举个例子。 这个例子中的"年龄"、"身高"、"相貌"、"性格"，就是元数据，因为它们是用来描述具体数据/信息的数据/信息。 当然，这几个元数据用来刻画个人状况还不够精确。 我们每个人从小到大，都填过《个人情况登记表》之类的东西吧，其中包括姓名、性别、民族、政治面貌、一寸照片、学历、职称等等......这一套元数据才算比较完备。 在日常生活中，元数据无所不在。 有一类事物，就可以定义一套元数据。 喜欢拍摄数码照片的朋友应该知道，每张数码照片都包含EXIF信息。它就是一种用来描述数码图片的元数据。 在电影数据库IMDB上可以查到每一部电影的信息。IMDB本身也定义了一套元数据，用来描述每一部电影。
1.4K100发布于 2018-04-13
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号