首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏学习道路指南

    SQL治理经验

    SQL不仅会影响系统的响应速度,还可能导致数据丢失或损坏,给企业带来巨大的损失。因此,慢SQL治理成为了数据库管理的重要任务之一。 本文将分享一些慢SQL治理经验,包括如何识别、分析和优化慢查询。通过了解慢查询的原因和解决方法,我们可以提高数据库的性能和稳定性,为企业的业务发展提供更好的支持。 一、慢SQL导致的后果 我一般认为的慢SQL的定义,执行超过1s的SQL为慢SQL。 系统的响应时间延迟,影响用户体验。 资源占用增加,增高了系统的负载,其他请求响应时间也可能会收到影响。 可以使用Druid SQL Parser进行SQL解析,Druid SQL Parser是阿里巴巴的开源项目,可以将SQL语句解析为语法树,可以解析SQL的各个部分,如SELECT语句、FROM语、WHERE 五、总结 总之,慢 SQL 治理需要综合考虑多个方面,包括查询语句优化、参数调整、分区和分片、缓存使用、定期维护和优化、分布式数据库解决方案等。

    90010编辑于 2024-01-19
  • SQL性能治理经验谈

    背景SQL数据类型数值这些类型包括严格数值数据类型(INTEGER、SMALLINT、DECIMAL 和 NUMERIC),以及近似数值数据类型(FLOAT、REAL 和 DOUBLE PRECISION 结束时间是第 2147483647 秒,北京时间 2038-1-19 11:14:07,格林尼治时间 2038年1月19日 凌晨 03:14:07YYYY-MM-DD hh:mm:ss混合日期和时间值,时间戳SQL 治理的几条特殊建议【建议】表中的自增列(auto_increment属性),推荐使用bigint类型。 举例子,通过SQL的内置函数:inet_aton 和 inet_ntoa,完成数值到ip地址,以及ip地址到数值的转换。 更为高阶的方法,选用int来存储时间,使用SQL函数unix_timestamp()和from_unixtime()来进行转换。

    61800编辑于 2024-09-19
  • 来自专栏后台技术汇

    SQL治理经验谈:索引覆盖

    背景explain - formatid: query sql 的标识idSELECT_TYPE: 查询的类型(SIMPLE/PRIMARY/SUBQUERY/DERIVED/UNION/UNION RESULT 使用到的索引的长度ref: 显示了查询条件类型(const/field_name/func)rows: query查询到的行数量query完成索引命中之后,才会去检查的行总数估算性能耗时:rows用来表示在SQL like '%11';单列索引,通配符在左侧,select * 不会走索引,type=ALL检索性能差结果说明加了单列索引还不够,因为select 列 和 where 条件语句 两个变量,都可能导致sql :https://www.geeksforgeeks.org/explain-in-sql/官网Mysql的EXPLAIN信息描述:https://dev.mysql.com/doc/workbench /en/wb-performance-explain.html其他文章SQL性能治理经验谈理解到位:灾备和只读数据库记录一次Mysql死锁事件(由Insert与uniqueKey导致)一文带你看懂:亿级大表垂直拆分的工程实践亿级大表冷热分级的工程实践

    45400编辑于 2024-09-19
  • 来自专栏故障治理

    从管控角度谈慢SQL治理

    一、什么是慢SQLSQL是指那些执行效率低下、响应时间长,导致用户等待时间变长和服务器资源利用率下降的SQL查询。那么,如何定义一个SQL查询是"慢"的呢? 作为横向的风险隐患治理团队,为了对公司内部多个部门多个系统进行慢SQL治理,我们总结了几点经验,仅供参考。 SQL对系统的影响,不方便长期跟踪治理。 而通过慢SQL分析平台,对系统中的慢SQL进行统计、分析、分组,能够准确反映每个慢SQL对系统的影响,实时展示当前系统数据库的慢SQL情况,并可以对慢SQL风险进行数字化打分,方便我们对慢SQL分级治理 3.分级治理、长期追踪慢SQL治理是一个需要长期坚持做的事情,我们的做法是每月取数据库主机cpu使用率TOP10数据库清单,拉出top清单中的TOP5慢SQL(根据评分排序),并组织相关系统进行优化,对比优化前后的负载情况

    64510编辑于 2024-09-09
  • 来自专栏CSDN技术头条

    未来5-10年,NLP将走向成熟

    未来5-10年,NLP将走向成熟 最后,再介绍一下我对自然语言处理目前存在的问题以及未来的研究方向的一些考虑,供大家参考。

    1.4K71发布于 2018-02-12
  • 来自专栏杨建荣的学习笔记

    SQL治理高阶实践:异常防御体系建设与应用挖掘

    分享概要 一、防微杜渐:异常SQL防御体系建设 二、深度观测:全量SQL分析与挖掘 三、容量预测:数据库仿真流量压测 一、防微杜渐:异常SQL防御体系建设 1.SQL治理阶段 如上图所示,SQL治理的基本阶段主要包括开发 在开发阶段,研发通常不受相应开发规范和SQL审核约束。从开发到测试或生产发布时,才会进行DDL和DML的审核。目前业内SQL治理,主要还是在SQL出问题之后进行相应的治理。 之所以要把治理能力前置到测试阶段,是因为越早发现有问题的SQL,对整体治理或改造的成本就越低,对生产的影响也越小。 4.事后治理 事后治理主要是慢查询治理。 2)SQL挖掘:深度治理 基于全量SQL分析表、索引是否已废弃,不同db的热点表、热点SQL,单条SQL RT是否稳定,甚至可以分析表的活跃数据情况等治理场景。

    66130编辑于 2023-09-04
  • 腾讯云TDAI:AI驱动的数据库治理与数据赋能服务

    硬核指标 自研模型调优效果:调优后19个仓库SQL抽取平均准确率>95%,多个仓库达100%,模型多语言、多框架泛化能力持续增强(数据来源:腾讯云TDAI自研模型调优报告); 风险SQL治理收益:by 周扫描次数100+,增量拦截风险SQL平均5-10个/次,周新增风险SQL清零;相对于事后治理,事前扫描能多识别22%的潜在风险(数据来源:腾讯云TDAI整体风险SQL治理收益统计); 通用大模型对比优势 产品优势 全流程风险治理:从“先上线、后发现”转为“事前治理”,通过SQL事前风险预测智能体、DDL变更风险评估智能体实现风险前置拦截; 懂代码懂数据库:支持代码建模、ORM语法理解、Code2SQL 解决方案:采用TDAI风险SQL治理方案,通过SQL事前风险预测智能体扫描代码提交环节,识别未用索引的SQL风险;结合自研模型抽取并诊断SQL,输出优化建议(添加索引)。 成效:实现风险SQL事前拦截,避免现网故障;周扫描次数100+,增量拦截风险SQL平均5-10个/次,周新增风险SQL清零,相对事后治理多识别22%潜在风险(数据来源:腾讯云TDAI风险SQL治理案例)

    25910编辑于 2026-04-18
  • SQL 审核解决了部分问题,另一部分是慢 SQL 治理

    因为审核解决的是“降低变更风险”,慢 SQL 治理解决的是“已经出现慢 SQL 后怎么持续处理”。这两件事都重要,但不是同一层级的问题。 维度SQL 审核慢 SQL 治理核心问题别乱改已经慢了怎么办关注点谁能提交、谁来审批、能不能执行哪类 SQL 变多、哪个模板优先、改完有没有效发生时机变更前运行中 + 变更后成功标准没有违规变更慢 SQL 这样一来,SQL 审核就不再是孤零零的一步,而是被放回数据库日常治理链路里。 回到 SQL 窗口分析执行计划确定需要优化的 SQL 后,可以在 SQL 窗口执行:EXPLAIN <SQL语句>。 更能显著节省时间的,不是再多一层审核,而是慢 SQL 这条链路终于能被持续治理。审核管的是“降低变更风险”,治理管的才是“持续稳定”。

    15110编辑于 2026-03-27
  • 来自专栏希里安

    微服务治理?容器治理

    可识别英语、俄语、中文等语言,感兴趣的可以看下--[Translumo](https://github.com/Danily07/Translumo) 微服务和容器治理 微服务治理和容器治理都是与分布式应用程序和容器化部署相关的领域 微服务治理(Microservices Governance): 微服务治理是管理和维护微服务架构中的各个微服务组件的一系列策略、实践和工具。 自动化: 自动化是微服务治理的核心,包括自动部署、自动伸缩和自动化测试等。 容器治理(Container Orchestration): 容器治理是管理容器化应用程序的一系列策略和工具。 容器治理实例 容器治理是确保容器化应用程序在分布式环境中可靠运行的一组实践和工具。 容器治理: 安全性容器治理可以管理访问控制、证书管理和数据加密,以确保数据的保密性和完整性。

    1.5K40编辑于 2023-10-30
  • 来自专栏实时流式计算

    【译文】数据治理与BI治理

    几十年来,数据治理一直是企业关注的焦点,并随着企业数据量的急剧增长,数据治理的重要性日益凸显。然而,大规模的有效BI治理一直是一个难以实现的目标,因为它需要比传统数据治理更广泛的关注点。 毕竟,如果给用户的交付物不一致,或者缺乏适当的上下文以确保业务用户正确地理解数据,那么所谓高质量、精心治理的数据又有什么价值呢? 有效的BI治理要求组织为数据和分析的治理建立流程。 BI门户的关键治理角色体现在以下两个场景:独立的BI治理平台,或与数据目录协同工作。 什么是数据治理? 数据治理是一组确保有效管理和利用数据的过程和技术的集合。 组织中的分析师和数据管理员使用数据治理工具来执行公司治理政策,来促进数据的正确使用。 应用这些工具进行数据治理需要大量的持续投资,因此许多组织希望从这些投资中获得可观的投资回报。 什么是BI治理

    1.6K40编辑于 2023-03-24
  • 来自专栏橙子架构杂谈

    【服务治理】服务治理漫谈

    【服务治理】服务治理漫谈 0. 这能给我们后续无论是业务应用还是基础技术领域的服务治理提供一些参考。 1. 什么是服务治理 在一切的最开始,我们先来问自己一个问题,什么叫做服务治理? 我们需要什么样的服务治理 我们了解了什么是服务治理、服务治理是怎么演变发展的,这时候,我们不禁会想,我也要做服务治理!但是,请先停一下,请先问一下自己,我们需要什么样的服务治理? 但,服务治理上,如何才能实现更高效的自动化呢?我认为: 自动化是治理的高级形态,而标准化是规模化治理的前提。 结语与展望 我们来回顾一下,在第一章,我们讲述了什么是服务治理,认为服务治理治理三要素和服务环,第二章,介绍了服务治理的发展演变,简单介绍了三个阶段的思潮和演变的逻辑,让我们对于目前服务治理大发展方向和未来的发展趋势可以有一个初步的预测

    4.1K31编辑于 2021-12-06
  • 来自专栏人工智能头条

    未来5-10年,自然语言处理将走向成熟

    未来5-10年,NLP将走向成熟 最后,再介绍一下我对自然语言处理目前存在的问题以及未来的研究方向的一些考虑,供大家参考。

    81030发布于 2018-07-20
  • 来自专栏云数据库技术

    实践拆解:ChatDBA 如何帮 MySQL 从慢 SQL 识别走到治理动作

    真正要把问题解决掉,还是得把这些现象重新收敛到具体 SQL 上。慢 SQL 治理的第一步,是找到真正值得处理的 SQL很多团队手里都有慢日志,但慢日志本身并不等于治理。 有的 SQL 平时看着还能跑,一旦数据量上来就会把接口拖慢;有的 SQL 单次并不算极端,但高频出现之后一样会持续吞掉数据库资源。从应急止损到后续优化慢 SQL 治理通常分两层。 这里的重点不是马上下结论,而是先把慢 SQL 治理的入口打开。接着选择需要治理SQL 的 MySQL 数据源;如果希望它把 SQL、会话和实例影响看得更完整,也可以同时勾选深度研究。 如果慢 SQL 已经影响到当前会话或实例,也可以继续让 ChatDBA 结合 SQL 优化、会话诊断和后续治理动作一起看,把止损和后续治理放在同一轮处理里。 最后慢 SQL治理目标,不只是把一条慢查询抓出来,而是减少性能负债继续累积。

    12010编辑于 2026-06-05
  • 腾讯云数据库AI服务(TDAI)技术概要

    其核心技术属性为AI驱动的数据库治理与数据价值挖掘工具集,商业差异化卖点在于实现从“事后补救”到“事前预防+事中干预+主动服务”的智能运维范式转变,核心是用AI治理好数据库、让AI用好数据。 二、 产品应用场景 开发者/运维工程师:在SQL代码编写、提交与上线阶段,面临ORM框架生成SQL不直观、缺索引SQL引发慢查询甚至数据库CPU打满故障的风险(如转账业务高峰期锁等待超30秒)。 三、 应用框架和功能介绍 功能框架 TDAI由三大核心模块构成: Database DevOps:聚焦风险SQL治理,提供从代码提交到上线的全流程AI守护。 风险治理效能:每周扫描次数100+,增量拦截风险SQL平均5-10个/次,实现周新增风险SQL清零。事前扫描能多识别22%的潜在风险(来源:腾讯云数据库团队)。 产品优势 风险前置治理:将SQL风险识别从“先上线、后发现”变为“事前治理”,避免现网故障。 一站式解决方案:提供SQL事前风险预测、DDL变更风险评估、高负载止损值守的完整闭环。

    27410编辑于 2026-04-18
  • 技术解析:NineData社区版面向DBA的本地化慢SQL治理

    只有把数据先稳定收上来,后面的趋势分析、问题归类和治理动作才有可能持续发生。2. 先看趋势,再决定优先级有经验的 DBA,不会一上来就盯着某一条慢 SQL。通常更关注的是:哪几个库慢查询变多了? 按 SQL 模板聚合,“单条救火”变成“同类治理”慢查询治理之所以累,很大一个原因是很多问题并不是单点,而是同一种写法不断重复出现。 这对 DBA 的价值很直观,你看到的不再是“这条语句慢”,而是“这类语句总共出现了多少次、是不是高频、是不是值得优先治理”。从单条排障变成模板治理,是慢 SQL 从救火走向治理的关键一步。4. 支持报表下载,把分析结果直接交给研发慢 SQL 治理经常卡在“分析完了,但整改跟进不及时”。DBA 找到问题后,还要整理给研发、推动修改、跟踪回归。 对于需要本地化、离线部署、又想尽快把慢 SQL 管理做起来的团队来说,NineData 社区版不是一个“多出来的工具”,而更像是一套能落地的慢查询治理起点。

    12000编辑于 2026-03-17
  • 来自专栏爱可生开源社区

    云树®DMS档案:告别 SQL 专家依赖,AI 让治理能力可复制

    多数企业的数据库管理仍依赖少数核心专家: 慢 SQL 排查慢,依赖专家响应专家 资源有限,能力无法复制 风险后置爆发,难以事前控制 结论:这不是人力问题,而是治理机制的结构性缺陷。 核心诉求:将 SQL 治理从 “个体经验” 升级为可制度化、可自动执行、可规模复制的平台能力。 适配对象:面临 SQL 性能不可控、治理依赖专家、风险后置、开发与运维协同成本高的企业 IT 负责人、DBA 团队、研发与架构管理者。 ■ 【解法档案】 云树®数据智能管控平台软件【简称:云树®DMS】—— AI 驱动 SQL 全生命周期治理平台 图:DMS AI 全生命周期治理流程图 大模型在 SQL 治理中的价值,不是简单 “发现问题 事前治理:提前消除风险 系统可主动识别和优化 SQL 中的潜在性能风险,确保: 高风险 SQL 在上线前被自动优化 整体系统性能潜在问题得到前置控制 规范执行成为默认结果,降低操作失误风险 事后治理

    16510编辑于 2026-03-09
  • 来自专栏AI机器学习与深度学习算法

    机器学习入门 5-10 线性回归的可解释性

    上面使用了波士顿房价的13个特征,通过在全部数据集上进行拟合,不进行train_test_split方法是因为此时我们并不需要验证模型的性能,只是对得到结果的系数进行解释。

    1.5K00发布于 2019-11-13
  • 来自专栏全栈程序员必看

    服务治理

    服务治理可以说是微服务架构中最为核心和基础的模块,它主要用来实现各个微服务实例的自动化注册和发现。 中 istio 谷歌、IBM、Lyft 是 少 Ps:Spring Cloud Eureka是Spring Cloud Netflix 微服务套件的一部分,主要负责完成微服务架构中的服务治理功能 除了这3个核心动作之外,其它的辅助操作还有统计上报、鉴权等等,这也是我们搭建一个服务治理框架需要实现的功能。从MVP的角度来说,注册、订阅、变更下发是最基础的核心功能。 服务治理的扩展 在企业中,我们可以针对服务治理做更多的扩展。比如:   1.基于版本号的服务管理,可以用于灰度发布。   2.请求的复制回放,用于模拟真实的流量进行压测。   

    1.3K30编辑于 2022-08-04
  • 来自专栏算法修养

    pta习题集 5-10 切分表达式——写个tokenizer吧

    [先说点出题背景] 这个题是为低年级同学、学C语言的同学准备的,因为,对这部分同学,这个题目编写起来略有一点复杂。如果是高年级、学过了正则表达式(Regular Expression)的同学或者学过了Java等OO语言的同学做这个题,应当发现这题比较简单吧。哦,对了,什么是tokenizer?请自行查询解决。反正在此处不应翻译成“令牌解析器”。 [正题] 四则运算表达式由运算数(必定包含数字,可能包含正或负符号、小数点)、运算符(包括+、-、*、/)以及小括号((和))组成,每个运算数、运算符和括号

    1.2K60发布于 2018-04-27
  • 来自专栏FreeBuf

    观点 | 数据治理与数据安全治理思考

    数据治理  数据治理(Data Governance)是组织中涉及数据使用的一整套管理行为,包括数据治理计划、监控、实施。 从这8个能力域来看与数据治理需要的工具类似,因此我们在某一个层面上,可以DCMM为标准来进行数据治理的工作开展,或者认同DCMM作为现阶段数据治理的指导,不必深究数据治理与数据管理的差异化。 (数据安全复合治理与时间白皮书)  不同之处  →视角不同 数据治理的视角: 数据治理指利用数据驱动业务,实现企业增值。数据治理的智能化程度,决定了企业数字化转型的加速度。 而数据安全治理是数据治理的一个过程,是企业数字化转型进行数据治理中必经阶段,数据安全治理是否可以独立实施还有待详细讨论,数据安全治理是以保护数据的生命周期安全,需要的一系列管理和技术支撑,是数据安全领域数据 在现阶段多数中小企业数据中台或数据治理仍在建设中的情形下,根据数据治理的侧重点不同,在数据治理过程中实施数据安全治理的比重或阶段各不相同,甚至不包含数据安全治理

    2.5K30编辑于 2023-03-30
领券