首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏数据库与编程

    查询优化概念—查询优化介绍

    如何调优 Oracle SQL系列文章第四篇:查询优化概念之查询优化介绍。 第一篇:SQL调优系列文章之—SQL调优简介 第二篇:SQL调优系列文章之—SQL性能方法论 第三篇:查询优化基础知识—SQL语句处理过程 4 查询优化概念 本章描述了与查询优化相关的最重要的概念 4.1 查询优化介绍 查询优化(简称为优化)是内置数据库软件,用于确定 SQL 语句访问请求数据的最有效方法。 4.1.1 查询优化的用途 优化程序尝试为 SQL 语句生成最佳执行计划。 出于这个原因,优化有时被称为基于成本的优化(CBO),以将其与基于规则的优化(RBO)进行对比。 注意: 优化程序可能不会从一个版本的Oracle数据库到下一个版本做出相同的决策。 4.1.3.3 优化的类比 优化可以比作是在线旅行顾问。 骑自行车的人想要知道从A点到B点的最有效的自行车路线。

    2.1K20编辑于 2022-04-24
  • 来自专栏数据库与编程

    查询优化概念:关于优化组件

    本篇是如何调优 Oracle SQL系列文章第五篇:查询优化概念之关于优化组件。 优化包含:查询转换(Query Transformer)、估算(Estimator)和执行计划生成器(Plan Generator)三个组件。 一组查询块表示已分析的查询,它是优化的输入。 下表描述了优化操作。 序号 操作 描述 1 Query Transformer 优化程序确定更改查询形式是否有帮助,以便优化程序可以生成更好的执行计划。 2.3 Cost(成本) 优化成本模型负责预测查询将使用的机器资源。 成本是一个内部数字度量,表示计划的估计资源使用量。成本是特定于优化环境中的查询的。 优化选择成本最低的计划。 下图显示优化测试输入查询的不同计划。

    2K50编辑于 2022-04-24
  • 来自专栏mathor

    枚举+优化5)——双指针优化1

    从上面的代码我们能看出时间复杂度是O(N^2^) 双指针优化  在某些情况下,根据题目要求,j下标并不需要从i+1重新往后枚举一遍,而是跟随着i向后移动,j也向后移动 ?   ,x + k - 1) return x + k - 1  以题目样例为例,由于k=5,现有最大整数是13。 Hashtable.find(i) need_card++; return need_card <= M  这样整个算法的时间复杂度是O(PK),P是这个数组的最大值,所以有可能有10^8^这么大,K最大10^5^ ,显然会超时 优化1  第一个能优化的地方是对于X的枚举,也就是顺子开头的数值。 ,X+K) 优化2  第二个可以优化的地方就是判断能不能凑出X开头的顺子。我们利用双指针可以把这一步均摊时间复杂度降到O(1)。

    63530发布于 2018-06-19
  • 来自专栏python前行者

    优化Optimizer

    深度学习常见的是对于梯度的优化,也就是说,优化最后其实就是各种对于梯度下降算法的优化。 理论部分可以见斯坦福深度学习的课程。 这里推荐一个博客,总结了这些优化的原理以及性能,写的挺好的:An overview of gradient descent optimazation algorithms 从其中讲几个比较常用的,其他的可以自己去看文档 MomentumOptimizer AdamOptimizer FtrlOptimizer RMSPropOptimizer 常用的optimizer类 tf.train.Optimizer 优化 2.速度更快 tf.train.GradientDescentOptimizer 这个类是实现梯度下降算法的优化。 (update operations.)使用锁 name: 名字,可选,默认是”GradientDescent”. tf.train.AdadeltaOptimizer 实现了 Adadelta算法的优化

    1.1K40发布于 2019-03-25
  • 来自专栏腾讯数据库技术

    MySQL优化和SemiJoin优化

    MySQL执行流程 MySQL的执行过程包括多个子阶段:语法分析、语义检查、逻辑优化、物理优化和执行。其中逻辑优化和物理优化统称为查询优化。一个查询优化的输入是查询树,输出是查询执行计划。 ? 逻辑优化也称为基于规则的查询优化(Rule Based Optimization,简称RBO)。主要是对查询进行逻辑上的等价变换,目的是通过这些变换提高查询的性能。 物理优化也称为基于代价的查询优化(Cost-based Optimization,简称CBO)。主要是通过一些模型,预测一个查询使用某种执行计划时的成本,并选择其中成本最小的一个。 1.2. In子查询转SemiJoin的优化方法 2.1 优化方法 通用的转换格式如下: SELECT ... -------------------------------------------------------------------------+ 2 rows in set (0.00 sec) 5.

    2.8K81发布于 2019-05-16
  • 来自专栏后端精进之路

    JVM性能优化系列-(5) 早期编译优化

    5. 早期编译优化 早期编译优化主要指编译期进行的优化。 javac这类编译对代码的运行效率几乎没有任何优化措施,但javac做了许多针对java语言代码过程的优化措施来改善程序员的编码风格和提高编码效率,java许多的语法特性都是靠编译的语法糖来实现的。 注解处理 注解处理是用于提供对注解的支持,可以将其看成一组编译的插件。 3. 遍历循环 遍历循环语句是java5的新特征之一,在遍历数组、集合方面,为开发人员提供了极大的方便。 变长参数 Arrays.asList(1, 2, 3, 4, 5); 条件编译 条件编译也是java语言的一种语法糖,根据布尔常量值的真假,编译将会把分支中不成立的代码块消除掉。

    50620编辑于 2023-10-19
  • 来自专栏Python与算法之美

    优化optimizers

    本篇我们介绍优化。 一,优化概述 机器学习界有一群炼丹师,他们每天的日常是: 拿来药材(数据),架起八卦炉(模型),点着六味真火(优化算法),就摇着蒲扇等着丹药出炉了。 一些爱写论文的炼丹师由于追求评估指标效果,可能会偏爱前期使用Adam优化快速下降,后期使用SGD并精调优化参数得到更好的结果。 二,优化的使用 优化主要使用apply_gradients方法传入变量和对应梯度从而来对给定变量进行迭代,或者直接使用minimize方法对目标函数进行迭代优化。 当然,更常见的使用是在编译时将优化传入keras的Model,通过调用model.fit实现对Loss的的迭代优化。 初始化优化时会创建一个变量optimier.iterations用于记录迭代的次数。因此优化和tf.Variable一样,一般需要在@tf.function外创建。 ? ? ? ? ? ? ?

    1.2K20发布于 2020-07-20
  • 来自专栏又见苍岚

    Adam 优化

    Adam 是深度学习中常用的优化,我在使用时遇到了一点问题,弄清楚后记录下来。 Adam Adam(Adaptive Moment Estimation)优化是一种广泛使用的优化算法,在深度学习训练中特别流行。 下面是 Adam 优化的工作原理的简要概述: 动量(Momentum): Adam 优化计算梯度的指数加权移动平均(也称为一阶矩估计),这有助于加速梯度下降过程中的收敛速度,并帮助克服局部最小值和鞍点 : 我的优化 A 同时管理参数 B, C,但是在某一阶段的网络训练中,我确定 C 不会参与梯度回传,需要 A 优化 B 中的参数即可。 问题解决 找到原因就好办了,源码中会对优化管理的参数做一个筛选,如果当前参数没有 grad 信息,那么优化会将其跳过,所以训练前把所有优化中参数的 grad 设置为 None(不是置零)即可。

    2.8K10编辑于 2024-01-13
  • 来自专栏朱永胜的私房菜

    MySQL优化

    MySQL优化 MySQL优化是数据库管理系统中的一个核心组件,负责将SQL查询语句转换为最有效的执行计划。优化的目标是减少查询的响应时间并提高数据库的吞吐量。 以下是一些关键点,用于理解和优化MySQL优化的工作。 理解MySQL优化 MySQL优化器使用多种统计信息和算法来决定如何执行一个查询。 优化MySQL优化 为了优化MySQL优化的性能,可以采取以下措施: 1. 索引优化 创建合适的索引:确保对经常查询的列创建索引。 5. 监控和分析 慢查询日志:开启慢查询日志来监控慢查询。 性能模式:使用 PERFORMANCE_SCHEMA来分析数据库的运行状况。 结论 优化MySQL优化是一个持续的过程,需要不断地监控、分析和调整。通过理解优化的工作原理和采取适当的优化措施,可以显著提高数据库的性能。

    28410编辑于 2024-01-05
  • 来自专栏腾讯云数据库(TencentDB)

    MySQL优化和SemiJoin优化

    MySQL执行流程 MySQL的执行过程包括多个子阶段:语法分析、语义检查、逻辑优化、物理优化和执行。其中逻辑优化和物理优化统称为查询优化。一个查询优化的输入是查询树,输出是查询执行计划。 ? 逻辑优化也称为基于规则的查询优化(Rule Based Optimization,简称RBO)。主要是对查询进行逻辑上的等价变换,目的是通过这些变换提高查询的性能。 物理优化也称为基于代价的查询优化(Cost-based Optimization,简称CBO)。主要是通过一些模型,预测一个查询使用某种执行计划时的成本,并选择其中成本最小的一个。 2. In子查询转SemiJoin的优化方法 1. 优化方法 通用的转换格式如下: SELECT ... 往期推荐 《5分钟学会如何玩转云数据库组件》 《关于MySQL | 这个问题100个人都没搞懂》 ? 免费试用 包括云数据库MySQL在内的40+款热门云产品,实名认证的企业用户可免费试用!

    1.6K40发布于 2019-05-16
  • 来自专栏数据库与编程

    查询优化概念:关于自动调整优化及自适应查询优化

    本篇是如何调优 Oracle SQL系列文章第六篇:查询优化概念:关于自动调整优化及自适应查询优化 1、关于自动调整优化 优化根据调用方式执行不同的操作。 在选择最终计划之后,优化将其用于后续执行,从而确保不重用次优计划。 2.1.2 自适应查询计划如何工作 自适应计划包含多个预先确定的子计划和优化统计信息收集。 这些统计数据帮助优化在多个子计划之间做出最终决策。 在语句执行期间,统计信息收集收集关于执行的信息,并缓冲子计划接收到的一些行。根据收集观察到的信息,优化选择一个子计划。 如果行数低于优化确定的阈值,则优化选择嵌套循环连接;否则,优化将选择散列连接。在本例中,来自order_items表的行数高于阈值,因此优化为最终计划选择一个散列连接,并禁用缓冲。 广播分布 下图描述了department和employees表之间的混合散列连接,查询协调指导8个并行服务进程:P5-P8是生产者,而P1-P4是消费者。每个生产者都有自己的消费者。

    2K10编辑于 2022-04-24
  • 来自专栏小工匠聊架构

    Oracle优化04-Optimizer优化

    ---- Optimizer概述 Oracle数据库中的优化是SQL分析和执行的优化工具,它负责制定SQL的执行计划,也就是它负责保证SQL执行效率最高. 这些因素直接决定着SQL的执行效率,所以优化是SQL执行的核心,它做出的执行计划的好坏,直接决定了SQL的执行效率。 Oracle的优化有两种 RBO 基于规则的优化 CBO 基于代价的优化 从ORACLE10G开始,RBO已经被弃用(但是我们依然可以通过HINT的方式使用它)。 ---- RBO(Rule Based Optimizer) RBO概述 在8i之前,ORACLE使用RBO(Rule Based Optimizer 基于规则的优化优化。 可见,RBO是一种非常粗放型的优化。 ---- 案例说明 思考:表中有索引,数据就必须选择索引吗?

    1.6K20发布于 2021-08-16
  • 来自专栏罗西的思考

    PyTorch分布式优化(2)----数据并行优化

    [源码解析] PyTorch分布式优化(2)----数据并行优化 目录 [源码解析] PyTorch分布式优化(2)----数据并行优化 0x00 摘要 0x01 前文回顾 0x02 DP 之中的优化 2.1 流程 2.2 使用 0x03 DDP 之中的优化 3.1 流程 3.2 优化状态 3.3 使用 0x04 Horovod 的优化 4.1 hook 同步梯度 4.1.1 注册 hooks 数据并行之中的优化就是另外一种情况,因为每个worker自己计算梯度,所以优化主要技术难点是: 每个worker有自己的优化?还是只有一个worker才有优化,由他统一做优化? 每个进程拥有自己独立的优化优化也是常规优化。 这里有两个特点: 每个进程维护自己的优化,并在每次迭代中执行一个完整的优化步骤。 DDP 与优化实际上没有关联,DDP不对此负责,所以需要用户协同操作来保证各进程之间的优化状态相同。这就围绕着两个环节: 优化参数初始值相同。

    1.3K30编辑于 2021-12-09
  • 来自专栏AustinDatabases

    PolarDB MySQL SQL 优化指南 (SQL优化系列 5

    PolarDB for MySQL 云原生数据库的SQL优化,这集一定有人说,和MySQL优化有区别吗?你把那个吗去了,一样我写他做什么。 那么在掌握了MySQL的基本SQL优化手段这个咱们不提了,咱们今天只说PolarDB for MySQL 自己的优化方式。 CONCAT('user_', n), CONCAT('user_', n, '@example.com'), ELT(1 + FLOOR(RAND()*5) MongoDB 查询 优化指南 四句真言 (查询 优化系列 4) 沧海要,《SQL SERVER 运维之道》,清风笑,竟惹寂寥 MySQL SQL 优化指南 SQL 四句真言(优化系列 3) 沧海要, 《SQL SERVER 运维之道》,清风笑,竟惹寂寥 SQL SERVER SQL 优化指南 四句真言 (SQL 优化系列 2) PostgreSQL SQL 优化指南 四句真言(SQL 优化系列 1

    9010编辑于 2026-03-12
  • 来自专栏CSIG质量部压测团队

    【项目实战-5】consul服务cpu飙到100% 加缓存优化

    先查看合作方consul服务的资源使用情况,cpu使用率接近100% 61.png 2. 对cpu使用过高的问题进行优化优化方案是:缓存consul 服务列表1s。 3. 进行优化方案验证,对是否增加缓存两种场景进行压测验证,关注consul 服务的cpu使用情况。 添加缓存后,cpu使用情况明显下降。 62.png 【总结】 在压测的过程中,要关注后端应用服务的资源使用情况,合理使用缓存可以有效缓解服务cpu压力高的问题。

    2.7K10发布于 2021-02-23
  • 来自专栏磐创AI技术团队的专栏

    使用 Optuna 优化你的优化

    使用网格搜索、随机、贝叶斯和进化算法等不同的采样来自动找到最佳参数。让我们简要讨论一下 Optuna 中可用的不同采样。 网格搜索:搜索目标算法整个超参数空间的预定子集。 5)快速可视化:各种可视化功能也可用于可视化分析优化结果。 在开始本教程之前,我们必须了解一些 Optuna 术语和约定。 Optuna 术语 在 Optuna 中,有两个主要术语,即: 1) Study:整个优化过程基于一个目标函数,即研究需要一个可以优化的函数。 2) Trial:优化函数的单次执行称为trial。 这样做的原因是直到 5 月 20 日,对于site_id == 0 的所有电表读数都是0。一位与会者指出了这一点。因此,合乎逻辑的做法是删除该数据段。 因此剪枝可以提高最终分类的复杂性并防止过度拟合。Optuna 中提供了对多个流行 ML 框架的集成,用户可以使用它在超参数训练期间尝试剪枝。

    3.1K30发布于 2021-10-27
  • 来自专栏叁金大数据

    SQL优化简介

    虽然加索引并不一定能解决问题,但是这初步的体现了SQL优化的思想。 而数据库主要由三部分组成,分别是解析优化和执行引擎。 ? 其执行逻辑是我们输入的SQL语句通过解析解析成关系表达式,通过优化把关系表达式转换成执行计划,最终通过执行引擎进行执行。所以优化在很大程度上决定了一个系统的性能。 优化的作用就好比找到两点之间的最短路径。 上篇文章我们提到了Calcite,Calcite本身就支持两种优化方式分别是RBO和CBO。 RBO RBO(Rule-Based Optimizer) 基于规则的优化。是根据已经制定好的一些优化规则对关系表达式进行转换,最终生成一个最优的执行计划。 CBO CBO(Cost-Based Optimizer)基于代价的优化。根据优化规则对关系表达式进行转换,生成多个执行计划,最后根据统计信息和代价模型计算每个执行计划的Cost。

    1K20发布于 2019-03-15
  • 来自专栏SQL查询优化

    SQL查询优化

    背景 一般的,数据库管理系统(DBMS)有通用的架构模型,可分为四个模块:传输通信、查询处理、执行引擎、存储引擎。其中查询处理包括查询解析和查询优化,而查询优化是实现SQL计划树优化的核心。 主流的查询优化分类,一般仅分为两大类:RBO优化和CBO优化。目前,业界通用的数据库系统,其优化也至少包括RBO和CBO优化,结合两者进行计划树优化。 其中4分层搜索、5统一搜索模型,支持编写声明式规则进行查询优化,将搜索策略与数据模型分离,规则与算子分离,规则与搜索策略分离,实现优化生成器。 1. 5. 统一搜索 20世纪90年代被提出,采用Cascades优化方法,将逻辑优化与物理优化统一在相同阶段完成。自顶向下进行规则迭代优化,形成搜索森林。 但优化规则较多时,搜索耗时较长或卡主。 总结 本文围绕SQL查询优化进行展开说明,分别介绍优化分类、优化框架、优化模型。

    1.6K73编辑于 2024-06-30
  • 来自专栏datartisan

    5G NSA优化方法

    ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?

    1K21发布于 2019-12-26
  • 来自专栏蝉沐风的码场

    MySQL优化5个维度

    SQL查询的环节 下面从5个角度介绍一下MySQL优化的一些策略。 image-20220405204100602 1. 优化——SQL分析与优化 处理完连接、优化完缓存等架构的事情,SQL查询语句来到了解析优化的地盘了。在这一步如果出了任何问题,那就只能是SQL语句的问题了。 只要你的语法不出问题,解析就不会有问题。此外,为了防止你写的SQL运行效率低,优化会自动做一些优化,但如果实在是太烂,优化也救不了你了,只能眼睁睁地看着你的SQL查询沦为慢查询。 、优化针对此条SQL的执行对哪些索引进行了成本估算,并最终决定采用哪个索引(或者最终选择不用索引,而是全表扫描)、优化对单表执行的策略是什么,等等等等。 因此针对业务逻辑适当做一定程度的冗余也是一种比较好的优化技巧。 5.

    65710编辑于 2022-08-22
领券