首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏ApacheHudi

    | Apache Hudi应用指南

    通过Spark作业将数据写入Hudi时,Spark应用的技巧也适用于此。如果要提高性能或可靠性,请牢记以下几点。 GC:请确保遵循Spark指南中的垃圾收集技巧,以避免OutOfMemory错误。

    1.3K20发布于 2021-04-13
  • 来自专栏Spark专栏

    Spark Shuffle指南

    概述 从Spark shuffle原理可知,Spark shuffle在计算与IO方面,都可能有较大开销,故,Spark shuffle就是优化这2个方面。 这里仅关注参的方式,不关注应用代码层面的建议:若作业可用的内存资源较为充足的话,可以适当增加这个参数的大小(比如96m),从而减少拉取数据的次数,也就可以减少网络传输的次数,进而提升性能。 建议:无。 spark.shuffle.io.retryWait 默认值:5s 参数说明:每次重试拉取数据的等待间隔 建议:通常建议加大时长,理由同上。

    2K20发布于 2021-02-20
  • 来自专栏搜云库技术团队

    JVM 11 的指南:如何进行JVM,JVM参数

    JVM 11的优化指南:如何进行JVM,以及JVM参数有哪些”这篇文章将包含JVM 11的核心概念、重要性、参数,并提供12个实用的代码示例,每个示例都会结合JVM参数和Java代码 本文已收录于,我的技术网站 ddkk.com,有大厂完整面经,工作技术,架构师成长之路,等经验分享 JVM 11的优化指南 JVM简介 JVM是通过调整Java虚拟机的配置参数来提升应用程序的性能和资源利用效率的过程 JVM的重要性 提高性能:通过,可以提升应用程序的响应速度和处理能力。 资源优化:合理的配置可以使应用更高效地利用系统资源。 企业级 JVM 11 的参数,机器配置是8核32G 为配置有8核和32GB内存的机器推荐JVM 11参数时,需考虑应用的类型、负载特性等。 合理的JVM可以显著提升应用的性能和稳定性。不过,请记得是一个持续的过程,需要根据应用的具体表现来不断调整和优化。

    2.3K10编辑于 2024-01-17
  • 来自专栏阿泽的学习笔记

    算法模型指南

    在算法项目落地过程中,如果只考虑机器学习相关部分,个人感觉最花时间的两个部分是数据质量问题处理和模型实验与迭代。 从第6部分开始是更深入的通过数据分析来进行模型的一些介绍,以及后续的测试,工程化,上线的简介,比较适合有经验的算法工程师阅读。 参数。对模型的各种参数,模型结构进行各种调整。 数据与模型。修复数据中的问题,做数据增强,引入不同类型的数据,收集更多数据,或者特征工程预处理方面的操作。 问题对应的典型数据集,例如我们可以收集一系列节假日,办公型门店的历史数据,用于后续改进的检验集。 会有大量的操作花费在超参搜索上。 Human-in-the-Loop & AutoML: ?

    1.7K43发布于 2021-07-06
  • 来自专栏腾讯云流计算 Oceanus

    Flink on RocksDB 参数指南

    因此我们对 Flink 上的 RocksDB 的参数方法进行了梳理,希望能够帮助大家解决相关的问题。 根据我们的经验来看,这个参数小、大都会造成性能下滑,它的最佳值会在某个中间值附近,例如 3 等。 RocksDB 官方提供了性能优化指南 [5],也可以根据这些来进行参数。 此外,还有关注区块链场景下,对 RocksDB 读性能进行和参数分析的论文 [9],文中评估了 Bloom Filter 的位数对内存占用、性能的影响,根据测试结论,多方均建议保持默认的 10 位不变 经过我们的调研,对默认参数进行优化后,读性能有将近 800% 的提升,而写性能也有不同程度的改善,因此 RocksDB 是非常值得进行的。

    18.8K102发布于 2020-02-29
  • 来自专栏DeepHub IMBA

    XGBoost超参数指南

    本文将详细解释XGBoost中十个最常用超参数的介绍,功能和值范围,及如何使用Optuna进行超参数。 但是通过使用早停技术,我们可以在验证指标没有提高时停止训练,不仅节省时间,还能防止过拟合 有了这个技巧,我们甚至不需要num_boost_round。 但是一般情况下不必担心这些参数之间的相互作用,因为我们将使用自动找到最佳组合。 所以的目标是找到导致损失函数最大减少的最佳分割,这意味着改进的模型性能。 9、min_child_weight XGBoost从具有单个根节点的单个决策树开始初始训练过程。 最后如果你也用optuna进行,请参考以下的GIST: https://gist.github.com/BexTuychiev/823df08d2e3760538e9b931d38439a68 作者

    1.8K30编辑于 2023-08-30
  • Java性能与故障排查:JVM参数实战指南

    JVM的核心目标 性能主要围绕三个核心指标展开:吞吐量(Throughput)、延迟(Latency)和内存占用(Footprint)。 通过预先的堆内存和GC策略选择,能够将99%的请求延迟控制在200ms以内,这正是价值的直接体现。 面临的主要挑战 JVM的最大挑战在于其高度场景依赖性。 这种渐进式优化方式避免了"过度"带来的副作用。 工具链的运用 现代JVM生态提供了丰富的诊断工具。 G1收集器(Garbage-First):JDK 9后的默认收集器,使用-XX:+UseG1GC启用。采用分区(Region)模型和停顿预测算法,平衡吞吐量与延迟。 这种差异正如同CSDN指南强调的:必须根据应用SLA(如99.99%可用性要求)来反向推导JVM参数配置。

    98023编辑于 2025-08-27
  • 来自专栏crmeb

    9 个 Java 性能技巧,YYDS!

    在我们学习特定的 Java 编程性能之前,先来探讨一些通用的技巧。1. 在明确必要之前别急着优化这可能是最重要的性能优化技巧之一。你应该遵循常见的最佳实践做法并在案例中高效地应用它。 常见的通用技巧到此结束。接下来让我们仔细看看一些特定于 Java 的技巧。5. 使用 StringBuilder 以编程方式连接字符串在 Java 中有很多不同的选项来连接字符串。 所以,最后,这段代码在日志文件中写入 “This is a test0 1 2 3 4 5 6 7 8 9” 。 Apache Commons StringUtils.Replace 而不是 String.replace一般来说,String.replace 方法可以正常工作,并且效率很高,尤其是在你使用 Java 9 thistest.replace(“test”, “simple test”);// with thisStringUtils.replace(test, “test”, “simple test”);9.

    47540编辑于 2022-07-07
  • 来自专栏Java后端技术栈cwnait

    Java 9 中的 GC 基础

    本文将主要讲解GC需要知道的一些基础知识,会涉及到一些GC的实现细节,但不会对实现细节做很全面的阐述,如果你看完本文之后,能对GC有一个大致的认识,那本文的写作目的也就达到了。 本文将包含以下内容: GC的作用范围 GC负责的事情 JVM中的4种GC G1的一些细节 使用Java 9正式版对G1进行测试 一些简单的GC方法 一、GC的作用范围 要谈GC的作用范围,首先要谈JVM GC,Java 9中默认使用G1。 一些简单的GC方法 1. 使用不同的索引对象 引用的类型会直接影响其所引用对象的GC行为,当要做一些内存敏感的应用时,可以参考使用合适的引用类型。 在Parallel里,可以通过参数调节最大停止时间(-XX:MaxGCPauseMillis,默认无设置)和吞吐量(-XX:GCTimeRatio,默认值是99,即最大使用1%的时间来做垃圾回收)来

    79840发布于 2019-08-02
  • 来自专栏java一日一条

    Java 9 中的 GC 基础

    本文将主要讲解GC需要知道的一些基础知识,会涉及到一些GC的实现细节,但不会对实现细节做很全面的阐述,如果你看完本文之后,能对GC有一个大致的认识,那本文的写作目的也就达到了。 本文将包含以下内容: GC的作用范围 GC负责的事情 JVM中的4种GC G1的一些细节 使用Java 9正式版对G1进行测试 一些简单的GC方法 一、GC的作用范围 要谈GC的作用范围,首先要谈JVM 一些简单的GC方法 1. 使用不同的索引对象 引用的类型会直接影响其所引用对象的GC行为,当要做一些内存敏感的应用时,可以参考使用合适的引用类型。 在Parallel里,可以通过参数调节最大停止时间(-XX:MaxGCPauseMillis,默认无设置)和吞吐量(-XX:GCTimeRatio,默认值是99,即最大使用1%的时间来做垃圾回收)来 G1提供了丰富的基于不同目的的可调的参数,列表如下: ?

    71920发布于 2018-09-14
  • 来自专栏京东技术

    JRC Flink流作业指南

    本文是笔者根据过往经验以及实践,结合京东实时计算平台(JRC)背景产出的面向专业人员的Flink流作业指南。 主要包含以下四个方面: TaskManager内存模型 网络栈 RocksDB与状态 其他项 本文基于Flink 1.12版本。 图2 Web UI展示的内存分配情况 1.5 概览 理解TaskManager内存模型是开展的大前提,进行的宗旨就是:合理分配,避免浪费,保证性能。 下一节就来详细讲解Flink网络栈的。 图9 示例作业RocksDB监控 上图是示例作业的部分RocksDB Metrics图表,比较正常。

    1.5K40编辑于 2022-09-07
  • 来自专栏小码匠和老码农

    JVM指南-工具篇:jps

    我是老码农,一个喜欢技术、爱分享的同学,从今天开始和大家持续分享JVM方面的经验。 JVM是个大话题,涉及的知识点很庞大 Java内存模型 垃圾回收机制 各种工具使用 参数配置 指标设置 ... 所以会是个持续分享的活,急不得。 感兴趣的同学,我们一起学习,攻下JVM这座山头。 今日分享主题 JDK的bin目录下提供了很多和Java相关的小工具,后面会陆续分享提供的这些工具。 例如: 服务器上跑着那些Java的服务呢?

    42640编辑于 2022-06-16
  • MySQL 性能全方位指南

    MySQL 性能全方位指南在数据库驱动的应用系统中,MySQL 的性能直接影响着整个系统的响应速度和用户体验。当业务数据量增长、并发请求增多时,原本流畅的数据库可能会出现查询缓慢、连接超时等问题。 本文将从硬件、配置、SQL 语句、索引、存储引擎等多个层面,详细介绍 MySQL 性能的实用方法和技巧,帮助你打造高效稳定的数据库服务。 八、总结MySQL 性能是一个系统性的工作,需要从硬件、配置、SQL 语句、索引、存储引擎、缓存等多个方面进行综合考虑和优化。 希望本文介绍的 MySQL 性能方法和技巧能够帮助你解决实际工作中遇到的性能问题,让你的数据库运行得更加流畅。

    1K10编辑于 2025-08-22
  • 来自专栏架构师之旅

    Java9中的GC基础

    本文将主要讲解GC需要知道的一些基础知识,会涉及到一些GC的实现细节,但不会对实现细节做很全面的阐述,如果你看完本文之后,能对GC有一个大致的认识,那本文的写作目的也就达到了。 本文将包含以下内容: GC的作用范围 GC负责的事情 JVM中的4种GC G1的一些细节 使用Java 9正式版对G1进行测试 一些简单的GC方法 一、GC的作用范围 要谈GC的作用范围,首先要谈JVM GC,Java 9中默认使用G1。 一些简单的GC方法 1. 使用不同的索引对象 引用的类型会直接影响其所引用对象的GC行为,当要做一些内存敏感的应用时,可以参考使用合适的引用类型。 在Parallel里,可以通过参数调节最大停止时间(-XX:MaxGCPauseMillis,默认无设置)和吞吐量(-XX:GCTimeRatio,默认值是99,即最大使用1%的时间来做垃圾回收)来

    86870发布于 2018-01-30
  • 来自专栏嵌入式与Linux那些事

    Linux 性能工具的 9 张图

    它们展示了:Linux 可观察性工具、 Linux 静态性能分析工具、 Linux 基准测试工具、 Linux 工具和Linux sar。 性能观察工具: 静态性能工具 性能压测工具: 性能工具 sar perf-tools 追踪工具 BPF性能工具:

    32521编辑于 2024-07-05
  • 来自专栏chenchenchen

    SQL之性能

    针对专门操作符的 前面,讲的是关于查询条件的一般规则,在这一节中,将讨论如何使用专门的操作符来改进 SQL 代码的性能。 本文总结的是一些 SQL 性能的比较初级的方面,SQL 还包括 Order by,Group by 以及 Index 等等。

    2.3K30发布于 2019-12-03
  • 来自专栏北京马哥教育

    Linux性能及指南:进程管理

    图1-9 O(1)CPU调度器结构

    1.5K60发布于 2018-05-04
  • 来自专栏vivo互联网技术

    【干货】Elasticsearch搜索权威指南 (23)

    Elasticsearch搜索权威指南,是QBOX在其博客上发布的系列文章之一,本文是该系列的第二篇,主要介绍了索引预处理、mapping建立、避免脚本的使用、索引段合并等搜索性能相关的方法; 作者:Adam Vanderbush 译者:杨振涛 本文是Elasticsearch搜索系列文章3篇中的第2篇,第1篇参考这里(点击)。 本系列教程旨在更进一步讨论针对Elasticsearch 5.0及以上版本的搜索技术、策略及建议。 ? (图片来源于网络) 1预索引数据 为了优化数据的索引方式,应当在查询中预置一些模式。 请参考 “ Painless Scripting in Elasticsearch ” 更深入地了解 Painless 脚本语言指南

    59120发布于 2019-04-19
  • 来自专栏vivo互联网技术

    【干货】Elasticsearch搜索权威指南(33)

    关注微信公众号 ↑ 获取更多干货 Elasticsearch搜索权威指南,是QBox在其博客上发布的系列文章之一,本文是该系列的第三篇,主要从凑整时间查询、全局序列号预热和文件系统缓存预热几个方面介绍了优化查询性能的一些方法 此前还发布了 Elasticsearch性能权威指南 和 Elasticsearch索引性能优化 两个系列。 作者:Adam Vanderbush 译者:杨振涛 本文是QBox官方博客“Elasticsearch搜索权威指南”系列文章3篇中的第3篇,第1篇参考这里,第2篇参考这里。 本系列教程旨在进一步探讨针对Elasticsearch 5.0及以上版本的搜索技术、策略和建议。

    1.1K10发布于 2019-03-19
  • 来自专栏LhWorld哥陪你聊算法

    【Spark篇】---Spark之代码,数据本地化,内存,SparkShuffle,Executor的堆外内存

    一、前述 Spark中大致分为以下几种 ,代码,数据本地化,内存,SparkShuffle,调节Executor的堆外内存。 二、具体    1、代码 1、避免创建重复的RDD,尽量使用同一个RDD 2、对多次使用的RDD进行持久化 如何选择一种最合适的持久化策略? 通过日志或者WEBUI 3、内存 ? Spark  JVM主要是降低gc时间,可以修改Executor内存的比例参数。 RDD缓存、task定义运行的算子函数,可能会创建很多对象,这样会占用大量的堆内存。 Spark中如何内存

    2.1K30发布于 2018-09-13
领券