首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏mysql

    hhdb数据库介绍(10-9)

    配置是管理平台为计算节点可视化配置所开发的功能,包括配置数据节点、存储节点、存储节点组、逻辑库、分片规则、表信息、数据库用户、计算节点等参数。同时配套设置了配置参数的校验与备份恢复的辅助功能。

    56610编辑于 2024-12-05
  • 来自专栏AI系统

    AI系统】计算与调度

    组成算子的算法逻辑跟具体的硬件指令代码之间的调度是如何配合?计算与调度计算与调度的来源图像处理在当今物理世界中是十分基础且开销巨大的计算应用。 于 AI 框架而言,所开发的算子是网络模型中涉及到的计算函数。 算子调度具体执行的所有可能的调度方式称为调度空间。AI 编译器优化的目的在于通过对算子进行最佳调度,使得算子在特定硬件上的运行时间达到最优水平。 Reorder(交换)、Split(拆分)、Fuse(融合)、Tile(平铺)、Vector(向量化)、展开(Unrolling)、并行(Parallelizing)等,以 Halide 思想为指导的 AI 调度变换的方式Halide 调度变换在调度中可以使用许多优化手段,这些方式可以通过变换调度树来体现。

    61210编辑于 2024-11-29
  • 来自专栏腾讯大讲堂的专栏

    AI异常计算点的监控调度

    一、背景 互联网产业拥抱AI成为了当下的热潮:无人驾驶、医疗AI和智能推荐从实验室走出,融入到工程实业中;腾讯自主研发的王者荣耀等游戏AI给人们带去了快乐,“绝艺”更是获得了UEC杯冠军;而AI和海量计算力分不开 四、调度 运行中的AI运算,持续的吃cpu时间片,虽然Linux采用了CFS公平调度策略,但存储引擎与AI计算混部竞争,相比于单跑存储引擎,增加了调度和现场恢复等时延消耗。 现网运营中还发现,AI计算火力全开时(如下图),存储引擎偶尔会出现获取cpu时间片不够的情况。综上,弹性平台监控存储引擎的cpi标准差,当偏差超过限定的范围,即为异常计算点,平台执行调整或调度操作。 动态调整 监控到cpi异常,平台优先调低AI计算的quota值,调整采用“乘性减 加性增”策略,将quota值降一半,限制AI容器的cpu时间片分配,若一段时间内,cpi监控未检测到异常,平台加性恢复AI 跨机调度 平台统计的cpi异常调整次数超过N次,或者quota值小于period值,即可用的cpu能力小于一核,平台执行调度替换操作,并冻结被调度母机一段时间,此时间段内不会创建计算容器。

    1.8K70发布于 2018-06-08
  • 来自专栏腾讯架构师的专栏

    AI 异常计算点的监控调度

    作者:胡俊彬 一、背景 互联网产业拥抱AI成为了当下的热潮:无人驾驶、医疗AI和智能推荐从实验室走出,融入到工程实业中;腾讯自主研发的王者荣耀等游戏AI给人们带去了快乐,“绝艺”更是获得了UEC杯冠军; 四、调度 运行中的AI运算,持续的吃cpu时间片,虽然Linux采用了CFS公平调度策略,但存储引擎与AI计算混部竞争,相比于单跑存储引擎,增加了调度和现场恢复等时延消耗。 动态调整 监控到cpi异常,平台优先调低AI计算的quota值,调整采用“乘性减 加性增”策略,将quota值降一半,限制AI容器的cpu时间片分配,若一段时间内,cpi监控未检测到异常,平台加性恢复AI 跨机调度 平台统计的cpi异常调整次数超过N次,或者quota值小于period值,即可用的cpu能力小于一核,平台执行调度替换操作,并冻结被调度母机一段时间,此时间段内不会创建计算容器。 下图为某业务调度月图。 五、总结 平台基于cpi构建的模型监控调度异常点,但由于在线业务的业务量、业务模型、网络环境的变化,会使cpi模型可用性降低。

    2.2K00发布于 2017-09-20
  • 来自专栏IT技术订阅

    什么是线程让步?

    线程让步可以通过yield()方法来实现,该方法和sleep(long millis)方法有点类似,都可以让当前正在运行的线程暂停,区别在于yield()方法不会阻塞该线程,它只是将线程转换成就绪状态,让系统的调度器重新调度一次 接下来通过一个案例来演示yield()方法的使用,如例10-9所示。 例10-9 Example09.java //定义YieldThread类继承Thread类 class YieldThread extends Thread { //定义一个有参的构造方法 //开启两个线程 Thread1.start(); thread2.start(); } } 运行结果如图所示 例10 小提示:通过yield()方法可以实现线程让步,让当前正在运行的线程失去CPU使用权,让系统的调度器重新调度一次,由于Java虚拟机默认采用抢占式调度模型,所有线程都会再次抢占CUP资源使用权,所以在执行线程让步后并不能保证立即执行其他线程

    32510编辑于 2022-05-11
  • 来自专栏Python项目实战

    “电不是不够,是调度太笨”:聊聊 AI 驱动的能源调度优化,到底在优化什么

    “电不是不够,是调度太笨”:聊聊AI驱动的能源调度优化,到底在优化什么先抛一个很现实、也很容易被忽略的事实:今天很多能源问题,本质上不是“缺能源”,而是“不会调度能源”。 二、传统调度的“老毛病”在没有AI之前,大多数调度系统依赖三样东西:规则(if-else)简单预测模型人的经验兜底听起来很稳,但实际上有几个硬伤。 3️⃣人在环路中,效率是上限说句实在话:调度员再牛,也不可能在毫秒级、全局最优上战胜机器。三、AI为什么特别适合做能源调度?我个人觉得,能源调度AI非常“对口”的一个场景,原因有三点。 六、AI调度和传统调度,最大的差别是什么?我用一句我自己的感受总结:传统调度在“避免犯错”,AI调度在“持续变聪明”。 AI的优势不在于一开始就完美,而在于:它会记住“这次调度带来的后果”它会在长期回报上优化策略它能适应环境变化,而不是等人改规则七、AI调度并不是“全自动”,而是“人机协同”这里我必须泼一盆“理性冷水”。

    27910编辑于 2026-01-11
  • 来自专栏用户9199536的专栏

    C|进程调度|单核CPU调度

    CPU调度,决定了CPU执行进程的策略,好的调度policy需要兼顾进程首次被调度的等待时间和进程结束执行的等待时间,因此在算法设计上极其精妙。本章完全Copy自OSTEP,介绍了基础的调度算法。 执行后必须执行到底,无法优化 条件三 假设条件3取消,可以进行Process Switch Shortest Time-to-Completion First (STCF) 每次新job进入,重新进行调度 ,按照剩余时间进行调度(可以看作把job分割) Metric II 首次被调度等待的时间 Round Robin 时间切片,每次切片都轮换所有进程。 ---- 疑惑 首次被调度等待的时间 Round Robin 时间切片,每次都轮换所有进程。

    1.6K40发布于 2021-11-22
  • 来自专栏刘明的小酒馆

    Linux内核调度分析(进程调度

    Linux进程调度 发展历史 Linux从2.5版本开始引入一种名为的调度器,后在2.6版本中将公平的的调度概念引入了调度程序,代替之前的调度器,称为算法(完全公平调度算法)。 Linux调度算法 调度器类 Linux的调度器是以模块的方式提供的,这样使得不同类型的进程按照自己的需要来选择不同的调度算法。 上面说讲到的CFS算法就是一个针对普通进程的调度器类,基础的调度器会按照优先级顺序遍历调度类,拥有一个可执行进程的最高优先级的调度器类胜出,由它来选择下一个要执行的进程。 接下来我们考虑调度周期,理论上,调度周期越小,就越接近“完美调度”,但实际上这必然会带来严重的上下文切换消耗。 调度器入口 正如上文所述,每当要发生进程的调度时,是有一个统一的入口,从该入口选择真正需要调用的调度类。

    16K113发布于 2018-01-23
  • 来自专栏韩曙亮的移动开发专栏

    【Linux 内核】CFS 调度器 ④ ( 调度子系统组件模块 | 主调度器、周期性调度器 | 调度器类 )

    文章目录 一、调度子系统组件模块 二、主调度器、周期性调度器 三、调度器类 一、调度子系统组件模块 ---- 调度器 需要对 被调度的进程 进行 排序 和 调度管理 , 进程管理过程需要 调度器 的 组件模块 , 以及相关 算法 数据结构 来完成 , 如 : 执行队列 ; 二、主调度器、周期性调度器 ---- CPU 通过 " 上下文切换 " 选择 " 主调度器 " 或 " 周期性调度器 " , " 上下文切换 , 自动调用 scheduler_tick() 函数 , 完成调度 , 这是根据 进程 运行时间 , 自动触发进程调度 ; 三、调度器类 ---- 主调度器 或 周期性调度器 根据 不同的 " 选择进程 " 选择不同的 调度器类 , 可选的调度类参考 【Linux 内核】调度器 ⑦ ( 调度器类型 | 停机调度类 stop_sched_class | 限期调度类 dl_sched_class | 实时调度类 : 限期调度类 ; rt_sched_class : 实时调度类 ; fair_sched_class : 公平调度类 ; idle_sched_class : 空闲调度类 ; 每个 调度器类

    3.6K10编辑于 2023-03-30
  • 来自专栏山山仙人的专栏

    Kubernetes Pod资源调度之全自动调度和定向调度

    2、全自动调度 全自动调度的控制器是Deployment或RC,Deployment或RC的主要功能之一就是自动部署一个容器应用的 份副本,以及持续监控副本的数量,在集群内始终维持用户指定的副本数量。 ,这3个Nginx Pod由系统全自动完成调度。 定向调度通过NodeSelector标签实现, Master上的Scheduler服务(kube-scheduler进程)负责实现Pod的调度,整个调度过程通过执行一系列复杂的算法,最终为每个Pod都计算出一个最佳的目标节点 NodeSelector来进行指定Node范围的调度。 亲和性调度机制则极大扩展了Pod的调度能力,主要的增强功能如 下。

    1.9K10发布于 2020-04-29
  • 来自专栏全栈程序员必看

    c语言列车调度,列车调度

    火车站的列车调度铁轨的结构如下图所示: 两端分别是一条入口(Entrance)轨道和一条出口(Exit)轨道,它们之间有N条平行的轨道。每趟列车从入口可以选择任意一条轨道进入,最后从出口离开。 如果要求它们必须按序号递减的顺序从出口离开,则至少需要多少条平行铁轨用于调度? 输入格式 输入第一行给出一个整数N (2 ≤ N ≤10000),下一行给出从1到N的整数序号的一个重排列。 输入样例 9 8 4 2 5 3 9 1 6 7 输出样例 4 此题考查的是贪心+二分,核心在于序号小的跟在序号最接近自己且比自己大的列车后面,下面分析来源于参考链接1: 下面是4条用来调度的轨道: 1248

    91310编辑于 2022-09-19
  • 来自专栏Golang语言社区

    Go 语言调度(一): 系统调度

    介绍 Go 调度器使你编写的 Go 程序并发性更好,性能更高。这主要是因为 Go 调度器很好的运用了系统调度器的机制原理。 但是,如果你不了解调度器基本的工作原理,那你写的 Go 服务很可能对调度器很不友好,使得 Go 调度器发挥不出它的优势。 尽管在并发编程中你还有很多其他知识点要了解,但在调度器的机制是其中比较基础的一部分。。 操作系统调度 操作系统调度器是软件开发中很复杂的一块。他们必须考虑硬件设施的布局和设计。 使用调度周期,除以线程总数,就是每个线程应该执行的时间。 比如,如果你定义你的调度周期是 10 毫秒,现在有 2 个线程,那么在一个调度周期内,每个线程可以执行 5 毫秒。 要知道这我们只是举了最简单调度场景。实际上调度器在做调度策略时需要考虑很多事情。这是你应该会想到一个常见并发手段,就是线程池的使用。让线程的数量在控制之内。

    1.6K50发布于 2019-05-08
  • 来自专栏linux内核源码学习

    调度器及CFS调度

    调度调度:就是按照某种调度的算法设计,从进程的就绪队列中选择进程分配CPU,主要是协调进程对CPU等相关资源的使用。 如果调度器支持就绪状态切换到执行状态,同时支持执行状态切换为就绪状态,就称该调度器为抢占式调度器。 / 空闲调度类 这五种调度类优先级从高到低依次为:停机调度类,限期调度类,实时调度类,公平调度类,空闲调度类 停机调度类stop_sched_class: ,使task选择CFS调度器来调度运行 SCHED_FIFO:实时进程的调度策略,先进先出调度,没有时间片,没有更高优先级的状态下,只有等待主动让出CPU(非抢占) SCHED_RR:实时进程的调度策略 :普通进程的调度策略,使我们task以最低优先级选择CFS调度器来调度运行 SCHED_DEADLINE:限期进程调度策略,使我们task选择Deadline调度器来调度运行 注:stop调度器和DLE-task

    1.5K40编辑于 2022-11-21
  • 来自专栏Golang语言社区

    Go 语言调度(二): goroutine 调度

    原文作者:达菲格 来源:简书 介绍 上一篇文章我对操作系统级别的调度进行了讲解,这对理解 Go 语言的调度器是很重要的。这篇文章,我将解释下 Go 语言的调度器是如何工作的。 M,P,G 的关系 合作调度 正如上一篇文章讨论的,系统调度器的行为是抢占式的。本质上就意味着你不能够预测调度器将会做什么。系统内核决定了一切,而这一切都是不可确定的。 当前版本的 Go 调度器实现并不是抢占式的,而是一个协同调度器。这就意味着调度器需要明确定义用户态事件来指定调度决策。 非抢占式调度器的精彩之处在于,它看上去是抢占式的。 你不能预知 Go 调度器将会做什么。因为调度器的调度决策权并没有交给开发者,而是在运行时里。 Goroutine 状态 就像线程,Goroutine 也拥有同样的 3 个高级状态。 注意: 对于 1.12 版本有一个建议,在 Go 调度器中增加抢占式调度机制,来允许高速循环被抢占。 有 4 种事件会引起 Go 程序触发调度。这不意味着每次事件都会触发调度

    1.1K40发布于 2019-05-08
  • 来自专栏韩曙亮的移动开发专栏

    【Linux 内核】调度器 ⑦ ( 调度器类型 | 停机调度类 stop_sched_class | 限期调度类 dl_sched_class | 实时调度类 | 公平调度类 | 空闲调度类 )

    文章目录 一、调度器类型 二、调度器类型源码定义 三、停机调度类 ( stop_sched_class ) 四、限期调度类 ( dl_sched_class ) 五、实时调度类 ( rt_sched_class ) 六、公平调度类 ( fair_sched_class ) 七、空闲调度类 ( idle_sched_class ) 一、调度器类型 ---- 在 Linux 内核中 , sched_class 调度器 : 公平调度类 ; idle_sched_class : 空闲调度类 ; 上述每种 " 调度类 " 都有自己的 调度策略 ; 调度类 优先级 由高到低排列为 : 停机调度类 > 限期调度类 > 实时调度类 > 公平调度类 > 空闲调度类 二、调度器类型源码定义 ---- 调度器类型 , 定义在 Linux 内核源码 linux-5.6.18\kernel\sched\sched.h 头文件中的 1792 ) ---- 实时调度类 ( rt_sched_class ) 为每个 " 调度优先级 " 维护一个 队列 ; 六、公平调度类 ( fair_sched_class ) ---- 公平调度类 ( fair_sched_class

    2K20编辑于 2023-03-30
  • 来自专栏音视频咖

    新知 | 离线视频处理AOV框架&AI算力池调度

    本期我们邀请到了腾讯云音视频技术导师——孙祥学,为大家分享视频处理AOV框架及AI算力池调度。 本期的分享包括四个部分,分别是行业现状整体介绍,AOV框架解析,AI算力池调度设计以及MPS接入说明。 从各大云厂商的用户反馈来看,视频处理对接入用户并不友好,门槛很高。 这部分主要介绍有关AI算力池调度的逻辑,这是针对转码子任务的处理逻辑。 我们在研发过程中发现AI算法的效果越来越显著,但集成落地却变得愈发困难。 MPS中引入的AI算力池调度方案就能够很好地解决刚才提到的六个问题。 简单的说就是通过通用filter+ 算力池代理的方式完成 。 前文提到的这些特性,包括AOV调度AI算力池调度方案均已打包入MPS2.0中,目前MPS2.0也已经上线。 图中的四个链接分别是国内站接入地址、国际站接入地址、转码体验馆及视频AI体验馆。

    1.8K10编辑于 2022-11-18
  • 来自专栏方方的杂货铺

    asio 调度器实现 - operation 调度详解

    作为一个 lambda post 类型的调度器实现, 首先要打理的, 肯定是的函数对象如何投递, 如何保存, 如何执行了. 我们先来回顾一下上一篇中的调度概览图: 如上图所示, ASIO 调度的核心对象是 io_context, 作为通用任务调度器的时候, 我们也可以直接把 io_context 看作是 execution_context , 它基本只被我们用于通用任务调度相关的场景. run(), 这样在外围有work_guard的情况下, 通过run()内部的for()循环, 推送到 scheduler::op_queue_ 上的所有operation会被依次执行, 从而正确驱动整个调度器的工作 这也是比较常见的情况 , 比如对于游戏来说, 主线程一般除了调度器的执行, 还包含其他逻辑的执行, 这个时候, 就比较适合使用上面的几种情况来组织主循环了, 下面给出一个简单的示例: while(!

    1.2K60编辑于 2023-05-23
  • 来自专栏程序员

    进程调度

    进程调度 CPU调度是操作系统的基本功能。每当CPU空闲的时候,操作系统就会从就绪队列中选择一个程序来执行。进程选择由短期调度程序执行。 CPU调度决策一般发生在如下四种情形。 抢占式调度是有代价的。而且代价比较大。 CPU调度是由内核进行的,这个短期调度程序在进行调度之后,需要切换上下文,切换到用户模式,跳转到用户程序的合适位置来重新启动这个程序。 最短作业优先调度(shortest-job-first) 最短作业调度是将后续具有最短处理时间的进程先放到CPU上运行,如果就绪队列中有同样长度的进程,那么它们之间是采用FCFS调度的。 具有相同优先级的进程按照FCFS算法调度。优先权可以通过内部或者外部方式来定义。优先权调度可以是可抢占的或者非抢占的。 优先权调度算法的一个主要问题是无穷阻塞问题(饥饿)。 同时队列与队列之间有调度,通常采用固定优先级可抢占式调度。 也可以在不同的队列之间划分时间片,每个队列拥有一定的CPU时间。 多级反馈队列调度 对于多级队列调度算法,进程会被永久的分配至某个队列。

    1.2K20发布于 2019-07-10
  • 来自专栏shysh95

    磁盘调度

    Hi~朋友,关注置顶防止错过消息 为什么需要磁盘调度算法? 磁盘调度算法是为了提高磁盘的访问性能,一般是通过优化磁盘的访问请求顺序来做的。

    1.4K10发布于 2021-10-26
  • 来自专栏linux技术

    kubernetes | 调度

    nginx –image=nginx kubectl将创建pod的请求发送到apiserver apiserver将请求信息写入etcd apiserver通知scheduler,收到请求信息后根据调度算法将 pod分配到合适节点 scheduler给pod标记调度结果,并返回给apiserver apiserver收到后写入etcd 对应节点的kubelet收到创建pod的事件,从apiserver获取到pod Label的Node上,如果没有匹配的标签会调度失败。 相比nodeSelector: 匹配有更多的逻辑组合,不只是字符串的完全相等 调度分为软策略和硬策略,而不是硬性要求 硬(required):必须满足 软(preferred):尝试满足 - PreferNoSchedule:尽量不要调度。 - NoExecute:不仅不会调度,还会驱逐Node上已有的Pod。

    43910编辑于 2022-10-25
领券