首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏腾讯云原生团队

    GPU虚拟,算力隔离,和qGPU

    但这里并不是要重新介绍完整的 GPU 虚拟的方案谱系。而是,我们将聚焦在英伟达 GPU + CUDA 计算领域,介绍下我们最新的技术突破 qGPU,以及它的意义究竟是什么。 关于 GPU 虚拟的历史性介绍,我将直接摘抄当时的讨论。 这也不是一篇介绍 TKE qGPU 产品特性的文章。而是,我们将潜入到前所未有的深度,去探索 GPU 调度和 QoS 的本质。 2.2 系统虚拟和 OS 虚拟 系统虚拟演化之路,起初是和 GPU 的演化完全正交的: 1998 年,VMWare 公司成立,采用 Binary Translation 方式,实现了系统虚拟。 CPU 虚拟由 VT-x/SVM 解决,内存虚拟由 EPT/NPT 解决,这些都是非常确定的。但设备虚拟呢? 3.5.1 qGPU 基本架构 qGPU 基本架构: ? 3.5.2 qGPU QoS 效果 ? 注释 【1】 测试数据来自 T4(chip: TU104)。

    15.4K158发布于 2021-06-02
  • 来自专栏腾讯云原生团队

    今晚19:30|TKE 下的 qGPU 容器虚拟技术实践

    【云原生正发声】第十五期,我们邀请到了该篇文的作者——腾讯云容器技术专家徐蓓,来和大家分享 TKE 下的 qGPU 容器虚拟技术实践。 本次直播主要介绍 TKE 如何凭借 qGPU 容器虚拟技术为客户带来更高的业务部署密度及极致的 GPU 利用率。3月15日下周二晚19:30,【云原生正发声】等你一起探索、学习。 点击底部【阅读原文】或关注【腾讯云原生视频号】即可预约 直播主题:TKE 下的 qGPU 容器虚拟技术实践 直播时间:3月15日 19:30—20:30 · 讲师介绍 · 徐蓓 腾讯云容器技术专家 本次直播主要介绍 TKE 如何凭借 qGPU 容器虚拟技术为客户带来更高的业务部署密度及极致的 GPU 利用率。 的 TKE GPU 容器虚拟产品技术原理及架构; 了解客户 TKE 是如何利用 qGPU 容器虚拟技术帮助客户降本; 关注【腾讯云原生】公众号,后台回复【直播】二字,即可获取上期直播的演讲PPT,

    94340编辑于 2022-03-16
  • 来自专栏腾讯云原生团队

    直播报名中|TKE 下的 qGPU 容器虚拟技术实践

    【云原生正发声】第十五期,我们邀请到了该篇文的作者——腾讯云容器技术专家徐蓓,来和大家分享 TKE 下的 qGPU 容器虚拟技术实践。 本次直播主要介绍 TKE 如何凭借 qGPU 容器虚拟技术为客户带来更高的业务部署密度及极致的 GPU 利用率。3月15日下周二晚19:30,【云原生正发声】等你一起探索、学习。 直播主题:TKE 下的 qGPU 容器虚拟技术实践 直播时间:3月15日 19:30—20:30 · 讲师介绍 · 徐蓓腾讯云容器技术专家腾讯云 GPU 容器虚拟产研负责人,多年云计算一线架构设计与研发经验 本次直播主要介绍 TKE 如何凭借 qGPU 容器虚拟技术为客户带来更高的业务部署密度及极致的 GPU 利用率。 的 TKE GPU 容器虚拟产品技术原理及架构; 了解客户 TKE 是如何利用 qGPU 容器虚拟技术帮助客户降本; 关注【腾讯云原生】公众号,后台回复【直播】二字,即可获取上期直播的演讲PPT,

    73740编辑于 2022-03-10
  • 来自专栏泛互云原生

    qGPU云原生最佳实践

    概述业界AI应用中,GPU的使用逐渐增加,业界普遍存在以下两大问题:GPU算力显存利用低:直通 GPU 无法多业务共享资源;vGPU 实例资源配置固定不灵活、虚拟机实例调度成本高,非进程级调度。 图片文章分为两部分,第一部分为qGPU云原生化安装,提供全量qGPU和混用nvidia+qGPU两种不同的安装方式,以供实际场景选用。 第二部分为qGPU能力验证,分别从调度、隔离和在离线混布三个方面,提供操作用例。----qGPU云原生环境安装1. 模式A:全量部署qGPU节点创建TKE集群,开启【qGPU共享】选项TKE集群创建,参考:https://cloud.tencent.com/document/product/457/32189部署qGPU 实践目标操作过程对qGPU的以下四个能力,进行方案实践虚拟:单节点同时运行多个任务隔离性:显存和算力是否符合设置预期抢占性:是否能抢占,抢占的同时能否对配置资源进行保底在离线混布:高、低优先级任务切换

    1.9K40编辑于 2022-11-04
  • 来自专栏cloudskyme

    虚拟技术(2)——存储虚拟

    根据在I/O路径中实现虚拟的位置不同,虚拟存储可以分为主机的虚拟存储、网络的虚拟存储、存储设备的虚拟存储。根据控制路径和数据路径的不同,虚拟存储分为对称虚拟与不对称虚拟。 通过存储虚拟,应用程序就不会再与某个物理性的存储程序相联系了。 存储虚拟可能帮助帮助存储容量扩增自动。不需要手动的配置,存储虚拟能够运用策略,分配更多的存储容量给所需的应用。 三层模型 根据云存储系统的构成和特点,可将虚拟存储的模型分为三层:物理设备虚拟层、存储节点虚拟层、存储区域网络虚拟层。 这个虚拟层由虚拟存储管理模块在虚拟存储管理服务器上实现,以带外虚拟方式管理虚拟存储系统的资源分配,为虚拟磁盘管理提供地址映射、查询等服务。 利用虚拟技术,可以在统一的虚拟基础架构中,实现跨数据中心的虚拟管理。 政府信息系统:政府数据存储系统的建设正受到前所未有的重视。

    7.9K60发布于 2018-03-20
  • 来自专栏Flowlet

    Intel 虚拟技术(Intel® VT):CPU 虚拟与内存虚拟

    1、Intel® VT 虚拟技术概述 狭义的 Intel® VT 主要提供分别针对处理器、芯片组、网络的虚拟技术。 抽象虚拟机硬件:即虚拟层呈现的虚拟的硬件设备。虚拟机能够发现哪种硬件设施,完全由 VMM 决定。 2.4 X86 平台的虚拟 ---- 正是因为 x86 平台指令集有上述缺陷,所以为了计算虚拟技术在 x86 平台应用,各大虚拟厂商推出了五花八门的虚拟技术,其目的都是围绕“如何捕获模拟这 19 3、内存虚拟 大型操作系统(比如 Linux)的都是通过虚拟内存进行内存管理,内存虚拟需要对虚拟内存再进行虚拟。 内存虚拟技术主要包含两个方面:内存地址转换和内存虚拟管理。 3.2 内存虚拟管理技术 ---- 在虚拟环境中,内存是保证虚拟机工作性能的关键因素。

    7.2K40编辑于 2023-08-11
  • 来自专栏科控自动化

    虚拟

    目前为止还没有连载完. 2021年10月10日 1 虚拟技术简介 1.1 虚拟概念 顾名思义,虚拟是指计算元件在虚拟的基础而不是在真实的基础上运行。 ,只需在虚拟层上运行操作系统和应用软件,和物理平台无关 在家用计算机的上安装常规软件属于非虚拟,而在办公计算机上安装虚拟软件就属于虚拟应用了,典型的非虚拟虚拟的物理架构如图1-1 所示 )  可以移植 通过相应工具可以实现原物理机到虚拟机的转换  部署灵活 虚拟机以文件的形式,可以在不同的服务器之间灵活部署服务器虚拟主要有以下两种架构:  完全虚拟 在完全虚拟架构中,操作系统处于隔离的环境中  硬件辅助虚拟 在硬件辅助虚拟中,使用Hypervisor(虚拟管理系统)作为服务器宿主系统,虚拟机通过标准驱动访问硬件,这需要IT 技术(Intel VT/AMD-V)的支持,如图1-5 所示 图2-1 对于完全虚拟来说,也就是在常规的虚拟应用来说,一般通过本机的显卡和显示器以及外设来直接操作虚拟机;而对于硬件辅助虚拟而言,由于在服务器上同时开启了多个虚拟机,每个虚拟机可以应用于不同的场合

    3.5K31编辑于 2022-03-29
  • 来自专栏0x7c00的专栏

    虚拟

    虚拟 發佈於 2021-08-16 今天给公司搭建虚拟平台,对其中用到的一些知识进行整理。 虚拟平台 ---- 我们常说的虚拟可以分为两种类型: TYPE I 和 TYPE II。 我们常见的 VMWare Workstation、VirtualBox、Parallels Desktop、Hyper-V 等均属于二型虚拟软件,他们需要运行于宿主操作系统。 而企业级虚拟平台例如 VMWare vSphere、KVM、Hyper-V server 等则属于一型虚拟,他们直接运行于裸金属服务器。 公司虚拟平台 ---- 公司新买的 DELL 服务器今天到了,要搭建虚拟平台,由于自己对 ESXi 比较熟悉,因此决定采用该软件进行平台搭建。 创建虚拟机 创建虚拟机前,我们要先在存储中上载对应操作系统的镜像文件,创建虚拟机过程非常简单,在此不再赘述。

    2.6K50发布于 2021-10-29
  • 来自专栏sktj

    虚拟

    yum install -y docker* docker pull nignx docker pull centos docker version docker search centos docker images docker pull centos docker ps -a docker -i -t -d centos /bin/bash

    2K20发布于 2019-09-20
  • 来自专栏计算机技术-参与活动

    虚拟技术实现;容器和虚拟

    目录虚拟技术实现1. GPU虚拟技术2. CPU虚拟技术3. 容器虚拟技术4. 存储和网络虚拟技术5. 算力并网技术容器和虚拟1. 隔离性2. 资源利用率3. 启动时间4. 部署方式实例说明一种软件实现各类厂商多种型号算力资源池虚拟虚拟技术实现算力共享平台在实现过程中,通常会采用多种虚拟技术来优化算力资源的分配和利用。 CPU虚拟技术CPU虚拟是算力共享平台中的基础技术之一。通过CPU虚拟,平台可以在物理服务器上运行多个虚拟机(VM),每个虚拟机都拥有独立的CPU资源。 容器虚拟技术容器虚拟是一种轻量级的虚拟方式,它共享操作系统内核,但与其他容器隔离运行。在算力共享平台中,容器技术(如Docker)被广泛应用于快速部署和隔离不同的应用或服务。 算力共享平台通常利用存储虚拟技术来管理海量数据,为不同用户提供高效的存储服务。网络虚拟:将网络资源进行隔离和虚拟,提高网络资源的利用率和安全性。

    1.1K21编辑于 2024-09-18
  • 来自专栏运维技术迷

    RHEL下KVM虚拟部署-安装虚拟

    ) 3.虚拟网络类型 3.1桥接 Guest和Host连接到同一个交换机上(同一个网络内),通过桥接物理网卡,相当于直接连接到Host所在的网络 3.2 隔离模式 Guest可以访问统一虚拟交换机上的其他 充当路由器,开启转发(需要额外设置外网与Guest之间互访的路由) 二、安装KVM 1.安装KVM虚拟相关包组 [root@svr5 桌面]# yum groupinstall virtualization virtualization Client” “virtualization Platform” 注意:如果操作系统语言是中文的话,需要使用中文.例如↓: [root@svr5 桌面]# yum groupinstall 虚拟 虚拟平台 虚拟化工具 虚拟客户端 2.启动服务/设置服务为开机启动 [root@svr5 桌面]# /etc/init.d/libvirtd restart [root@svr5 桌面]# chkconfig 2.新建并安装一台虚拟机 ? ? ? ? ? ? ? 至此,一台新的KVM虚拟机就创建完成了。

    2K30发布于 2018-03-26
  • 来自专栏python基础文章

    云计算——内存虚拟与IO虚拟

    座右铭:低头赶路,敬事如仪 个人主页:网络豆的主页​​​​​  前言 本章将会讲解云计算,内存虚拟的知识 一.内存虚拟 内存虚拟抽象了物理内存,虚拟机每个进程都被赋予一块连续的,超大的虚拟内存空间 1.内存虚拟类型 全虚拟虚拟 硬件辅助内存虚拟 ---- 全虚拟 为每个VM维护一个影子页表记录虚拟内有与物理内存的映射关系。 内存复用技术有: 内存气泡:虚拟层将较空闲VM内存,分配给内存使用较高的虚拟机。内存的回收和分配由虚拟层实现,虚拟机上的应用无感知,提高物理内存利用率。 开启了内存虚拟(这里以物理内存150%)物理内存由6G变为逻辑上的9G(虚拟上的9G)则每台虚拟机内存为3G. ---- 二.I/O虚拟 1.I/O虚拟类型 ---- 全虚拟 通过软件模拟的形式模拟 硬件辅助虚拟 通过硬件的辅助可以让虚拟机直接访问物理设备,而不需要通过VMM。

    1.4K30编辑于 2023-10-17
  • 来自专栏CSDN专栏

    (云计算HCIP)HCIP全笔记(十三)本篇介绍虚拟技术,内容包含:虚拟资源、虚拟过程、IO虚拟虚拟架构KVM和Xen介绍、主流虚拟技术介绍

    虚拟资源 1.1 虚拟对象 CPU虚拟: 目标是使虚拟机上的指令能被正常执行,且效率接近物理机 内存虚拟: 目标是能做好虚拟机内存空间之 间的隔离,使每个虚拟机都认为自己拥有了整个内存地址 1.2 虚拟过程 全虚拟: 使用VMM实现CPU、内存、设备I/O的虚拟,而Guest OS和计算机系统硬件都不需要进行修改。 优点 缺点 不需要修改guest os 虚拟层的开销大 半虚拟: 使用VMM实现CPU和内存虚拟,设备I/O虚拟由Guest OS实现。 优点 缺点 虚拟层开销小,性能好 需要修改guest os 硬件辅助虚拟: 借助硬件(主要是处理器)的支持来实现高效的全虚拟。 优点 缺点 让物理硬件直接支持虚拟功能能够识别敏感指令 需要CPU支持虚拟 1.3 IO 虚拟虚拟 VM–>Hypervisor–>QEMU(Domain0)–>IO设备 半虚拟

    41221编辑于 2025-10-13
  • 来自专栏Linux云计算网络

    CPU 虚拟

    前面 虚拟技术总览 中从虚拟平台 VMM 的角度,将虚拟化分为 Hypervisor 模型和宿主模型,如果根据虚拟的对象(资源类型)来划分,虚拟又可以分为计算虚拟、存储虚拟和网络虚拟,再细一些 ,又有中断虚拟,内存虚拟,字符/块设备虚拟,网络功能虚拟等。 ,这两个词基本上是虚拟的终极定义了,带着这两个词去看每一种虚拟类型,会发现很容易理解和记忆。 CPU 软件虚拟 基于软件的 CPU 虚拟,故名思议,就是通过软件的形式来模拟每一条指令。通过前面的文章我们知道常用的软件虚拟技术有两种:优先级压缩和二进制代码翻译。 CPU 硬件虚拟 上面的这种截获再模拟的纯软件的虚拟方式,势必是性能非常低的。

    2.6K60发布于 2018-01-11
  • 来自专栏CSDN专栏

    虚拟特性

    负载均衡技术可以方便的去增加集群中设备或链路的数量 高可靠性:单个甚至多个设备发生故障,也不会导致业务中断 可管理性:管理员可以方便的进行集中管理 透明性:对用户透明,用户感知不到也不必要只要网络结构 易扩容:在虚拟 当计算节点上虚拟机的数量一定的时候,可以节省计算节点的内存数量 虚拟机特性: 虚拟机的快速部署 可以通过模板和复制的方式实现虚拟机的快速部署 模板部署虚拟机 模板本质也是一台虚拟机,同样包含磁盘文件和配置文件 模板部署出来的虚拟机是相互独立的,适用于大批量部署虚拟机。 可以保证虚拟机系统的一致性,同时还能去除差异性参数(IP、SID、MAC) 虚拟机克隆: 使用虚拟机本身快速部署出一台虚拟机。 虚拟机克隆是在某一个时间点对源虚拟机进行完全的复制,被克隆出来的虚拟机和源虚拟机配置信息一模一样,包括IP、SID、MAC。 虚拟机资源的热添加 在虚拟机处于开机状态下, 可以增加虚拟机的计算、存储、网络等资源 虚拟机的Console控制 可以不依赖虚拟机的网络,只求虚拟平台有网,那么就可以对虚拟机进行控制和管理 虚拟机快照

    19910编辑于 2025-10-13
  • 来自专栏皮振伟的专栏

    CPU虚拟

    前言: 这里作者再次自不量力了,以一点微末的道行分析一下KVM的CPU虚拟部分的代码。 kvm_create_vm函数主要用来创建并初始kvm数据结构,包括lock,memslot,mmu notifier等,并把数据结构加入到vm_list(双链表,用来保存本机上KVM创建的的所有vm 函数中初始vcpu,并分配vmx数据结构,同时申请vmcs(vmcs很复杂,需要参考文档:https://software.intel.com/en-us/articles/intel-sdm,3B部分介绍 /x86.c)->__vcpu_run->vcpu_enter_guest->vmx_vcpu_run(linux-4.0.4/arch/x86/kvm/vmx.c) cpu进入到了vm模式,就在跑虚拟机中的代码 在虚拟机中,这就是一个cpu。

    2.9K70发布于 2018-04-09
  • 来自专栏小网管的运维之路

    proxmox虚拟

    Proxmox VE是一个完整的企业虚拟化开源平台。 创建虚拟机 -> 初始 -> 转换成模板 proxmoxer模块 pip install proxmoxer requests paramiko import pprint from proxmoxer

    2.1K20发布于 2019-05-30
  • 来自专栏Linux云计算网络

    内存虚拟

    这种机制正是虚拟软件做的事,也就是 MMU 内存管理单元。 ? 本文要说的不是这种虚拟内存,而是基于虚拟机的内存虚拟,它们本质上是一样的,通过对虚拟内存的理解,再去理解内存虚拟就比较容易了。 结合前面的文章,我们知道,虚拟化分为软件虚拟和硬件虚拟,而且遵循 intercept 和 virtualize 的规律。 内存虚拟也分为基于软件的内存虚拟和硬件辅助的内存虚拟,其中,常用的基于软件的内存虚拟技术为「影子页表」技术,硬件辅助内存虚拟技术为 Intel 的 EPT(Extend Page Table, 常规软件内存虚拟 虚拟机本质上是 Host 机上的一个进程,按理说应该可以使用 Host 机的虚拟地址空间,但由于在虚拟模式下,虚拟机处于非 Root 模式,无法直接访问 Root 模式下的 Host 总结 内存虚拟经历从虚拟内存,到传统软件辅助虚拟,影子页表,再到硬件辅助虚拟,EPT 技术的进化,效率越来越高。

    2.1K81发布于 2018-01-11
  • 来自专栏后端云

    内存虚拟

    内存虚拟 除了 CPU 虚拟,另一个关键是内存虚拟,通过内存虚拟共享物理系统内存,动态分配给虚拟机。 虚拟机的内存虚拟很象现在的操作系统支持的虚拟内存方式,应用程序看到邻近的内存地址空间,这个地址空间无需和下面的物理机器内存直接对应,操作系统保持着虚拟页到物理页的映射。 ? 可见,KVM 为了在一台机器上运行多个虚拟机,需要增加一个新的内存虚拟层,也就是说,必须虚拟 MMU 来支持客户操作系统,来实现 VA -> PA -> MA 的翻译。 VMM 内存虚拟的实现方式: 软件方式:通过软件实现内存地址的翻译,比如 Shadow page table (影子页表)技术 硬件实现:基于 CPU 的辅助虚拟功能,比如 AMD 的 NPT 和 除了降低各部虚拟机器在切换时所造成的效能损耗外,硬体指令集也比虚拟软体处理来得可靠与稳定。

    2.3K20发布于 2018-10-24
  • 来自专栏仲儿的专栏

    KVM 虚拟

    KVM 简介   基于内核的虚拟机 Kernel-based Virtual Machine(KVM)是一种内建于 Linux® 中的开源虚拟技术。 具体而言,KVM 可帮助您将 Linux 转变为虚拟机监控程序,使主机计算机能够运行多个隔离的虚拟环境,即虚拟客户机或虚拟机(VM)。   KVM 是 Linux 的一部分。 # genisoimage 为镜像生成工具,用于生成 cloud-init 初始内容并挂载 # 安装 cloud-init 后,由于开机过程或自动启动 cloud-init 服务,会增长开机时间 小提示 暂未探索使用 Cloud-init 方式来初始 Windows,后续补充。 (采用 CC BY-NC-SA 4.0 许可协议进行授权) 本文标题:《 KVM 虚拟 》 本文链接:https://lisz.me/tech/kvm/kvm.html

    1.7K30编辑于 2022-10-28
领券