首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏腾讯云原生团队

    GPU虚拟,算力隔离,和qGPU

    但这里并不是要重新介绍完整的 GPU 虚拟的方案谱系。而是,我们将聚焦在英伟达 GPU + CUDA 计算领域,介绍下我们最新的技术突破 qGPU,以及它的意义究竟是什么。 关于 GPU 虚拟的历史性介绍,我将直接摘抄当时的讨论。 这也不是一篇介绍 TKE qGPU 产品特性的文章。而是,我们将潜入到前所未有的深度,去探索 GPU 调度和 QoS 的本质。 2.2 系统虚拟和 OS 虚拟 系统虚拟演化之路,起初是和 GPU 的演化完全正交的: 1998 年,VMWare 公司成立,采用 Binary Translation 方式,实现了系统虚拟。 CPU 虚拟由 VT-x/SVM 解决,内存虚拟由 EPT/NPT 解决,这些都是非常确定的。但设备虚拟呢? 3.5.1 qGPU 基本架构 qGPU 基本架构: ? 3.5.2 qGPU QoS 效果 ? 注释 【1】 测试数据来自 T4(chip: TU104)。

    15.4K158发布于 2021-06-02
  • 来自专栏腾讯云原生团队

    今晚19:30|TKE 下的 qGPU 容器虚拟技术实践

    【云原生正发声】第十五期,我们邀请到了该篇文的作者——腾讯云容器技术专家徐蓓,来和大家分享 TKE 下的 qGPU 容器虚拟技术实践。 本次直播主要介绍 TKE 如何凭借 qGPU 容器虚拟技术为客户带来更高的业务部署密度及极致的 GPU 利用率。3月15日下周二晚19:30,【云原生正发声】等你一起探索、学习。 点击底部【阅读原文】或关注【腾讯云原生视频号】即可预约 直播主题:TKE 下的 qGPU 容器虚拟技术实践 直播时间:3月15日 19:30—20:30 · 讲师介绍 · 徐蓓 腾讯云容器技术专家 本次直播主要介绍 TKE 如何凭借 qGPU 容器虚拟技术为客户带来更高的业务部署密度及极致的 GPU 利用率。 的 TKE GPU 容器虚拟产品技术原理及架构; 了解客户 TKE 是如何利用 qGPU 容器虚拟技术帮助客户降本; 关注【腾讯云原生】公众号,后台回复【直播】二字,即可获取上期直播的演讲PPT,

    94340编辑于 2022-03-16
  • 来自专栏腾讯云原生团队

    直播报名中|TKE 下的 qGPU 容器虚拟技术实践

    【云原生正发声】第十五期,我们邀请到了该篇文的作者——腾讯云容器技术专家徐蓓,来和大家分享 TKE 下的 qGPU 容器虚拟技术实践。 本次直播主要介绍 TKE 如何凭借 qGPU 容器虚拟技术为客户带来更高的业务部署密度及极致的 GPU 利用率。3月15日下周二晚19:30,【云原生正发声】等你一起探索、学习。 直播主题:TKE 下的 qGPU 容器虚拟技术实践 直播时间:3月15日 19:30—20:30 · 讲师介绍 · 徐蓓腾讯云容器技术专家腾讯云 GPU 容器虚拟产研负责人,多年云计算一线架构设计与研发经验 本次直播主要介绍 TKE 如何凭借 qGPU 容器虚拟技术为客户带来更高的业务部署密度及极致的 GPU 利用率。 的 TKE GPU 容器虚拟产品技术原理及架构; 了解客户 TKE 是如何利用 qGPU 容器虚拟技术帮助客户降本; 关注【腾讯云原生】公众号,后台回复【直播】二字,即可获取上期直播的演讲PPT,

    73740编辑于 2022-03-10
  • 来自专栏cloudskyme

    虚拟平台cloudstack(5)——参考资料

    虚拟的几种方式 完全虚拟: 半虚拟: 硬件辅助虚拟: 详细的内容可以看: http://pan.baidu.com/share/link? shareid=4134188256&uk=271407 xen虚拟及工作原理: http://www.cnblogs.com/BloodAndBone/archive/2010/11/02/1866907 .html 运维人员更想看: http://linux.vbird.org/linux_enterprise/xen.php 虚拟第三方管理工具比较: http://pan.baidu.com/share shareid=122004226&uk=271407 xen虚拟化入门: http://pan.baidu.com/share/link?

    1.1K80发布于 2018-03-20
  • 来自专栏cloudskyme

    虚拟技术(2)——存储虚拟

    根据在I/O路径中实现虚拟的位置不同,虚拟存储可以分为主机的虚拟存储、网络的虚拟存储、存储设备的虚拟存储。根据控制路径和数据路径的不同,虚拟存储分为对称虚拟与不对称虚拟。 通过存储虚拟,应用程序就不会再与某个物理性的存储程序相联系了。 存储虚拟可能帮助帮助存储容量扩增自动。不需要手动的配置,存储虚拟能够运用策略,分配更多的存储容量给所需的应用。 三层模型 根据云存储系统的构成和特点,可将虚拟存储的模型分为三层:物理设备虚拟层、存储节点虚拟层、存储区域网络虚拟层。 这个虚拟层由虚拟存储管理模块在虚拟存储管理服务器上实现,以带外虚拟方式管理虚拟存储系统的资源分配,为虚拟磁盘管理提供地址映射、查询等服务。 利用虚拟技术,可以在统一的虚拟基础架构中,实现跨数据中心的虚拟管理。 政府信息系统:政府数据存储系统的建设正受到前所未有的重视。

    7.9K60发布于 2018-03-20
  • 来自专栏SDNLAB

    为什么5G能够驱动虚拟发展?

    5G是分析师和营销人员的梦想:这个新兴技术非常适合网络虚拟(NV),软件定义网络(SDN),网络功能虚拟(NFV)以及物联网(IoT)等技术领域。 虽然目前为止5G的相关标准或者定义很少,但是相关的标准正在催生,5G将通过集成NV和SDN驱动虚拟的发展。 5G如何驱动虚拟发展 最近,SDxCentral网站报道了5G标准的发展前景,这则报道认为前景尚不明确。 这将促进整个网络的端到端虚拟,包括用5G技术实现软件定义广域网,满足企业虚拟连接的需求。 网络虚拟技术能够建立虚拟,端到端连接,包括通过定义网络核心的服务层扩展成为了5G技术的救星。至少到目前为止,最大的移动运营商一直在补充5G的概念,首个初始的应用可能是固定的移动接入。

    70760发布于 2018-04-02
  • 来自专栏Flowlet

    Intel 虚拟技术(Intel® VT):CPU 虚拟与内存虚拟

    抽象虚拟机硬件:即虚拟层呈现的虚拟的硬件设备。虚拟机能够发现哪种硬件设施,完全由 VMM 决定。 2.4 X86 平台的虚拟 ---- 正是因为 x86 平台指令集有上述缺陷,所以为了计算虚拟技术在 x86 平台应用,各大虚拟厂商推出了五花八门的虚拟技术,其目的都是围绕“如何捕获模拟这 19 3、内存虚拟 大型操作系统(比如 Linux)的都是通过虚拟内存进行内存管理,内存虚拟需要对虚拟内存再进行虚拟。 内存虚拟技术主要包含两个方面:内存地址转换和内存虚拟管理。 正如上图所示,CPU 需要 5 次查询 EPT 页表,每次查询都需要 4 次内存访问。这样,在最坏的情况下总共需要 20 次内存访问。EPT 硬件通过增大 EPT TLB 尽量减少内存访问。 3.2 内存虚拟管理技术 ---- 在虚拟环境中,内存是保证虚拟机工作性能的关键因素。

    7.2K40编辑于 2023-08-11
  • 来自专栏散尽浮华

    kvm虚拟管理平台WebVirtMgr部署-完整记录(安装ubuntu虚拟机)-(5)

    之前介绍了在webvirtmgr平台下创建centos,windows server 2008的虚拟机,今天说下创建ubuntu虚拟机的过程。 然后点击“添加镜像”创建虚拟机安装过程中需要的硬盘镜像。 在虚拟机安装过程中的密码只是登陆ubuntu服务器的密码,但不是root账号的密码! ? 5)最后关闭防火墙。 6)最后测试,发现从宿主机上可以ssh成功登陆虚拟机了 ?

    2.4K70发布于 2018-01-23
  • 来自专栏0x7c00的专栏

    虚拟

    虚拟 發佈於 2021-08-16 今天给公司搭建虚拟平台,对其中用到的一些知识进行整理。 虚拟平台 ---- 我们常说的虚拟可以分为两种类型: TYPE I 和 TYPE II。 我们常见的 VMWare Workstation、VirtualBox、Parallels Desktop、Hyper-V 等均属于二型虚拟软件,他们需要运行于宿主操作系统。 而企业级虚拟平台例如 VMWare vSphere、KVM、Hyper-V server 等则属于一型虚拟,他们直接运行于裸金属服务器。 公司虚拟平台 ---- 公司新买的 DELL 服务器今天到了,要搭建虚拟平台,由于自己对 ESXi 比较熟悉,因此决定采用该软件进行平台搭建。 安装 新买的服务器有三块 3T 磁盘,我们先对服务器磁盘进行 RAID5,DELL 服务器 RAID 操作非常简单,使用 F2 进入系统设置,选择 Device Setting,选中 RAID 卡,然后进行

    2.6K50发布于 2021-10-29
  • 来自专栏sktj

    虚拟

    yum install -y docker* docker pull nignx docker pull centos docker version docker search centos docker images docker pull centos docker ps -a docker -i -t -d centos /bin/bash

    2K20发布于 2019-09-20
  • 来自专栏科控自动化

    虚拟

    ,只需在虚拟层上运行操作系统和应用软件,和物理平台无关 在家用计算机的上安装常规软件属于非虚拟,而在办公计算机上安装虚拟软件就属于虚拟应用了,典型的非虚拟虚拟的物理架构如图1-1 所示  硬件辅助虚拟 在硬件辅助虚拟中,使用Hypervisor(虚拟管理系统)作为服务器宿主系统,虚拟机通过标准驱动访问硬件,这需要IT 技术(Intel VT/AMD-V)的支持,如图1-5 所示 图1-5 也就是说,在图1-5 中的Hypervisor(虚拟管理系统)代替了图1-4 中的宿主操作系统和虚拟机软件(即Windows 10 和VMware Workstation)。 图2-4 在图2-3 中终端总线上的每一个WinCC 计算机,都可以使用一个虚拟机与之对应,几乎所有WinCC 的选件都可以使用虚拟机实现,如图2-5 所示。 图4-4 在进行项目决策时,除了显而易见的收益,还应该考虑虚拟环境的专业知识背景,如图4-5 所示。 图4-5 西门子提供基于WinCC 的虚拟化解决方案SIVaas,如图4-6 所示。

    3.5K31编辑于 2022-03-29
  • 来自专栏计算机技术-参与活动

    虚拟技术实现;容器和虚拟

    目录虚拟技术实现1. GPU虚拟技术2. CPU虚拟技术3. 容器虚拟技术4. 存储和网络虚拟技术5. 算力并网技术容器和虚拟1. 隔离性2. 资源利用率3. 启动时间4. 部署方式实例说明一种软件实现各类厂商多种型号算力资源池虚拟虚拟技术实现算力共享平台在实现过程中,通常会采用多种虚拟技术来优化算力资源的分配和利用。 CPU虚拟技术CPU虚拟是算力共享平台中的基础技术之一。通过CPU虚拟,平台可以在物理服务器上运行多个虚拟机(VM),每个虚拟机都拥有独立的CPU资源。 容器虚拟技术容器虚拟是一种轻量级的虚拟方式,它共享操作系统内核,但与其他容器隔离运行。在算力共享平台中,容器技术(如Docker)被广泛应用于快速部署和隔离不同的应用或服务。 算力共享平台通过网络虚拟技术实现不同用户或应用之间的网络隔离,确保数据传输的安全性和可靠性。5.

    1.1K21编辑于 2024-09-18
  • 来自专栏SDNLAB

    看未来5年SDNNFV和网络虚拟的变化

    年,无论是在数据中心领域还是企业IT领域,均已认识到SDN(软件定义网络)和网络虚拟带来的好处,而对于电信运营商和云服务提供商而言,他们已经开始切身感受到这两种技术带来的好处。 在移动互联网全面兴起的今天,SDN和网络虚拟可以帮助运营商/服务提供商更好地应对流量高峰问题;同时不必再被传统厂商的专有硬件“绑架”,从而有效减少资本支出和运营支出负担。 而除了SDN和网络虚拟之外,NFV(网络功能虚拟)在运营商市场的发展更加迅速,特别是随着众多厂商推出了商用级NFV解决方案,NFV已经开始逐步“落地”。 面对欣欣向荣的SDN、NFV和网络虚拟,SNS的调研报告预计,它们在2015年的市场规模很可能达到100亿美元;而尽管有着标准、以及与传统网络共存等问题,但SNS依然看好SDN、NFV和网络虚拟, 并预计未来5年的复合增长率可达37%。

    71840发布于 2018-04-04
  • 来自专栏程序人生 阅读快乐

    构建高可用VMware vSphere 5.X虚拟架构

    《构建高可用VMware vSphere 5.X虚拟架构》以VMware vSphere 5.1版本为例,介绍在企业应用平台上,如何构建高可用ESXi主机、高可用vCenter Server服务器、 《构建高可用VMware vSphere 5.X虚拟架构》以实战为主,内容都来自于作者近几年参与的企业虚拟建设项目,收录实际项目中比较常见的问题以及解决问题的方法,可以迅速提高读者动手能力以及故障处理能力 《构建高可用VMware vSphere 5.X虚拟架构》适用于对VMware vSphere虚拟架构有一定了解的人员或虚拟架构管理人员,没有基础的读者可参考《VMware vSphere 5.0 虚拟架构实战指南》一书。

    60210发布于 2018-10-10
  • 来自专栏运维技术迷

    RHEL下KVM虚拟部署-安装虚拟

    充当路由器,开启转发(需要额外设置外网与Guest之间互访的路由) 二、安装KVM 1.安装KVM虚拟相关包组 [root@svr5 桌面]# yum groupinstall virtualization virtualization Tools” “virtualization Client” “virtualization Platform” 注意:如果操作系统语言是中文的话,需要使用中文.例如↓: [root@svr5 桌面]# yum groupinstall 虚拟 虚拟平台 虚拟化工具 虚拟客户端 2.启动服务/设置服务为开机启动 [root@svr5 桌面]# /etc/init.d/libvirtd restart [root@svr5 桌面]# chkconfig libvirtd on 三、安装一台虚拟机 1.打开KVM客户端 [root@svr5 桌面]# virt-manager ? 2.新建并安装一台虚拟机 ? ? ? ? ? ? ? 至此,一台新的KVM虚拟机就创建完成了。

    2K30发布于 2018-03-26
  • 来自专栏python基础文章

    云计算——内存虚拟与IO虚拟

    座右铭:低头赶路,敬事如仪 个人主页:网络豆的主页​​​​​  前言 本章将会讲解云计算,内存虚拟的知识 一.内存虚拟 内存虚拟抽象了物理内存,虚拟机每个进程都被赋予一块连续的,超大的虚拟内存空间 1.内存虚拟类型 全虚拟虚拟 硬件辅助内存虚拟 ---- 全虚拟 为每个VM维护一个影子页表记录虚拟内有与物理内存的映射关系。 内存复用技术有: 内存气泡:虚拟层将较空闲VM内存,分配给内存使用较高的虚拟机。内存的回收和分配由虚拟层实现,虚拟机上的应用无感知,提高物理内存利用率。 开启了内存虚拟(这里以物理内存150%)物理内存由6G变为逻辑上的9G(虚拟上的9G)则每台虚拟机内存为3G. ---- 二.I/O虚拟 1.I/O虚拟类型 ---- 全虚拟 通过软件模拟的形式模拟 硬件辅助虚拟 通过硬件的辅助可以让虚拟机直接访问物理设备,而不需要通过VMM。

    1.4K30编辑于 2023-10-17
  • 来自专栏云服务业务

    腾讯云代理商:手把手教你用腾讯云 qGPU 部署 Stable Diffusion

    腾讯云qGPU+TKE 容器组合,能把单张 A10/T4 GPU 切分成多个独立虚拟 GPU,显存成本直降 75%、单卡并发提升 3 倍,还能做到容器强隔离、性能零损耗。 插件(TKE 控制台 - 组件管理 - 安装 qGPU 设备插件),启用 GPU 虚拟能力2. 1/4、并发 4 倍· 单 T4(16GB):切 3 个实例 → 每个qgpu-core:33、qgpu-memory:5120(5GB),成本 1/3、并发 3 倍2. 保存 YAML 为sd-qgpu.yaml,执行部署:kubectl apply -f sd-qgpu.yaml2. 按本文步骤,5 分钟即可完成 qGPU+SD 全流程部署,开启低成本高并发 AI 绘画之旅。

    13120编辑于 2026-04-20
  • 来自专栏CSDN专栏

    (云计算HCIP)HCIP全笔记(十三)本篇介绍虚拟技术,内容包含:虚拟资源、虚拟过程、IO虚拟虚拟架构KVM和Xen介绍、主流虚拟技术介绍

    虚拟资源 1.1 虚拟对象 CPU虚拟: 目标是使虚拟机上的指令能被正常执行,且效率接近物理机 内存虚拟: 目标是能做好虚拟机内存空间之 间的隔离,使每个虚拟机都认为自己拥有了整个内存地址 1.2 虚拟过程 全虚拟: 使用VMM实现CPU、内存、设备I/O的虚拟,而Guest OS和计算机系统硬件都不需要进行修改。 优点 缺点 不需要修改guest os 虚拟层的开销大 半虚拟: 使用VMM实现CPU和内存虚拟,设备I/O虚拟由Guest OS实现。 优点 缺点 虚拟层开销小,性能好 需要修改guest os 硬件辅助虚拟: 借助硬件(主要是处理器)的支持来实现高效的全虚拟。 优点 缺点 让物理硬件直接支持虚拟功能能够识别敏感指令 需要CPU支持虚拟 1.3 IO 虚拟虚拟 VM–>Hypervisor–>QEMU(Domain0)–>IO设备 半虚拟

    41221编辑于 2025-10-13
  • 来自专栏Linux云计算网络

    CPU 虚拟

    前面 虚拟技术总览 中从虚拟平台 VMM 的角度,将虚拟化分为 Hypervisor 模型和宿主模型,如果根据虚拟的对象(资源类型)来划分,虚拟又可以分为计算虚拟、存储虚拟和网络虚拟,再细一些 ,又有中断虚拟,内存虚拟,字符/块设备虚拟,网络功能虚拟等。 ,这两个词基本上是虚拟的终极定义了,带着这两个词去看每一种虚拟类型,会发现很容易理解和记忆。 CPU 软件虚拟 基于软件的 CPU 虚拟,故名思议,就是通过软件的形式来模拟每一条指令。通过前面的文章我们知道常用的软件虚拟技术有两种:优先级压缩和二进制代码翻译。 CPU 硬件虚拟 上面的这种截获再模拟的纯软件的虚拟方式,势必是性能非常低的。

    2.6K60发布于 2018-01-11
  • 来自专栏腾讯云原生团队

    qGPU 容器产品全量上线,重磅发布 GPU 在离线混部功能

    qGPU 已服务内外部大量客户,帮助众多 AI 企业节省大量 GPU 成本。qGPU 容器虚拟产品现已在腾讯云 TKE 全量上线。 (qGPU 容器虚拟产品:https://cloud.tencent.com/document/product/560/66232) 腾讯云在业界(除 NVIDIA 原厂外)首次实现了对细粒度算力强隔离的支持 通过这种创新技术,qGPU 解决了故障、显存和算力全维度的隔离问题。 qGPU 容器虚拟: (扫码了解 qGPU 容器虚拟) 重磅介绍 【燎原社】推出了专业而又系统的线下云原生技术实战营,需要系统深入学习的同学,可扫码报名云原生技术实战营课程,腾讯云技术专家现场教学 ,3天搞定云原生容器改造过程中的实际问题,扫码一键直达:   往期精选推荐   Kubernetes 网络疑难杂症排查分享 腾讯云私有容器平台之网络 【Pod Terminating原因追踪系列之二

    1.5K30编辑于 2022-03-10
领券