首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏腾讯云文档

    【优秀最佳实践展播】第9期:GPU 服务器

    “产品使用攻略”、“上技术实践” 有奖征集啦~ 图片案例名称案例简介使用 Windows GPU 服务器搭建深度学习环境介绍如何使用 Windows GPU 服务器,通过服务器控制台从零开始手动搭建基于 使用 GPU 服务器训练 ViT 模型介绍如何使用 GPU 服务器进行 ViT 模型离线训练,完成图像分类任务。使用 GPU 服务器实现边协同推理介绍如何使用 GPU 服务器实现边协同处理。 使用 GFPGAN 进行老照片修复介绍如何在 GPU 服务器上通过训练 AI 模型 GFPGAN,实现老照片修复。 视频抽帧的全流程 GPU 异构加速实践介绍使用 GPU 服务器进行图像数据并行处理加速,实现视频 AI 推理场景中的视频抽帧。 图片【合集】腾讯优秀最佳实践展播【有奖征文】腾讯产品“用户实践”长期征集啦~【集锦】腾讯文档有奖活动汇总

    89830编辑于 2022-08-16
  • 来自专栏DevOps

    GPU:腾讯GPU服务器简介

    简介 腾讯GPU服务器有包年包月和按量计费两种计费模式,同时也支持 时长折扣,时长折扣的比率和 CVM 服务器可能不同,GPU 实例包括网络、存储(系统盘、数据盘)、计算(CPU 、内存 、GPU 腾讯GPU服务器实例 GPU 服务器提供如下实例类型:计算型 GT4、GN6、GN6S、GN7、GN8、GN10X、GN10Xp、推理型 GI3X 和渲染型 GN7vw, 用户可通过综合了解实例配置与价格来购买符合实际需要的 腾讯GPU服务器最新活动信息 目前腾讯GPU服务器特惠活动,优惠覆盖按量计费及包年包月, GPU服务器特惠:www.tengxunyun8.com/url/gputh.html 具体优惠内容如下 元/1年; GN7 机型:NVIDIA T4 GPU,8核32G + 1颗T4,1776.25元/1年; 腾讯GPU服务器价格表 一、计算型 GT4 二、计算型 GN10X/GN10Xp 三、计算型 回收说明 GPU 实例回收,与服务器 CVM 回收机制一致。 欠费说明 GPU 实例欠费,与服务器 CVM 欠费处理方式一致。 退费说明 GPU 实例退费,与服务器 CVM 退费规则一致。

    25K10编辑于 2024-03-29
  • 来自专栏Hamlk

    GPU体验

    GPU 服务器(GPU Cloud Computing,GPU)是提供 GPU 算力的弹性计算服务,具有超强的并行计算能力,作为 IaaS 层的尖兵利器,服务于深度学习训练、科学计算、图形图像处理、视频编解码等场景 腾讯随时提供触手可得的算力,有效缓解您的计算压力,提升业务效率与竞争力。 GPU在我日常不怎么使用的上,但有时候又有修复视频的需求,自己的电脑没有强大的GPU在腾讯领到一台GPU服务器那么就要试试视频修复运行的怎么样了 这次服务器是有显卡的,N卡P40,算力还行,毕竟企业级显卡嘛 在此附上Windows版驱动安装教程 GPU基础环境部署操作: https://doc.weixin.qq.com/doc/w3_AIgA4QYkACkWEoXrDAlTPqe0Lr69g GPU GRID 驱动安装: 下载 GRID 11 驱动,驱动下载链接 执行exe文件安装 GRID 11 版本的 GPU 驱动; 桌面右键 -> NVIDIA 控制面板 -> 许可 -> 管理许可证 -> 如下图填写

    5.9K30编辑于 2022-05-04
  • 来自专栏亨利笔记

    没错,AI原生GPU算力圈的super爱豆就是他

    相关信息: 招聘原生开发工程师 2021智能边开源峰会:原生、人工智能和边缘计算 Bitfusion 如何在 vSphere 中使用 PVRDMA 功能? 然而K形算力剪刀差给庞大的AI原生带来沉重的成本负担,一方面是单机GPU算力不足而全局算力过剩,另一方面是GPU算力不足而CPU算力过剩。 需求和痛点    AI与“搭配”已经成为行业共识,AI算力的硬件表现为GPU物理卡资源,原生基础设施的表现为Kubernetes编排系统以及所承载的业务pod,Kubernetes原生编排软件已经成为事实上部署和管理 在原生AI平台深度融合模式呼之欲出之际,AI算力与原生基础设施的生产资料关系仍制肘着AI原生生产力的发展。 原生AI融合平台方案 为解决原生上使用AI算力的挑战,重构AI算力与原生基础设施之间的新型生产关系,加速AI算力在原生基础设施之间的广泛流动,业界开始探索GPU资源池方案,并涌现出许多创新的项目

    2.6K40编辑于 2023-04-04
  • 来自专栏腾讯云原生团队

    9月容器产品技术月报 | 腾讯原生专题上线啦

    2020年9月 VOL:05 容器产品新特性 9月上新 腾讯边缘服务TKE Edge 从中心管理边缘资源的容器系统 边缘容器服务(Tencent Kubernetes Engine for Edge 腾讯容器服务TKE企业版 私有化原生应用赋能企业数字化转型平台 腾讯容器服务 TKE 企业版是为企业数字化转型提供一站式的私有化原生应用赋能平台,提供容器化应用的高效运维、弹性伸缩等能力,降低客户使用成本 腾讯原生专题在+社区上线啦 快来和腾小同赏原生精彩资讯~ 赏资讯 点击【阅读原文】,直达腾讯原生专题   往期精选推荐   腾讯推出原生etcd服务 搬砖武士|手把手教你在容器服务 TKE 上使用 LB直通 Pod 手把手教你在 TKE 集群中实现简单的蓝绿发布和灰度发布 【大数据云原生系列】大数据系统原生渐进式演进最佳实践 Istio 运维实战系列(1):应用容器对 Envoy Sidecar 汇聚腾讯原生技术 说新品、研新术、云游新活、赏资讯 x -END-

    1.1K118发布于 2020-10-09
  • 来自专栏皮振伟的专栏

    LLM分布式推理终极方案——以GPU为中心的原生架构

    伴随原生生态持续完善,无状态架构的支撑体系愈发健全,以K8s( Kubernetes)为代表的无状态服务框架展现出显著优势:通过DNS/IP实现服务发现与负载均衡,支持手动或自动水平扩缩容,具备灵活的存储编排能力 基于这一前提,我们研发了GD2FS(GPU Direct Distributed File System)——该系统深度融合GPU加速与高速网络能力,支持GPU直连远程直接内存访问(GPU Direct 基于GD2FS,我们设计了全新的L2缓存架构,具体如下: L1:GPU自带的HBM,是GPU正式推理的KV Cache; L2:GD2FS分布式存储,替代传统本地DDR,数据直接在GD2FS与HBM之间交换 预读分层缓存:当会话请求到达时,系统可主动提前加载用户相关的KV缓存(如从NVMe加载至内存);预读完成后,再将会话请求路由至GPU节点进行推理处理。 该机制可显著降低GPU因等待I/O操作产生的空闲延迟,提升GPU资源利用率。 副本数量动态可调:可根据会话内容的热门程度,动态调整KV缓存的存储副本数量。

    41710编辑于 2026-05-26
  • 来自专栏云技术+云运维

    原生原生应用概念解析

    什么是原生原生(Cloud Native)是由 Pivotal 的Matt Stine在2013年提出的一个概念,是他多年的架构和咨询总结出来的一个思想的集合。 原生应用 原生应用是天然适合特点的应用,原生应用系统需要与操作系统等基础设施分离,不应该依赖Linux或Windows等底层平台,或依赖某个平台。 CNCF给出了原生应用的三大特征: 容器化封装:以容器为基础,提高整体开发水平,形成代码和组件重用,简化原生应用程序的维护。 原生应用和本地部署应用程序之间的差异 原生应用程序开发采用与传统企业应用程序完全不同的体系结构。 可更新 原生应用程序始终是最新的,原生应用始终可用。 本地部署应用程序需要更新,并且通常由供应商按订阅提供,并且在安装更新时需要停机。 弹性 原生应用程序通过在峰值期间增加的资源来利用的弹性。

    3.8K34发布于 2019-10-29
  • 来自专栏云原生工具箱

    【每日一个原生小技巧 #9】Kubernetes 中的 Network Policies

    此策略拒绝所有没有 Network Policy 的命名空间中的 Pods 的入站连接。

    51730编辑于 2023-10-27
  • 来自专栏Bypass

    原生安全攻防》-- 原生攻防矩阵

    在本节课程中,我们将开始学习如何从攻击者的角度思考,一起探讨常见的容器和K8s攻击手法,包含以下两个主要内容: 原生环境的攻击路径: 了解原生环境的整体攻击流程。 原生攻防矩阵: 原生环境攻击路径的全景视图,清晰每一步采取的攻击技术。 目前,多个厂商和安全厂商都已经梳理了多个针对容器安全的威胁矩阵,我们可以参考这些成熟的模型,结合个人对原生安全的理解,构建自己的攻防矩阵。 针对原生环境的攻击技术,与传统的基于Windows和Linux的通用攻击技术有很大的不同,在这里,我们梳理了一个针对容器和K8s常见攻击技术的原生攻防矩阵。 视频版:《原生安全攻防》--原生攻防矩阵

    77511编辑于 2024-04-16
  • 来自专栏顾宇的研习笔记

    原生 DevOps

    而率先完成 DevOps 转型 的企业在进行 原生 应用改造和技术革新过程中也面临着同样的问题。 这就对 DevOps 在原生环境下的应用提出了新的课题和实践诉求,我们如何在原生的环境下实践 DevOps 以达到更有生产力的表现? 本文将结合最新一期的技术雷达,试图勾画出 DevOps 在原生的环境下的特性、未来的趋势以及相应的实践。 背景:不断蔓延的环境复杂性 本期技术雷达主题之一是:不断蔓延的环境复杂性。 但在原生的场景下,我们无需去构造工具链,因为工具链本身是为最佳实践服务的。我们只需要根据自己的实践选择对应的服务就可以了,不光包含平台自身的,也包括外部的。 在原生的场景下,全球的竞争加速了技术实践的淘汰,有生命力的工具和服务在市场上生存了下来。并和它们所服务的客户一起创造了更加有生命力的技术实践。

    1.7K10发布于 2018-08-17
  • 来自专栏友弟技术工作室

    原生概念

    原生概念12个因素 简介 如今,软件通常会作为一种服务来交付,它们被称为网络应用程序,或软件即服务(SaaS)。 适合部署在现代的计算平台,从而在服务器和系统管理方面节省资源。 将开发环境和生产环境的差异降至最低,并使用持续交付实施敏捷开发。 可以在工具、架构和开发流程不发生明显变化的前提下实现扩展。 原生应用的12要素,原文 The Twelve Factors I. 相反的,应该借助操作系统的进程管理器(例如 Upstart ,分布式的进程管理平台,或是类似 Foreman 的工具),来管理 输出流 ,响应崩溃的进程,以及处理用户触发的重启和关闭超级进程的请求。

    5.1K51发布于 2018-07-04
  • 来自专栏三木的博客

    原生概要

    什么是原生 设计目的 原生软件的设计目的是预测故障,并且即使当它所依赖的基础设施出现故障,或者发生其他变化时,它也依然能够保持稳定运行。 定义 原生软件是高度分布式的,必须在一个不断变化的环境中运行,而且自身也在不断地发生变化 不适合使用原生架构的情形 不需要计算的软件,例如嵌入到家电中的软件。 原生提供的是最终一致性,但如果需要数据强一致性的话,原生架构就不适用了。 用原生架构重写软件时并没有提供新的价值 原生的价值 原生的绝妙之处在于它最终是由许多不同组件组成的,即使其中一些组件的模式不是最新的,原生组件也可以与他们进行交互。 原生平台 原生平台的发展 AWS:软件架构、开发和运维并没有太多的改变。

    65210编辑于 2024-10-09
  • 来自专栏绿盟科技研究通讯

    原生安全》之原生安全

    原生安全发展可谓方兴未艾,原生环境中的各类安全风险日益频发,上的对抗也成为现实,越来越多的企业开始探讨如何设计、规划原生环境中的安全架构,部署相应的安全能力。 原生安全的现在和未来如何,笔者不妨从一个较高的视角进行探讨。 与计算安全相似,原生安全也包含两层含义:“面向原生环境的安全”和“具有原生特征的安全”。 笔者看来,前者是必经之路,可以说是阶段1,而随着面向原生的安全越来越成熟,将会迸发出极大的驱动力来构建具有原生特征的安全能力,进入阶段2,当然这还远不够,原生安全才是原生安全的终篇。 1 面向原生环境的安全 总体而言,原生安全的第一阶段是安全赋能于原生体系,即构建原生的安全能力。 面向原生环境的安全,其目标是防护原生环境中的基础设施、编排系统和微服务等系统的安全。 既然未来云安全等价安全,而计算的下半场是原生,那不妨也做个推论,原生的未来也会等价于原生安全。

    2.2K40发布于 2021-11-10
  • 来自专栏编程进阶实战

    .NET 9 首个预览版发布:瞄准原生和智能应用开发

    前言前不久.NET团队发布了.NET 9 的首个预览版,并且分享.NET团队对 .NET 9 的初步愿景,该愿景将于今年年底在 .NET Conf 2024 上发布。 其中最重要的关注领域是:原生和智能应用开发。原生开发人员平台过去几年,.NET团队一直在构建强大的原生基础,如运行时性能和应用监控。. 所有这些功能都与 .NET Aspire 结合在一起,大大降低了构建应用程序的成本和复杂性,缩短了开发与生产之间的距离。 原生开发人员的工具Visual Studio计划进行改进,以支持和增强我们的平台、Native AOT、.NET Aspire 和 Azure 部署。 -9/

    51510编辑于 2024-02-24
  • 来自专栏SRE运维实践

    原生SRE

    风言风语 1 原生是什么? 最近原生大行其道,各种风吹草动,那么原生到底是什么,除了原生剩下的是不是都野生的? 原生本名cloud native,表示这个程序就是为定制化开发的,原生的发展经历了几个阶段:第一个阶段是在机房里面,包括所有的iaas,paas,saas,那是传统运维;第二个阶段是托管时代,这里面会把 2 为什么需要原生SRE? 所有的这些,也就促成了原生SRE的诞生,原生SRE属于平台级运维,属于数据化运维,如果这些SRE有脑子的话,那么可以摇身一变,变成智能化运维。 ? 高端的产品必然有高端的食材,这就是原生SRE的舞台。

    1.7K30发布于 2020-12-22
  • 来自专栏yeedomliu

    原生模式

    译者序 原生是一种行为方式和设计理念,究其本质,凡是能够提高云上资源利用率和应用交付效率的行为或方式都是原生原生应用追求的是快速构建高容错性、弹性的分布式应用,追求极致的研发效率和友好的上线与运维体验 ServiceMesher社区 ---- 第1部分 原生上下文 1 什么是“原生” ChaosKong演习 Netflix如何能够恢复得如此之快? 这些需求,以及对一个运行这些软件的新平台的需求,直接导致了一种新的软件架构风格的出现,即原生软件 图1.4用户对软件的需求推动原生架构和相应管理方式的发展 图1.5从架构和管理方面我们理解了原生软件的核心特征 作为一名软件开发人员,你需要确保日志和指标中能够包含足够诊断问题的信息,这一点至关重要 模拟可能的失败场景 8 如何访问应用程序:服务、路由和服务发现 优先考虑可用性而不是一致性 9 交互冗余:重试和其他控制循环 这是原生软件的口头禅,我希望你在阅读本书的过程中能够时刻谨记 面向失败设计最基本的模式之一,是实现回退的方法,即当主逻辑失败时执行的代码。

    1.1K50发布于 2021-11-12
  • 来自专栏云服务器教程

    GPU 服务器

    GPU 服务器的简介 GPU 服务器(GPU Cloud Computing,GPU)是基于 GPU 应用的计算服务,具有实时高速的并行计算和浮点计算能力,适应用于 3D 图形应用程序、视频解码、深度学习 查看详情 免费代金券 腾讯 GPU 服务器的特性 选型丰富 腾讯提供计算型 GPU 和渲染型 GPU 两种功能类型供您选择,分别针对计算负载场景和图形处理负载场景,满足您的不同需求。 目前,GPU服务器已全面支持包年包月计费和按量计费,您可以根据需要选择计费模式。查看定价表 >> 易于入门 GPU 服务器实例创建步骤与服务器 CVM 实例创建步骤一致,无需二次学习。 您可以参阅服务器 CVM 快速入门迅速搭建您的 GPU 实例。 极致性能 GPU 服务器突破传统 GPU,发挥极致性能,具有高并行、高吞吐、低时延等特点,在科学计算表现中性能比传统架构提高 50 倍。

    44.7K140发布于 2019-04-02
  • 来自专栏云计算与大数据

    原生|KubeVela

    在互联网与计算技术发展的日新月异过去五年中,应用研发人员对效率与敏捷的极致追求,终于把业界带进了一个崭新的原生时代。 而原生理念的迅速普及,火了 Docker,红了 Kubernetes ,也间接让一个编程语言成为了如今服务端的“当家花旦”。不消多讲,这位在原生领域里正红的发紫的“角儿”,就是 Golang。 基于这样一个引擎,平台团队可以快速、高效地以 Kubernetes 原生的方式在 KubeVela 中植入任何来自原生社区的应用管理能力,从而基于 KubeVela 打造出自己需要的原生平台,比如: 原生数据库 PaaS、原生 AI 平台、甚至 Serverless 服务。 ”为核心的原生应用层项目。

    1.6K30发布于 2020-12-14
  • 来自专栏云计算与大数据

    原生回顾

    原生历史 etcd性能优化 调度 Operator

    50620发布于 2021-07-30
  • 来自专栏aoho求索

    原生概述

    什么是原生 1.1 CNCF组织 在讲原生之前,我们先了解一下CNCF,即原生计算基金会,2015年由谷歌牵头成立,基金会成员目前已有一百多企业与机构,包括亚马逊、微软。思科等巨头。 1.2 原生 CNCF给出了原生应用的三大特征: 容器化封装:以容器为基础,提高整体开发水平,形成代码和组件重用,简化原生应用程序的维护。 原生包含了一组应用的模式,用于帮助企业快速,持续,可靠,规模化地交付业务软件。原生由微服务架构,DevOps 和以容器为代表的敏捷基础架构组成。 本文主要是对原生的概述。原生应用的三大特征:容器化封装、动态管理、面向微服务。首先由CNCF组织介绍了原生的概念,然后分别对这三个特征进行详述。 原生架构是当下很火的讨论话题,是不同思想的集合,集目前各种热门技术之大成。 参考 原生应用之路 架构演化:原生时代正式开启 cncf/landscape

    4.9K93发布于 2018-04-03
领券