首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 云端:数字时代的革命——核心优点与多元应用

    云端通过虚拟、分布式计算等技术,实现“即服务”,重构分配逻辑,成为各行业数字转型的核心引擎。本文将解析其核心优点与多元应用,展现其深远价值。 一、云端的核心优点算云端的核心价值的是打破传统局限,实现资源高效利用与普惠,核心优点有六大方面:(一)降低成本,实现轻资产运营传统本地需巨额硬件投入与持续运维成本,门槛极高。 云端通过规模整合资源,用户无需购置高价硬件,仅需普通终端即可按需调用,“用多少付多少”,大幅降低IT成本,让企业聚焦核心业务。 (五)提升利用率,实现资源共享传统“各自为战”,闲置率高。云端构建统一池,通过动态分配将闲置供给需求方,大幅提升整体利用率,实现普惠共享。 二、云端的核心应用场景云端已渗透千行百业,成为数字升级的核心支撑,核心应用场景如下:(一)工业制造领域支撑工业设计、仿真分析等环节,实现多团队跨地域协同,优化生产流程,推动智能制造转型升级

    4100编辑于 2026-04-07
  • 来自专栏腾讯云原生团队

    GPU虚拟隔离,和qGPU

    所以,很显然,GPU 池也必须以同时满足故障隔离和隔离的方案作为基础。 3.4 隔离的本质 从上述介绍中,我们可以看出:隔离、故障隔离都是 GPU 虚拟、GPU 池的关键,缺一不可。 如果没有隔离,不管虚拟损耗有多低,都会导致其方案价值变低;而如果缺少实例间的故障隔离,则基本无法在生产环境使用了。 的开销,也在 Context 内部实现了隔离。 【2】两个 PoD 的配比为 2:1。横坐标为 batch 值,纵坐标为运行时两个 PoD 的实际比例。 可以看到,batch 较小时,负载较小,无法反映配比;随着 batch 增大,qGPU 和 MPS 都趋近理论值 2,vCUDA 也偏离不远,但缺乏隔离的业界某产品则逐渐趋近 1。

    15.3K158发布于 2021-06-02
  • 来自专栏产品经理的人工智能学习库

    – computation

    文章目录 人工智能里的是什么? 在普通电脑中,CPU就提供了帮助电脑快速运行。玩游戏的时候需要显卡提供,帮助电脑快速处理图形。 而在 人工智能中,需要有类似CPU和GPU的硬件来提供,帮助算法快速运算出结果。 之前在算法里讲过,在制造木桌的过程中,工厂的流水线就是算法。 在那个例子中,工厂中的机器就像,机器越好越先进,制造的过程就越快。 ? 越大,速度越快 维基百科版本 Techpedia版本 是使用计算机技术完成给定目标导向任务的过程。 可以包括软件和硬件系统的设计和开发,用于广泛的目的 – 通常构建,处理和管理任何类型的信息 – 以帮助追求科学研究,制作智能系统,以及创建和使用不同的媒体娱乐和交流。 查看详情 维基百科版本 是使用计算机的任何活动。它包括开发硬件 和软件,以及使用计算机来管理和处理信息,进行交流和娱乐。是现代工业技术的一个至关重要的组成部分。

    2.6K30发布于 2019-12-18
  • 东数西加码智能:全国一体网,5 毫秒接入覆盖

    当AI大模型训练需要海量支撑,当工业互联网要求毫秒级数据响应,当数字经济向纵深发展对提出“普惠、绿色、低时延”的刚性需求,“东数西”工程正迎来新的进阶方向——以智能为核心,加速构建全国一体网 智能成全国一体网核心引擎是数字经济时代的新型生产,而智能力作为支撑AI创新的核心资源,已成为“东数西”工程深化推进的关键抓手。 5毫秒接入背后的网融合创新5毫秒,看似短暂的时间维度,却是全国一体网技术能力的集中体现。 以往需要部署本地集群的企业,如今可直接调用全国一体网的智能资源,通过5毫秒级接入实现实时推理,大幅降低研发成本。 未来,服务将向标准、平台方向发展。开发者可依托网开放平台,参与服务接口标准建设、跨域调度算法优化等工作,共建生态。

    49810编辑于 2026-01-04
  • 来自专栏大语言模型,算力共享

    共享:环形结构的分配策略

    ​目录共享:环形结构的分配策略方法签名方法实现注意事项nodes.sort(key=lambda x: (x[1].memory, x[0]), reverse=True)end = round (start + (node[1].memory / total_memory), 5)共享:环形结构的分配策略这段代码定义了一个名为RingMemoryWeightedPartitioningStrategy 创建分区: 初始partitions列表来存储分区信息,以及start变量来表示当前分区的起始位置(初始化为0)。

    98720编辑于 2024-07-26
  • 来自专栏科技云报道

    之后,“存”上位

    芯片的摩尔定律逐渐逼近物理极限,存开始从幕后走向台前,成为AI领域下一个关键赛点。 长期以来,伴随企业数字转型所建设的“烟囱式”AI基础设施各自为战,数据奔流,价值却困于“堰塞湖”。 存中心作为新型的数据基础设施,正成为AI时代数据流通和融合应用的破题关键。 AI时代的 “数据决定论” AI技术的发展离不开三大要素:数据、算法和。 构建AI时代新型 “数据粮仓” 与聚焦在“”不同,数据存聚焦在“数”和“存”,是数据生产要素处理的综合能力体现,肩负着为数字经济各种场景提供源源不断的“生产资料”的使命。 近两年,从国家到地方、从行业到企业,正在加快存中心的建设步伐。华为扎实做好数据工程研究和技术创新,和各行业伙伴紧密合作,推动我国存中心集约建设,为AI落地提供助力。 将目光投向更长远,新型AI存储很可能是撬动人工智能时代杠杆的另一个支点,“以存强”“以数助”亦是弯道超车的重要落点。当AI产业具备扎实的存底座,才能登高远眺,看见AI时代最美的风景。

    42500编辑于 2025-06-19
  • 来自专栏EffectiveCoding

    Redis 持久之AOF持久&混合持久

    上一篇提到了Redis的RDB持久方式,同时也提到了一点关于AOF的内容。 RDB(snapshotting) 是一种内存快照的方式进行持久,AOF(append-only-file)是通过追加写入命令的方式进行持久,混合持久是指RDB和AOF协同完成持久化工作来发挥各自有点的持久方式 协议格式来保存命令内容的,有兴趣可以看一下: https://redis.io/topics/protocol 很显然,如果命令操作量非常大的时候,与RDB不同,AOF因为是追加命令,所以很大概率上AOF持久文件会越来越大 混合持久: 混合持久是Redis 4.X之后的一个新特性,说是新特性其实更像是一种RDB&AOF的结合,持久文件变成了RDB + AOF,首先由RDB定期完成内存快照的备份,然后再由AOF完成两次 在大多数场景下RDB + AOF的混合持久模式其实还是很合适的。

    1.9K20发布于 2019-07-31
  • 来自专栏科技云报道

    更要“利”,“精装”触发大模型产业新变局?

    智能力作为新型基础设施,已是万千行业智能变革的核心驱动力,智服务由此也将成为重要的IT基础服务,将重塑整个IT基础设施领域的市场格局。 在这一过程中,大模型尤其是垂类大模型应用的发展,对智中心提出了更高要求,精细化、绿色是智算算高质量发展的必然方向,投建逻辑将进入服务为主的2.0时代。 所谓“精装”,就是依托宁畅定制与全栈全液能力,以栈为交付形态,从用户需求与体验出发,提供全体系软硬协同的精细化服务。 定制方面,宁畅围绕用户实际应用场景和需要,可以为用户定制对应各种需求的解决方案,方案完整覆盖用户交付、部署、应用、运维体验和业务需求,本身就涵盖了硬件、软件平台搭建、算法模型优化、应用场景定制等内容 在智中心方面,宁畅提供了液冷、风冷或风液混冷等多种定制建设方案,可以根据实际需求,灵活选择最适合的散热方式,从而有效控制能耗。

    85700编辑于 2025-03-04
  • 来自专栏ADAS性能优化

    生存VS

    英國「金融時報」報導,鑒於美國近期祭出制裁來壓制中國電腦運能力,中國科技企業阿里巴巴和壁仞科技為了避免受制裁,正將各自最先進晶片的設計微調,以降低運處理速度。 華府10月宣布的制裁措施,禁止任何運能力超過一定門檻的半導體產品出貨至中國除非得到许可。這打亂了上述中國科技企業的發展計畫。 但中國工程師表示,要判斷哪些晶片產品不受制裁並不簡單,因為華府對於如何計這個速率沒有清楚規範。 根據研究集團伯恩斯坦(Bernstein)計,從壁仞官方網站存檔紀錄來看,在美國宣布制裁之前,壁仞首款處理器BR100的規格算出傳輸率是640 GB/s,超過限制門檻;但根據壁仞官網目前發布的BR100

    1.2K20编辑于 2022-12-20
  • 来自专栏运维开发王义杰

    函数计算

    对于一个函数消耗的,我们通常用它的运行时间来衡量,例如在基准测试中。你可以测量一个函数运行一次(或者多次)所需要的时间,然后用这个时间来比较不同函数或者同一个函数的不同实现。 然而,这种方法并不能直接测量一个函数消耗的CPU。为了获得这种信息,你可能需要使用一种叫做CPU profiling的技术,它可以测量程序在CPU上花费的时间。Go的pprof包提供了这种功能。

    74510编辑于 2023-08-16
  • 来自专栏EffectiveCoding

    Redis 持久之RDB持久

    Redis 相对于其他NoSQL 内存数据库而言,除了更富的数据结构和速度快之外,Redis 的丰富的持久方案也就一个很显著的优势,Redis 支持RDB、AOF、混合持久三种模式。 RDB(snapshotting) 是一种内存快照的方式进行持久,AOF(append-only-file)是通过追加写入命令的方式进行持久,混合持久是指RDB和AOF协同完成持久化工作来发挥各自有点的持久方式 RDB 持久有自动触发、手动触发两种方式。 自动触发 具体可以看一下redis.conf 中的配置项及对应注释来了解这一部分内容,翻一下注释就很明了了: 当达到如下条件的时候就出发自动持久,这种持久在后台进行的bgsave 先看一下save选项 恢复: 数据恢复的过程,整个Redis 都是被阻塞在那里的,一直到持久完成才正常工作。具体恢复步骤就是把文件移到刚才dir指定的文件下,然后启动redis 就可以啦。

    83720发布于 2019-07-31
  • 来自专栏大语言模型,算力共享

    服务标识封装

    为了解决这一问题,服务标识封装技术应运而生,旨在实现服务与IP层的解耦,提升服务的灵活性和可扩展性。 封装机制 Overlay层引入:在IP与L4传输层之间引入一个overlay层,如SFC(服务功能链)架构下的网络业务报文头(NSH)或三层网络虚拟overlay(NVO3)的Geneve等。 这个overlay层用于封装服务标识,使得服务可以在不改变现有IP网络架构的情况下独立部署和管理。 服务标识:在overlay层中封装的服务标识是区分不同服务的唯一标识。 overlay层的作用功能增强:在overlay层中可以引入新的协议或功能,以扩展网络的能力,如QoS、安全加密、网络虚拟等。 NVO3(三层网络虚拟overlay):使用如Geneve等封装协议在IP网络上构建虚拟的三层网络。

    48620编辑于 2024-07-28
  • 来自专栏鲜枣课堂

    世界简史(下)

    在PC的帮助下,人们充分感受到IT带来的生活品质改善,以及生产效率提升。 整个人类社会的信息进程,开始加速。 互联网大爆发 给信息又添了一把火的,当然是互联网。 埃里克·施密特 云计算的本质,是把零散的物理算资源变成灵活的虚拟资源,配合分布式架构,提供理论上无限的服务。 趋势 2010年至今,发展出现两个显著趋势。 一,泛在。 运营商还提出了网络,想要实现的全面泛在。 二,细分化。 信息和网络,让人们尝到了甜头。如今,技术不断升级,我们又开始提出数字经济和数字转型。说白了,就是所有行业,都要实现数字。 各个行业对有着不同的需求。于是,逐渐开始细分,分为通用、超算算、智能。 不同的需求,也使得芯片产生了不同的形态。 未来,数字和智能还将继续向前推进。我们对的需求,还在疯狂增长。 在摩尔定律逐渐走向瓶颈的前提下,我们该如何实现的倍增?以量子计算为代表的新型,是否会全面崛起?

    66820编辑于 2023-08-21
  • 来自专栏软硬件融合

    芯片,如何突围?

    作为常年从事计算机芯片相关工作的我,今天就从芯片这个视角出发,谈谈对国内芯片如何实现突围的个人的一些看法。 核心的原因在于,这是目前的GPU计算集群所能支撑的上限: 一方面,单芯片已经瓶颈,增长极度缓慢。 可以在工艺落后1-2代的情况下,实现单个芯片的更优。 方法二,网络。通过网络、东数西,实现跨集群的调度和协同,可以实现资源的高效利用。 方法三,智能网联。 清华的李克强院士提出的智能网联汽车中国方案,强调车(终端)、路(MEC接入)、边、云的深度协同,在单体有限的情况下,可以实现更智能的用户服务体验。 方法四,云网边端融合。 更庞大节点,更高性能更低延迟的网络,更强大的基础设施,实现更强大的宏观数字系统。

    71220编辑于 2023-11-16
  • 来自专栏软硬件融合

    网络系列文章(二):从云计算到网络

    当然,不管业务模式如何变化,一个非常核心的主轴,仍然是的提升(单芯片和规模数量),和利用率的提升(计算资源的池)。这也就是上一篇文章,我们从微观视角分析了提升的三个方法。 但其核心的价值,总结下来,主要就两点: 首先,的低成本。云计算主要通过规模、多租户多系统共享资源,以及资源池地高利用率等方式降低成本。 其次,是资源的弹性。 1.2 云计算面临的挑战 1.2.1 公有云 以前,经常听到一句话:“一切IT基础设施都将云”。这话一直没错,但云不代表着公有云;同时,云不代表着云公司要持续包揽着产业链条上的一切。 依据规模从大到小,包括:大规模中心、小规模边缘中心、用户现场机柜,以及批量终端。 需求方。数字业务需求的各类企业。 包括传统云计算客户,以及数字转型的其他企业;还包括大终端构建业务云的企业;等等。 运营商。

    2.1K12编辑于 2024-03-27
  • 来自专栏鲜枣课堂

    世界简史(中)

    接上集:世界简史(上) 在上一篇里,小枣君提到了ENIAC的诞生。 其实,在1945年-1948年,也就是我们中国还处于内战时期时,除了ENIAC诞生外,科技领域还发生了好几件大事。 RCA501 不久后,1959年,IBM公司不甘落后,也生产出全部晶体管的的计算机——IBM 7090。 它改变了计算机产业的商业模式,标志着不再仅为少数大型企业服务(大型机),而是开始昂首走向了普通家庭和中小企业。 技术蓄力 除了处理器之外,计算机存储设备和网络技术也有显著进步。 1974年,IBM公司圣何塞实验室发起了IBM System R项目,首次实现了结构查询语言(SQL)。 未完待续…… 敬请期待——《世界简史(下)》 参考文献: 1、《计算机的发展历史汇总》,网络; 2、《发展简史》, 庐山真容; 3、《世界上第一台个人电脑是哪台?》

    73820编辑于 2023-08-21
  • 来自专栏SDNLAB

    “东数西”培育壮大经济

    “东数西”工程旨在通过国家枢纽节点的规划和建设,引导东部数据中心建设集约发展,西部数据中心建设跨越式发展,实现东西部需求与供给统筹调度,各级数据中心集群由中心城市向城市周边转移,推动、网络、 于2020年9月成立了“东数西”产业联盟,于2021年5月,由国家发改委等四部委联合出台了《全国一体大数据中心协同创新体系枢纽实施方案》,明确提出布局全国一体网络国家枢纽节点,发展数据中心集群 ,引导数据中心集约、规模、绿色发展,且明确提出进一步打通国家枢纽节点之间网络传输通道,加快实施“东数西”工程。 我国正处于数智转型的关键阶段,而数据中心还面临布局建设不优、效不足、能源利用不充分、联通程度不高等问题,基于“东数西”构建网络正是为克服现有问题,推动数据中心合理布局、供需平衡、绿色集约和互联互通 努力突破核心数字技术,着力解决其中的卡脖子难题;然后,对科研成果进行产业应用,结合实际应用场景,提升和拔高数智技术,并将其应用到网络新基建建设中。

    1.7K30编辑于 2022-04-29
  • 来自专栏Python项目实战

    云端调度算法研究:不是不够,是你不会“分”

    云端调度算法研究:不是不够,是你不会“分”大家好,我是Echo_Wish。今天想跟你聊一个看起来很高大上、但本质特别接地气的话题——云端调度算法。 很多人一提调度,第一反应是:“那不是云厂商、Kubernetes、调度器干的事吗?跟我有啥关系?”但我可以很负责任地说一句:你系统慢、成本高、资源利用率低,90%跟调度有关。 一、先说一句大实话:云端,本质是“抢座位”我们把云端抽象一下,其实特别像:你有一堆座位(CPU、内存、GPU、IO)一堆人要坐(任务、Pod、作业)每个人要求不一样:有人要靠窗(低延迟)有人要连坐 二、云端调度,调的到底是什么?别被“”这两个字骗了,它不只是CPU。 2️⃣冷启动与预热容器拉镜像GPU初始JVM启动很多时候:不是没,是“没热身”。3️⃣异构调度现在的云,不只有CPU:GPUNPUFPGA调度策略必须知道:“这活,谁干最合适。”

    25710编辑于 2025-12-30
  • 来自专栏智能相对论

    形态进化后,AI超能解开数据科学团队的桎梏吗?

    解决算难题,成为内部数据科学团队的当务之急。 AI超——人工智能数据中心的小型, 问题的答案? 而这种产品的出现,其本质上是供给形态适应市场需求的一种进化,即人工智能数据中心的小型——通过新的GPU芯片以及适配的主板与整机系统,大幅度提升性能,形成在外形上如同个人计算机产品一样的“AI超级计算机 而在具体场景中,很多组织也在通过AI超获得。 而AI超这种形态或能通过一体的方式规避这个“要素配置”难题,这类产品并不要求复杂的安装过程,甚至不需要IT部门的帮助,当缺乏这些要素(典型如AI工程师)时,数据科学团队仍然可以实现即插即用、一站式的计算能力配置 构成AI超即插即用特性的能力有很多,软件系统方面操作系统、开发框架甚至各个场景的预训练模型整合最为典型,软硬件一体协同让数据科学团队基本上无需再花太多心思到开发环境搭设上。

    1.4K30发布于 2021-07-22
  • 来自专栏鲜枣课堂

    世界简史(上)

    █ 从结绳记事到阿拉伯数字:的萌芽 ENIAC是一个里程碑。它将人类发展史分为了前后两个部分。 在继续下半部分之前,我们还是先来回顾一下上半部分的历程。 从远古时期开始,人类就掌握了。 而完成整个计算过程的能力,就是(Computing Power)。 动物也有大脑,也有,但是远远不如我们强劲。 仅仅依靠大脑这个“原生”工具,不太够用。即便是用上手指、脚趾,也不行。所以,我们开始借助外部工具。 最早期,我们使用的外部工具是草绳、石头,也就是所谓“结绳记事”。 动力机械崛起,开始取代手工劳动,成为主要生产工具,也开始向更先进的机械方向演进。 工具想要机械,首先要解决信息表达方式的问题。 二战爆发后,军事需求大大刺激了的发展。军方需要更加强劲的,完成密码加密解密、火炮弹道计算甚至火箭发射等重要任务。

    96620编辑于 2023-08-21
领券