首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 是什么

    在AI推理、实时渲染、超模拟等高密度计算场景中,传统供给模式正面临架构性瓶颈。作为一种新型资源抽象层,通过技术手段重构了资源的流通逻辑。 一、架构解耦:从硬件绑定到服务化接口算并非简单的资源预售凭证,其本质是计算能力的原子化封装。 Intel SGX的enclave可信执行环境NVIDIA MIG技术实现物理级GPU切片隔离通过eBPF实现容器粒度的网络策略控制三、工业级应用拓扑分析场景1:分布式AI训练利用AllReduce算法实现多梯度同步通过动态扩展 以内场景3:超即服务集成OpenMPI实现跨集群MPI通信通过组合CPU/GPU异构资源完成百万核规模CFD仿真的按需调度四、性能基准测试对比对ResNet-152训练任务进行全链路测试:指标本地服务器 (8*A100)集群(动态扩展)单epoch耗时23min19min(+17%效率)峰值显存占用98%82%(智能碎片整理)异常中断恢复时间>15min43s(检查点自动迁移)总拥有成本(3年)$286k

    1.9K10编辑于 2025-05-20
  • Hailo-8 + RK3588实测!26TOPS加持,助力AI视觉升级!

    Hailo-8 AI加速凭借“高效推理、低功耗运行”的硬核实力,为边缘AI视觉部署提供了可靠高效的支持。 我们收到Hailo-8 AI加速实物后,第一时间基于RK3588评估板完成适配测试,解锁新可能! ▍AI视觉加速利器Hailo-8 AI加速卡具备如下特点:(1)超强:高性能AI架构加持,支持INT8高达26TOPS,轻松应对高负载AI任务,尤其擅长CNN类视觉模型的高效推理。 ▍yolov8s实测性能亮眼为验证Hailo-8 AI加速性能,我们选取yolov8s目标检测模型开展实测,具体数据如下:实测结果显示,在执行高帧率推理任务时,Hailo-8使用率较低,性能表现优异 目前,创龙科技已完成RK3588评估板 + Hailo-8 AI加速的适配工作,可提供详细测试步骤文档。

    76510编辑于 2026-03-03
  • 网络破题之道——腾讯星脉网络篇

    本账号聚焦AI时代集群与芯片架构挑战,欢迎持续关注! 一:万集群的网络挑战 随着AI大模型参数规模从千亿向万亿发展,单独的计算芯片和存储芯片已无法满足AI大模型对参数量和计算量的需求,成为了制约 AI 技术发展的“墙”和“存储墙”两大瓶颈,那么如何构建适配大模型的高性能网络 关于万集群网络所面临的核心网络诉求的详细描述请查阅前序文章:《万瓶颈破题之道:深度解析阿里HPN 7.0网络架构》、《万亿参数的“神经中枢”:深度拆解百度从万卡到十万集群的智网络进化史》 Multi-Rail)网络架构 星脉网络为超大规模GPU集群构建了高带宽、多轨道的物理网络基础设施,其核心特征是多轨道(Multi-rail): 图1:星脉网络多轨道集群设计 服务器接入层面:每个服务器均配有 8 例如μFab方案通过支持μFab-E的智能网卡与交换机的联动实现网卡级智能限速及动态路径选择,同时利用端侧HPCC高精度拥塞控制算法来进一步实现端侧流控参数的精细化调优,更多细节可以参考前序文章《万瓶颈破题之道

    60710编辑于 2025-12-22
  • 来自专栏Datawhale专栏

    提供GPU!支持8H100部署满血版DeepSeek-R1

    Datawhale亲测,丰厚资源 现在大家对的需求也越来越大。但是目前拥有稳定、合适价格的云平台不多,很多平台的卡都已经被租完了。 GpuGeek 云平台整体的价格如下: GpuGeek 目前一张 4090 单小时的价格为 2.18 元,还可以稳定的租到 8 ,对于有性能要求同时预算有限的开发者、实验室和企业十分友好。 同时 H100、A800 等优质 也开放租赁,而且还能提供 8 ,支持满血版 DeepSeek-R1 部署,有深度科研或开发需求的实验室和企业不要错过。 大家不用再为不足、环境配置麻烦等问题发愁,把更多精力放在算法研究和模型开发上。 云方案满足短期需求。

    1K10编辑于 2025-03-07
  • 来自专栏产品经理的人工智能学习库

    – computation

    文章目录 人工智能里的是什么? 在普通电脑中,CPU就提供了帮助电脑快速运行。玩游戏的时候需要显卡提供,帮助电脑快速处理图形。 而在 人工智能中,需要有类似CPU和GPU的硬件来提供,帮助算法快速运算出结果。 之前在算法里讲过,在制造木桌的过程中,工厂的流水线就是算法。 在那个例子中,工厂中的机器就像,机器越好越先进,制造的过程就越快。 ? 越大,速度越快 维基百科版本 Techpedia版本 是使用计算机技术完成给定目标导向任务的过程。 可以包括软件和硬件系统的设计和开发,用于广泛的目的 – 通常构建,处理和管理任何类型的信息 – 以帮助追求科学研究,制作智能系统,以及创建和使用不同的媒体娱乐和交流。 查看详情 维基百科版本 是使用计算机的任何活动。它包括开发硬件 和软件,以及使用计算机来管理和处理信息,进行交流和娱乐。是现代工业技术的一个至关重要的组成部分。

    2.6K30发布于 2019-12-18
  • 来自专栏大语言模型,算力共享

    共享:环形结构的分配策略

    ​目录共享:环形结构的分配策略方法签名方法实现注意事项nodes.sort(key=lambda x: (x[1].memory, x[0]), reverse=True)end = round (start + (node[1].memory / total_memory), 5)共享:环形结构的分配策略这段代码定义了一个名为RingMemoryWeightedPartitioningStrategy

    95320编辑于 2024-07-26
  • 来自专栏科技云报道

    之后,“存”上位

    芯片的摩尔定律逐渐逼近物理极限,存开始从幕后走向台前,成为AI领域下一个关键赛点。 长期以来,伴随企业数字化转型所建设的“烟囱式”AI基础设施各自为战,数据奔流,价值却困于“堰塞湖”。 存中心作为新型的数据基础设施,正成为AI时代数据流通和融合应用的破题关键。 AI时代的 “数据决定论” AI技术的发展离不开三大要素:数据、算法和。 在训练方面,高性能并行文件系统可以提升大模型训练效率,超大带宽和容量支持超万集群无瓶颈扩展,EB级扩展能力适应海量数据,加速直通技术使数据从存储到“一跳直达”。 构建AI时代新型 “数据粮仓” 与聚焦在“”不同,数据存聚焦在“数”和“存”,是数据生产要素处理的综合能力体现,肩负着为数字经济各种场景提供源源不断的“生产资料”的使命。 将目光投向更长远,新型AI存储很可能是撬动人工智能时代杠杆的另一个支点,“以存强”“以数助”亦是弯道超车的重要落点。当AI产业具备扎实的存底座,才能登高远眺,看见AI时代最美的风景。

    41700编辑于 2025-06-19
  • 来自专栏芯智讯

    沐曦首款AI推理GPU及加速亮相:INT8达160TOPS!

    6月9日消息,国产GPU厂商沐曦集成电路(以下简称“沐曦”)通过官方微信宣布,在6月7日于北京召开的第16届安博会上,沐曦(MetaX)展出了其首款AI推理GPU加速——曦思N100及解决方案在安防领域的应用 据介绍,曦思N100是一款面向云端数据中心应用的AI推理GPU加速,内置异构的GPGPU通用处理器核心“MXN100”,同时集成了HBM2E高带宽内存,单卡的INT8整数达160TOPS,FP16 支持128路编码和96路解码的高清视频处理能力,兼容HEVC(H.265)、H.264、AV1、AVS2等多种视频格式,最高支持8K分辨率。 作为对比,英伟达2020 年发布 A100 GPU的INT8 达 624TOPS,FP16浮点算达312TOPS。也就是说,沐曦MXN100的AI相当于A100的1/4。 拥有完全自主知识产权的指令集和架构,配以兼容主流GPU生态的完整软件栈(MXMACA),具备高能效和高通用性的天然优势,能够为客户构建软硬件一体的全面生态解决方案,是“双碳”背景下推动数据中心建设和产业数字化、智能化转型升级的基石

    3.9K60编辑于 2023-08-09
  • 来自专栏科技云报道

    更要“利”,“精装”触发大模型产业新变局?

    面对如此巨大的需求,企业如何在平衡与能耗开支的前提下,高效地利用和管理算资源,是实现降本增效的重要命题。这其中,对基础设施和软件平台的精细化运营管理成为破题的关键。 大模型对的需求是显而易见的,但更关键的点可能在于能否把更高效地挖掘出来。在不同的阶段,企业对于需求也不尽相同。 《中国发展观察报告》显示,有些中心整体利用率不足30%,大量的资源在沉睡中等待被唤醒,供需矛盾凸显。 这种演进使智能变得不可或缺,且不再局限于简单的叠加或升级,而是在多元重构驱动下实现的极致拓展与跃迁。 可以预见的是,随着人工智能技术的不断创新,应用场景的日益丰富,企业对高质量需求将会持续激增,靠不计成本、堆、堆规模就期望能做好服务的日子已经一去不复返了。

    82100编辑于 2025-03-04
  • 来自专栏ADAS性能优化

    生存VS

    英國「金融時報」報導,鑒於美國近期祭出制裁來壓制中國電腦運能力,中國科技企業阿里巴巴和壁仞科技為了避免受制裁,正將各自最先進晶片的設計微調,以降低運處理速度。 華府10月宣布的制裁措施,禁止任何運能力超過一定門檻的半導體產品出貨至中國除非得到许可。這打亂了上述中國科技企業的發展計畫。 但中國工程師表示,要判斷哪些晶片產品不受制裁並不簡單,因為華府對於如何計這個速率沒有清楚規範。 根據研究集團伯恩斯坦(Bernstein)計,從壁仞官方網站存檔紀錄來看,在美國宣布制裁之前,壁仞首款處理器BR100的規格算出傳輸率是640 GB/s,超過限制門檻;但根據壁仞官網目前發布的BR100

    1.2K20编辑于 2022-12-20
  • 来自专栏运维开发王义杰

    函数计算

    对于一个函数消耗的,我们通常用它的运行时间来衡量,例如在基准测试中。你可以测量一个函数运行一次(或者多次)所需要的时间,然后用这个时间来比较不同函数或者同一个函数的不同实现。 然而,这种方法并不能直接测量一个函数消耗的CPU。为了获得这种信息,你可能需要使用一种叫做CPU profiling的技术,它可以测量程序在CPU上花费的时间。Go的pprof包提供了这种功能。

    74110编辑于 2023-08-16
  • 来自专栏鲜枣课堂

    世界简史(下)

    内存和硬盘的容量越来越大,闪存和各式各样的存储也开始出现,让媒体的拷贝和保存变得更加方便。 如果说,80年代的PC,对用户来说只是尝鲜。那么,90年代的PC,已经是真正的生产工具了。 埃里克·施密特 云计算的本质,是把零散的物理算资源变成灵活的虚拟资源,配合分布式架构,提供理论上无限的服务。 趋势 2010年至今,发展出现两个显著趋势。 一,泛在化。 各个行业对有着不同的需求。于是,逐渐开始细分,分为通用、超算算、智能。 不同的需求,也使得芯片产生了不同的形态。 2023年全面崛起的AIGC大模型,更是给的发展打了一针强心剂。 像GPU这样的芯片,在人工智能计算上,反而比CPU更强。如今,高端GPU,变得一难求。 换做二十年前,谁也不会想到,做显卡(GPU)的英伟达公司,市值竟然会是CPU公司英特尔的8倍。 █ 结语 写到这里,简史系列,终于要结束了。 人类的发展历程,真的堪称一部波澜壮阔的科技史诗。

    65420编辑于 2023-08-21
  • 来自专栏大语言模型,算力共享

    服务标识封装

    为了解决这一问题,服务标识封装技术应运而生,旨在实现服务与IP层的解耦,提升服务的灵活性和可扩展性。 这个overlay层用于封装服务标识,使得服务可以在不改变现有IP网络架构的情况下独立部署和管理。 服务标识:在overlay层中封装的服务标识是区分不同服务的唯一标识。 IP层解耦:通过服务标识封装,服务的路由和管理不再依赖于IP层。这意味着网络中间转发节点在转发数据时,无需识别服务标识,仅做普通路由转发即可。 可扩展性:随着服务的发展,可以通过增加新的服务标识来扩展网络功能,而无需改变现有网络架构。兼容性:服务标识封装技术可以与现有网络架构兼容,实现平滑过渡。 数据中心网络:在数据中心网络中,服务标识封装技术可以提升数据中心的资源利用率和服务质量。服务标识封装技术是一种实现服务与IP层解耦的有效手段。

    47220编辑于 2024-07-28
  • 来自专栏软硬件融合

    芯片,如何突围?

    作为常年从事计算机芯片相关工作的我,今天就从芯片这个视角出发,谈谈对国内芯片如何实现突围的个人的一些看法。 1.2 NVIDIA,从十年磨一剑到市值万亿 传统的GPU是图形加速,本质上是众多各种领域各种场景加速中的一员。除了GPU之外,其他众多的各类加速,几乎没有成功的案例。 核心的原因在于,这是目前的GPU计算集群所能支撑的上限: 一方面,单芯片已经瓶颈,增长极度缓慢。 可以在工艺落后1-2代的情况下,实现单个芯片的更优。 方法二,网络。通过网络、东数西,实现跨集群的调度和协同,可以实现资源的高效利用。 方法三,智能网联。 更庞大节点,更高性能更低延迟的网络,更强大的基础设施,实现更强大的宏观数字系统。

    70120编辑于 2023-11-16
  • 来自专栏软硬件融合

    网络系列文章(二):从云计算到网络

    编者按 网络,对行业来说,是“整合”还是“分工”? 一直以来,我都认为网络是行业整合的过程,通过网络运营商把全国的资源统筹到一起,形成高效的统一供应。 而在网络时代,最主要做的是构建后台中心(从数据中心升级到中心)和前台服务运营解耦分工的新业务模式。 中心,专注于中心建设,专注于的最优性能和最低成本(包括建设成本和运营成本);同时,还要有非常广阔的销售渠道,确保的广泛销售,最大限度减少闲置资源。 3.3 生产和运营的解耦 在云计算时代,供应和运营是一体的,客户是需求方。像电商的平台、卖家、买家三方关系一样,网络时代,需要实现供应和运营的解耦: 供应商。 依据规模从大到小,包括:大规模中心、小规模边缘中心、用户现场机柜,以及批量终端。 需求方。数字化业务需求的各类企业。

    2.1K12编辑于 2024-03-27
  • 来自专栏鲜枣课堂

    世界简史(中)

    接上集:世界简史(上) 在上一篇里,小枣君提到了ENIAC的诞生。 其实,在1945年-1948年,也就是我们中国还处于内战时期时,除了ENIAC诞生外,科技领域还发生了好几件大事。 于是,1957年9月18日(这个日子后来被《纽约时报》评为美国历史上最重要的十天之一),上面提到的8个年轻人,一起向肖克利提交辞呈。 例如,DEC公司(1957年成立)以及他们发布的PDP-8、PDP-11、VAX-11系列主机。 它改变了计算机产业的商业模式,标志着不再仅为少数大型企业服务(大型机),而是开始昂首走向了普通家庭和中小企业。 技术蓄力 除了处理器之外,计算机存储设备和网络技术也有显著进步。 未完待续…… 敬请期待——《世界简史(下)》 参考文献: 1、《计算机的发展历史汇总》,网络; 2、《发展简史》, 庐山真容; 3、《世界上第一台个人电脑是哪台?》

    72520编辑于 2023-08-21
  • 来自专栏SDNLAB

    “东数西”培育壮大经济

    “东数西”将为我国建设一张大网,又可成为网络。 我国对网络早有布局。 并且,根据《中国发展指数白皮书》发布的数据显示,中国资源中每投入1元带来的经济收益是3-4元。 自2022年2月,国家正式印发文件,同意在京津冀、长三角、粤港澳大湾区、成渝、内蒙古、贵州、甘肃、宁夏等8地启动建设国家枢纽节点。 ,包括《中国联通网络白皮书2019》、《感知网络技术白皮书2019》、《中国通信学会网络前言报告2020》、《多样性技术愿景白皮书2021》、《中国发展指数白皮书2021》、《中国移动网络白皮书 ,整个市场的技术创新和卡脖子技术的沉淀相对薄弱;然后,虽然我国在网络标准规范方面已有初步布局,形成了网络5.0产业联盟网络特设工作组;CCSA TC621 网推进组;ITU 网络标准等,但是在具体方向上仍有许多空白

    1.7K30编辑于 2022-04-29
  • 来自专栏Python项目实战

    云端调度算法研究:不是不够,是你不会“分”

    云端调度算法研究:不是不够,是你不会“分”大家好,我是Echo_Wish。今天想跟你聊一个看起来很高大上、但本质特别接地气的话题——云端调度算法。 很多人一提调度,第一反应是:“那不是云厂商、Kubernetes、调度器干的事吗?跟我有啥关系?”但我可以很负责任地说一句:你系统慢、成本高、资源利用率低,90%跟调度有关。 一、先说一句大实话:云端,本质是“抢座位”我们把云端抽象一下,其实特别像:你有一堆座位(CPU、内存、GPU、IO)一堆人要坐(任务、Pod、作业)每个人要求不一样:有人要靠窗(低延迟)有人要连坐 二、云端调度,调的到底是什么?别被“”这两个字骗了,它不只是CPU。 2️⃣冷启动与预热容器拉镜像GPU初始化JVM启动很多时候:不是没,是“没热身”。3️⃣异构调度现在的云,不只有CPU:GPUNPUFPGA调度策略必须知道:“这活,谁干最合适。”

    24010编辑于 2025-12-30
  • 来自专栏鲜枣课堂

    世界简史(上)

    █ 从结绳记事到阿拉伯数字:的萌芽 ENIAC是一个里程碑。它将人类发展史分为了前后两个部分。 在继续下半部分之前,我们还是先来回顾一下上半部分的历程。 从远古时期开始,人类就掌握了。 而完成整个计算过程的能力,就是(Computing Power)。 动物也有大脑,也有,但是远远不如我们强劲。 仅仅依靠大脑这个“原生”工具,不太够用。即便是用上手指、脚趾,也不行。所以,我们开始借助外部工具。 最早期,我们使用的外部工具是草绳、石头,也就是所谓“结绳记事”。 动力机械崛起,开始取代手工劳动,成为主要生产工具,也开始向更先进的机械化方向演进。 工具想要机械化,首先要解决信息表达方式的问题。 二战爆发后,军事需求大大刺激了的发展。军方需要更加强劲的,完成密码加密解密、火炮弹道计算甚至火箭发射等重要任务。

    93920编辑于 2023-08-21
  • 来自专栏云头条

    服务哪家强?

    数字技术正在融入生产生活的每一个环节,成为数字经济时代的新生产的价值正在超越资源本身,服务应运而生。作为一个新兴产业,我们该如何评估算服务? 站在用户视角,服务是一项产品,产品也是服务评估模型的核心维度。 服务价值评估模型的意义在于,在某种程度上给业界以指引,服务厂商可按部就班补足自己的短板;放大到产业,众多厂商形成合力,认知到建设产业生态的正确“姿势”,形成新型服务的潮流。 最终要落到实际应用场景才能兑现价值,千行百业需要的不只是单纯的,更是以为基础的服务体系,需要多维度考量用户应用、成本、兼容性等因素。 从整体资源分配角度来看,一站式服务平台可以将多方、异构资源整合,实现资源的有效调度、管控,解决由于区域间不平衡而导致的供需矛盾问题,一站式完成算生产、聚合、调度、释放。

    2.8K20编辑于 2022-09-08
领券