首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 计算机视觉的 2026:从“堆竞赛,到“省”智慧

    而人类看世界的方式完全不同 —— 我们会自然聚焦关键区域(比如看书时盯文字、过马路时看车辆),忽略无关信息,用最少的 “注意成本” 完成感知。

    65210编辑于 2026-01-19
  • 来自专栏数据猿

    竞赛到“喂数据”竞赛,谁卡住了大模型的脖子?

    他提到基于神经网络的知识存储和检索尚在研究中,但已有良好前景,尤其在推理发展上,探索多级、全局共享的存储模式将显著降低消耗。 另一方面,随着DeepSeek等新技术的出现,越来越多的企业开始打破高和高投入是发展人工智能唯一方式的认知,转而基于开源基模开发自己的L1甚至L2大模型。 这包括与GPU、AI推理框架、调度平台等进行兼容性互认证、平台对接和接口互通。例如,与英伟达的GPU生态进行对接,通过GDS实现框架来访问外部存储的数据。 他指出,企业当前在AI应用上的短板,并非不足,而是数据基础设施未跟上AI发展的节奏。随着GPU替代CPU成为核心计算资源,传统的存储架构也亟需变革。 已不稀缺,数据成了瓶颈。它不仅决定了模型能看到什么,也决定了它理解到哪里、落地到多深。过去,数据是存储的内容;现在,它是训练的燃料、决策的依据、系统的接口。

    21610编辑于 2025-10-21
  • AI芯片的终局——即权力:一场由成本和决定的竞赛

    即权力:为什么AI芯片至关重要? 走向未来现代人工智能(AI),特别是深度神经网络(DNN),正在驱动一场技术变革。这场变革的燃料不是数据,而是计算。 这种巨大的需求,催生了专门为此优化的计算机硬件——AI芯片。这份分析文章深入探讨AI芯片的本质、它们兴起的经济动因,以及它们为何成为国家竞争的关键战略资产。 第二章:经济学——AI算法驱动的架构革新AI芯片的崛起,是计算需求与硬件供给之间矛盾运动的必然结果。深度神经网络的计算需求,与传统CPU的设计理念背道而驰。 结论:即权力文件的分析逻辑严密且具有前瞻性。 在AI时代,(Compute)不仅是技术问题,更是经济问题和安全问题。对先进供应链的控制,在很大程度上等同于对未来AI发展制高点的控制。

    79510编辑于 2025-11-06
  • 来自专栏数字芯片实验室

    英伟达和AI芯片的军备竞赛

    虽然英伟达的股价从本周早些时候的峰值回落,但其股价在过去一年中飙升了262%,从每股近242美元飙升至收盘时的875美元。

    42600编辑于 2024-03-11
  • 来自专栏人工智能

    🌍 即权力?解析AI竞赛背后的基础设施战争

    深度拆解全球AI竞赛背后的“隐形战场”* * * 导言:当成为新时代的“石油”2023年ChatGPT的爆发,揭开了AI竞赛的冰山一角:GPT-4训练消耗的≈5亿度电,足够支撑一个小国全年用电。 CUDA生态筑墙战场2️⃣:云计算——的“血管网络”全球云厂商军备竞赛:微软Azure绑定OpenAI,亚马逊AWS推出自研Trainium芯片关键指标:单位成本、网络延迟、GPU集群利用率战场 技术不应只是巨头的游戏,让普惠化,才是打破“权力垄断”的关键路径。 Part 5:军备竞赛的“暗线”——软件栈战争1. 分布式训练框架的军备竞赛微软DeepSpeed ZeRO-3技术:用内存优化突破单卡显存限制阿里PAI-Megatron:3D并行策略实现万亿参数模型训练* * * Part 6:地缘政治下的供应链重构 数据主权与布局欧盟《数字市场法》要求核心数据本地化存储,倒逼AWS法兰克福节点扩容3倍腾讯云在东南亚布局“边缘-中心混合云”,满足跨境合规需求* * * Part 7:技术民主化实践——让不再“

    1.1K10编辑于 2025-03-20
  • 来自专栏产品经理的人工智能学习库

    – computation

    文章目录 人工智能里的是什么? 在普通电脑中,CPU就提供了帮助电脑快速运行。玩游戏的时候需要显卡提供,帮助电脑快速处理图形。 而在 人工智能中,需要有类似CPU和GPU的硬件来提供,帮助算法快速运算出结果。 之前在算法里讲过,在制造木桌的过程中,工厂的流水线就是算法。 在那个例子中,工厂中的机器就像,机器越好越先进,制造的过程就越快。 ? 越大,速度越快 维基百科版本 Techpedia版本 是使用计算机技术完成给定目标导向任务的过程。 可以包括软件和硬件系统的设计和开发,用于广泛的目的 – 通常构建,处理和管理任何类型的信息 – 以帮助追求科学研究,制作智能系统,以及创建和使用不同的媒体娱乐和交流。 查看详情 维基百科版本 是使用计算机的任何活动。它包括开发硬件 和软件,以及使用计算机来管理和处理信息,进行交流和娱乐。是现代工业技术的一个至关重要的组成部分。

    2.7K30发布于 2019-12-18
  • 来自专栏大语言模型,算力共享

    共享:环形结构的分配策略

    ​目录共享:环形结构的分配策略方法签名方法实现注意事项nodes.sort(key=lambda x: (x[1].memory, x[0]), reverse=True)end = round (start + (node[1].memory / total_memory), 5)共享:环形结构的分配策略这段代码定义了一个名为RingMemoryWeightedPartitioningStrategy

    1.3K20编辑于 2024-07-26
  • 来自专栏科技云报道

    之后,“存”上位

    芯片的摩尔定律逐渐逼近物理极限,存开始从幕后走向台前,成为AI领域下一个关键赛点。 长期以来,伴随企业数字化转型所建设的“烟囱式”AI基础设施各自为战,数据奔流,价值却困于“堰塞湖”。 存中心作为新型的数据基础设施,正成为AI时代数据流通和融合应用的破题关键。 AI时代的 “数据决定论” AI技术的发展离不开三大要素:数据、算法和。 在训练方面,高性能并行文件系统可以提升大模型训练效率,超大带宽和容量支持超万卡集群无瓶颈扩展,EB级扩展能力适应海量数据,加速卡直通技术使数据从存储到“一跳直达”。 构建AI时代新型 “数据粮仓” 与聚焦在“”不同,数据存聚焦在“数”和“存”,是数据生产要素处理的综合能力体现,肩负着为数字经济各种场景提供源源不断的“生产资料”的使命。 将目光投向更长远,新型AI存储很可能是撬动人工智能时代杠杆的另一个支点,“以存强”“以数助”亦是弯道超车的重要落点。当AI产业具备扎实的存底座,才能登高远眺,看见AI时代最美的风景。

    55500编辑于 2025-06-19
  • 来自专栏科技云报道

    更要“利”,“精装”触发大模型产业新变局?

    面对如此巨大的需求,企业如何在平衡与能耗开支的前提下,高效地利用和管理算资源,是实现降本增效的重要命题。这其中,对基础设施和软件平台的精细化运营管理成为破题的关键。 大模型对的需求是显而易见的,但更关键的点可能在于能否把更高效地挖掘出来。在不同的阶段,企业对于需求也不尽相同。 《中国发展观察报告》显示,有些中心整体利用率不足30%,大量的资源在沉睡中等待被唤醒,供需矛盾凸显。 这种演进使智能变得不可或缺,且不再局限于简单的叠加或升级,而是在多元重构驱动下实现的极致拓展与跃迁。 在“增效”方面,以某三甲医院为例,在引入宁畅栈后,该医院的医学影像处理与分析的速度和精度得到显著提升,医学影像处理速度相较于之前提升688%,效率提升7倍,帮助医生更快地识别病变区域,提高了诊断效率

    1.2K00编辑于 2025-03-04
  • 的迷雾

    在旧金山,耗资数倍训练出来的GPT-5并没有像GPT-4那样带来预期中的、断层式的跃迁。 同样的洪流,却给出了完全不同的答案。 这不是巧合,而是一层正在缓慢下沉的迷雾。 为什么投入了天文数字的,Loss曲线(误差)却有时拒绝下降,甚至莫名其妙地发散? 如果我们只是简单地将其归结为不够或数据不够,那就太傲慢了。 在万亿维度的黑暗森林里,我们拿着手电筒(),却照不到地图的边界。 这时候,单纯地堆,加大Batch Size或学习率,就像是在平原上从走路变成了狂奔。 但这有用吗? 代价:训练效率极低,无法跑满,甚至可能在原地打转。

    12410编辑于 2026-07-02
  • 来自专栏ADAS性能优化

    生存VS

    英國「金融時報」報導,鑒於美國近期祭出制裁來壓制中國電腦運能力,中國科技企業阿里巴巴和壁仞科技為了避免受制裁,正將各自最先進晶片的設計微調,以降低運處理速度。 華府10月宣布的制裁措施,禁止任何運能力超過一定門檻的半導體產品出貨至中國除非得到许可。這打亂了上述中國科技企業的發展計畫。 但中國工程師表示,要判斷哪些晶片產品不受制裁並不簡單,因為華府對於如何計這個速率沒有清楚規範。 根據研究集團伯恩斯坦(Bernstein)計,從壁仞官方網站存檔紀錄來看,在美國宣布制裁之前,壁仞首款處理器BR100的規格算出傳輸率是640 GB/s,超過限制門檻;但根據壁仞官網目前發布的BR100

    1.4K20编辑于 2022-12-20
  • 来自专栏运维开发王义杰

    函数计算

    对于一个函数消耗的,我们通常用它的运行时间来衡量,例如在基准测试中。你可以测量一个函数运行一次(或者多次)所需要的时间,然后用这个时间来比较不同函数或者同一个函数的不同实现。 然而,这种方法并不能直接测量一个函数消耗的CPU。为了获得这种信息,你可能需要使用一种叫做CPU profiling的技术,它可以测量程序在CPU上花费的时间。Go的pprof包提供了这种功能。

    84610编辑于 2023-08-16
  • 来自专栏软硬件融合

    网络系列文章(二):从云计算到网络

    编者按 网络,对行业来说,是“整合”还是“分工”? 一直以来,我都认为网络是行业整合的过程,通过网络运营商把全国的资源统筹到一起,形成高效的统一供应。 而在网络时代,最主要做的是构建后台中心(从数据中心升级到中心)和前台服务运营解耦分工的新业务模式。 中心,专注于中心建设,专注于的最优性能和最低成本(包括建设成本和运营成本);同时,还要有非常广阔的销售渠道,确保的广泛销售,最大限度减少闲置资源。 3.3 生产和运营的解耦 在云计算时代,供应和运营是一体的,客户是需求方。像电商的平台、卖家、买家三方关系一样,网络时代,需要实现供应和运营的解耦: 供应商。 依据规模从大到小,包括:大规模中心、小规模边缘中心、用户现场机柜,以及批量终端。 需求方。数字化业务需求的各类企业。

    2.3K12编辑于 2024-03-27
  • 来自专栏鲜枣课堂

    世界简史(中)

    接上集:世界简史(上) 在上一篇里,小枣君提到了ENIAC的诞生。 其实,在1945年-1948年,也就是我们中国还处于内战时期时,除了ENIAC诞生外,科技领域还发生了好几件大事。 1964年4月7日,计划成果初现,IBM公司正式发布了六种规格的System/360商用大型主机。 IBM System/360 360,是360度角的意思,表示全方位的服务。 1968年7月,罗伯特·诺伊斯和戈登·摩尔从仙童半导体公司辞职,创立了英特尔(Intel)公司。 最开始,英特尔是做半导体存储器产品的。后来,因为竞争激烈,他们转向处理器方向。 它改变了计算机产业的商业模式,标志着不再仅为少数大型企业服务(大型机),而是开始昂首走向了普通家庭和中小企业。 技术蓄力 除了处理器之外,计算机存储设备和网络技术也有显著进步。 未完待续…… 敬请期待——《世界简史(下)》 参考文献: 1、《计算机的发展历史汇总》,网络; 2、《发展简史》, 庐山真容; 3、《世界上第一台个人电脑是哪台?》

    85720编辑于 2023-08-21
  • 来自专栏大语言模型,算力共享

    服务标识封装

    为了解决这一问题,服务标识封装技术应运而生,旨在实现服务与IP层的解耦,提升服务的灵活性和可扩展性。 这个overlay层用于封装服务标识,使得服务可以在不改变现有IP网络架构的情况下独立部署和管理。 服务标识:在overlay层中封装的服务标识是区分不同服务的唯一标识。 IP层解耦:通过服务标识封装,服务的路由和管理不再依赖于IP层。这意味着网络中间转发节点在转发数据时,无需识别服务标识,仅做普通路由转发即可。 可扩展性:随着服务的发展,可以通过增加新的服务标识来扩展网络功能,而无需改变现有网络架构。兼容性:服务标识封装技术可以与现有网络架构兼容,实现平滑过渡。 数据中心网络:在数据中心网络中,服务标识封装技术可以提升数据中心的资源利用率和服务质量。服务标识封装技术是一种实现服务与IP层解耦的有效手段。

    60420编辑于 2024-07-28
  • 来自专栏鲜枣课堂

    世界简史(下)

    直到1985年7月,英特尔公司终于推出了自己姗姗来迟的32位处理器——80386。 这款处理器迎合了兼容机的需求,获得了巨大的成功。 埃里克·施密特 云计算的本质,是把零散的物理算资源变成灵活的虚拟资源,配合分布式架构,提供理论上无限的服务。 趋势 2010年至今,发展出现两个显著趋势。 一,泛在化。 各个行业对有着不同的需求。于是,逐渐开始细分,分为通用、超算算、智能。 不同的需求,也使得芯片产生了不同的形态。 除了传统的CPU和GPU之外,NPU、DPU等单元开始出现,并成为大众关注的焦点。 在高性能计算上,集群成为超和智的新宠。 我们对的需求,还在疯狂增长。 在摩尔定律逐渐走向瓶颈的前提下,我们该如何实现的倍增?以量子计算为代表的新型,是否会全面崛起? 就让时间来告诉我们答案吧! —— 全文完 ——

    85220编辑于 2023-08-21
  • 来自专栏软硬件融合

    芯片,如何突围?

    作为常年从事计算机芯片相关工作的我,今天就从芯片这个视角出发,谈谈对国内芯片如何实现突围的个人的一些看法。 据中国汽车工业协会整理的海关总署数据显示,2023年上半年,汽车整车出口234.1万辆,同比增长76.9%;1~7月,汽车出口总值3837.3亿元,增长118.5%。 核心的原因在于,这是目前的GPU计算集群所能支撑的上限: 一方面,单芯片已经瓶颈,增长极度缓慢。 可以在工艺落后1-2代的情况下,实现单个芯片的更优。 方法二,网络。通过网络、东数西,实现跨集群的调度和协同,可以实现资源的高效利用。 方法三,智能网联。 更庞大节点,更高性能更低延迟的网络,更强大的基础设施,实现更强大的宏观数字系统。

    88020编辑于 2023-11-16
  • 来自专栏SDNLAB

    “东数西”培育壮大经济

    “东数西”将为我国建设一张大网,又可成为网络。 我国对网络早有布局。 2021年7月,工信部印发《新型数据中心发展三年行动计划(2021-2023年)》,结合数据中心产业现状和发展趋势,确定了“统筹协调,均衡有序;需求牵引,深化协同;分类引导,互促互补;创新驱动,产业升级 并且,根据《中国发展指数白皮书》发布的数据显示,中国资源中每投入1元带来的经济收益是3-4元。 ,包括《中国联通网络白皮书2019》、《感知网络技术白皮书2019》、《中国通信学会网络前言报告2020》、《多样性技术愿景白皮书2021》、《中国发展指数白皮书2021》、《中国移动网络白皮书 ,整个市场的技术创新和卡脖子技术的沉淀相对薄弱;然后,虽然我国在网络标准规范方面已有初步布局,形成了网络5.0产业联盟网络特设工作组;CCSA TC621 网推进组;ITU 网络标准等,但是在具体方向上仍有许多空白

    1.8K30编辑于 2022-04-29
  • 来自专栏Datawhale专栏

    2021语言与智能技术竞赛上线!百度飞桨提供平台支持

    3月10日,2021语言与智能技术竞赛报名通道已开启。 、来源真实应用场景的数据集,目前“千言”第一期已涵盖了7大任务、20余个中文开源数据集。 与往届竞赛任务仅关注单一数据上的效果不同,本届竞赛基于“千言”,每项任务设置了更加丰富的数据集合和评测维度,期望能够从准确性、鲁棒性和泛化性等多个角度对技术效果进行综合评价,从而推动技术更好地适应多领域 本次竞赛三大任务均将提供基于飞桨的基线,助力选手快速上手;基于百度飞桨的人工智能学习与实训社区AI Studio将提供在线编程环境、免费GPU及海量开源算法数据支持,用户登录AI Studio并运行 Notebook即可获得10小时,参加本次竞赛的团队还将额外获得更多的免费GPU时长。

    65220发布于 2021-04-20
  • 来自专栏Python项目实战

    云端调度算法研究:不是不够,是你不会“分”

    云端调度算法研究:不是不够,是你不会“分”大家好,我是Echo_Wish。今天想跟你聊一个看起来很高大上、但本质特别接地气的话题——云端调度算法。 很多人一提调度,第一反应是:“那不是云厂商、Kubernetes、调度器干的事吗?跟我有啥关系?”但我可以很负责任地说一句:你系统慢、成本高、资源利用率低,90%跟调度有关。 一、先说一句大实话:云端,本质是“抢座位”我们把云端抽象一下,其实特别像:你有一堆座位(CPU、内存、GPU、IO)一堆人要坐(任务、Pod、作业)每个人要求不一样:有人要靠窗(低延迟)有人要连坐 二、云端调度,调的到底是什么?别被“”这两个字骗了,它不只是CPU。 2️⃣冷启动与预热容器拉镜像GPU初始化JVM启动很多时候:不是没,是“没热身”。3️⃣异构调度现在的云,不只有CPU:GPUNPUFPGA调度策略必须知道:“这活,谁干最合适。”

    35810编辑于 2025-12-30
领券