首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏软硬件融合

    算力芯片,如何突围?

    作为常年从事计算机算力芯片相关工作的我,今天就从算力芯片这个视角出发,谈谈对国内算力芯片如何实现突围的个人的一些看法。 还有一个很重要的原因,就是算力的建设和运营成本,也已经达到了一个天文数字。 目前CPU性能早已瓶颈,GPU性能即将见顶并且成本高昂,而AI芯片太过于专用,不适用于快速变化的模型算法/算子和业务逻辑。 5 算力芯片变革的历史机遇 5.1 系统架构创新 一方面是需求牵引,一方面是工艺支撑,两方面的因素,都需要我们在系统架构层次,做更多的创新。 抓住计算架构变革的历史时机,实现算力芯片的弯道超车! (正文完)---- 更多阅读: 能不能面向通用人工智能AGI,定义一款新的AI处理器? 什么是软硬件融合? 超异构计算时代的操作系统架构初探 异构计算面临的挑战和未来发展趋势 汽车芯片技术趋势分析:未来5年,单芯片算力突破20000 TOPS 为什么要从“软硬件协同”走向“软硬件融合”?

    1.1K20编辑于 2023-11-16
  • DeepSeek自研AI芯片,AI算力新变革?

    AI算力告急,成本掣肘发展当下,AI技术迅猛发展,从科研领域的复杂模型训练,到日常生活里智能语音助手的实时交互,算力成了决定AI发展的关键因素。 近年来,已有至少16家国产芯片厂商与DeepSeek展开适配合作,显示其在构建多元算力生态上已有所布局。 对开发者来说,更高效的模型意味着更低开发成本和更高效率;对企业用户而言,强大的AI性能能为业务创新提供有力支持,提升竞争力。 若DeepSeek自研AI芯片成功,将为AI应用提供更高效、经济的算力支持,推动AI在智能交通、医疗、金融等领域落地,加速各行业智能化升级。不过,该计划尚处早期,还有技术难题待攻克。 但无论如何,DeepSeek这一举措已在AI领域播下极具潜力的“种子”,其未来发展值得持续关注。公众号:算力之光

    69210编辑于 2025-02-17
  • 来自专栏软硬件融合

    汽车芯片技术趋势分析:未来5年,单芯片算力突破20000 TOPS

    5 趋势三:未来五年,单芯片算力突破20000 TOPS 上图是NVIDIA自动驾驶芯片的发展Roadmap,我们可以看到,每隔两年升级一代,算力基本上提升8倍: 2018年,第一代,Parker,算力 2020年,第二代,XAVIER,算力30 TOPS。Parker是NVIDIA汽车芯片的第一代产品,主要是试水,因此算力并不是很高,给了第二代直接增长30倍的空间。 根据这个路线图的发展节奏,到2028年第六代芯片,算力将达到12.8万TOPS(128 POPS)。 因此,我们给出相对保守的预测: 2026年,第五代自动驾驶芯片,算力再提升4倍以上,算力10000 TOPS(10 POPS)左右。 2028年,第六代自动驾驶芯片,算力再提升2倍以上,算力突破20000 (20POPS)TOPS。 6 趋势四:体系结构逐步从异构走向超异构 为什么需要异构计算?

    1.1K20编辑于 2023-02-28
  • 来自专栏数字芯片实验室

    英伟达和AI算力芯片的军备竞赛

    英伟达仍面临着很多渴望在AI芯片市场分一杯羹的竞争对手,以及希望减少对该公司依赖的企业。 另外,还有人工智能芯片初创公司如雨后春笋般涌现,其中包括Cerebras、Groq和Tenstorren等公司。 为什么这些 GPU 是 AI 所必需的? 由于英伟达在竞争中遥遥领先,AMD也试图在AI芯片领域占据次席。随着对AI芯片需求的增长,AMD股价自去年以来也上涨了约143%。 很多人都会质疑英伟达是否能够独自满足对人工智能芯片不断增长的需求。 所有AI玩家都不希望英伟达吃独食,除了英伟达自己。 这些芯片公司有弱点吗? 尽管英伟达和AMD取得了成功,但它们的供应链仍存在短板(英伟达和AMD是无晶圆厂公司fabless)。 5G? 英伟达是完完全全有营收和利润支撑的公司,但是也有估价修正的风险,因为公司越大,维持增长速度就越困难。一旦增长率下降,可能会出现大幅抛售。 人工智能的商业可行性尚不确定。

    52200编辑于 2024-03-11
  • 垂直堆叠3D芯片突破AI算力瓶颈

    研究人员创造了一种新型的3D计算机芯片,该芯片将存储和计算元件垂直堆叠,极大地加快了芯片内部的数据移动速度。与传统平面设计不同,这种方法避免了制约当前AI硬件的“交通拥堵”问题。 完整报道为测试新型芯片,研究人员使用了一台专用机器(如图片所示)在晶圆上对设计进行自动化电学特性表征。 凭借创纪录数量的垂直连接以及将存储和计算单元紧密放置的紧凑布局,该设计避免了限制平面芯片发展的速度瓶颈。在硬件测试和模拟中,这款3D芯片的性能比2D芯片高出一个数量级。 平面芯片为何难以应对现代AI像ChatGPT和Claude这样的大型AI模型,不断地在存储信息的内存和处理信息的计算单元之间穿梭大量数据。 性能提升与AI硬件的未来在早期的硬件测试中,该原型芯片的性能优于同类2D芯片约四倍。该团队的模拟表明,随着设计通过堆叠更多内存和计算层而变得更高,性能增益会更大。

    60810编辑于 2026-03-26
  • 高端算力芯片:大阵列高 pin 数芯片测试与应用,芯片测试座为什么是关键载体?

    这类芯片是高端算力场景的核心支撑,典型应用包括:高性能计算(HPC):如 GPU(图形处理器)、AI 加速芯片(如 NVIDIA H100),通过 10000+ pin 实现内存接口(HBM)与 PCIe 6.0、GDDR6)的传输质量;时序参数测试:包括建立时间(Setup Time)、保持时间(Hold Time)、信号延迟(Skew≤5ps),确保多通道数据同步;串扰(Crosstalk)测试:在 电源与热性能测试电源完整性(PI)测试:测量电源噪声(≤5% Vdd)、瞬态响应时间(≤100ns),验证多电源域的稳定供电能力;功耗测试:通过动态电流监控(DCM)记录不同负载下的功耗曲线,包括待机功耗 ≤5%);振动与冲击测试:模拟运输与安装过程中的机械应力,验证引脚焊接强度(脱落率≤0.1%)。 在先进封装技术快速迭代的背景下,德诺嘉大阵列高 pin 数芯片测试座已从单纯的 "连接器工具" 升级为测试系统的核心性能延伸载体,其设计水平直接决定了高端芯片量产良率的控制精度与成本竞争力。

    67010编辑于 2025-08-11
  • 来自专栏集成电路IC测试座案例合计

    国产替代:高算力芯片应用与技术,芯片测试座与芯片封测的关联

    在芯片测试中,芯片测试座(socket)又扮演着怎样的角色?在AI大模型的推动下,高算力芯片的现状和未来趋势又将如何演变?同时,晶圆级芯片的发展提供了怎样的创新思路? 二、芯片测试与芯片测试座(socket)的关联高算力芯片的复杂性和多样化应用决定了其测试环节必须严谨高效。芯片测试座(socket)在芯片测试中起到了关键的连接作用。1. 三、AI大模型对高算力芯片的现状及未来趋势人工智能的迅速崛起为高算力芯片提供了广阔的舞台,特别是AI大模型的运算需求推动了芯片性能的飞速提升。1. 高算力芯片的趋势 高算力芯片的发展趋势是继续提高功耗比性能、增强AI计算专用功能、增加可编程性和灵活性。通过异构计算架构和创新的处理器设计,高算力芯片将更好地满足AI大模型的需求。 国产高算力芯片在技术核心、架构设计、市场应用等方面展现了强劲的发展势头。在AI大模型的推动下,以及在晶圆级芯片技术的引领下,国产高算力芯片将迎来更多的机遇。

    59510编辑于 2024-11-12
  • AI芯片的终局——算力即权力:一场由成本和算力决定的竞赛!

    算力即权力:为什么AI芯片至关重要? 走向未来现代人工智能(AI),特别是深度神经网络(DNN),正在驱动一场技术变革。这场变革的燃料不是数据,而是计算。 实现先进AI系统所依赖的计算规模,在几年前是无法想象的。训练一个前沿的AI算法可能需要耗时数月,成本高达数千万甚至数亿美元。这种巨大的算力需求,催生了专门为此优化的计算机硬件——AI芯片。 生产成本 (Production Cost):先进节点(如5nm)的生产成本(包括设计、代工、封装测试)极其高昂。模型估算,在500万片销量下,每片5nm芯片的总生产成本约为426美元。 文件最终得出的结论是清晰而有力的:先进的AI芯片是实现大规模AI的必要前提,而这种芯片的生产能力高度集中。在AI时代,算力(Compute)不仅是技术问题,更是经济问题和安全问题。 对先进算力供应链的控制,在很大程度上等同于对未来AI发展制高点的控制。

    1.1K10编辑于 2025-11-06
  • 来自专栏决策智能与机器学习

    AI芯片到底是个神马 | 解读技术 | AI基础 | 算力必备

    概念 AI技术有三大要素:算法、算力、数据。 由于AI技术的应用,对各种硬件设备的算力要求大幅提高,AI芯片应运而生,目前AI芯片发展的重点是针对神经网络等架构实现高速运算的核心硬件,即算力提高阶段。 可能未来AI技术成熟之后,AI芯片可以实现集算法与算力于一体的超脑能力。 华为AI芯片麒麟970与非AI芯片相比,加入嵌入式神经网络处理器(NPU)之后,其功耗与性能得到极大提升。其中,功耗降低了 20%;图形处理性能提升 20%、能效提升 50%。 目前仍然在算力提升阶段。 ---- 参考资料 唐氏二少:http://baijiahao.baidu.com/s?

    1K20发布于 2020-08-04
  • 来自专栏FPGA技术江湖

    算力经济下DPU芯片的发展机遇

    算力经济下DPU芯片的发展机遇 文章类型 | 技术解析 全文7500字 | 阅读15分钟 部分图片来源于网络 01 算力,已经成为先进生产力 当前承载算力的基础设施是各种规模的的数据中心,从几十个服务器节点的小规模企业级计算中心到数万个节点的巨型数据中心 这个生态直接承载了全球数十万亿美元规模的数字经济,而且对全球服务业、工业、农业的渗透率随着大数据、5G、人工智能等技术的发展还在不断提高。算力,已不仅仅是一个技术指标,它已经成为了先进生产力的代表。 在云端,高性能CPU和GPU是主要的两种算力芯片——也是规模最大,单价最高,应用环境最复杂的芯片。 从端-云一体,到端-边缘-云一体,例如未来自动驾驶中,车将会成为边缘的一个载体;在5G时代,5G基站也可能会成为一个边缘节点,云计算的部分计算功能会下放到边缘端的算力节点上,获得更及时响应时间,更节省的网络带宽 伴随着这第四次AI浪潮,GPU的全球领导厂商NVIDIA的市值也在2020年8月一举超越了X86 CPU的领导厂商Intel,并一骑绝尘。GPU同时也成为了下一代数据中心里算力芯片的又一个重要角色。

    1.3K00发布于 2021-03-30
  • 中国算力芯片的“新十年”

    文丨唐志敏深圳理工大学算力微电子学院院长、象帝先董事长编辑丨苏扬过去40年,处理器芯片呈现出“否定之否定”的螺旋式发展道路:自研-放弃自研-自研。 那么,接下来的五年、十年,对于国产“算力芯片”来说,突破口在哪里?我们认为是指令系统结构(指令集架构)的统一。 所以,在文章开头,我们就呼吁,未来五年、十年,中国的算力芯片应该统一指令集架构。 目前业界更倾向于基于这种结构——增加处理器核的数量,来提升性能,比如代表算力的xPU芯片,就是典型的众核(Many Core)结构。 03 统一指令集:中国算力芯片规模化的关键路径近年来,系统和平台厂商又开始研发计算芯片了:美国有苹果公司、谷歌、亚马逊、微软,中国公司也很多。

    62210编辑于 2025-11-03
  • 来自专栏软硬件融合

    大算力芯片,向左(定制)还是向右(通用)?

    这是一对矛盾,拉扯着我们的各类算力芯片设计。 谷歌TPU是第一个DSA架构的AI加速芯片,从TPU开始,各类DSA架构的AI芯片如雨后春笋般出现。 但如今,差不多5年时间过去,AI芯片大规模落地的案例依然不多。最明星的谷歌TPU,目前也遇到了一些困境。 实践证明,GPGPU是目前AI算力的主流平台,因为GPGPU的灵活可编程能力和AI算法的需求是相对匹配的。 5 通用算力,支撑数字经济繁荣的必由之路 定制还是通用,在技术层面是一个技术选择问题。但在更宏观的层次来看,却又是一个必须选择的道路。 其次,宏观算力,需要算力芯片大规模部署。芯片想要大规模部署,就要能够灵活地适应更多的场景落地,满足各个用户差异化的需求,满足上层应用经常性的、持续数年的业务逻辑迭代。

    91040编辑于 2022-12-16
  • 英伟达用 AI 设计芯片:算力飞轮,已经转起来了

    作为全球 AI 算力的核心提供者,英伟达造出强大的 GPU 去训练人工智能;而这些 AI,又反过来帮助它设计更强大的下一代芯片。这个听起来像科幻的循环,正在进入半导体产业的核心环节。 这话听起来有些夸张,但它指向的方向一点都不夸张:AI 正在成为芯片设计的重要生产力。 当然,“一句话造芯片”的时代还没到。 放到更大视角看,半导体行业正在形成一个不可逆的算力飞轮:更强的 GPU,训练更强的 AI;更强的 AI,再帮助设计更强的 GPU。这个循环一旦跑起来,领先者的优势就可能被不断放大。 当那些“怪异却高效”的 AI 电路,逐步进入真实芯片产品时,我们会看清一个事实:未来的算力,不再只是晶体管的堆叠,而是智能创造智能、算法设计硬件的结果。 比尔·戴利“一句话造芯片”的梦想还很远。 但可以确定的是:AI 造芯的算力飞轮,已经转起来了。下一代芯片,正在由人类与 AI 共同设计。 我会持续关注这个方向。因为它不只是英伟达的故事,而是人工智能开始重塑科技底层基础设施的一个标志。

    65710编辑于 2026-05-15
  • 来自专栏机器之心

    OPPO首款自研芯片,AI算力超过了苹果A15

    看看今年芯片行业的热度,OPPO 又添了一把火。 OPPO 出自研芯片了,还是一款手机 AI 芯片,采用台积电 6nm 制程。 OPPO 提出的马里亚纳 MariSilicon X 则面向手机端的计算影像,其集成了完全自研的 MariNeuro AI 计算单元,提供超高算力,业界领先的能效比,面向 OPPO 自研 AI 算法,实现了最高效的计算加速和功耗优化 首先是 OPPO 完全自研的 AI 计算单元 MariNeuro,它是一款以场景定义的芯片计算架构,能够实现很高的 AI 能效。 相对于通用性更强的 NPU,OPPO 的 DSA 专注于解决芯片的影像能力,因此可以达到 18TOPS(INT8)算力。 计算摄影通常会处理 YUV 域内容,因为所需算力更小。在马里亚纳 X 的加持下,AI 算法实时进行无损的 RAW 域处理,让计算处理前置,提升了画面细节。

    96930编辑于 2021-12-15
  • 来自专栏AI掘金志

    「芯片+AI 算力+AI 开发平台」,合肥君正公布全栈式低功耗 AI 技术

    4大亮点、5大竞争力,合肥君正「AIE+Magik」对垒智能视觉领域。 习惯在针尖上跳舞的合肥君正,在萌芽之时就认识到AI的重要性。 这历时多年的武器,将往视频行业投下一枚怎样的石头,又怎样协助下游客户落地更具竞争力的产品? 直奔落地的一整套「芯片+AI算力+AI开发平台」解决方案 ? 二者搭配,呈现在行业客户面前的就是一整套完整的‘芯片+AI算力+AI开发平台’的解决方案,使得应用者非常容易落地。” 刘远强调,“在这之前,我们经过了T01/T02/T31等几代量产芯片的验证,积累了大量宝贵经验,到T40这里,AIE+Magik已经十分成熟”。 AIE—有效突破端侧AI的算力瓶颈 ? 0.05W/T级别 “与云上的AI芯片加速不同,在端侧芯片上,4T算力曾经是天花板,这并不是因为硬件无法将算力继续提高,而是因为端侧产品在算力以外有太多的制约因素。”

    1.4K30发布于 2021-06-10
  • 来自专栏创作是最好的自我投资

    AI时代,存力 or 算力 哪个更重要

    然而,在AI技术如此迅猛发展的今天,我们不禁要问:究竟是算力还是存储能力,是推动AI技术飞速发展的关键核心呢?算力算力,即计算能力,是指在进行数学运算、逻辑运算以及数据处理等操作时所具备的计算效能。 在云计算环境下,面对海量的数据库,需要强大的算力来高效执行诸如数据挖掘、机器学习模型训练等复杂任务,这涉及到大规模矩阵运算、深度神经网络的前向传播与反向传播计算等,对算力的要求极高。 在边缘物联网场景中,众多设备产生的实时数据需要即时处理,这就要求算力能够在有限的资源(如低功耗芯片、小型传感器等)条件下,快速且精准地进行数据处理、分析以及决策。 总的来说至此,我们能够清楚地认识到,存力与算力对于AI技术的发展而言,有着同等的重要意义。若缺乏算力,AI就会失去从海量数据里迅速挖掘有效信息的能力,这就好比轮船没有了驱动自身向前航行的螺旋桨一样。 总的来说,AI技术的快速发展就像鸟儿飞翔需要一双有力的翅膀一样,绝对离不开存力和算力这两者如同双翼般的支撑。这就如同行人在进行长途跋涉时,必须要依靠双脚的力量一样,缺一不可。

    63720编辑于 2025-01-12
  • 来自专栏6G

    AI芯片互连遭遇算力墙,UCIe凭什么成为破局关键?

    AI集群依赖复杂的网络基础设施处理处理器、内存及存储间的海量数据流。Meta的研究表明,数据中心内约40%的时间消耗在网络传输环节,凸显网络性能对AI效率的直接影响。 同时,小芯片技术正重塑AI硬件生态。与传统单片SoC相比,模块化设计可将系统分解为计算、I/O、存储等专用单元,通过UCIe等协议实现异构集成。 以NVIDIA Grace Hopper为例,其采用5nm计算芯粒与4nm I/O芯粒组合,互连密度达10μm/通道。 主流芯片互连协议对比 向1.6T带宽迈进需突破物理限制。 台积电3DFabric技术已实现8层堆叠芯粒,互连密度较传统封装提升5倍,为下一代交换机奠定基础。 AI SoC设计转向"功能解耦+芯粒重组"模式。 未来三年,AI硬件将呈现三大趋势:UCIe生态完成跨厂商互操作性认证、光电共封装技术降低SerDes功耗、存算一体芯粒突破冯·诺依曼瓶颈。

    87810编辑于 2025-03-10
  • 来自专栏机器之心

    7倍AI算力芯片,TensorRT重大更新,英伟达GTC新品全介绍

    ORIN 被认为是一款「系统级芯片」,包含 170 亿个晶体管,这款产品或许将为英伟达在 AI 算力上重新占据领先位置。 ? 这款芯片提供的算力可以达到 200TOPS,是此前英伟达自家芯片 Drive Xaiver 的 7 倍,也超过了特斯拉今年推出的自动驾驶芯片 Autopilot Hardware 3.0(144TOPS 据介绍,英伟达的 GPU 技术为腾讯游戏的 START 云游戏服务赋力,该服务已从今年初开始进入测试阶段。START 使游戏玩家可以随时随地,即使是在配置不足的设备上也能玩 AAA 游戏。 GPU 不仅是软件开发者训练人工智能模型的重要工具,早已在各大科技公司成为了 AI 背后的算力来源。在 GTC 上,黄仁勋介绍了两家国内科技巨头百度和阿里巴巴对英伟达最新 GPU 的应用案例。 在最近两年里我们让 AI 的算力提升了四倍,仅仅依靠制程提升这是不可能做到的。在 GPU 的世界里,性能提升的方式和 CPU 思路不同。

    1K30发布于 2019-12-24
  • 来自专栏机器之心

    智算中心纷纷“落地”,看国产AI芯片厂商如何以实践出新招,助力 AI 算力中心建设

    国产 AI 芯片厂商如何以实践出新招? 自 2018 年成立至今,仅四年的时间,燧原科技已推出了基于邃思 2.0 芯片的第二代云端 AI 训练产品 “云燧 T20/T21” 和基于邃思 2.5 芯片打造的 AI 推理产品”云燧 i20”,以及配套的 二代芯片项目落地,率先积累一线实践经验:在智慧城市方面,邃思第二代芯片可以助力国产 AI 算力中心建设,进行高效部署,通过算力协同发挥算力最大效益,并开放生态,提高 AI 算力利用率。 燧原科技以 AI 需求为导向,创新应用为牵引,加速省会城市 “1+5+N” 新型算力中心建设,大幅提升西南核心省会城市智能化服务、国产自主可控以及可持续发展能力。 想了解更多 AI 算力中心新实践信息,敬请关注 9 月 3 日(周六)举办的燧原科技 “算尽其用 ·AI 算力中心新实践” 云端 AI 算力产业论坛暨 2022 年燧原科技新产品发布会。

    89020编辑于 2022-08-25
  • 来自专栏软硬件融合

    超异构计算:大算力芯片的未来

    3 从异构持续进化到超异构 3.1 CPU、GPU、DPU、AI等大算力芯片面临的共同挑战 在云计算、边缘计算、终端超级计算机(如自动驾驶)等复杂计算场景,对芯片的可编程能力要求非常高,甚至高过对性能的要求 通过FPGA定制,规模太小,成本和功耗太高;通过芯片定制,导致场景碎片化,芯片难以大规模落地,难以摊薄成本。 宏观算力要求芯片能够支撑大规模部署。宏观算力与单位芯片算力,以及芯片的落地规模成正比。 但各类性能提升的方案会损失可编程灵活性,使得芯片难以实现大规模部署,从而进一步影响宏观算力的增长。最典型的例子就是目前AI芯片的大规模落地困难。 芯片的一次性成本过高。 但受限于CPU的性能瓶颈,以及对算力需求的持续不断上升,(站在算力视角)CPU逐渐成为了非主流的算力芯片。 5 未来,所有的大算力芯片都是超异构芯片 Intel高级副总裁兼加速计算系统和图形部门负责人Raja Koduri表示:要想实现《雪崩》和《头号玩家》中天马行空的体验,需将现在的算力至少再提升1000

    2.1K30编辑于 2022-12-16
领券