Altman计划筹集高达7万亿美元基金,用于建设一系列AI芯片工厂,如果成行,他将掌管全球第三大经济体。但这笔巨资究竟会如何使用投资? 他试图筹集7万亿美元用于建造AI芯片工厂的尝试让许多人翻了个白眼。 Altman雄心勃勃的7万亿美元基金用于建立一系列AI芯片工厂,将使他成为世界第三大经济体的管理者。 “Sam Altman身上到底有什么,让人们追踪他就像追踪泰勒·斯威夫特? Sam Altman为何要向AI投资7万亿美元 Altman的7万亿美元计划可能是一个雄心勃勃的计划,旨在重构整个半导体行业,该基金规模是电子行业的两到三倍,Hutcheson在解释分析公司发布的芯片内幕通讯时写道 Altman的7万亿美元计划涵盖了运营AI芯片工厂所需的一切,包括电力和设备。他与阿联酋政府的风险投资公司和软银CEO孙正义接洽提供资金,并接触了芯片制造商台积电来管理这些工厂。
当地时间6月18日,芯片设计大厂Marvell在网络研讨会上将旗下定制化AI芯片的2028年整体潜在市场(total addressable market,简称TAM)规模展望,从原本的430亿美元一口气上调至 除了原本跟亚马逊、微软、Alphabet旗下谷歌的合作外,Marvell在会上宣布获得了两家“新兴”超大规模云计算客户,以及超过50个为其他客户定制化芯片的机会,并预计这有望转化为750亿美元营收。 Reitzes将密切观察2026年市况演变,尤其是微软推出的“MAIA”加速器、以及亚马逊云计算服务(AWS)的新一代AI加速器“Trainium 3”。 编辑:芯智讯-浪客剑
来源:内容来自「知乎@汪鹏 」 所谓的AI芯片,一般是指针对AI算法的ASIC(专用芯片)。 传统的CPU、GPU都可以拿来执行AI算法,但是速度慢,性能低,无法实际商用。 在手机终端,可以自行人脸识别、语音识别等AI应用,这个必须功耗低,所以GPU OUT! 所以,开发ASIC就成了必然。 说说,为什么需要AI芯片。 总的来说,CPU与GPU并不是AI专用芯片,为了实现其他功能,内部有大量其他逻辑,而这些逻辑对于目前的AI算法来说是完全用不上的,所以,自然造成CPU与GPU并不能达到最优的性价比。 但是,这些算法,与深度学习的算法还是有比较大的区别,而我的回答里提到的AI芯片,比如TPU,这个是专门针对CNN等典型深度学习算法而开发的。 谷歌的TPU,寒武纪的DianNao,这些AI芯片刚出道的时候,就是用CPU/GPU来对比的。 无图无真相,是吧?
AI芯片业务目前是热门的领域,英特尔,谷歌,AMD,Arm和其他公司都在争夺市场,一些分析师预测到2025年这个市场的价值将达到910亿美元。 首席执行官Dave Ditzel表示,现金注入将有助于加速其第一代芯片阵容的发展。 凭借其即将推出的64位7纳米处理器,Esperanto表示它将利用开放计算平台(OCP),Facebook的Pytorch框架和Glow编译器以及开放式神经网络交换(ONNX)等标准,来加速AI和机器学习工作流程 上述芯片,其设计将获得许可,包含超过一千个Esperanto 的ET-Minion RISC-V内核,根据该公司的说法,芯片设计用于提供每瓦效率最佳的teraflop性能,在单个芯片上,分布式内存架构, Esperanto拥有100多名员工,包括来自英特尔,DEC,MIPS,索尼互动娱乐和QED的AI专家,处理器架构师,芯片设计师,软件开发人员和系统工程师。
就这些方面来看,AI芯片的确是门好生意,同时也很好地解释了为什么有众多资本会节奏一致地向AI芯片领域集中。 当然,从互联网巨头们的角度出发,其涉足AI芯片的原因远不止此。 这些或许才是互联网巨头们集体进入AI芯片市场的关键点。 这么来看,入注AI芯片行业对于互联网巨头来说意义非凡,也难怪巨头们一直以来都在急于融入到AI芯片市场当中。 毕竟可以利用云端AI芯片赛道取长补短,填补在终端AI芯片的不足,促进整体AI芯片在市场中茁壮生长,同时可以避开各方巨头在终端AI芯片市场中的尖锐锋芒。 或成AI芯片中坚角色 按目前情况来看,纵使有AI芯片整体制造工艺水平略低、应用场景有限等不足,也难掩BAT等巨头正在AI芯片行业频频出圈的事实。 在AI芯片性能方面,互联网巨头依靠已推出的部分产品在AI芯片领域出尽风头。据公开数据显示,昆仑AI芯片能提供每秒260万亿次的定数运算性能。
在整个 AI 系统的构建中,AI 算法、AI 框架、AI 编译器、AI 推理引擎等都是软件层面的概念,而 AI 芯片则是物理存在的实体,AI 芯片是所有内容的重要基础。 本系列文章将会通过对典型的 AI 模型结构的设计演进进行分析,来理解 AI 算法的计算体系如何影响 AI 芯片的设计指标,进而结合几种主流的 AI 芯片基础介绍,帮助大家对 AI 系统的整个体系知识有更全面的认识 计算机芯片体系结构在很大程度上影响了 AI 算法的性能。因此,了解 AI 算法与芯片计算体系结构之间的关系是非常重要的。 AI 芯片的分类 AI 芯片的广泛定义是指那些面向人工智能应用的芯片。 CPU、GPU、FPGA、ASIC 是目前 AI 计算过程中最主流的四种芯片类型,CPU、GPU、FPGA 是前期较为成熟的芯片架构,属于通用性芯片,ASIC 是为 AI 特定场景定制的芯片。
「大脑级」 AI 解决方案 首个大脑级 AI 解决方案如何诞生呢? 除了用到最大芯片,Cerebras还揭露了4项新技术。 三、Cerebras SwarmX:提供更大、更高效的集群 这是一种人工智能优化的高性能通信结构,可将 Cerebras的芯片内结构扩展到芯片外,从而扩展AI集群,而且使其性能实现线性扩展。 这款芯片是有史以来最大的AI芯片,有40万个内核和1.2万亿个晶体管,使用台积电16nm工艺制程。 与多数芯片不同,一代「巨芯」不是在12英寸硅晶圆上制作的,而是在单个晶圆上通过互联实现的单芯片。 优化内核,采用台积电的7nm工艺制造。 在先进工艺的支持下,Cerebras 可以在同样的8*8英寸,面积约46225mm2的芯片中塞进更多的晶体管。 而且,正是采用了台积电的7nm工艺,电路之间的宽度仅有七十亿分之一米。
目前这家初创公司还没有发布其第一代芯片产品。 近日,据国外媒体报道,美国初创公司SambaNova System获得了5600万美元的A轮融资。 目前这家初创公司还没有发布其第一代芯片产品,但其已与潜在客户以及公共云提供商进行了谈话。 近年来,AI芯片一直是各大科技公司竞争的热门对象。早在2016年,谷歌就宣布已经制造出可以快速训练AI模型的芯片——张量处理单元(TPU),以对抗英伟达的GPU。 而老牌芯片CPU巨头英特尔并购了AI初创公司Nervana,以扩大自己在AI芯片上的优势。 在收购AI初创公司方面,谷歌也位列各大科技公司榜首。 从2012年至今,谷歌并购的AI公司最多,大概有14个,苹果公司位居第二位。但是此次收购AI芯片公司,还是谷歌的第一次尝试。
ORIN 被认为是一款「系统级芯片」,包含 170 亿个晶体管,这款产品或许将为英伟达在 AI 算力上重新占据领先位置。 ? 最强自动驾驶芯片:性能提升 7 倍 作为英伟达的年度盛会,发布新处理器自然也是必不可少的环节。 这款芯片提供的算力可以达到 200TOPS,是此前英伟达自家芯片 Drive Xaiver 的 7 倍,也超过了特斯拉今年推出的自动驾驶芯片 Autopilot Hardware 3.0(144TOPS 英伟达介绍了 TensorRT 7 可以带来实时的交互 AI 的体验:在支持交互是绘画 AI 上,一套端到端流程可能需要20-30种不同 AI 模型组成,其中包括很多不同的模型结构,从 CNN、RNN、 如 RTX 系列芯片和光线追踪技术,在 12nm 制程上达到了 AMD 7nm 制程 GPU 的性能。在加速计算的领域中,想要让芯片达到最高效率,算法、架构、软件应用需要共同合力。
AI将如何改变芯片设计人工智能对半导体行业的承诺与潜力芯片制造、MATLAB、摩尔定律、芯片设计、人工智能、数字孪生摩尔定律的终结正逐渐逼近。 例如,某机构正在将其AI技术添加到内存芯片中,以实现存内处理,从而节省能源并加速机器学习。说到速度,某机构的TPU V4 AI芯片的处理能力比其前代产品提高了一倍。 但对于半导体行业,AI仍有更多前景和潜力。为了更好地理解AI将如何彻底改变芯片设计,我们与某机构MATLAB平台的高级产品经理进行了对话。问:AI当前如何用于设计下一代芯片? 我们通常认为AI是一种预测工具,或者是一个执行某种任务的机器人,但很多时候,通过AI能从数据中获得很多洞察。问:使用AI进行芯片设计的好处是什么? 问:你如何展望AI和芯片设计的未来?答:这在很大程度上取决于人的因素——让人参与到过程中,并拥有可解释的模型。
AI如何改变芯片设计摩尔定律即将终结。工程师和设计师在晶体管微型化和芯片集成度方面已接近极限,因此他们转向其他芯片设计方法,将AI等技术融入设计流程。 AI在芯片设计中的当前应用某机构高级产品经理指出,AI已贯穿芯片设计和制造的大部分环节。在工艺工程中,AI可用于优化流程,缺陷检测是各阶段(尤其是制造环节)的重要应用。 AI不仅是预测工具,更能从数据中提取深层洞见。AI驱动的设计优势传统基于物理的建模计算密集且复杂。AI可创建替代模型(即数字孪生),通过参数扫描、优化和蒙特卡洛模拟大幅降低计算时间。 挑战与局限AI模型精度仍不及传统物理模型,这是通过大量模拟和参数扫描来弥补的缺点。芯片设计和制造需考虑所有组件,整合不同部件的预测模型极具挑战性。 未来趋势将减少追求超精确预测,转向信息透明共享和数字孪生应用,结合AI与人类专业知识,推动芯片设计向更高效、协作的方向发展。
英伟达生态的思考点从软件和硬件架构的角度出发,CUDA 和 SIMT 之间存在一定的关系,而目前 AI 芯片采用的 DSA 架构在编程模型和硬件执行模型上还处于较为早期的状态,英伟达强大的生态同样离不开 面对新的 AI 芯片,在流水隐藏方面,实现架构层面的隐藏流水编排机制,提出一个形式上与 SPMD 没有关系的编程模式,而且易用性堪比 CUDA 的软件是可能的。 编程模型上缺乏统一的标准,因此需要专门搭建编译器和编程体系,硬件主要以 AI 加速芯片(TPU、NPU 等)为主。
谷歌定制化AI芯片(即张量处理器)正通过其专业化架构挑战现有市场格局。据报道,多家大型科技公司正计划斥资数十亿美元采购谷歌的张量处理器,这可能动摇英伟达作为AI芯片主要供应商的地位。什么是TPU? TPU比GPU更适合AI吗?英国布里斯托大学的西蒙·麦金托什-史密斯表示,从技术上讲,张量处理器更像是图形处理单元的一个子集,而非一种完全不同的芯片。 孔蒂指出,英伟达图形处理单元的一个传统优势是,有简单易用的软件可以帮助人工智能设计者在英伟达芯片上运行代码。张量处理器刚问世时并不具备这种便利性,但现在这些芯片已经发展到更易于使用的阶段。 例如,某机构使用自己的Trainium芯片来训练其人工智能模型。 麦金托什-史密斯表示:“大多数大型科技公司都有内部的芯片开发项目,部分原因是图形处理单元因供不应求而变得非常昂贵,自己设计和制造可能更便宜。”TPU将如何影响AI行业?
在整个 AI 系统的构建中,AI 算法、AI 框架、AI 编译器、AI 推理引擎等都是软件层面的概念,而 AI 芯片则是物理存在的实体,AI 芯片是所有内容的重要基础。 本系列文章将会通过对典型的 AI 模型结构的设计演进进行分析,来理解 AI 算法的计算体系如何影响 AI 芯片的设计指标,进而结合几种主流的 AI 芯片基础介绍,帮助大家对 AI 系统的整个体系知识有更全面的认识 计算机芯片体系结构在很大程度上影响了 AI 算法的性能。因此,了解 AI 算法与芯片计算体系结构之间的关系是非常重要的。 AI 芯片的分类 AI 芯片的广泛定义是指那些面向人工智能应用的芯片。 CPU、GPU、FPGA、ASIC 是目前 AI 计算过程中最主流的四种芯片类型,CPU、GPU、FPGA 是前期较为成熟的芯片架构,属于通用性芯片,ASIC 是为 AI 特定场景定制的芯片。
7月10日消息,近日,有开发者在Bilibili 平台上放出的苹果iOS 18 内部版本信息中发现,苹果正同步开发至少7款尚未对外公开的芯片,涵盖A19、A19 Pro、M5、M5 Pro、新款Apple Watch 芯片、苹果第二代5G 调制解调器C2 ,以及一款整合蓝牙与Wi-Fi 的通信芯片Proxima。 Apple Watch 则预计随Series 11 引入代号“Bora” 的处理器,据曝光的代码显示,该芯片可能是以A18 构架为基础开发,意味着苹果将进一步提升手表的性能与AI 计算能力,巩固其在穿戴装置市场的技术领先地位 Proxima 芯片的出现,代表苹果正计划将蓝牙与Wi-Fi 模块整合为单一芯片,对于装置空间利用与电力管理皆具有显著优势。 这些芯片布局不仅体现苹果持续深化垂直整合策略,也为未来多元装置间的性能协作、AI 应用、通信技术整合铺路。随着下半年新品陆续发表,市场将见证苹果如何以自主芯片技术打造更紧密、生态系整合的设备体验。
不过,小米公司高级副总裁王翔近日在接受 CNBC 采访时表示,小米正在进行大量与 AI 芯片相关的研究。 手机 SoC 是一项艰难的过程,而且高投入还不一定能带来高回报。 为此,这几家手机巨头纷纷推出了更适合 AI 应用的芯片,使得这些应用能够在手机终端执行,而不需要依靠云端的服务器,以此带来更流畅的使用体验。 而小米已经在自家手机上推出过各种 AI 功能,并且还在大力扩展具备 AI 能力的智能家居的版图(比如小爱音箱)。因此,小米跟进华为等巨头,进行 AI 芯片的相关研究也就在情理之中了。 “我们自己造芯片,主要目的是为了更深入地了解技术。我们(去年)已经推出了第一款搭载澎湃芯片的智能手机。未来,我们将继续相关技术的研发工作,除了芯片组以外,还会涉及 AI 和其他相关的技术。”王翔说。 不过,小米目前还没决定要不要自己造 AI 芯片。 至于澎湃 S2,王翔并未透露更多的信息,只是表示,小米会继续和其他芯片公司保持良好的合作关系。
10月6日消息,据路透社援引知情人士的话指出,生成式AI领域的领头羊、ChatGPT开发商OpenAI正在探索AI芯片的可能性,并已评估潜在的收购目标,以加速自研芯片的研发。 报道称,OpenAI至少从去年就已经开始讨论各种解决方案,以解决AI芯片成本高昂、短缺等问题,其中就包括自研AI芯片、与英伟达(NVIDIA)在内的AI芯片厂商更密切合作、推动AI芯片供应来源更多元化, 虽然还不清楚OpenAI是否会持续推进自研芯片计划,但资深产业人士指出,OpenAI 若是投入自研AI芯片将是一项重大战略,同时也将是一项巨额投资,每年研发投入成本可能高达数亿美元,但无法保证自研AI芯片一定成功 目前面向服务器的AI芯片市场处于英伟达的统治之下,市占率超过80%。特别是自去年年底以来,生成式AI热潮兴起之下,英伟达的AI芯片(GPU)便持续供不应求,价格也是水涨船高。 目前包括谷歌、亚马逊AWS、阿里巴巴、百度、华为等云服务大厂都已有自研 AI 芯片用于数据中心,微软和Meta也有相关计划。所以对于头部的AI技术大厂来说,自研AI芯片已经是一大趋势。
人工智能芯片产业现状 4.1 产业现状评述 AI 芯片是芯片产业和人工智能产业整合的关键 ,特别是 AI 系统芯片。 根据 Gartner 的预测数据 , 未来 5 年内全球人工智能芯片市场规模将呈飙升趋 势 ,自 2018 年的 42.7 亿美元 ,升高至 343 亿美元 ,增 长已超过7倍,可见AI芯片市场有较大增长空间 硬件集成初级的产品是板上系统(system on board ),但终极目标是将多个芯片集成在一块芯片上 形成系统芯片,或称片上系统(system on chip),如图7所示。 ? 每家人工智能企业都有自己独特的算法,AI 芯片企业也是一样 ,会根据自己的改良算法来设 计AI芯片。 ? 4.7.1 云端市场 随着云端市场需求不断上升 ,服务器 AI 芯片的市场前景乐观。 AI芯片在物 联网产品上的应用主要有两个用途 ,一个是视觉 AI芯片 ,另一个是语音 AI 芯片 ,但因为自然语言处理 的 AI 产品开发难度高 ,目前新创 AI 芯片企业主要切 入的市场是计算机视觉设备的落地场景
摩尔定律的终结与AI的崛起随着摩尔定律逼近物理极限,工程师正转向人工智能等创新方法。 某机构在其存储芯片中集成AI以实现内存计算,既提升机器学习速度又降低能耗;某中心的TPU V4 AI芯片处理能力较前代翻倍。 AI在芯片设计中的核心应用MathWorks MATLAB平台高级产品经理Heather Gorr指出:缺陷检测:贯穿制造全流程,包括光学元件与传感器设计阶段预测性维护:通过历史数据分析设备停机根本原因数字孪生 :替代传统物理建模,快速完成参数扫描与蒙特卡洛模拟技术优势与挑战效率革命:基于AI的替代模型使仿真速度提升百倍数字孪生技术降低90%原型试制成本精度局限:AI模型准确度仍逊于传统物理模型需融合多传感器数据源 ,系统集成复杂度高工程师的实战建议利用GitHub等开源社区的成熟工具链高频传感器数据需结合频域分析技术明确问题边界,建立模块化测试流程人机协作的未来图景AI将释放工程师生产力:处理材料优化等重复性工作人类专注关键决策与跨系统整合需构建全流程可解释性模型
导语:本文分析了目前AI芯片市场的情况,以及NVIDIA在这一市场的领先地位。不过,随着芯片巨头在AI芯片领域有了新的进展,NVIDIA将会面临更多的挑战,2019年AI芯片市场会如何? 目前,我们处于AI芯片爆发的门口,全球许多大型和小型公司都加入其中。三年前,芯片创业公司几乎不可能获得风险投资,现在,有数十家资金充足的挑战者在研发AI芯片。 重磅的竞争者 根据纽约时报的统计,有超过40家创业公司进入AI芯片领域,但实际情况是,只有少数公司能在这个市场上取得真正的成功(比如收入超过10亿美元)。 谷歌一直擅长从NVIDIA的GPU技术大会(通常在三月份)的可预测信息中窃取一些引人注意的信息,如果今年谷歌发布性能强大的7nm TPU,对比我不会感到惊讶。 此外,即将推出的Xilinx 7nm芯片称为Versal,具有AI和DSP引擎,可加速特定应用程序处理以及自适应逻辑阵列。Versal将在今年的某个时候开出货,我认为这可能是推理处理的改变者。