来源:内容来自「知乎@汪鹏 」 所谓的AI芯片,一般是指针对AI算法的ASIC(专用芯片)。 传统的CPU、GPU都可以拿来执行AI算法,但是速度慢,性能低,无法实际商用。 在手机终端,可以自行人脸识别、语音识别等AI应用,这个必须功耗低,所以GPU OUT! 所以,开发ASIC就成了必然。 说说,为什么需要AI芯片。 当然,以上的数据都是完全最理想的理论值,实际情况,能够达到5%吧。因为,芯片上的存储不够大,所以数据会存储在DRAM中,从DRAM取数据很慢的,所以,乘法逻辑往往要等待。 总的来说,CPU与GPU并不是AI专用芯片,为了实现其他功能,内部有大量其他逻辑,而这些逻辑对于目前的AI算法来说是完全用不上的,所以,自然造成CPU与GPU并不能达到最优的性价比。 谷歌的TPU,寒武纪的DianNao,这些AI芯片刚出道的时候,就是用CPU/GPU来对比的。 无图无真相,是吧?
从数据来看,5G已经全面普及到了用户层面,市面上推出的5G手机也越来越多,很多人都知道5G时代来临了要换5G手机、换5G套餐,获得更快的网速,但怎么判断手机的5G能力呢?答案就是看5G芯片。 (来源:鲜枣课堂) 目前全世界范围内具备5G高端芯片制造能力的厂商屈指可数。 高通 高通是芯片行业的老大哥了。 在国内5G手机里面,有超过一半使用的都是高通5G芯片。目前,高通是全球唯一一家能够提供从基带到射频再到天线的整体性解决方案的5G芯片厂商。 同年9月6日,华为在德国柏林和北京同时发布最新一代旗舰芯片麒麟990系列,包括麒麟990和麒麟990 5G两款芯片。麒麟990 5G SoC芯片采用7nm EUV工艺,内置巴龙5000基带。 根据调研机构Omida的手机芯片出货量数据显示,联发科2020年的芯片出货量夺得全球第一名,超过高通苹果。近年来联发科全面规划5G芯片研发,在5G市场风生水起,上有旗舰级,下至低端5G芯片。
就这些方面来看,AI芯片的确是门好生意,同时也很好地解释了为什么有众多资本会节奏一致地向AI芯片领域集中。 当然,从互联网巨头们的角度出发,其涉足AI芯片的原因远不止此。 这些或许才是互联网巨头们集体进入AI芯片市场的关键点。 这么来看,入注AI芯片行业对于互联网巨头来说意义非凡,也难怪巨头们一直以来都在急于融入到AI芯片市场当中。 毕竟可以利用云端AI芯片赛道取长补短,填补在终端AI芯片的不足,促进整体AI芯片在市场中茁壮生长,同时可以避开各方巨头在终端AI芯片市场中的尖锐锋芒。 或成AI芯片中坚角色 按目前情况来看,纵使有AI芯片整体制造工艺水平略低、应用场景有限等不足,也难掩BAT等巨头正在AI芯片行业频频出圈的事实。 在AI芯片性能方面,互联网巨头依靠已推出的部分产品在AI芯片领域出尽风头。据公开数据显示,昆仑AI芯片能提供每秒260万亿次的定数运算性能。
在整个 AI 系统的构建中,AI 算法、AI 框架、AI 编译器、AI 推理引擎等都是软件层面的概念,而 AI 芯片则是物理存在的实体,AI 芯片是所有内容的重要基础。 本系列文章将会通过对典型的 AI 模型结构的设计演进进行分析,来理解 AI 算法的计算体系如何影响 AI 芯片的设计指标,进而结合几种主流的 AI 芯片基础介绍,帮助大家对 AI 系统的整个体系知识有更全面的认识 计算机芯片体系结构在很大程度上影响了 AI 算法的性能。因此,了解 AI 算法与芯片计算体系结构之间的关系是非常重要的。 AI 芯片的分类 AI 芯片的广泛定义是指那些面向人工智能应用的芯片。 CPU、GPU、FPGA、ASIC 是目前 AI 计算过程中最主流的四种芯片类型,CPU、GPU、FPGA 是前期较为成熟的芯片架构,属于通用性芯片,ASIC 是为 AI 特定场景定制的芯片。
近日,欧盟委员会公布了其人工智能大陆行动计划,打算建立了一个构架,以加强欧盟的人工智能(AI)计算基础设施。 其中,该计划将以设立5座AI数据中心为核心,每座数据中心将配备约10万个AI芯片,相较于现有的基础设施,其拥有的训练数量将提高达四倍。 不过,AI 数据中心的选址仍然是一个问题,在德国政府的部分,打算在境内寻找一个合适的地点,以争取设置。 报导指出,尽管大家都意识到人工智能将带来的生产效率提升,但是目前仅有13.5%的欧盟企业导入了AI相关应用与技术。 因此,欧盟委员会将实施一项应用人工智能战略,藉由欧洲数位创新中心提供的支持,以促进AI技术在工业领域的应用,并在欧盟战略性公共和私有部门达到全面性的全面推广。
新智元报道 编辑:桃子 【新智元导读】生成式AI的诞生,为芯片设计开启了另一条路。现在不论是英伟达等科技公司,还是学术界,都在试图研发出能够完全自主设计芯片的AI系统。 让AI参与芯片设计,全都是因2023年⼈⼯智能热潮掀起,专用AI芯片的供应一直处于紧张状态。 这款AI⼯具可以回答有关如何使⽤公司设计⼯具的问题,并能创建⼯作流程脚本。 它还可以生成RTL(一种芯片设计语言,用于规范芯片架构),只需用简单的英语进行对话即可。 包括纽约大学在内多所大学进行的研究,致力于发现确定生成式AI加速芯片设计的其他方法。 其中一些研究得到了Synopsys,以及芯片巨头⾼通等公司的资助。 Synopsys公司的Krishnamoorthy估计,利⽤⽣成式AI⾃主创建功能芯⽚的能⼒⼤约还需要5年时间。
目前这家初创公司还没有发布其第一代芯片产品。 近日,据国外媒体报道,美国初创公司SambaNova System获得了5600万美元的A轮融资。 目前这家初创公司还没有发布其第一代芯片产品,但其已与潜在客户以及公共云提供商进行了谈话。 近年来,AI芯片一直是各大科技公司竞争的热门对象。早在2016年,谷歌就宣布已经制造出可以快速训练AI模型的芯片——张量处理单元(TPU),以对抗英伟达的GPU。 而老牌芯片CPU巨头英特尔并购了AI初创公司Nervana,以扩大自己在AI芯片上的优势。 在收购AI初创公司方面,谷歌也位列各大科技公司榜首。 从2012年至今,谷歌并购的AI公司最多,大概有14个,苹果公司位居第二位。但是此次收购AI芯片公司,还是谷歌的第一次尝试。
刚刚,高通公司在骁龙技术峰会重磅发布最强AI芯片,骁龙855。 ? 芯片。 这种芯片可以说肯定会出现在第一批5G手机中。 ? 高通表示,这个新平台将支持5G网络的“千兆”下载速度。 今年的骁龙技术峰会是5G网络在美国推出之前的最后一个重要里程碑之一,而AT&T和Verizon都在此提供5G设备让来者试用。 之前,大多数5G演示都是理论上的、闭门造车,此次峰会是首次提供5G设备来体验。
AI将如何改变芯片设计人工智能对半导体行业的承诺与潜力芯片制造、MATLAB、摩尔定律、芯片设计、人工智能、数字孪生摩尔定律的终结正逐渐逼近。 例如,某机构正在将其AI技术添加到内存芯片中,以实现存内处理,从而节省能源并加速机器学习。说到速度,某机构的TPU V4 AI芯片的处理能力比其前代产品提高了一倍。 但对于半导体行业,AI仍有更多前景和潜力。为了更好地理解AI将如何彻底改变芯片设计,我们与某机构MATLAB平台的高级产品经理进行了对话。问:AI当前如何用于设计下一代芯片? 我们通常认为AI是一种预测工具,或者是一个执行某种任务的机器人,但很多时候,通过AI能从数据中获得很多洞察。问:使用AI进行芯片设计的好处是什么? 问:你如何展望AI和芯片设计的未来?答:这在很大程度上取决于人的因素——让人参与到过程中,并拥有可解释的模型。
AI如何改变芯片设计摩尔定律即将终结。工程师和设计师在晶体管微型化和芯片集成度方面已接近极限,因此他们转向其他芯片设计方法,将AI等技术融入设计流程。 AI在芯片设计中的当前应用某机构高级产品经理指出,AI已贯穿芯片设计和制造的大部分环节。在工艺工程中,AI可用于优化流程,缺陷检测是各阶段(尤其是制造环节)的重要应用。 AI不仅是预测工具,更能从数据中提取深层洞见。AI驱动的设计优势传统基于物理的建模计算密集且复杂。AI可创建替代模型(即数字孪生),通过参数扫描、优化和蒙特卡洛模拟大幅降低计算时间。 挑战与局限AI模型精度仍不及传统物理模型,这是通过大量模拟和参数扫描来弥补的缺点。芯片设计和制造需考虑所有组件,整合不同部件的预测模型极具挑战性。 未来趋势将减少追求超精确预测,转向信息透明共享和数字孪生应用,结合AI与人类专业知识,推动芯片设计向更高效、协作的方向发展。
根据雷锋网的了解,在AI领域腾讯的投资上偏好行业覆盖性的战略方针,主要是在智能医疗方向,在AI芯片方面腾讯的投资仅有一个公开的投资,那就是2016年11月与阿里巴巴领投可编程芯片公司Barefoot Networks 腾讯首次投资的国内AI芯片初创公司燧原科技今年3月成立于上海,在上海和北京设有研发中心,产品是针对云端数据中心开发的深度学习高端芯片,定位于人工智能训练平台,将采用自主研发的独特创新架构,具有高算力、高能效比 据悉,燧原科技的Pre-A轮融资将用于云端AI加速芯片及相关软件生态的研发投入。 燧原科技优秀的研发团队,将专注于打造拥有自主知识产权、安全可控、高性能低成本的AI云端训练芯片,并以优化的软件生态系统切入中国云服务器和数据中心市场,引领未来人工智能算力架构的全新变革。” 毕竟阿里巴巴达摩院已经对外透露正研发一款神经网络芯片Ali-NPU,百度更是在7月4日的Baidu Create 2018 百度 AI 开发者大会上宣布推出自主研发的 AI 芯片“昆仑”,其中包含训练芯片昆仑
英伟达生态的思考点从软件和硬件架构的角度出发,CUDA 和 SIMT 之间存在一定的关系,而目前 AI 芯片采用的 DSA 架构在编程模型和硬件执行模型上还处于较为早期的状态,英伟达强大的生态同样离不开 面对新的 AI 芯片,在流水隐藏方面,实现架构层面的隐藏流水编排机制,提出一个形式上与 SPMD 没有关系的编程模式,而且易用性堪比 CUDA 的软件是可能的。 编程模型上缺乏统一的标准,因此需要专门搭建编译器和编程体系,硬件主要以 AI 加速芯片(TPU、NPU 等)为主。 可以很容易地实现向量加法:for (int i = 0; i < 10000; ++i) { C[i] = A[i] + B[i];}#include <stdio.h>// 定义向量大小#define N 5/ cudaFree(d_c); return 0;}CUDA 同时具有编程开发的易用性,对初阶用户而言,CUDA 的易用性是极致的,入门开发者任意写一个简单的算子(Kernel),就能够获得比 CPU 高 5~
谷歌定制化AI芯片(即张量处理器)正通过其专业化架构挑战现有市场格局。据报道,多家大型科技公司正计划斥资数十亿美元采购谷歌的张量处理器,这可能动摇英伟达作为AI芯片主要供应商的地位。什么是TPU? TPU比GPU更适合AI吗?英国布里斯托大学的西蒙·麦金托什-史密斯表示,从技术上讲,张量处理器更像是图形处理单元的一个子集,而非一种完全不同的芯片。 孔蒂指出,英伟达图形处理单元的一个传统优势是,有简单易用的软件可以帮助人工智能设计者在英伟达芯片上运行代码。张量处理器刚问世时并不具备这种便利性,但现在这些芯片已经发展到更易于使用的阶段。 例如,某机构使用自己的Trainium芯片来训练其人工智能模型。 麦金托什-史密斯表示:“大多数大型科技公司都有内部的芯片开发项目,部分原因是图形处理单元因供不应求而变得非常昂贵,自己设计和制造可能更便宜。”TPU将如何影响AI行业?
在整个 AI 系统的构建中,AI 算法、AI 框架、AI 编译器、AI 推理引擎等都是软件层面的概念,而 AI 芯片则是物理存在的实体,AI 芯片是所有内容的重要基础。 本系列文章将会通过对典型的 AI 模型结构的设计演进进行分析,来理解 AI 算法的计算体系如何影响 AI 芯片的设计指标,进而结合几种主流的 AI 芯片基础介绍,帮助大家对 AI 系统的整个体系知识有更全面的认识 计算机芯片体系结构在很大程度上影响了 AI 算法的性能。因此,了解 AI 算法与芯片计算体系结构之间的关系是非常重要的。 AI 芯片的分类 AI 芯片的广泛定义是指那些面向人工智能应用的芯片。 CPU、GPU、FPGA、ASIC 是目前 AI 计算过程中最主流的四种芯片类型,CPU、GPU、FPGA 是前期较为成熟的芯片架构,属于通用性芯片,ASIC 是为 AI 特定场景定制的芯片。
4月30日,芯片设计大厂联发科召开法说会,公布了2026年第一季财务报告。在手机业务遭遇逆风之际,联发科正加速从手机芯片厂向AI算力供应商转型。 这也是联发科首个AI ASIC芯片合作专案。 此外,联发科第二个AI芯片专案正与客户密切合作,目标于2027年底量产,另有多项数据中心计划已进入最终洽谈阶段。 联发科此前预期,2028年AI ASIC市场将达700亿美元规模。 不过,联发科首款采用2nm制程、具备强大AI与计算能力的次世代旗舰手机芯片,预计第三季末问世,公司看好此产品将带动下半年手机营收回暖。 基带的基础,持续以新一代Wi-Fi 8与5G非地面网络卫星解决方案领先市场;电源管理芯片一季度营收环比增长14%、同比增长11%,在总营收当中的占比达5%,预估第二季表现将持平。
作者 | 阿司匹林 编者注:距离小米澎湃 S1 芯片的发布会已经整整一年了,就连搭载澎湃 S1 的小米 5C 都已经从小米商城消失不见,然而澎湃 S2 却迟迟不见踪影。 为此,这几家手机巨头纷纷推出了更适合 AI 应用的芯片,使得这些应用能够在手机终端执行,而不需要依靠云端的服务器,以此带来更流畅的使用体验。 而小米已经在自家手机上推出过各种 AI 功能,并且还在大力扩展具备 AI 能力的智能家居的版图(比如小爱音箱)。因此,小米跟进华为等巨头,进行 AI 芯片的相关研究也就在情理之中了。 “我们自己造芯片,主要目的是为了更深入地了解技术。我们(去年)已经推出了第一款搭载澎湃芯片的智能手机。未来,我们将继续相关技术的研发工作,除了芯片组以外,还会涉及 AI 和其他相关的技术。”王翔说。 不过,小米目前还没决定要不要自己造 AI 芯片。 至于澎湃 S2,王翔并未透露更多的信息,只是表示,小米会继续和其他芯片公司保持良好的合作关系。
10月6日消息,据路透社援引知情人士的话指出,生成式AI领域的领头羊、ChatGPT开发商OpenAI正在探索AI芯片的可能性,并已评估潜在的收购目标,以加速自研芯片的研发。 报道称,OpenAI至少从去年就已经开始讨论各种解决方案,以解决AI芯片成本高昂、短缺等问题,其中就包括自研AI芯片、与英伟达(NVIDIA)在内的AI芯片厂商更密切合作、推动AI芯片供应来源更多元化, 虽然还不清楚OpenAI是否会持续推进自研芯片计划,但资深产业人士指出,OpenAI 若是投入自研AI芯片将是一项重大战略,同时也将是一项巨额投资,每年研发投入成本可能高达数亿美元,但无法保证自研AI芯片一定成功 目前面向服务器的AI芯片市场处于英伟达的统治之下,市占率超过80%。特别是自去年年底以来,生成式AI热潮兴起之下,英伟达的AI芯片(GPU)便持续供不应求,价格也是水涨船高。 目前包括谷歌、亚马逊AWS、阿里巴巴、百度、华为等云服务大厂都已有自研 AI 芯片用于数据中心,微软和Meta也有相关计划。所以对于头部的AI技术大厂来说,自研AI芯片已经是一大趋势。
人工智能芯片产业现状 4.1 产业现状评述 AI 芯片是芯片产业和人工智能产业整合的关键 ,特别是 AI 系统芯片。 根据 Gartner 的预测数据 , 未来 5 年内全球人工智能芯片市场规模将呈飙升趋 势 ,自 2018 年的 42.7 亿美元 ,升高至 343 亿美元 ,增 长已超过7倍,可见AI芯片市场有较大增长空间 其中 ,2017 年芯片销售额占人工智能市场规模的 22% , 约47.7亿人民币,如图5所示。 ? 现今 ,中国已有超过 20 家以上的新创 AI 芯片设 计企业 ,融资总额超过 30 亿美元。 按照 AI 芯片的部署位置 ,可简单将AI 芯片市场分成云端(边缘端并入云端)市场和终端 市场两类 ,具有云计算需求的行业主要是金融业 、医 疗服务业 、制造业 、零售/批发以及政府部门等 5 大行 业 AI芯片在物 联网产品上的应用主要有两个用途 ,一个是视觉 AI芯片 ,另一个是语音 AI 芯片 ,但因为自然语言处理 的 AI 产品开发难度高 ,目前新创 AI 芯片企业主要切 入的市场是计算机视觉设备的落地场景
摩尔定律的终结与AI的崛起随着摩尔定律逼近物理极限,工程师正转向人工智能等创新方法。 某机构在其存储芯片中集成AI以实现内存计算,既提升机器学习速度又降低能耗;某中心的TPU V4 AI芯片处理能力较前代翻倍。 AI在芯片设计中的核心应用MathWorks MATLAB平台高级产品经理Heather Gorr指出:缺陷检测:贯穿制造全流程,包括光学元件与传感器设计阶段预测性维护:通过历史数据分析设备停机根本原因数字孪生 :替代传统物理建模,快速完成参数扫描与蒙特卡洛模拟技术优势与挑战效率革命:基于AI的替代模型使仿真速度提升百倍数字孪生技术降低90%原型试制成本精度局限:AI模型准确度仍逊于传统物理模型需融合多传感器数据源 ,系统集成复杂度高工程师的实战建议利用GitHub等开源社区的成熟工具链高频传感器数据需结合频域分析技术明确问题边界,建立模块化测试流程人机协作的未来图景AI将释放工程师生产力:处理材料优化等重复性工作人类专注关键决策与跨系统整合需构建全流程可解释性模型
网友们纷纷感慨——含A(AI)量,已然成为通信厂商们“秀肌肉”的新方式。 █ 高通的AI布局 作为全球芯片巨头,高通公司在本次MWC上也发布了多款AI赋能的重磅产品,并带来多个生成式AI方面的展示。 X80不仅要更好地利用带宽提升用户的实际连接体验(比如,在用户距离基站较远等颇具挑战的情况下提高平均连接速率),还集成了高通第二代5G AI处理器(专用的AI张量加速器),采用了高通第三代5G AI套件 ,将AI与5G-A深度融合,挖掘通信能力上的潜力。 大家应该也注意到了,好几个首次,都和AI有关。 在全球统一的通信协议框架下,在相同的频谱资源下,手机芯片想要实现速率峰值的差异化,已经没有太多空间。 提升连接的综合性能,改善体验,增强功能,就成为芯片继续升级的主要方向。 与AI深入融合,可以更好地实现这一目标。