- 综合排序
- 最热优先
- 最新优先
- 来自专栏PyVision
使用TVM优化PyTorch模型实现快速CPU推理
推理太慢？只好想办法把 CPU 榨干啦。 作者：Aleksey Bilogur 编译：McGL Apache TVM 是一个相对较新的 Apache 项目，以深度学习模型推理的性能大幅改进为目标。 在调优步骤中，TVM 对图中的计算任务(“调度”)的操作顺序进行预测，以在选定的硬件平台上获得最高性能(最快推理时间)。 对于生产用例，TVM 的应用 Python 入门指南推荐 CPU 运行1500次测试，GPU 运行3000次左右。 对结果模型进行基准测试 我记录了在 CPU 上这个模型的两个不同版本运行一批数据的时间，并计算了运行多次推理所需的平均时间。第一个是基准的 PyTorch 模型，没有量化和编译。 模型的编译版本的推理时间比基准模型快30倍以上！ 事实上，值得注意的是，在 CPU 上编译的模型运行速度与 GPU 上的基准模型(g4dn.xlarge，NVIDIA T4实例)相当。
2.6K31发布于 2021-07-07 - 来自专栏信创系统开发
能在 CPU 上运行的开源大模型推理框架
1-bit 量化可以大幅加快模型推理速度，同时减少内存使用，使得在 CPU 上推理成为可能。 BitNet.cpp旨在通过优化内核为 CPU 上运行的 1.58-bit 模型提供快速且无损的推理支持，并在未来版本中计划支持 NPU 和 GPU 。 BitNet.cpp的开源为1-bit LLM的普及和大规模推理打开了新的大门，其在CPU上的高效推理性能，极大地扩展了大模型在本地设备上的可行性。 有这么好的开预案项目，当然要尝试一下。 小结 与主流 LLM 推理框架（如 Hugging Face Transformers 或 DeepSpeed）相比，BitNet.cpp 的独特优势在于专注于低比特模型推理，从而显著降低了计算资源需求 不同于传统框架需借助 GPU 才能达到高效推理速度，BitNet.cpp 通过高效的低比特量化技术，仅依赖 CPU 也能实现接近或等同的推理性能。这一优势可以大大推进侧端大模型的普及。
1.1K10编辑于 2025-01-23 - 来自专栏CreateAMind
difflogic 单核CPU推理每秒超一百万张MNIST
networks allow for very fast classification, with speeds beyond a million images per second on a single CPU networks achieve fast inference speeds, e.g., beyond a million images of MNIST per second on a single CPU inputs out_dim=16_000, # number of outputs device='cuda', # the device (cuda / cpu It is compatible with device='cpu' and device='cuda'. cuda is a well-optimized implementation that runs This allows especially efficient static execution of a fixed trained logic gate network on CPU.
42810编辑于 2023-09-13 - 来自专栏深度学习自然语言处理
FastFormers：实现Transformers在CPU上223倍的推理加速
作者：Parth Chokhra 编译：ronghuaiyang 导读 使用多头注意力的Transform在cpu上实现222倍的加速。 ? CPU上采用8bit量化方法，GPU上将所有模型参数转换为16位浮点数据类型，最大限度地利用高效Tensor Cores。 神经网络剪枝技术可以使训练网络的参数减少90%以上，在不影响精度的前提下减少存储需求，提高推理的计算性能。这有助于减小经过训练的神经网络的大小或能量消耗，并有助于使推理更有效。 在CPU上的8bit量化矩阵乘法：由于减少了CPU指令数量，8bit量化矩阵乘法与32位浮点运算相比带来了显著的速度提升。 batch size为1的BoolQ验证数据集上的CPU推理加速 总结 本文介绍了FastFormers，它能对基于Transformer的模型在各种NLU任务上实现高效的推理时间性能。
2.3K10发布于 2021-03-01 - 来自专栏信创系统开发
专门针对 DeepSeek 的纯 C++ CPU 端推理框架
代码量不到 2000 行，对研究推理框架的开发者而言，这无疑是一个极简、高效的参考。 除了大模型，推理框架（Inference Framework）在目前大语言模型（LLM）部署中也存在较大的优化空间。 大部分开发者使用的推理框架多采用 Python 或 JavaScript，虽然通用性更强，但在极限性能追求下，C++ 方案逐渐崭露头角，例如 llama.cpp。 此外，deepseek.cpp 还特别适用于低端 CPU 设备，因为它不依赖 Python 运行时，相比其他推理引擎，代码体积更小（除掉 fmt 和 json 的代码量小于 2 千行）。 建议爱好钻研的同学可以关注一下，至于纯 CPU 推理对于内存要求过高的问题，以后也将不是问题，毕竟内存比 GPU 更容易造。
95710编辑于 2025-02-10 - 来自专栏机器之心
CPU推理提升4到5倍，苹果用闪存加速大模型推理，Siri 2.0要来了？
论文地址：https://arxiv.org/pdf/2312.11514.pdf 具体来讲，研究者讨论了一种受硬件启发的成本模型，其中包括闪存、DRAM 和计算核心（CPU 或 GPU）。 结合使用窗口和稀疏性预测可以为每个推理查询仅加载 2% 的闪存 FFN 层。他们还提出了静态内存预分配，最大限度减少了 DRAM 内的传输并减少了推理延迟。 与 CPU 和 GPU 中的 naive 实现相比，优化该成本模型并有选择地按需加载参数的闪存策略可以运行两倍于 DRAM 容量的模型，并将推理速度分别提升 4-5 倍和 20-25 倍。 此外将数据从 DRAM 传输到 CPU 或 GPU 内存需要耗费更多能量。 在 DRAM 充足的场景中，加载数据的成本有所降低，这时模型可以驻留在 DRAM 中。 对于 GPU 机器上的 16 位模型，闪存加载时间缩短至 40.5 毫秒，内存管理时间为 40 毫秒，由于从 CPU 向 GPU 传输数据的额外开销，时间略有增加。
51710编辑于 2023-12-28 - 来自专栏贾志刚-OpenCV学堂
普通PC上CPU运行YOLOv5推理 400+FPS
OpenVINO2022 OpenVINO2022.x版本全面抛弃了之前的SDK函数，升级为API2.0方式支持C++与Python推理，同时支持多种深度学习框架训练的模型部署，支持CPU与GPU推理， 图示如下： 流程与API2.0接口 常用组件与推理流程支持： 全新API2.0 接口： 支持IR11版本、推理支持ONNX。 对比之前的版本简化了诸多开发流程与函数使用： 效果演示 提供了更加强大的预训练模型库，超过200+的预训练模型，支持车牌识别： OCR识别 常见场景的行人检测与实例分割： 在推理层面支持同步与异步方式 ，异步方式支持通过回调实现后处理，实现视频流水线支持，下面是一系列的基于异步+流水线方式的推理演示（CPUi7 11th ）均达到了GPU3060的推理能力，截图如下：
1.8K40编辑于 2023-08-22 高通CEO：正开发数据中心CPU和AI推理芯片！
在最新的财报电话会议上，Amon进一步指出：“随着推理需求的规模扩大，云服务提供商正在构建专用的推理集群，不仅关注性能，还关注效率，特别是每美元/Token和每瓦/Token的效益。 这些因素加上从商用 x86 CPU 到面向云计算和 AI 节点的定制的兼容 Arm架构的CPU 的转变，为高通创造了一个切入点。” Amon表示，高通正在开发“通用的数据中心CPU”，并且“非常专注于超大规模企业”，因为“他们拥有兼容 Arm架构CPU的工作负载”。 同时，高通还正在开发的另一款数据中心产品，并将描述为“推理集群的主机”。“我们一直在构建加速卡，我们还将构建一个机架。”Amon说道。 从Amon的介绍来看，高通似乎除了正在开发数据中心CPU之外，还在开发面向数据中心的AI推理芯片。 “虽然我们正处于此次扩张的早期阶段，但我们正在与多个潜在客户接触。”
20010编辑于 2026-03-19- 来自专栏贾志刚-OpenCV学堂
Pytorh与tensorflow对象检测模型如何部署到CPU端，实现加速推理
OpenVINO框架支持训练好的pb模型转换为中间文件，在CPU端侧加速推理，对SSD系列的模型在酷睿i7 CPU8th端侧推理速度可达到100FPS左右。 OpenVINO支持C++/Python两种语言部署与推理。 之前写过一系列的相关文章可以直接查看这里 Tensorflow + OpenCV4 安全帽检测模型训练与推理 基于OpenCV与tensorflow实现实时手势识别 Tensorflow Object YOLOv5的Pytorch版本是官方的标准版本，模型分别为： YOLOv5s YOLOv5m YOLOv5l YOLOv5x 模型大小从小到大、支持的mAP精度从低到高，而且YOLOv5s非常适合在CPU 端侧运行，通过OpenVINO部署框架加速之后，酷睿i7 CPU8th端侧可以达到12FPS左右。
1.4K20发布于 2021-04-21 - 来自专栏贾志刚-OpenCV学堂
YOLO26 | C# 上位机部署推理，CPU加速FPS140+
三大核心优势： 极速CPU推理：通过原生端到端设计，移除NMS后处理步骤，CPU推理速度比前代提升高达43%，可在无GPU设备上实时运行。 其优势包括： 1）异步推理大幅提升吞吐率，适合视频流处理； 2）支持CPU、iGPU及NPU等多硬件加速，实时推理； 3）提供C# API，便于.NET开发者快速落地 代码实践与演示 第一步：构建C# OpenVINOYOLO26Detector detector = new OpenVINOYOLO26Detector(); detector.Detect(); 第二步：完整代码 - 构建YOLO26 OpenVINO C# 推理演示代码
4210编辑于 2026-04-15 - 来自专栏为了不折腾而去折腾的那些事
CPU 混合推理，非常见大模型量化方案：“二三五六” 位量化
本篇文章聊聊网上聊的比较少的具体量化操作，非常见整型位数的量化，来自让各种开源模型能够在 CPU 环境、CPU & GPU 环境混合推理的技术方案：llama.cpp 。 量化使用的硬件 而量化模型使用的硬件，需要 CPU 计算能力相对强一些的机器，如果你有 GPU，那么将会极大的提升模型量化速度，如果没有也没有关系。 你也可以使用有 CPU 和 GPU 的设备，量化后给只有 CPU 的设备使用。 如果我们只追求使用 8 位量化的，可以使用 CPU 和 GPU 混合推理的模型，那么我们可以参考这篇文章中的“尝试对模型进行几种不同的量化操作[5]”的方法中的命令行参数，将模型转换为 GGML 的 q8 扔到显卡里的模型层数越多，推理速度越快。•“--model” 这个参数没有什么特别的，指定我们下载或者转换好的 GGML 模型文件就好。 好啦，当这个命令执行后，我们就能够快乐的和模型一起玩耍啦。
1.6K10编辑于 2023-12-14 - 来自专栏3D视觉从入门到精通
同样支持CPU上ONNX部署与推理
80 = next(head_it) # 80 out_blob_40 = next(head_it) # 40 out_blob_20 = next(head_it) # 20 处理输入图象与推理
2.8K20发布于 2021-07-01 - 来自专栏DeepHub IMBA
FastFormers 论文解读：可以使Transformer 在CPU上的推理速度提高233倍
“将这些建议的方案应用于SuperGLUE基准，与现成的CPU模型相比，能够实现9.8倍至233.9倍的加速。在GPU上，通过所介绍的方法，我们还可以实现最高12.4倍的加速。” 作者特别关注推理时间效率，因为它主要支配了生产部署的成本。在此文章中，我们将介绍本文所解决的所有问题和挑战。 那么，他们如何解决推理时间过长的问题？ 在CPU上，采用8位整数量化方法，而在GPU上，所有模型参数都转换为16位浮点数据类型，以最大程度地利用有效的Tensor Core。 神经网络修剪技术可以将经过训练的网络的参数数量减少90％以上，减少存储需求并提高推理的计算性能，而不会影响准确性。这有助于减小训练后的神经网络的大小或能耗，并有助于提高推理效率。 CPU上的8位量化矩阵乘法：与32位浮点算术相比，8位量化矩阵乘法带来了显着的加速，这归功于CPU指令数量的减少。
1.8K20发布于 2020-11-09 - 来自专栏为了不折腾而去折腾的那些事
CPU 混合推理，非常见大模型量化方案：“二三五六” 位量化
本篇文章聊聊网上聊的比较少的具体量化操作，非常见整型位数的量化，来自让各种开源模型能够在 CPU 环境、CPU & GPU 环境混合推理的技术方案：llama.cpp 。 量化使用的硬件 而量化模型使用的硬件，需要 CPU 计算能力相对强一些的机器，如果你有 GPU，那么将会极大的提升模型量化速度，如果没有也没有关系。 你也可以使用有 CPU 和 GPU 的设备，量化后给只有 CPU 的设备使用。 如果我们只追求使用 8 位量化的，可以使用 CPU 和 GPU 混合推理的模型，那么我们可以参考这篇文章中的“尝试对模型进行几种不同的量化操作”的方法中的命令行参数，将模型转换为 GGML 的 q8_0 扔到显卡里的模型层数越多，推理速度越快。 “--model” 这个参数没有什么特别的，指定我们下载或者转换好的 GGML 模型文件就好。 好啦，当这个命令执行后，我们就能够快乐的和模型一起玩耍啦。
2.1K20编辑于 2023-12-12 - 来自专栏飞天小牛肉
CPU 和 CPU Core 有啥区别？多核 CPU？多个 CPU？
本文收录于 www.cswiki.top CPU 全称 Central Processing Unit，中央处理器，计算机的大脑，长这个样子： CPU 通过一个插槽安装在主板上，这个插槽也叫做 CPU Socket，它长这个样子： 而我们说的多核 CPU，一个 CPU 有几个核，这个核就是 Core 其实在很久之前是没有 Core 的概念的，一个 CPU 就是一个完整的物理处理单元，之后由于多核技术的发展 ，CPU 的概念转变为了一个容器（container），而 Core 则变成了真正的物理处理单元。 一个 CPU 中可以有多个 Core，各个 Core 之间相互独立且可以并行执行 所以你说一个多核 CPU 支不支持多进程/线程并行？ Core 的数量，而非 CPU 数量，比如常见的线程池的 corePoolSize 设置为 CPU 个数 * 2，这里的 CPU 个数，其实指的就是 CPU Core 的个数 当然了，还有 Hyper-threading
6.5K20编辑于 2022-11-08 - 来自专栏机器之心
现在都2202年了，用CPU做AI推理训练到底能不能行？
机器之心原创 作者：思 CPU 不适合模型推理和训练？ ）和 BF16（兼顾推理和训练）的支持。 显然，与昂贵的 GPU 不同，英特尔® 至强® 可扩展处理器 推理和训练的性价比极高。 使用 OpenVINO 工具套件来开展 AI 推理加速，深度学习模型能从 FP32 转换成为使用 VNNI 进行优化的 INT8，成功地加快了影像信息系统中深度学习的推理速度。 使用 INT8 量化推理能充分利用 CPU 的计算能力提升推断速度。
1.5K30编辑于 2022-09-26 - 来自专栏后端云
cpu-pining CPU绑定
既然我们的操作系统还有CPU特性都采用了NUMA架构，那么我们完全可以通过调整KVM对应的NUMA关系来达到KVM CPU这方面的优化。这里，我们一般是通过CPU绑定的方法来做相关操作的。 这个虚拟机是2个vCPU 双核的，然后都是跑在了物理机的CPU8上，使用的时间是2964.6s。 最后一个是CPU的亲和性，这个yyyyy 表示的是使用的物理CPU内部的逻辑核，一个y就代表其中一个CPU逻辑核。全部是y ，那么说明这台物理机的24个CPU核，这个CPU都能调度使用。 我们可以看到目前这个虚拟机0-23的CPU它都能调度使用 那么以上就是查看虚拟机CPU NUMA调度的信息，如果我们要把虚拟机绑定到固定的CPU上，我们就要做以下操作： # virsh emulatorpin 这里要注意的是，你把虚拟机用reboot重启，这个绑定配置还是生效的，但是你shutdown的话，CPU绑定的效果会失效。
2.5K40发布于 2018-10-24 - 来自专栏人人都是架构师
HugggingFace 推理 API、推理端点和推理空间使用介绍
本文将介绍 HuggingFace 的推理 API、推理端点和推理空间的使用方法。 页面小组件 推理 API 有两种使用方式，一种是在模型页面的右侧找到推理 API 的小组件页面，初始界面如下图所示： 我们可以在这个页面中上传图片，然后就可以看到模型进行推理运行，等一会后推理结果就出来了 信息确认无误后点击Create Endpoint按钮创建推理端点，创建成功后可以进入推理端点的详情页面看到如下信息： 其中Endpoint URL就是部署好的推理端点地址，我们可以跟调用推理 API 然后选择空间硬件，HuggingFace 为每个空间提供了一个免费的配置： 2 核 CPU 16G 内存，用这个配置部署推理空间是免费的，如果你想要更高的配置，也可以选择付费的配置。 总结 本文介绍了 HuggingFace 的推理 API、推理端点和推理空间的使用方法，推理 API 是免费的，使用 HuggingFace 自建的 API 服务，推理端点是部署自己专属的 API 服务
4.4K40编辑于 2023-09-17 - 来自专栏韩曙亮的移动开发专栏
【C 语言】CPU 架构 ( CPU 指令集类型 | CPU 指令类型 | CPU 架构 )
文章目录 一、CPU 指令集类型 二、CPU 指令类型 三、CPU 架构 1、x86 2、ARM 3、MIPS 4、PowerPC 一、CPU 指令集类型 ---- CPU 指令集类型 : RISC 就是精简指令集 , Android 是基于 ARM 架构的操作系统 ; CISC : Complex Instruction Set Computers , 复杂指令集 , PC 机的 x86 架构 CPU ( Intel , AMD ) 就是复杂指令集 ; Linux , Windows 是基于 x86 架构的操作系统 ; C 语言的代码编译的程序 , 在不同类型指令集的 CPU 上是不同的 ; 二、CPU 架构 ---- 1、x86 x86 构架的 CPU 只要用于 PC 机 , 桌面 等设备 ; 指令集类型是 CISC 复杂指令集 ; 2、ARM ARM 架构的 CPU 由 ARM 公司退出 , 该公司只设计 CPU , 授权给第三方公司生产 CPU ; 该类型 CPU 由一家公司设计 , 由另一家公司代工生产 ; ARM 构架的 CPU 主要用于 嵌入式 , 手机 等设备 ; 3、MIPS 指令集类型是
2.9K40编辑于 2023-03-29 - 来自专栏CreateAMind
因果推理比概率推理更难吗？
统计和因果推理中的许多任务可以被解释为合适的形式语言中的蕴含问题。我们问，从计算的角度来看，对于因果概率语言来说，这些问题是否比纯概率（或“关联”）语言更困难。 尽管从多种意义上讲，因果推理确实更复杂——无论是表达上的还是推理上的——我们表明因果蕴涵（或可满足性）问题可以系统地、稳健地简化为纯粹的概率问题。因此，计算复杂性不会增加。 毫无争议的是，因果推理比纯粹的概率或统计推理更困难。后者似乎已经足够困难了：估计概率、根据过去的观察预测未来事件、确定统计显着性、在统计假设之间做出裁决——这些已经是艰巨的任务，长期陷入争议。 因果推理问题似乎只会让我们的任务变得更加困难。推断因果效应、预测干预结果、确定因果方向、学习因果模型——这些问题通常需要统计推理，但也对研究者提出更多要求。 从推理的角度来看，概率信息远远不能确定因果信息。 统计推断和因果推断的一个共同特征是，每种方法最突出的方法都可以（至少部分地）理解为试图将归纳问题转化为演绎问题。
27810编辑于 2024-03-25
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号