回答情况：
提问时间：
问题标签：
在iPhone SE上，在升级到CPU11.4之后，我现在看到一个非常奇怪的iOS节流结果，大约在8-10秒之后。当应用程序启动时，CPU使用率与预期相同(10-15%)，但在8-10秒的窗口之后，CPU似乎大幅减速，因此在CPU全速运行时需要4-5ms的帧解码操作将花费16-17ms (CPU使用率约为60%)。有趣的是，从纵向旋转到横向旋转将重置此节流，解码将再次全速运行，直到8-10秒的不活动再次抑制它。这到底是怎么回事？time 5.87 ms
浏览 1提问于2018-10-10得票数 4
我有一个wxPython应用程序，它有许多工作线程，空闲事件周期，以及许多其他这样的事件处理代码，这些代码可以消耗CPU，而现在，当应用程序不与CPU交互时，消耗的CPU大约为8-10%。问题：
是否有一个工具可以判断我的应用程序的哪个部分/线程消耗了最多的CPU？如果没有这样的通用工具，我愿意知道您通常会采取什么方法来解决这种情况？我想知道的是，当我运行我的应用程序时，我看到cpu的使用率是8-10%，现在有方法知道我的应用程序的不同部分，线程消耗了10%的
浏览 9修改于2009-09-24得票数 0
回答已采纳
我的JNI .so libray用apkbuilder打包apk需要8-10秒。该库大小约8MB，主要用C++编写。2)虚拟文件我所有的arm/x86/mips的.so库都需要8-10秒。我用十六进制编辑器在带有随机值的随机位置编辑了我的.so库。这
浏览 1提问于2014-06-18得票数 0
我想在CPU上运行推理；尽管我的机器有GPU。我想知道是否有可能强制TensorFlow使用中央处理器而不是图形处理器？默认情况下，TensorFlow会自动使用GPU进行推理，但由于我的GPU不好(OOM‘’ed)，我想知道是否有设置强制Tensorflow使用CPU进行推理？
浏览 0修改于2021-06-22得票数 1
但是使用cpu设备和gpu设备的推理结果是不同的。
结果如下:左文件是使用cpu的推理结果(第二列)，右文件是使用CpuAndGpu的推理结果(第二列)。
浏览 0提问于2020-01-21得票数 1
回答已采纳
当我使用设备多: CPU运行推理时(在Python或wih benchmark_app上)，我得到的推理时间与仅使用CPU的时间相同。
浏览 9提问于2022-05-02得票数 -1
我编写了一个机器学习推理库，它有python绑定。在正常操作下，该库将使用8个线程进行推理，并将所有8个线程全部释放100%。这是所需的行为，因为模型非常重，我需要为低延迟进行优化(因此我需要使用所有的CPU资源)。如果我编写一个python脚本并调用这个库中的推理函数(在一个无限循环中)，这8个线程就会如预期的那样被最大化(这是htop命令的输出)。现在我有个问题。如果我在机器学习库中调用相同的推理函数，再次在无限循环中调用，但这次是从我的FastAPI端点中调用的，那么每个线程的C
浏览 6提问于2022-10-27得票数 1
回答已采纳
我正在评估SageMaker多模型服务器(MMS)作为宿主大量模型进行推理的一种选择。我已经按照指令成功地构建了容器。我可以调用推断，并且模型在SageMaker上工作得很好。在我的实验中，彩信经常在8-10左右报告CloudWatch的LoadedModelCount度量。即使我在更大的一组模型上运行推理。如果我将被调用的模型数量保持在较小的范围内，则推理调用大约需要0.1秒。如果我检查一下LoadedModelCount，推理时间就会上升到大约2s。其他指标(内存和加载模型)在另一个平台后8-
浏览 5提问于2021-01-20得票数 0
我一直在尝试在Movidius神经计算棒上运行自定义Tensorflow模型的推理。问题是，NCSDK不支持最后一层。由于最后一层的计算非常轻，我想知道是否有可能在CPU上运行该层？我只需要能够在NCS上运行推理到某一层，然后在CPU上处理最后一层。
浏览 1提问于2018-07-09得票数 1
1回答
当我在我的Ubuntu上运行top时，我看到一个奇怪的进程，它总是占用8-10%的CPU。命令列显示为confighandler。它在root下运行。
浏览 0提问于2022-10-27得票数 0
回答已采纳
我使用20个4核/8 8gb服务器(40美元共享cpu)为15K的bigbluebutton用户。但是我们每天都面临着很多问题，比如html5客户端挂起了三个点，音频不工作，视频不工作。我应该选择像8/16核心cpu/16 go /32内存这样的8-10大服务器吗？
浏览 3提问于2020-07-06得票数 0
我使用默认优化(Float32)设置将网络转换为TFlite，其推理速度约为25fps。当我转换为TFlite INT8量化时，它的推理速度在英特尔8核英特尔酷睿i9 2.3 GHz上约为2 fps。这在CPU上是预期的吗？有人能解释一下是什么导致INT8推理速度慢吗？
浏览 45提问于2020-10-30得票数 0
我试图在C++中运行模型推理。我能够在C++中使用torch::jit::load()加载模型。我能够在cpu和gpu上进行推理，但是起点总是torch::from_blob方法，它似乎正在创建cpu端张量。
为了提高效率，我想直接向CUDA张量转换/复制cv::cuda::GpuMat。
浏览 0提问于2018-12-04得票数 1
回答已采纳
我正在尝试加速一个人员计数器应用程序的推理速度，为了使用GPU，我已经按照描述设置了推理机配置： device_name = "GPU"
ie.SetConfig({ {PluginConfigParams/cldnn_global_custom_kernels/cldnn_global_custom_kernels.xml"} }, device_name); 并在推理引擎上加载网络，我已经设置了目标设备KEY_DYN_BATCH_ENABLED, PluginConfigParams::
浏览 7修改于2020-01-29得票数 1
回答已采纳
我读到过计算机中的进程是基于时间片在CPU上调度的。如果是这种情况，线程不应该长时间占用100%的CPU，系统也不应该挂起。这样的推理有什么问题呢？
浏览 1提问于2015-03-12得票数 0
我期望内置长度/2谓词在逻辑推理的数量上是线性的。然而，它似乎是不变的：% 2 inferences, 0.000 CPU in 0.000 seconds (63% CPU, 142857 Lips)
% 2 inferences, 0.000 CPU in 0.000 seconds (62% CPU, 153846 Lips)
% 2 inferences, 0.000 CPU in 0.000 seconds (65% CPU,
浏览 3提问于2016-05-07得票数 4
回答已采纳
我在写一个基于tensorflow的模型推理机，是否知道cuda设备或cpu上有TF张量？
浏览 9提问于2022-05-25得票数 0
1回答
文档中提到，它可以使用多个CPU和GPU进行培训，但还不清楚是否可以在移动电话上使用GPU进行推理。它提到了对BLAS的依赖，因为它似乎在移动上使用CPU。有人能告诉我是否可以使用移动GPU和mxnet进行推理吗？如果没有，我的其他选择是什么？
浏览 2修改于2017-08-13得票数 1
回答已采纳
在计算机GPU计算上大大加快了推理速度，但在我的手机上，GPU上的推理速度比CPU慢约30倍。对于我输入的所有输入数组，n都在400-800之间，但是我尝试了一个更大的n，看看是否我注意到的减慢是由于运行GPU推理时创建了一个委托内核。对于较大的n，GPU的推理时间接近CPU，这让我认为GPU代理可能只是在我手机的CPU上进行计算。以下是CPU/GPU计时与n的大小比较的一些示例： N = 500GPU
浏览 36提问于2020-07-15得票数 1
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号