回答情况：
提问时间：
问题标签：
我试图通过将模型转换为OnnxRuntime来提高模型的性能。然而，当我试图测量推理时间时，我得到了一些奇怪的结果。虽然只运行一个迭代，但OnnxRuntime的CPUExecutionProvider大大优于OpenVINOExecutionProvider：
import onnxruntime as rtimport time #CPU_FP32&#x
浏览 20提问于2022-01-25得票数 2
回答已采纳
我正在尝试为onnxruntime编写一个包装器。该模型接收一个张量作为输入，一个张量作为输出。在session->运行期间，在onnxruntime库内部发生分段错误。/listray/Work/Libs/onnxruntime/onnxruntime/core/common/logging/logging.cc:153
#2 0x00007ffff6b16cae/include/onnxrunt
浏览 173修改于2020-07-08得票数 0
回答已采纳
然而，我不明白为什么options比PyTorch更快，因为我没有用过onnxruntime的任何优化选项。我只是用了这个：onnx_model.run(None,{onnx_model.get_inputs也是为什么使用onnxruntime时CPU使用率更高的原因。有什么解决方案可以降低它吗？
提前谢谢。
浏览 10修改于2021-06-12得票数 2
我试图复制这里找到的示例：import regeneratorRuntimefrom 'regenerator-runtime'
// https://github.com/microsoft/onnxruntime-inference-examples&#x
浏览 10修改于2022-02-10得票数 0
但是，当使用ONNXRuntime加载它时，我遇到了如下错误： onnxruntime.capi.onnxruntime_pybind11_state.RuntimeException: [ONNXRuntimeError] : 6 : RUNTIME_EXCEPTION : Exception during initialization: ...onnxruntime/core/providers/cpu/tensor/transpose.h:46 onnxrun
浏览 3354提问于2021-08-16得票数 2
回答已采纳
但是import语句给出了这个错误： >>> import onnxruntime
/opt/conda/lib/python3.6/site-packages/onnxruntime/capi/_pybind_state.py:13: UserWarning: Cannot load onnxruntime.capi.Error: '/opt/conda/lib/python3.6/
浏览 27修改于2020-06-28得票数 0
我是python和onnxruntime的新手。我已经成功地进行了推理。我目前正在尝试通过IObinding将推理实例定向到我系统上的特定图形处理器。我在尝试创建模块时收到以下错误: AttributeError: OrtValue 'onnxruntime‘没有'OrtValue’属性。到目前为止，我还没有找到解决方案。环境 OS: Windows 10
Cuda version: 10.2
浏览 64修改于2020-10-21得票数 1
1回答
01 11:06:44,182 root \ File 遇到异常跟踪(最近一次调用)： main.init()文件行201，在寄存器main.init()文件main.init行11，在init会话=onnxruntime.InferenceSession(模型)文件"/opt/miniconda/envs/amlenv/lib/python3.7/site-packages/onnxruntime/capi/onnxruntime</em
浏览 1提问于2021-12-01得票数 0
我的环境是windows，我想使用python来推断onnxruntime与openvion.after安装openvino，我用openvino构建onnxruntime，我的构建命令是[E:onnxruntime:Default, provider_bridge_ort.cc:634 onnxruntime:
浏览 126提问于2021-03-11得票数 0
要将经过训练的.Net模型打包到WPF Core3.1应用程序中，我想知道这两种方法: Microsoft.ML.OnnxRuntime和Microsoft.AI.MachineLearning (WinMLOnnxRuntime似乎更容易用C#实现，而WinML的桌面应用程序示例是在C++中实现的。 对于公共用户，使用OnnxRuntime部署Onnx模型有什么缺点吗？或者它需要特定的环境来进行推理？
浏览 120提问于2020-12-09得票数 0
我在导入时得到以下错误： import onnxruntime
Traceback (most recent calllast)----> 1 import onnxruntime
~/.virtualenvs/3.6nlp/lib/python3.6/site-packages&#x
浏览 140提问于2020-10-09得票数 1
由于C语言没有半浮点实现，那么如何向ONNXRuntime data发送数据呢？
浏览 4提问于2020-04-28得票数 2
回答已采纳
我正在尝试在Linux上从源代码构建onnxruntime。根据这个instruction，我已经成功地构建了python轮子和共享库。但是我还没有看到C API的头文件。我能问一下如何在Linux上正确地生成onnxruntime C API吗？谢谢!
浏览 132修改于2020-06-28得票数 1
implementation for the node LeakyRelu_1:LeakyRelu(6) 但是文档清楚地列出了leakyrelu运算符：https://github.com/microsoft/onnxruntimetorch.onnx.export(Model,inputs, "Test.onnx", export_params=True) 加载转换后的模型的脚本也非常简单， import onnx
import onnxruntime
浏览 119提问于2021-06-18得票数 0
我已经在我的环境中安装了onnxruntime gpu库 pip install onnxruntime-gpu==1.2.0
Cuda compilationtools, release 10.1, V10.1.105
C:\Users\abgangwa\AppData\Local\Continuum\anaconda3\envs\onnx_gpu\lib\site-packages\onnxruntime\c
浏览 530提问于2021-02-11得票数 0
然后我尝试用onnxruntime来测试它：import utilsfrom torchvision.transforms import Composefrom midas import transformsimport onnx
# selectName:'' Status Message: /onnxruntime_src/onnxru
浏览 0提问于2020-07-15得票数 1
我从Python中得到了这个onnx，但是我在context.Transforms.ApplyOnnxModel()中收到了错误-- "Unable to load DLL 'onnxruntime‘specified module could not be found. (0x8007007E)"}
Message: "The type initializer for 'Microsoft.ML.OnnxRuntime.NativeMethodsSource: "Microsoft.ML.
浏览 630提问于2020-12-16得票数 1
回答已采纳
我正在使用ONNXRuntime来推断UNet模型，作为预处理的一部分，我必须将EMGU OpenCV矩阵转换为OnnxRuntime.Tensor。
浏览 69提问于2021-07-08得票数 0
回答已采纳
我正在使用微软的OnnxRuntime来检测和分类图像中的对象，我想将其应用于实时视频。为此，我必须将每个帧转换为OnnxRuntime张量。
浏览 74提问于2020-06-19得票数 3
回答已采纳
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号