我一直在尝试在Movidius神经计算棒上运行自定义Tensorflow模型的推理。问题是,NCSDK不支持最后一层。由于最后一层的计算非常轻,我想知道是否有可能在CPU上运行该层?
我之前的搜索将我带到了这些:
我只需要能够在NCS上运行推理到某一层,然后在CPU上处理最后一层。
发布于 2018-09-07 13:17:09
使用mvNCCompile以及NCS的-in和-on选项可能会有所帮助。使用-in输入编译一个模型,然后使用-on将输出节点指定为您需要在NCS上运行的最后一个节点。这将创建一个图形文件,该文件从输入节点获取输入并提供输出节点。因此,您可以获得所选节点的中间结果的输出,而不是通过整个模型处理数据。
在从NCS获得中间层的结果后,您可能必须将其作为输入提供给必须在CPU上运行的最后一层。
https://stackoverflow.com/questions/51248859
复制相似问题