在已经使用tensorflow作为第三方的c++库中使用新的tensorflow op

Question

这是我第一次在stackoverflow中提问。我会尽力将我的问题表述得恰如其分。

我想在c++库中使用一个自定义的tensorflow op，该库已经将tensorflow作为第三方使用。但是我根本不知道如何在c++代码中使用我的自定义操作。我正在尝试通过Tensroflow c++教程中的简单ZeroOut示例来了解这一点。我为cpu注册了usr op，就像在https://github.com/MatteoRagni/tf.ZeroOut.gpu中一样:用make编译成功了，我在ZeroOut -ops文件夹中得到了一个.so文件，cc文件也在那里。然后，我尝试将ZeroOut.so文件作为共享库添加到我的库中，但没有编译。然而，在我添加我的自定义op之前，按照tensorflow新op教程中的描述向bazel注册，以相同的方式和我的库进行编译。可能是因为核心文件是在../bazel-bin/tensorflow/ .so /user_ops/中创建的。但是在这种情况下，我不能使用我应该使用的操作。直到现在，在我的c++文件中包含我的op的ZeroOut.cpp或.cpp文件都没有什么不同。

下面是我的CMakeList.txt，它还创建了我正在使用的整个库：

cmake_minimum_required(VERSION 2.8)
project(Project1)

set(CMAKE_BUILD_TYPE "Release") # Debug Release
set(CMAKE_CXX_FLAGS_RELEASE "$ENV{CXXFLAGS} -std=c++14 -O3 -Wall                 -fopenmp")
SET(CMAKE_MODULE_PATH ${PROJECT_SOURCE_DIR}/cmake)

#-------------path of 3rd party libraries-------------
# special libs.
find_package(Boost COMPONENTS filesystem iostreams regex)
find_package(FFTW)
find_package(NLopt)
find_package(HDF5 COMPONENTS CXX)

set(EXTERN_LIB_ROOT ${PROJECT_SOURCE_DIR}/3rd-party)

set(TENSORFLOW_ROOT /.../tensorflow)
set(TF_INCLUDE_DIRS "${TENSORFLOW_ROOT}" "${TENSORFLOW_ROOT}/bazel-  genfiles" "${TENSORFLOW_ROOT}/bazel-tensorflow/external/protobuf_archive/src")

# lib dirs.
set(LUA_LIBRARIES "${EXTERN_LIB_ROOT}/lua/liblua53.so") #5.3.4
set(LINENOISE_LIBRARIES "${EXTERN_LIB_ROOT}/linenoise-ng/build/liblinenoise.so")
set(YACAS_LIBRARIES "${EXTERN_LIB_ROOT}/yacas/cyacas/libyacas/build/libyacas.so")


set(TF_LIBRARIES ${TENSORFLOW_ROOT}/bazel-bin/tensorflow/libtensorflow_cc.so
    ${TENSORFLOW_ROOT}/tensorflow/core/user_ops/tf.ZeroOut.gpu-master/zero_out.so 
${TENSORFLOW_ROOT}/bazel-bin/tensorflow/core/user_ops/MyNewOp.so) 
#-------------ssl headers-------------
include_directories(${PROJECT_SOURCE_DIR}/src
    ${EXTERN_LIB_ROOT}/eigen
    ${EXTERN_LIB_ROOT}/gnuplot-iostream
    ${EXTERN_LIB_ROOT}/
    ${EXTERN_LIB_ROOT}/linenoise-ng/include
    ${EXTERN_LIB_ROOT}/yacas/cyacas/libyacas/include
    ${EXTERN_LIB_ROOT}/lua/src
    ${NLOPT_INCLUDE_DIRS}
    ${FFTW_INCLUDES}
    ${TF_INCLUDE_DIRS}
    ${Boost_INCLUDE_DIRS}
    ${HDF5_INCLUDE_DIRS}
    ${TENSORFLOW_ROOT}) 

option(BUILD_SHARED_LIBS "build shared library" ON)
set(LIBRARY_OUTPUT_PATH ${PROJECT_BINARY_DIR}/lib)

#-------------ssl kernel lib-------------
file(GLOB_RECURSE _src_list
    LIST_DIRECTORIES false
    RELATIVE "${CMAKE_CURRENT_SOURCE_DIR}" "${PROJECT_SOURCE_DIR}/src/*.h" "${PROJECT_SOURCE_DIR}/src/*.cpp" "")

add_library(ssl SHARED ${_src_list})

set(SSL_LIBRARIES ${TF_LIBRARIES} ${LUA_LIBRARIES} ${Boost_LIBRARIES}     ${NLOPT_LIBRARIES} ${FFTW_LIBRARIES} ${LINENOISE_LIBRARIES} ${YACAS_LIBRARIES} ${HDF5_CXX_LIBRARIES}) #${TF_LIBRARIES}

target_link_libraries(ssl ${SSL_LIBRARIES} dl)

add_executable(Project1 main.cpp)
target_link_libraries(Project1 ssl)

有一个相关的问题，但没有明确的答案。How to run custom GPU tensorflow::op from C++ code?

我做错了什么？我没有使用共享库的经验，但也许有其他更好的方法来完成我想要做的事情...？有没有人能帮我个忙，举个所需CMakeList.txt的例子？

关于我在运行时得到的错误:这是一个非常微不足道的错误，如果使用正确数量的参数调用，则无法找到我的.so文件中的函数，如果使用错误的参数调用，则无法运行。在此期间，我找到了一个更好的解决方法。因为我可以在python中使用我的自定义op，所以我将python嵌入到我的c++库中，调用python函数来制作图形，它将调用我的自定义op来构建图形。但我还没说完呢。

Answer 1

使用pkg_config会变得非常简单：

cmake_minimum_required(VERSION 3.10)
project(tf-inference)

find_package(PkgConfig)
pkg_check_modules(TensorFlow REQUIRED tensorflow)

link_directories(${TensorFlow_LIBRARY_DIRS})
include_directories(${TensorFlow_INCLUDE_DIRS})
add_compile_definitions(${TensorFlow_CFLAGS_OTHER})

add_executable(tf-inference inference.cpp)
target_link_libraries(tf-inference ${TensorFlow_LIBRARIES})

但是，这需要您的TensorFlow安装包含tensorflow.pc文件。在MacOS上：brew install libtensorflow将包含此文件，并且上述操作将自动工作。