假设我们有一些在图构造期间调用的方法( foo ),每次调用这些方法时都会返回一些tf.Tensors或嵌套结构,以及使用foo结果的多个其他方法。为了提高效率,避免不必要的重复操作,可能会诱使foo缓存它的结果(为了重用它生成的子图)。然而,如果在控制流的上下文中使用foo,比如tf.cond、tf.map_fn或tf.while_loop,这可能会失败。
我的问题是:
tf.Tensor对象是安全的?也许有什么方法可以检索创建tf.Tensor的控制流(如果有的话),存储它,然后比较它,看看是否可以重用缓存的结果?tf.Operations?(更新的问题文本使foo在每次调用时都会创建一组新的张量)
发布于 2018-03-29 08:20:20
TL;DR:TF已经缓存了它需要的东西,不用自己操心了。
每次调用sess.run([some_tensors]) TF的引擎时,都要找到计算[some_tensors]和中所有张量所需的最小子图,从上到下运行(可能是在新的数据上,如果不给它提供相同的数据)。
这意味着,缓存sess.run调用之间的结果对于保存计算是无用的,因为它们无论如何都会被重新计算。
如果您关注的是在sess.run的一个调用中使用相同的数据作为输入的多个张量,请不要担心,TF足够聪明。如果您有输入A和B = 2*A,C = A + 1,只要您执行一个sess.run调用,作为sess.run([B,C]) A,只需要计算一次(然后由TF引擎隐式缓存)。
https://stackoverflow.com/questions/49550723
复制相似问题