优化后保持tensorflow模型的权值

Question

我用tensorflow训练神经网络。在每个优化步骤之后，我希望在更新之前保持权重。因此，如果优化步骤不好，我可以回到优化步骤之前的权重。

目前，我正试图做以下工作：

1. 用original_session =copy.copy复制tensorflow会话(会话)
2. 使用Adam优化器训练批次
3. 使用session.close()关闭执行错误的会话
4. 继续现有届会

我在这个方法上遇到了问题。该进程只是使用错误代码139退出，而没有任何错误消息。

对我来说，由于性能问题，不要将模型保存到带有检查点文件的硬盘中是很重要的。我只想把网络的副本保存在记忆里。

你有什么想法如何在坦索弗洛做这件事？

谢谢!

Answer 1

您只需使用这样的独立图表：

g1 = tf.Graph()
g2 = tf.Graph()

with g1.as_default():
  # build your 1st model
  sess1 = tf.Session(graph=g1)
  # do some work with sess1 on g1
  sess1.run(...)

with g2.as_default():
  # build your 2nd model
  sess2 = tf.Session(graph=g2)
  # do some work with sess2 on g2
  sess2.run(...)

with g1.as_default():
  # do some more work with sess1 on g1 
  sess1.run(...)

with g2.as_default():
  # do some more work with sess2 on g2
  sess2.run(...)

sess1.close()
sess2.close()

• 图之间的复制被描述为here，以备您需要。
• 此外，您还可以查看变量reuse functionality。