TensorFlow LSTM生成模型

Question

我正在编写LSTM语言模型教程在此讨论。

对于语言模型，通常使用该模型在训练后(即从模型中抽取样本)从零开始生成一个新句子。

我是TensorFlow的新手，但我试着用我受过训练的模型来生成新单词，直到句子结束标记为止。

我最初的尝试是：

x = tf.zeros_like(m.input_data)
state = m.initial_state.eval()
for step in xrange(m.num_steps):
    state = session.run(m.final_state,
                               {m.input_data: x,
                                m.initial_state: state})
    x = state

它错误地失败了：

ValueError:用序列设置数组元素。

Answer 1

这里的问题似乎是feed_dict传递的session.run()中的session.run()映射。在这种情况下，TensorFlow期望x是一个numpy数组(或者某个可以隐式转换为numpy数组的对象)，但是值是TensorFlow Tensor (tf.zeros_like()的结果)。

幸运的是，解决方案很简单。将x = tf.zeros_like(m.input_data)替换为以下内容：

x = tf.zeros_like(m.input_data).eval()

...which确保将x转换为numpy数组。

(请注意，实现这一目标的一种更直接的方法是将初始x构造为具有适当大小的numpy数组。)