Tensorflow -训练Adam

Question

我尝试用tensorflow构建我的第一个简单神经网络，上面可以看到我的代码。我的代码可以计算损失，但是当我尝试添加train_step时，我得到了错误消息InvalidArgumentError (see above for traceback): Matrix size-incompatible: In[0]: [2,2], In[1]: [1024,1]，它告诉我矩阵的尺寸不兼容，但我不理解尺寸。在我看来，它们一定是1和1...

input=[[1,2,3,4,5],[6,7,8,9,10]]
labels=[1,1]

x = tf.placeholder(tf.float32, [None, 5])
y = tf.placeholder(tf.float32)

hidden = tf.layers.dense(inputs=x, units=1024, activation=tf.nn.relu)
output = tf.layers.dense(inputs=hidden, units=1)

loss = tf.losses.softmax_cross_entropy(y, output)
train_step = tf.train.AdamOptimizer(1).minimize(loss)

init = tf.global_variables_initializer()

with tf.Session() as sess:
     sess.run(init)
     for i in range(1):
         result = sess.run(train_step, feed_dict={x: input,y: labels})
         print(result)

Answer 1

原因是您的输入和标签不一致。对于您的输入，您有2个维度为(1，5)的输入向量。在您的输出层中，您有一个输出。在您的标签中，您只有一个维度(1,2)的示例。

根据你想要做的事情，有两个修复。如果你打算做两个训练示例(看起来就是你在做的)：

input=[[1,2,3,4,5],[6,7,8,9,10]]
labels=[[1],[1]]

并保持其余部分不变。这样，您就有了2个输入向量和2个标签示例。

第二种可能的解释是，你输入两个输入向量，它们的标签都是1，1。然后保持一切不变，但将输出层改为：

output = tf.layers.dense(inputs=hidden, units=2)

我很确定第一个修复就是你要找的。此外，您的代码永远不会更新您的神经网络，因为您没有在任何地方使用sess.run(train_step)。如果你想要它真正的训练，你也需要这一步。