tensorflow是否可以单独优化每个元素的损失，而不是优化整个平均损失？

Question

tensorflow如何单独优化批次的元素损失，而不是优化批次损失？

在对每个批次的损失进行优化时，常用的方法是对所有批次的元素损失进行求和或取其平均值作为批次损失，然后对该批次损失进行优化。在我的例子中，我想单独优化每个元素的损失，而不是将它们一起减少为批量损失。

例如，在以下代码中。

losses = tf.nn.nce_loss(<my batch inputs here>)
loss = tf.reduce_mean(losses)
optim = tf.nn.GradientDesentOptimizor(learning_rate = 0.01).minimize(loss)

如何直接跳过loss = tf.reduce_mean(losses)并最小化张量losses？(通过这种方式，小批量实际上减少到批大小为1的情况。)

我直接将损失降到最低，如下所示：

optim = tf.nn.GradientDesentOptimizor(learning_rate = 0.01).minimize(losses) # instead of loss

我不确定最小化将如何工作。当我使用它在会话中运行时，损失往往会导致nan。

那么在tensorflow中实现上述目标是可能的吗？

Answer 1

tf.reduce_mean(losses)的梯度计算和losses的梯度计算之间的区别在于，对于losses张量，您将获得梯度的总和(批量每个样本上的梯度总和)，而对于tf.reduce_mean(losses)，您将获得梯度的平均值(批量样本上的梯度平均值)。这就是为什么你开始获得NaN值的原因--随着批次大小的增加，渐变的总和会变得非常大。

如果你打算优化张量损失，而不是减少平均损失，你可以通过将学习率除以批量大小来获得精确的等价性。

要为每个样本单独优化，只需为每个批次提供一个样本。