Seq2Seq损失函数

Question

我在看报纸neural_approach_conversational_ai.pdf。在文本生成的Seq2Seq一节中，有一个公式我觉得有点不对，1：https://i.stack.imgur.com/sX0it.png，有人能帮我确认这个公式吗？

Answer 1

这是一个损失函数，通过调优给定数据x的参数θ，使损失函数最小化，损失实际上是给定输入序列x的输出序列y的负条件对数似然。你想要找到的是θ参数化的分布P( y. )，它给出了给定输入序列x的最可能的输出序列y。最小化损失函数意味着根据训练数据中的示例塑造分布，这样对于训练数据中的每一个序列x，最可能的输出序列y_predict与实际观察到的输出序列y最符合。你这样做是希望模型能很好地推广到未知的数据上，也就是说，当你输入一个新的序列x，这是模型以前从未见过的，它会给你一个相应的序列y的精确估计，它很可能与x相关联。