CBOW模型只能接受固定的字数吗？

Question

我有个关于CBOW预测的问题。假设我的工作是使用三个周围的单词w(t-3)，w(t-2)，w(t-1)作为输入来预测一个目标词w(t)。一旦模型被训练好，我想在句子后面预测一个单词的缺失。这个模型是否只适用于前三个单词已知，最后一个单词未知的句子？如果我有一个十个字的句子。前9个单词是已知的，我能用9个单词作为输入来预测那个句子中最后一个缺失的单词吗？

Answer 1

这是个好问题。答案是肯定的和不是的。

否，因为CBOW模型的输入层需要固定的单词数。所以你要么总是输入3个单词，要么输入9个单词。

是的，因为您可以将序列长度设置为9个单词，并提供3个单词作为上下文，而剩下的6个单词可以是零向量。记住，在CBOW中，每个单词都由一个向量表示。